AIとセキュリティを考える

2024.05.20

AIとセキュリティを考える

リンクをクリップボードにコピーしました

フリーランスライター：三浦優子

AIを活用していく上で欠かせないのがセキュリティ面での配慮です。AIとセキュリティには、様々な関わりがあります。セキュリティツールにAI機能が搭載されることで、セキュリティ被害から企業を「守る」ためにAIの活用が増えていくことになりそうです。

その一方で、セキュリティ被害を与えるためにAIを活用することや、フェイク動画など被害を起こすための「攻撃」のために脅威側がAIを活用するケースも増えています。

さらに、企業がAIを活用する際には、不正なデータを使っていないかなど、「コンプライアンス」を配慮してAIを活用する必要もあります。

ここではAIとセキュリティを巡る最新動向について、「守る」、「攻撃」、「コンプライアンス」という3つの観点からご紹介します。

攻撃に利用するAI――従来同様厳格なセキュリティ対策を

AIとセキュリティというと、「生成AIを使うことで、フェイクニュースを作成するといったディスインフォメーション攻撃に悪用されるのではないか？」という懸念が思い浮かぶのではないかと思います。2024年は米国で大統領選が実施されますが、そこでも生成AIを活用したフェイクニュースが飛び交うのでは？と心配されるなど、ITの世界だけでなく、広く悪用が危惧されています。

企業を狙ったサイバー攻撃のAI活用も増えつつありますが、対策としては従来同様、ゼロトラストなど厳格にセキュリティ対策を徹底していくしかありません。攻撃がより巧妙になっていることを理解した上で、セキュリティ対策に則ったIT活用をしていくことが必要でしょう。

クリックして拡大表示

2024年のセキュリティ10大脅威
出典：IPA発表資料より

守るために使うAI――セキュリティの知見がある人が活用することで効果が拡大

セキュリティ対策を強化する際にもAIの力が期待できます。ここ数年で、ほとんどのセキュリティベンダーがAIをセキュリティ対策機能に取り入れています。特に期待されているのがこれまで人が行っていた作業をAI活用で軽減することです。

セキュリティ被害が後を絶たない中で、企業のセキュリティ対策を担う人材が不足しています。だからこそ、AIを活用することで人材不足をカバーすることが期待されているのです。

2024年4月1日、Microsoft Copilot for Securityが正式リリースされました。生成AIを利用したセキュリティソリューションで、セキュリティ担当者の効率性と対応力を高め、セキュリティ対策の成果を向上させるために役立ちます。自然言語を使ってやり取りできるので、担当者がセキュリティに関する知見が低い初心者であっても有効なセキュリティ対策を取ることができるのでは？と期待されています。 Microsoft Copilot for Security正式リリースの直前、2024年3月には企業にセキュリティ対策を提供するラック、Trust Baseの2社がMicrosoft Copilot for Securityを活用し、高度なセキュリティ運用の効率化に向けた共同の実証実験を開始すると発表しています。

4月の正式リリース時にマイクロソフトが開催した記者会見には両社が登壇し、実証実験を行って得た感想を発表しました。

まず、メリットとしては、「インシデント対応等の自動運用ソリューションMicrosoft Sentinelなどでの作業をCopilot for Securityがアシストすることによって、作業時間の短縮を図ることができる」、「高度なスキルを持ったSOCアナリストが担当するインシデント分析をCopilot for Securityの導入により、セキュリティ担当でも運用できるようになる」といったメリットがあったそうです（ラック社）。

ただし、課題があることも明らかになりました。「複雑な問合せの場合、Copilot for Securityの回答に2～3分程度の時間がかかる」など、作業をする上で不便を感じるような事象があったそうです。

さらに、「Copilot for Securityの回答には、不正確な内容が含まれる場合がある」、「詳細情報をリスト化する際に情報が欠落する場合や、日本語化する際に誤字が出る場合がある」など、そのまま活用するとトラブルに発展しそうな課題もあったそうです。

「より良い回答を得るために、プロンプトエンジニアリングを学習する必要がある」と利用者にAIを活用するためのスキルが必要になる課題もありました。

プロンプトはセキュリティに限らず、生成AIを活用する際に答えを導き出すためのものですが、「効果的なプロンプト」を知っているのか否かで、答えに大きな差が生まれているようです。

こうした実状から、AI機能を持ったセキュリティツールは、様々なメリットを提供しているものの、現状では全くセキュリティの知見がない新人がMicrosoft Copilot for Securityを使うのには難しい面もあるようです。まずはセキュリティに知見があるスタッフが使うことでメリットを享受していくことで、効果的なセキュリティ対策が実現するといえます。