※ 本ブログは、HP Inc.（本社：米国カリフォルニア州パロアルト）が、2024年1月22日に公開した2024 Will be the Year of AI ‐ Creating Both Risks and Opportunities for Cyber Defendersに基づいて作成した日本語抄訳です。

新しい年が始まり、我々は今後1年間にビジネスに影響を与えるであろうサイバーセキュリティの大きなトレンドを見据えています。そして今、誰もが注目しているトピックがAIです。AIがサイバーセキュリティの世界にどのような影響を与えるのか、HPのエキスパートに話を聞きました。

HP inc. 上級マルウェアアナリスト Alex Hollandは、AIがソーシャルエンジニアリング攻撃をかつてない規模にまで拡大させ、重要な日に集中的な攻撃を仕掛けてくると予想します。「2024年は、サイバー犯罪者がAIを利用してソーシャルエンジニアリング攻撃の増加をかつてない規模で加速し、検知不可能なフィッシング詐欺のルアー（おとり文書）が数秒単位で生成されるようになると予想されます。AIを利用したルアーは、見た目は非常にもっともらしく本物と見分けがつかないため、過去にフィッシング詐欺のトレーニングを受けた従業員であっても、特定することが困難だと思われます」

さらに、「AIで生成された大規模キャンペーンは、重要な日の前後に急増すると予想されます。たとえば、2024年の大統領選挙では史上最も多くの人が投票すると予想される中、サイバー犯罪者がAIを悪用することで、特定の地域を標的にしてローカライズしたルアーを簡単に作成できるようになります。同様に、年末の税務申告、パリオリンピックやUEFAユーロ2024トーナメントなどのスポーツイベント、ブラックフライデーや独身の日などの小売イベントなどの主要な年次イベントでも、サイバー犯罪者がユーザーを騙すきっかけが生まれるでしょう」

HP Inc. パーソナル・システム セキュリティ担当 グローバル責任者 Dr. Ian Prattも、この予測に同意しています。「攻撃者は、少数言語を使ったメールの作成を自動化したり、標的の情報を抽出するためにLinkedInなどの公開サイトの情報をスクレイピングしたり、高度にパーソナライズしたソーシャルエンジニアリング攻撃を大量に作成できるようになったりすると予想されます。脅威アクターは、メールアカウントにアクセスした後、重要な連絡先や会話、添付ファイルがないかスレッドを自動的にスキャンし、マルウェアを埋め込んだ更新バージョンのドキュメントを送り返すことができるようになると予想されます」

AIはより標的を絞ったルアーを可能にするだけでなく、脅威アクターが新たなマルウェアやテクニックを開発する助けにもなると予想されます。Dr. Ian Prattは次のようにコメントしています。「機械学習を使ったファジング（無効なデータの試行によるテスト手法）の利用が続くと予想されており、脅威アクターがシステムを探索して新たな脆弱性を発見することができるのが現状です。また、機械学習を利用したエクスプロイト（脆弱性攻撃）の作成が登場し、ゼロデイ攻撃の作成コストが低減するため、サイバー犯罪者による実際の活用が増加する可能性もあります」

このような攻撃は、オペレーティングシステムより上の層だけでなく、HP Inc. システムセキュリティ研究イノベーション担当チーフテクノロジスト Boris Balacheff が警告するように、その下の層にも影響を及ぼすことが予想されます。 「AI能力の民主化は、ファームウェアに対するものを含むより高度な攻撃の継続的な増加に寄与するでしょう。2024年、悪意のあるアクターは、攻撃能力を拡張し拡大するために、AIを最大限に利用しようとします。これにより、攻撃は、OSやアプリケーションソフトウェアだけでなく、近年攻撃活動が活発化しているファームウェアやハードウェアなどの技術スタックの複雑なレイヤーにまで及ぶことになります」

さらに続けます。「そして、業界がより高度なAIの利用によって防御能力を向上させるため、悪質なアクターによるOSの下層にあるソフトウェアスタックであるファームウェアを攻撃しようとするモチベーションが高まることが予想されます。これにより、デバイスのOSや業界最高のソフトウェアセキュリティ防御の下に足がかりを得るために、よりシステムの下層を悪用しようとする動きが強まるでしょう」

HP Inc. ビジネス情報セキュリティオフィサー Michael Heywoodは、サプライチェーンへの注目は、攻撃者が初期段階の侵入方法を模索し、デバイスが利用開始される前に感染させることを意味するだろうと続けています。「攻撃者は、ソフトウェアやハードウェアが従業員やソフトウェアの手に届く前のできるかぎり早い段階でのデバイスへの感染を模索しています。このため2024年は、ソフトウェアとハードウェアのサプライチェーンにおけるセキュリティに対する注目が高まると予想されます。攻撃者は脆弱性を特定するコストを下げ、さらにはソフトウェアのサプライチェーンに挿入する新たな脆弱性を作り出すことにAIを活用することが予想されます」

さらに、Boris Balacheffは付け加えています。「実際、最近のセキュリティ研究では、特定のハードウェア設計に注入する脆弱性の開発を用意にするために、どのように生成AIが利用できるかということさえ発表され始めており、ハードウェアサプライチェーンにおける圧力の増大が予想されます」

Dr. Ian Prattは、フィッシングだけでなく、大規模言語モデル（LLM）の台頭はエンドポイントに革命をもたらすと同時に、2024年にサイバー犯罪者の格好の標的になる点も指摘します。「『AI PC』が台頭し、エンドポイントデバイスの操作方法が変革すると思われます。AI PCは高度な計算能力を備えており、デバイス上で動作する小型の大規模言語モデル（LLM）である『ローカルLLM』を活用することが可能なため、ユーザーはインターネットに依存せずにAI機能を活用することができます。これらのLLMは、個々のユーザーの作業環境を深く把握するよう設計されており、パーソナライズされたアシスタントとして機能します。一方で、デバイスで機密性の高い大量のユーザーデータを収集するのに伴い、エンドポイントは、脅威アクターの標的となるリスクが高くなります」

Dr. Ian Prattは、LLM自体が標的になる可能性もあると付け加えています。「多くの組織が、チャットボットを使って利便性を高めようとLLM活用を急ぐことは、ユーザーがチャットボットを悪用し、以前は不可能だったデータへのアクセスを可能にしてしまいます。脅威アクターは、企業のLLMを目がけて標的を絞ったプロンプトを利用してソーシャルエンジニアリングすることで、ユーザーを騙して制御を乗っ取り、機密データを提出させ、データ漏えいを引き起こします」

朗報は、AIがサイバーセキュリティ担当部門の効率を高めるということです。2024年、サイバーセキュリティチームは、AI技術の活用を優先的な課題とするでしょう。例えば、セキュリティチームはAIを活用して脅威の検知を強化し、修復を迅速化するでしょう。世界全体で400万人のサイバーセキュリティの専門家が必要とされていると報告されている今、これ以上のタイミングはありません。

組織はまた、AIによってもたらされる規制の変更に備える必要があります。HP Inc. プリンシパル プリントセキュリティ&プロダクト管理担当 Steve Inchは、セキュアバイデザインのIoTデバイスがボットネット運営者を阻止することで、2024年は規制の年になると指摘しています。 「世界中でサイバーセキュリティの法規制が急速に広まることで、IoTデバイスの消費者や購入者に対する保護が大幅に向上するでしょう。この高いセキュリティ標準により、従来、セキュリティを後回しにして機能や特徴に注力してきた製造メーカーに、警鐘を鳴らすことになると思われます。メーカー各社は、セキュアバイデザインの考え方にシフトし、機能をすぐに利用できることが業界の標準になると予想されます」

PCやノートPCの防御が強化されれば、攻撃者の中にはオフラインの攻撃手法に回帰する者も出てくるでしょう。HP Inc. プリントセキュリティ担当チームテクノロジスト Shivaun Albrightは、2024年、攻撃者がデータを盗み出す新しい方法を模索する一方で、デジタル手段を閉ざすための紙媒体への回帰も予想されると考えています。「サイバー防御が高度化し、社内データのアクセス制御が厳しくなるのに伴い、攻撃者や悪意のある内部関係者は、検知されずにデータを盗み出すことがより困難になります。封鎖される手段が増えると、回路図や顧客データ、通信などのデータを秘密裏に盗み出そうとする攻撃者は、基本に立ち返る必要に迫られると予想されます。このような動きはすでに現れており、今年初めには、米国の機密文書に損害を与える流出が報告されました」

新たな脅威が続出する中、HPのエキスパートが2024年に組織はどのように自らを守るべきかについてのアドバイスも提供しました。

• 価値の高いフィッシングターゲットを特定する、パターンや異常を検知してサイバースパイを追跡するなど、AIを活用してサイバー防御を向上させる。
• ユーザーの仮想的なセーフティネットを構築し、リスクの高い活動を隔離して封じ込めアプリケーションを保護し、認証情報の盗難を防止する。
• ゼロトラストの原則を導入し、既知および未知のあらゆる脅威から保護する。
• ハードウェアとファームウェアの構成管理の成熟度の向上に投資することで、デバイスのライフサイクル全体にわたってハードウェアとファームウェアのセキュリティを能動的に管理する。
• サードパーティとの関係にサイバーセキュリティを不可欠なものとし、ソフトウェアとハードウェアのサプライチェーンセキュリティの評価に時間を割く。
• ソフトウェアや物理製品への潜在的な経路をすべて特定し、サプライチェーンの強靭性を向上させるためのリスクベースのアプローチを採用する。

最終的に、組織は新たなセキュリティとプライバシーの脅威を防御しAIの利点を最大化するために、信頼できるAIセキュリティパートナーを探す必要があります。

HPは、世界で最もセキュアでレジリエンスを持つエンドポイントデバイス*の開発に取り組んでおり、2024年後半にHPがAI PCを発売する際には、安全でセキュアで信頼できるAIの開発をリードすることを目指しています。

また、HPは従業員が将来のAIを活用した仕事で成功するためのスキルを身につけるための、新たなトレーニングと能力開発プログラムにも投資しています。我々は、AIシステムのセキュリティとプライバシーを確保し、すべてのユーザーがセキュリティを犠牲にすることなく、AIが提供するメリットを享受できるように、公共部門、民間部門の枠を超えて協力することを楽しみにしています。 

Author : HP Inc. Security Experts & Advisors

監訳：日本HP

*Windowsおよび第8世代以降のインテル® プロセッサーまたはAMD Ryzen™ 4000 シリーズ以降のプロセッサーを搭載したHP Elite PCシリーズ、第10世代以降のインテル® プロセッサーを搭載したHP ProDesk 600 G6シリーズ、第11世代以降のインテル® プロセッサーまたはAMD Ryzen™ 4000 シリーズ以降のプロセッサーを搭載したHP ProBook 600シリーズ。 追加費用・追加インストール不要のHP独自の標準装備され た包括的なセキュリティ機能と、ハードウェア、BIOS、Microsoft System Center Configuration Managerを使用するソフトウェア管理などPCのあらゆる側面におけるHP Manageability Integration Kitの管理に基づく。（2020年12月時点、米国HP.inc調べ。）