※ 本ブログは、2026年10月30日にHP WOLF SECURITY BLOGにポストされた Security in an Agentic AI World の日本語訳です。
わずか数年で、人工知能はコンテンツ生成から実際の業務遂行へと進化しました。現在では、AIエージェントが企業データを取得し、タスクを計画し、ツールを起動し、ビジネスシステム内で行動することができるようになりました。また、従業員はAIをパーソナルアシスタントとして活用し、メールの下書き作成、会議の設定、資料の準備などを行っています。この変化は、新たな形の効率化と自動化を可能にしていますが、同時にセキュリティ上の課題も生み出しています。具体的には、AIによるサイバー攻撃の加速や、IT部門の監視範囲外で動作するエージェント、コンポーネントの侵害、エージェントによる権限の逸脱、さらには攻撃者による操作を通じて機密データの漏洩やシステムの侵害を引き起こすといった問題です。
CISOにとって、こうしたセキュリティ上の課題は、エージェンティックワークフロー全体に及び、モデル、モデルの実行環境、エージェンティックハーネス、スキル、エージェントの定義、コンテキストに入力されるデータ、および利用可能なツールなどを包含します。本記事では、組織がエージェンティックAIを安全に活用するために何を行う必要があるかを考察します。これらの要件に対応することは、エージェンティックAIの世界の安全を確保し、組織やその顧客、そして社会がますます依存しているインフラを保護する上で極めて重要です。
AIエージェントは、単なる大規模言語モデル(LLM)以上の存在です。AIエージェントは、通常、ユーザーのリクエストを一連のアクションに変換するエージェンティックハーネスの中で動作します。このハーネスは、観察、推論、実行、評価という反復サイクルを通じて、推論のためのLLMへの問い合わせを行い、指示や文脈を提供し、社内および社外のソースから情報を取得し、選択されたツールを起動し、結果が目標を達成し、最終的な回答や成果が得られるまで、その結果をフィードバックし続けます。
図1 – エージェンティックワークフローとセキュリティ上の課題を示すマップ
セキュリティは、エージェントが動いてからだけでなく、あらゆる段階で重要です。エージェント自体にプロンプトやスキルが含まれており、その完全性は、正しい結果を生成し、攻撃に耐えるために不可欠です。権限の乱用や過剰な自律性を防ぐため、ツールへのアクセスは適切に管理する必要があります。つまり、エージェントに必要な範囲を超えてアクセスを許可してはならないというわけです。Web検索やファイル検索などを通じてエージェントに入力される情報は、不正確であったり、モデルを誤った方向へ誘導したり、有害な動作を引き起こすように設計された悪意のあるコンテンツを含んでいる可能性があります。また、モデルやランタイムが変更されると、モデルの推論が歪められることもあります。エージェントがユーザーに代わって行動する能力を獲得するにつれ、セキュリティはモデル自体にとどまらず、指示から行動に至るまでの全プロセスを網羅するものでなければなりません。
組織がエージェンティックAIを利用する際、あるいはそれを悪用する攻撃者の標的となった際に、対処しなければならない5つの相互に関連した課題があると見ています。これらはそれぞれ、上記のワークフローの異なる段階で発生するものであり、いずれの課題も単独では解決できません。
図2 – 組織が直面するエージェンティックAIの課題
AIは、外部の脅威環境を変えているだけでなく、企業のAIワークフロー内部にもリスクをもたらしています。
「AIは、脆弱性の発見、エクスプロイトの開発、および攻撃チェーンの構築に必要な時間と専門知識を削減しており、こうした機能がますます自律化していくにつれて、企業のリスクはさらに高まっています」
Patrick Schläpfer, Principal Threat Researcher, HP Security Lab
高性能なモデルは、すでに攻撃ライフサイクルの複数のステージにおいて攻撃の支援を行うことが可能です。こうした能力が向上し、自律性が高るにつれ、攻撃者は専門的な知識に依存することなく、既存の手法を加速・拡大できるようになるでしょう。
今年初め、英国AIセキュリティ研究所(AISI)は、最先端モデルの高まる攻撃能力を実証する実験を行い、Anthropicの Claude Mythos Preview が、管理された評価環境において、脆弱なネットワークに対してマルチステージの攻撃を実行できることを明らかにしました。このモデルは、同研究所が実施した32ステップの企業ネットワークシミュレーションを完了した初のモデルとなり、10回の試行のうち3回で成功を収めました。このモデルには、攻撃を実行するよう明示的に指示が出され、ネットワークへのアクセス権も与えられていました。
さらに最近では、AISIは主要なオープンウェイトモデルのサイバー能力が、最先端のクローズドモデルにわずか4~7ヶ月差まで迫っていることも明らかにしました。これにより、強力な能力がより広く利用可能になるにつれ、防御側が準備を整えるための猶予期間が狭まっています。
英国国立サイバーセキュリティセンター(NCSC)は、AIによって技術エコシステム全体で蓄積された技術的負債が悪用されやすくなっていることから、パッチ適用をより迅速に、頻繁に、かつ大規模に行う準備をするよう組織に助言しています。
CISOにとっての当面の懸念は、報告される脆弱性の増加、それらの優先順位付けの難しさ、そして脆弱性の発見からエクスプロイトの試行までの期間が短縮されていることで、対応までの時間的余裕が圧縮されていることです。脆弱性の発見と悪用のコストが低下すると、対応プロセスの遅延、サポート対象外のシステム、およびソフトウェアサプライチェーンを通じてもたらされる弱点が、より露呈しやすくなります。
CISOは、特定も観察もできないAIシステムをガバナンスすることはできません。しかし、AIの導入は、従来のエンタープライズアプリケーションで用いられるプロビジョニングや承認プロセスに必ずしも沿うとは限りません。その理由は、多くの場合、チームが迅速な進捗を図るために、手近なツールを何でも利用してしまうためです。
シャドウAIとは、多くの場合、従業員が承認されていない一般向けのAIサービスを利用したり、企業が機密保持契約を結んでいないフロンティアクラウドモデルを呼び出すエージェンティックハーネスを実行したりすることを指します。エージェンティックAIの存在は、このガバナンス上の問題をさらに管理しにくくしています。未知のエージェントは、開発者が作成したワークフロー、社内オートメーション、カスタムアシスタント、サードパーティツールとの統合、およびAI機能が組み込まれたSaaSアプリケーションなどに現れる可能性があります。これらは、APIキー、OAuthトークン、または既存のサービスアカウントを使用して企業システムに直接接続し、そのような機密性の高い認証情報を漏洩させるリスクを生み出します。
米国および英国の大企業における235名のCISO、CIO、および上級セキュリティ責任者を対象とした調査によると、92%がAIアイデンティティに対する完全な可視性を欠いていることが判明しました。418名のITおよびセキュリティ専門家を対象としたクラウド・セキュリティ・アライアンス(CSA)の調査によると、82%が2025年に未知のエージェントを発見したことが判明しましたが、報告書全文によると、既知のエージェントを継続的に監視していたのはわずか16%に過ぎませんでした。
インベントリの維持は必要ですが、それだけでは不十分です。セキュリティチームは、エージェントのIDと認証情報を管理し、推論にどのモデルを使用しているか、どのデータにアクセスできるか、どのツールが利用可能か、そしてそれらのツールがどのような権限を持っているかを把握する必要があります。インシデント発生時には、これらの属性に加え、リクエストやレスポンス、取得された情報、下された決定、実行されたアクションについても調査できる必要があります。NISTのAIエージェント標準化イニシアチブをはじめとする、エージェントの識別情報に関する新たな標準は、こうしたプロパティの割り当てと検証を容易にすることを目的としています。
こうした証拠がなければ、承認済みのシステムであっても、その一部がシャドウのままになる可能性があります。組織は、アプリケーションの存在は把握していても、そのエージェントに委任された権限を十分に理解していない場合があります。
AIは、エージェントの挙動を決定づける、あるいは動作を可能にするあらゆるコンポーネントを包含するように、ソフトウェアのサプライチェーンを拡大しています。これには、モデル、ファインチューンされたバリエーション、アダプター、推論エンジン、ランタイムの依存関係、システムプロンプト、エージェント定義、検索コンポーネント、エージェントハーネス、スキル、プラグイン、モデル・コンテキスト・プロトコル(MCP)サーバー、およびツールの記述が含まれます。
これらのいずれもが改ざんされる可能性があります。例えば、モデルの重みを編集して特定の挙動のみを変更し、それ以外の部分では正常に動作させることで、改変されたモデルを正規のモデルと見分けることが困難になります。ランタイムが侵害された場合、モデルステアリングなどの手法を用いることで、重みを変更することなく、推論中の信頼できるモデルの挙動を改変することが可能です。したがって、オンプレミスでモデルを実行している組織は、モデルの来歴やファインチューニングを確認するとともに、モデルが実行されるランタイムのセキュリティを確保する必要があります。
エージェントを拡張するスキルやツールも、エージェントのプロンプトに追加されるため、アタックサーフェスを拡大させてしまいます。例えば、悪意のある記述によって、信頼されているメールツールに隠しBCC受信者を追加し、データを密かに持ち出すことも可能です。2026年初頭、研究者たちは単独のエージェントマーケットプレイスにおける1,000件を超える悪意のあるスキルを報告しました。これらの中には、有用なツールを装いながら、密かにインフォスティーラーをインストールするものもあれば、スキャナーに検知されるような悪意のあるコードを一切含まず、自然言語による指示だけで機能する攻撃もありました。
別のキャンペーンでは、公開レジストリに800以上の偽のスキルとMCPサーバーを忍び込ませ、インフォスティーラーを密かに配信し、そのダウンロード回数は1,400万回以上に達しました。研究者たちは、一般的なコーディングエージェントが、ユーザーからの指示なしにこれらの悪意のあるエントリを検出し得ることを実証しました。
したがって、サプライチェーンの保証は、実行可能コードを含むコンポーネントだけでなく、エージェントの推論に影響を与え得るあらゆる要素を網羅する必要があります。
AIシステムが行動できるようになると、ミスはもはやチャットウィンドウに表示されるテキストだけに留まらなくなります。
モデルは、目標を達成する方法について確率論的に推論を行い、エージェントはその推論に基づいて行動します。モデルは、オペレーターの期待とは異なる方法で目標を解釈したり、不完全な成功指標に基づいて最適化を行ったり、より大きなコンテキストの中に埋もれたインストラクションを過小評価したりする可能性があります。そして、エージェントはそうした決定を実行することになります。このような行き過ぎた行動は、エージェントに必要以上の機能、権限、あるいは自律性を与える過剰な裁量権を乱用することで起こり得ます。また、ユーザーの意図に反する近道や抜け穴を通じて、明示された目標が達成されるなど、ユーザーの期待を超えた行動をとる場合もあります。
インストラクションは実行中に失敗することもあります。広く報じられた事例では、あるエージェントに対し、削除すべきメールを推奨し、実行前に確認を得るよう指示されていました。大規模なメールボックスにこのエージェントを使用した際に、報告ではインストラクションがモデルのコンテキストウィンドウの範囲外であったため、承認を待たずにメッセージの削除を開始しました。
こうした状況は、外部の攻撃者を必要としません。リスクは、不確実なモデルの挙動と、データ、意思決定、またはシステムに影響を与えるのに十分なアクセス権限が組み合わさることによって生じます。
その結果として、データの漏洩、意思決定の整合性が損なわれ、業務の混乱などが生じる可能性があります。エージェントは、機密情報を誤った受信者に送信したり、取引内容を改ざんしたり、データを削除したり、システムの設定を変更したりする可能性があります。自動化された処理により、人間が事態に気付く前に被害が拡大する可能性があります。
重大な影響を伴うアクションについては、依然として人間の承認が適切ですが、それだけでは不十分です。承認リクエストに十分なコンテキストが欠けていたり、頻度が高すぎて適切に評価できないことが承認疲労を招いたり、あるいは先行する自動化された処理により環境が変更された後にリクエストが届いたりする可能性があります。システムは、エージェントによるタスクの解釈とは独立して、制限を強制する必要があります。
攻撃者は、偶発的なエージェントの権限逸脱を引き起こすのと同じメカニズムを、意図的に悪用することが可能です。
例えば、プロンプトインジェクションは、モデルが信頼できるインストラクションと、インストラクションを含む信頼できないデータとを区別することが困難であるという点を悪用します。悪意のあるコンテンツは、ドキュメント、Eメール、Webページ、検索結果、ナレッジベースのエントリ、取得されたレコード、保存されたメモリ、あるいはツールの応答などに埋め込まれる可能性があります。
モデルがエージェントが実行するアクションを指定する場合、その影響はさらに深刻になります。操作されたチャットボットは、誤解を招く回答を生成するだけです。しかし、操作されたエージェントは、接続されたリポジトリを検索したり、ソフトウェアを起動したり、機密情報を送信したりする可能性があります。
外部のWebコンテンツへのアクセスは、関連するリスクを生み出します。攻撃者が、Webサイトなど、エージェントがアクセスする外部ソースに改ざんされたマテリアルを配置した場合、モデルはそのマテリアルを権威ある情報として扱ったり、埋め込まれたテキストをインストラクションとして解釈したりする可能性があります。検索システムによって関連性があると判断されたからといって、取得されたデータが信頼できるとは限りません。
"AgentFlayer"攻撃は、この攻撃経路を如実に示しています。攻撃者は、隠されたプロンプトインジェクションのインストラクションを含むドキュメントを共有しました。ChatGPTのGoogle Driveコネクタがそのドキュメントをインデックス化した際、隠されたペイロードは、ユーザーの操作を一切必要とせずに、モデルに接続されたストレージから機密データを検索させ、画像レンダリングを通じてそれを外部へ持ち出そうと試みました。
プロンプトのフィルタリングと関連技術によってリスクを軽減することは可能ですが、それだけでは完全な解決策にはなりません。悪意のあるインストラクションの中には、エージェントが分析すると想定されるマテリアルと非常に似通ったものもあるからです。課題は2つあります。一つは、悪意のあるコンテンツがモデルに到達するのを防ぐこと、もう一つは、改ざんが成功した場合にエージェントが行えることを制限することです。
これら5つの課題は、モデルやランタイムから外部データ、運用ツールに至るまで、エージェンティックワークフローのさまざまなポイントで生じます。ある部分を保護しても、別の部分を無防備なままにしておくと、攻撃者や不正なエージェントが悪用できる隙が生まれてしまいます。
エンドポイントデバイスにおけるエージェンティックAIの導入において、中心となる課題は、各コンポーネントを個別に保護するのではなく、スタック全体およびエージェンティックワークフロー全体にわたり、一貫性のあるシステムとしてのセキュリティを適用することです。これは、エンドポイントのハードウェア、ファームウェア、ソフトウェアスタックのセキュリティを強化し、エージェントの来歴とアイデンティティを管理するだけでなく、人間による監視を継続しつつ、エージェント自体に対して強固な境界と制御を実装することを意味します。
組織がAIエージェントをより多くのデータ、ツール、ビジネスシステムに接続するにつれ、ワークフローの一部に弱点があると、他の部分にも影響が及ぶ可能性があります。したがって、CISOは、どのモデルやコンポーネントが信頼できるか、どのような情報がエージェントに影響を与える可能性があるか、エージェントがアクセスできるシステムは何か、そしてエージェントが実行を許可されているアクションは何かを検討しなければなりません。
本記事で説明した課題の多くは、単一のベンダーでは制御できない技術やエコシステムにまたがっています。
「堅牢なエンドポイントセキュリティと封じ込め技術は、組織がエージェント型AIを安全に導入するための鍵となります」
Boris Balacheff, Chief Technologist for Security Research and Innovation, Head of the HP Security Lab
エンドポイントセキュリティ、特にセキュアな封じ込めおよび隔離技術における当社の経験を踏まえ、HPは、組織がAIの実行に関して境界やガードレールをどのように確立・運用できるかについて、コミュニティと積極的に協力しています。これには、エージェントの安全性と相互運用性に関する共通のアプローチの確立を目指す、NVIDIAのOpen Agent Safety Platformのような業界イニシアチブのサポートも含まれます。隔離および封じ込め技術により、AIワークロードを機密性の高いシステムから隔離し、ワークフローを制御してデータやツールへのアクセスを制限したり、侵害されたエージェントや異常動作を起こしたエージェントの影響を軽減したりすることが可能です。デバイス上またはオンプレミスでのAI導入は、一部の環境において、セキュリティ、コンプライアンス、あるいはデータ主権の要件をさらに支援することができます。これらの対策は、モデルが予期せぬ動作をしたり、悪意のある入力の影響を受けたりした場合に、追加の保護層を提供します。
組織が採用する技術、導入モデル、あるいは安全対策が何であれ、その目的は変わりません。それは、エージェント型AIシステムが、明確に定義されたセキュリティおよび運用上の境界内で動作することを保証することです。
エージェンティックAIは、セキュリティ上の課題を「そのモデルを信頼できるか」から「ワークフロー全体を制御できるか」へと転換させます。エージェントが読み込むデータ、読み込むスキル、あるいは実行されるランタイムに脆弱性があれば、他のすべての部分で講じられた保護策が台無しになってしまう可能性があります。自律性により、通常のミスがもたらすリスクはさらに高まります。エージェントが行動できるようになると、インストラクションの誤読や改ざんされたドキュメントが、多くの場合、誰にも気づかれる前にデータ損失やシステムの改変につながってしまうのです。
CISOにとって、これはエージェントを最小権限のアクセス権を持つ第一級のアイデンティティとして扱い、各エージェントが何を行い、その理由について監査可能な記録を残し、重大なアクションについては隔離や人間のチェックポイントを通じて、エージェント自身の判断とは独立して制限を課すことを意味します。これらの管理策を、強固なエンドポイントデバイスのセキュリティと明確なガバナンスと組み合わせる組織は、エージェンティックAIを迅速かつ安全に導入することができ、そのどちらかを選ばなければならないという状況に陥ることは無いでしょう。
Author : Patrick Schläpfer
監訳:日本HP