AIエージェントのセキュリティとは、自律的に社内システムへアクセスするAIを、識別・認証・権限管理・監視によって統制する取り組みです。AIエージェントは、ユーザーに代わって社内システムへ自由にアクセスします。その利便性は、攻撃者から見れば「企業のデータにいつでも自由にアクセスできる格好の手段」でもあります。本記事では、AIエージェントのセキュリティが従来と何が違うのか、どのようなリスクが生じるのか、そして企業が今取るべき6つのアクションを、国内調査とガートナーのインサイトをもとに解説します。
※ご入力は1分程度で完了いたします。
フォームにご記入いただくと、無料でダウンロードできます。
AIガバナンス構築で全社的な管理体制を整備
本eBookは、AI時代におけるサイバーセキュリティ戦略の方向性を示すガイドです。生成AIの急速な導入に伴い、企業や組織は新たなリスクに直面しています。ガートナーは、混乱を最小化しつつ、AIの価値を最大限に引き出すために、AI TRiSM(AIの信頼、リスクおよびセキュリティ管理)などを活用し、セキュリティ対策の最適化とリスク管理の強化について解説します。
【重要ポイント】
ガートナーが2026年2月に国内で実施した調査では、企業内でAIエージェントの活用や活用に向けた議論がどうしても先行してしまい、その結果セキュリティの議論が後手に回っている、と回答した割合が59.3%に上りました。
注目すべきは、これが外部からの指摘ではなく、企業自身の認識だという点です。6割近い企業が、順序が逆になっていることを自覚したうえで、それでも活用の議論を先に進めている状態にあります。
AIエージェントとは何か、どのような種類があるのかについては、別記事「AIエージェントとは?生成AIとの違い、活用例をわかりやすく解説」で詳しく解説しています。本記事では、それを安全に使うために何が必要かに絞って説明します。
AIエージェントのセキュリティが難しいのは、担当者の努力が足りないからではありません。従来の前提が3つの点で崩れているためです。
AIエージェントによるアクセスが正規のものかを確認するには、AIエージェントに対しても認証が必要です。しかし、スマートフォンの通知機能を使った二要素認証のような手法は、人間ではないAIエージェントには適用できません。
短期的には、RPAやAPIで使われてきた秘密鍵を用いた認証技術の応用が、最も身近で現実的な選択肢として議論され始めています。中長期的には、今後登場する新しい認証技術も視野に入れる必要があります。
MCP(Model Context Protocol)やA2A(Agent2Agent)など、AIエージェントがシステムやデータに容易にアクセスできるようにするためのテクノロジが身近になってきました。
しかし、こうしたプロトコルにはセキュリティ対策のためのメカニズムがありません。セキュリティについて個別に検討し実装しないまま使えば、リスクは一気に跳ね上がります。プロトコルが便利であることと、安全であることは別の問題です。
データ活用と、そのためのAIエージェントの利用については事業部門への「民主化」が進み、社内リソースへの動的なアクセスが可能になりました。一方で、AIエージェントのセキュリティはIT部門が「中央集権的」に管理するケースがほとんどで、従来型の静的なセキュリティにとどまっています。
自由で自律的なAIエージェントは、その動きを事前に想定できない、いわゆる「非決定論的」なデータ・アクセスを発生させます。動的に動く対象を、静的な仕組みで守ろうとしている。この構造的なねじれが、リスクへの対処を難しくしている根本の原因です。
セキュリティへの考慮がないままAIエージェントの導入を開始すると、「誰が何のために作ったエージェントなのか」が不明なAIエージェントが乱立し始め、早い段階で制御不能となる恐れがあります。古いエージェントがそのまま放置されれば、それ自体が不正の温床にもなります。
管理が形骸化すると、エージェントの外見だけでは、従業員が作った正規のエージェントなのか、攻撃者が作成した/乗っ取ったニセモノのエージェントなのか、見分けがつかなくなります。
しかもAIエージェントが「マルウェア化」した場合、従来のマルウェアと異なりその挙動は正規プログラムのそれでしかなく、異常の検知はこれまで以上に難しくなります。
ガートナーは、「2028年までの間、セキュリティ対策が十分ではない正規のAIエージェントはサイバー攻撃者に悪用され、AIエージェントとマルウェアの区別ができなくなる」とみています。
AIエージェントの利用により、データへのアクセスは爆発的に増えます。情報の取り扱いに不慣れなユーザーが簡単に重要情報を手にする機会が増えるうえ、AIエージェントが勝手に情報を持ち出す可能性もあります。人間が手作業でデータを利用する場合に比べ、情報の流出は広範囲に及び、その速度も速くなります。
Gartnerは、「2028年までの間、企業にとって最も深刻な情報漏洩の原因は、AIエージェントを経由したものになる」とみています。
AIエージェントについては、すでにプロンプト・インジェクションやエージェント・ハイジャックといった脅威が指摘されています。さらに、自律的で再帰的なAIエージェントは行動パターンの予測が困難であるため、脅威の検知はより一層困難なものとなります。
ガートナーは、AIエージェントのセキュリティにおいて注力すべきアクションを次の6つに整理しています。
AIエージェントが無秩序に増加しシャドー化する前に、ライフサイクル管理を確立します。具体的には、エージェントの登録、固有の識別符の付与、そして作成者/所有者の明確化を実施できるようにしておくことが重要です。
人間向けの認証手法が使えない以上、AIエージェント固有の認証が必要になります。短期的には秘密鍵を用いた既存技術の応用を検討しつつ、中長期的には新しい認証技術を検討できるような視野の広さが求められます。
AIエージェントでも「最小権限」はセキュリティの原則です。エージェントの目的に応じた適切な範囲でアクセス権を設定する必要がありますが、自律的で再帰的なエージェントの場合、この設定はさらに複雑になります。
権限管理のプロセスに従業員が十分習熟するまでの間は、特にリスクの高い自律的/再帰的エージェントについて個別にユースケースを特定し、全社一斉展開ではなく範囲を制限した展開を行うことが重要です。
本当に重要なデータを扱う場合には、AIエージェントに依存せず人間を介在させること、そして目的達成に不可欠なデータ範囲を超えないようにする制御が必要です。
急拡大するリスクに本格的に対処するには、動的でコンテキスト・ベースのリアルタイム・モニタリングが欠かせません。AIセキュリティ・ポスチャ・マネジメント(AI SPM)、AIランタイム・ディフェンス、ガーディアン・エージェントといった技術の検討が肝要です。
ここまでの5点をもとにセキュリティ・プロセスを設計し、従業員に周知します。周知の方法は、よりパーソナライズされたものへと進化しています。業務やタスク、ITリテラシー、取り扱うデータやAIエージェントの種類などの単位でセキュリティ・マニュアルを整備し、それらを組み合わせて個人向けのコンテンツとして届ける取り組みが、先進的な企業を中心に進められています。
6つのアクションのうち、モニタリングを実装するための技術は、大きく3つに分かれます。
技術 |
役割 |
AI SPM |
AIモデルやAIエージェントを含む資産を棚卸しし、設定・権限・データ利用状況を継続的に監視する。クラウド・データ・アイデンティティの各領域と連携し、リスクを面的に捉える |
AIランタイム・ディフェンス |
AIが実際に動作している最中の振る舞いを監視し、実行内容をその場で評価する。事前の脆弱性チェックでは検知できない脅威を捉える |
ガーディアン・エージェント |
対象AIの挙動をAIが常時監視し、逸脱時に処理を停止したり差し戻したりする |
このうちガーディアン・エージェントは、AIとの安全で信頼できるやりとりを支援するために設計されたAIベースのテクノロジです。Gartnerは、その役割を次の3つに整理しています。
ガートナーは、「2030年までにガーディアン・エージェントのテクノロジがエージェント型AI市場の少なくとも10〜15%を占めるようになる」とみています。また、「2028年までにAIアプリケーションの70%がマルチエージェント・システムを採用する」と予測しており、複数のエージェントが猛烈なスピードで通信し合う環境では、人間による監督だけでは対処しきれなくなります。
対策の多さに身動きの取れない状況となるかもしれません。実際、AIエージェントの導入にあたっては、情報資産の把握やラベリングを行い、それらの情報に対して細かな権限設定を行う必要があります。しかしこれらには時間がかかるため、利用を検討してもすぐには開始できず、結果として俊敏性が求められるデジタルのスピードに逆行することになります。
この矛盾を解く鍵は、順序にあります。
全社レベルで情報の分類に取り組む前に、DXやデジタル推進の担当者と共同で、まずAIエージェントの利用目的を定めます。そのうえで、特定されたユースケースで使われるデータに対してのみ、情報の分類や権限設定を実施する。この進め方であれば、できる限り早いタイミングで利用を開始できます。
これまで情報資産の把握やデータ保護に積極的に取り組んでこなかった場合は、全社規模での一斉展開を避け、スモール・スタートを基本指針とします。局所的な展開を繰り返すことで、全社レベルの情報漏洩リスクが急激に跳ね上がることを抑えられます。
デジタル推進担当者とセキュリティ担当者が分断されたままAIエージェントの導入が進むと、情報漏洩のリスクがあるデータもAIエージェントによるデータ活用の対象となり、機密データの漏洩リスクが一段と高まります。セキュリティ部門に加え、DX推進部門、事業部門、IT部門、そしてベンダーについても、AIエージェントとセキュリティに関する具体的な役割と責任を早急に設定する必要があります。
セキュリティには構造的な非対称性があります。攻撃者はAIを使って100回に1回成功すればよいのに対し、守る側は100回に1回の失敗も許されません。この非対称性を前提にすると、すべてを完璧に守ろうとする発想は現実的ではなくなります。
重要なのは、攻撃の兆候を捉えて切り離し、被害を封じ込めることです。攻撃が自動化され高速化しても、封じ込めができれば被害の範囲は極小化できます。大きなインシデントに発展する背景には、多くの場合、封じ込めの失敗があります。
そして、AIエージェントのセキュリティ技術そのものが、まだ発展の途上にあります。AIエージェント側も標準化が進められている最中であり、企業は2種類の技術がいずれも不安定な状態で、難しい戦略的意思決定を下していかなければなりません。技術が安定しプラクティスが成熟するまでの間は、最新かつ多様な情報を基に意思決定を行い、対策の追加や方針転換の必要性について常に探り続けることが重要です。
どこまでをAIエージェントに任せ、どこからを人間が判断するのか。AIに何をやらせるのかを決めるのは、最後まで人の役割です。
AIエージェントのセキュリティは、従来の延長線上にはありません。人間向けの認証が使えず、プロトコルにセキュリティ機構がなく、動的な対象を静的な仕組みで守ろうとしている。この3つの前提の崩れを認識することが出発点になります。
そのうえで、ライフサイクル管理から始まる6つのアクションを、自社の状況に合わせて順に進めます。すべてを一度に整える必要はありません。ユースケースを先に決め、そこで使うデータに限定して守りを固め、局所的な展開を繰り返す。この進め方であれば、導入のスピードを落とさずにリスクを抑えられます。
最大の違いは自律性です。生成AIは指示に応じて出力を返しますが、AIエージェントはユーザーに代わって社内システムに自由にアクセスし、自律的にタスクを実行します。そのため、人間向けの認証が適用できない、行動パターンの予測が困難で脅威の検知が難しい、といったAIエージェント固有の課題が生じます。
MCPやA2Aといったプロトコルには、セキュリティ対策のためのメカニズムがありません。そのため、これらを利用する場合はセキュリティについて個別に検討し、実装する必要があります。セキュリティへの考慮をしないまま使うと、リスクが一気に跳ね上がります。
コネクテッド・データとは、部門、システム、アプリケーションを横断して、データを連携・統合・活用できる状態を指します。AIによる分析や自律的な業務実行を支える基盤となります。
スマートフォンの通知を使った二要素認証のような人間向けの手法は適用できません。短期的には、RPAやAPIなどで使われてきた秘密鍵を用いた認証技術の応用が最も現実的な選択肢として議論されています。中長期的には、今後登場する新しい認証技術の動向を継続的に確認する体制を整えることが推奨されます。
全社一斉展開は避け、スモール・スタートを基本方針とすることができます。全社レベルの情報分類に着手する前に、DX・デジタル推進の担当者と共同でAIエージェントの利用目的を定め、そのユースケースで使われるデータに限定して分類と権限設定を行うことで、早い段階で利用を開始できます。
AIとの安全で信頼できるやりとりを支援するために設計されたAIベースのテクノロジです。レビュアー、モニタ、プロテクターの3つの役割を担い、AIの挙動を監視して逸脱時にはアクションや権限を調整・ブロックします。ガートナーは、「2030年までにエージェント型AI市場の少なくとも10〜15%をこの技術が占めるようになる」とみています。
AI時代のサイバーセキュリティでは、AIに守らせる側とAIエージェントを守る側とあわせた両輪の設計が問われます。eBook「AI時代のサイバーセキュリティ戦略」では、AI TRiSMを軸にした戦略の描き方を解説しています。