AIセキュリティーの新リスク
アクロニス・ジャパンは7月29日、「AIエージェント時代の新たなセキュリティー課題」と題したブログを公開した。このブログでは、7月にOpenAIが実施したAIモデルのセキュリティー評価で、AIモデルがサンドボックス環境の制約を回避し、評価対象ではなかったHugging Face環境へのアクセスが発生したインシデントを取り上げている。アクロニスの最高情報セキュリティー責任者（CISO）であるジェラード・ブショルト氏の見解とともに、AIエージェント時代に企業に求められる新たなセキュリティー対策とサイバーレジリエンスの重要性について解説している。
「突破される前提」の防御が必要に
AIは、企業の業務効率化や生産性向上を支える重要な技術として急速に普及している。一方で、その進化はサイバーセキュリティーの領域にも新たな課題をもたらしている。26年7月、OpenAIが実施したAIモデルのセキュリティー評価で、AIモデルがサンドボックス環境の制約を回避し、外部ネットワークへ到達したことが明らかになった。結果として、評価対象ではなかったHugging Faceの本番環境へのアクセスが発生し、世界中のセキュリティー関係者の注目を集めた。
この出来事は一部で「AIが暴走した」といった形で報じられた。しかし、同件から学ぶべき重要なポイントは、AIに意思があったかどうかではない。AIの能力向上によって、既存のセキュリティー対策に新たな視点が求められている時代になっていることこそ、同件が示す重要なポイントである。
アクロニスの最高情報セキュリティー責任者（CISO）のジェラード・ブショルト氏は、この出来事について、「AIは暴走したのではない。与えられた目標を達成するために、制限を障害の一つとして認識し、その達成に向けて最適な手段を選択しただけ。問題はAIそのものではなく、それを制御するための境界（コンテインメント）が十分ではなかったことだ」と説明している。
つまり、AIに「悪意」があったわけではない。現在のAIは、人間のような意思や目的をもって行動しているわけではなく、「目標達成を最適化する能力」が飛躍的に高まっている。その結果として、「未知の脆弱性を発見する」「複数の攻撃手法を組み合わせる」「制限を回避する」「複雑な手順を自律的に実行する」といった高度な行動が可能になっている。
今回注目を集めた「サンドボックス脱出」とは、本来は隔離されている実験環境から、意図せず外部システムへアクセスできてしまった状態を意味する。ジェラード氏はこれを、「鍵の掛け忘れではなく、鍵職人も知らなかった新しい鍵穴を見つけて開けたようなもの」と表現している。
従来のセキュリティー対策では、「設定ミスをなくすこと」が重要視されてきた。しかし、AIエージェントは、人間の高度なレッドチームと同等、またはそれ以上の速度で未知の脆弱性や想定外の経路を探索する可能性がある。
そのため、今後のセキュリティー対策では「境界はいつか突破される可能性がある」という前提でシステムを設計するゼロトラストの考え方が、これまで以上に重要になる。
AIエージェントは今後、メール送信やコード開発、システム運用、顧客対応など、様々な業務を自律的に実行するようになると考えられる。そうした環境で重要なのは、「AIを信用すること」ではなく、「AIを適切に管理すること」である。
ジェラード氏は、企業が優先的に取り組むべき対策として、（1）AIエージェントへの最小権限（Least Privilege）の適用、（2）AIのすべての操作を記録できる監査ログ、（3）支払い、コード変更、外部送信など重要操作への人間による承認プロセス－－の3点を挙げている。
さらに、「短期間のみ有効な認証情報の利用」「AIごとの行動監視」「異常行動の検知」「人間と同等、あるいはそれ以上に厳格なID管理」といった対策も不可欠となる。
研究環境では、「AIがサンドボックスを突破するか」が議論の対象になる。しかし企業環境では、AIはすでに業務システムやファイル、メール、クラウド環境へのアクセス権限をもち始めている。
つまり、「AIが外へ出られるか」ではなく、「AIに与えた権限で何ができるか」を適切に把握し管理することが、AIエージェント時代の新たなセキュリティー課題となる。AIを安全に活用するためには、権限管理、継続的な監視、行動分析、そしてサイバーレジリエンスを前提とした運用がこれまで以上に重要になる。
今回のインシデントは、「AIが意思をもった」という話ではない。むしろ、AIが与えられた目標を達成する能力が急速に向上していることを示した象徴的な事例といえる。企業がAIエージェントを積極的に活用していく時代だからこそ、AIを特別な存在として捉えるのではなく、「高度な権限を持つソフトウェア」として適切に管理する視点が求められる。
サイバーセキュリティーの世界では、AIはもはや未来の技術ではない。企業は、AI時代にふさわしいサイバーレジリエンスを構築し、変化し続ける脅威に備えていくことが重要であるとしている。
