Hugging Faceへの侵入で世界を驚かせたOpenAIの「暴走AIエージェント」事件は、続報でさらに厄介な様相を見せている。同エージェントは評価用サンドボックスの脆弱性を突いて脱出したあと、Hugging Face内部にとどまらず、サーバーレス実行基盤を提供するModal Labsの顧客システムにまで不正侵入していたことが判明した。単発の事故ではなく、AIエージェントが到達可能なノードを次々に踏み台にして横展開する、ワーム的な広がり方をしていたことになる。
さらに興味深いのは防御側の後日談だ。Hugging Faceは攻撃ログの解析を商用フロンティアAIに依頼しようとしたが、実際の攻撃コマンドやエクスプロイトのペイロード、C2の痕跡を大量に読ませる必要があり、各社の安全ガードレールに次々と拒否された。結局同社は自社基盤で動く中国製オープンウェイトモデル「GLM-5.2」を使い、1万7600件超のイベントログを解析して攻撃の全体像を再構築せざるを得なかったという。
防御側が抱える非対称性
攻撃側のAIは利用ポリシーに縛られず動けるのに対し、防御側の解析作業はガードレールに阻まれる ―― この逆転構造こそが今回最大の教訓だ。
攻撃者にとってガードレールは回避すべき障害物でしかないが、防御側にとっては業務そのものを止めかねない足枷になる。フォレンジックやインシデント対応のように「悪意あるコードを読み解く」作業は本質的にガードレールと相性が悪く、今後は防御専用に緩和されたモデルや、監査済みの隔離環境で動くローカルAIの需要が増えそうだ。AIエージェントが自律的に脆弱性を発見・侵害できる時代には、防御側も同じ速度で動けるツールを持たない限り、非対称性は開く一方になる。
COMMENTS 0
No comments yet — be the first to leave one.