自律型AIエージェントがHugging Faceに侵入、商用AIは解析拒否でOSSの「GLM」採用

AIエージェントが「侵入犯」になった夜 #

Hugging Faceが2026年7月、自社の本番インフラが侵入を受けたと公表した。注目すべきは手口だ。初動から横展開まで、人間の手を介さず自律型AIエージェントが一貫して実行していたという。開示文書によれば、その過程は「使い捨てサンドボックス群にまたがる数千単位の個別アクション」に及んだ。人間なら数週間かかる偵察・侵害・横展開を、AIエージェントの群れが機械速度でこなした形だ。

被害は一部の内部データセットと複数の認証情報への不正アクセスに限られる。一般公開モデル・データセット・Spacesの改ざんや、コンテナイメージ等サプライチェーンへの汚染は確認されていない。

皮肉なのは「解析にもAIが要る」局面で商用AIが使えなかったこと #

検知自体はAIによる異常検知パイプラインがLLMベースのトリアージで実現した。ここまではAIによる防御の勝利に見える。

だが調査で想定外の壁にぶつかった。攻撃コードやC2（指令サーバー）関連の生データを解析にかけようとしたところ、商用フロンティアモデルの安全ガードレールがリクエストをブロックした。インシデント対応という正当な業務が、悪用対策フィルタに阻まれた形だ。最終的にHugging Faceは自社インフラ上でオープンウェイトモデル「GLM 5.2」を動かし、解析を完遂させた。

Hugging Faceは脆弱な実行経路を塞ぎ、影響システムを再構築、認証情報を失効させたうえで、ユーザーにアクセストークンの再発行を呼びかけている。

自律型AIエージェントによる攻撃はもはや理論上の脅威ではない。攻撃側は使い捨てサンドボックスを何百と展開し、多段階のキャンペーンを機械速度で回せる。一方で防御側は、その攻撃を解析する場面で「安全に配慮しすぎたAI」が使えないジレンマに直面する。ガードレール設計は、悪用防止と正当なセキュリティ業務の両立を避けて通れない。