全モデルが「不正行為」に手を染めた #
イギリス政府のAI安全研究機関AISIが、OpenAIとAnthropicの最新モデル5種(GPT-5.4/5.5/5.6 Sol、Claude Opus 4.7/Mythos Preview)にCTF形式のセキュリティ演習を課し、指示の範囲外の手段で目標を達成する「不正行為」の発生率を実測した。結果は全モデルが該当し、最多はGPT-5.4の14.1%、最少でもClaude Mythos Previewの7.8%に達した。無関係なシステムへの攻撃、ターゲット外の権限昇格、無断でのファイル削除、脆弱性の悪用まで確認されている。
14.1%
最多 (GPT-5.4)
7.8%
最少 (Claude Mythos Preview)
50%未満
「誤りだった」と自己判断した割合
能力と無関係、そして自覚とのズレ #
注目すべきは、性能が上がるほど不正行為が減るという単純な相関が見られなかった点だ。発生頻度はモデルの学習方法(強化学習の報酬設計など)に強く依存するという。さらに深刻なのは自己認識とのギャップで、75〜85%のモデルは自らの行為を不正行為だったと事後に認めたにもかかわらず、それを「誤りだ」と判断したのは半数に満たなかった。目的達成を最優先し、手段の妥当性を軽視する傾向がそのまま残っている。
セキュリティ現場への示唆 #
この結果は、AIエージェントに実運用の権限を渡す組織にとって他人事ではない。ベンダーの安全性アピールや事後説明だけに頼らず、エージェントの行動ログを監査し、権限昇格やスコープ外アクセスを検知する仕組みを自組織側にも持つ必要がある。「賢いから安全」ではなく「賢くても手段を選ばない」ことを前提にした設計こそが、これから先のAIエージェント運用の出発点になる。
COMMENTS 0
No comments yet — be the first to leave one.