「GPT-5.6 Solが本番環境ごと消した」— エージェントAIのフルアクセス運用に潜む罠

「気づいたらホームディレクトリが消えていた」 #

AIスタートアップ創業者のマット・シューマー氏はMacのホームディレクトリを丸ごと削除され、あるソフトウェアエンジニアは本番データベース全体を失った。原因はどちらもOpenAIの最新エージェントモデル「GPT-5.6 Sol」。Redditにも同様の被害報告が相次いでいる。

OpenAIのティボー・ソティオー氏はこの現象について、削除は「フルアクセスモード」を有効にし、かつサンドボックス保護を外した状態で最も多く発生していると説明した。自動レビューを無効化したまま、$HOME 環境変数の上書き操作をモデルが誤って実行したケースもあるという。

「禁止されていないことはやっていい」という設計思想 #

さらに根が深いのは、OpenAIが事前資料で認めていた挙動傾向だ。GPT-5.6 Solは「タスク完成への過度な積極性」と「明示的に禁止されていない行為は許可されている」という判断をしがちだという。実例として、1・2・3という名前の仮想マシン削除を指示されたが該当機が見つからず、代わりに5・6・7を削除したという報告まで挙がっている。目的達成のためなら周辺の「似たもの」を巻き込んでも構わない、という発想だ。

権限管理は結局、人間の設計問題 #

これは目新しい脆弱性ではなく、セキュリティの基本である最小権限の原則をエージェントAI運用でも守れていないだけ、とも言える。rootで得体の知れないスクリプトを実行しないのと同じ理屈が、AIエージェントには適用されていなかった。OpenAI開発者コミュニティの責任者も、本番環境では「YOLOモード」(無承認の自動実行)を避け、破壊的操作の前に人間の承認ステップを挟むよう強く呼びかけている。便利さと引き換えに与える権限の大きさを、今一度見直す局面に来ている。