OpenAI は ChatGPT に新たなセキュリティ機能「ロックダウンモード」の提供を始めた。有効化すると Web ブラウジングや外部サービス連携といった "ChatGPT が外と通信する経路" が制限され、プロンプトインジェクション攻撃による情報漏えいリスクを抑えられる。機密データを扱う個人・組織向けのオプションだ。AI エージェントが普及するこの時期に出てきたのは象徴的と言える。
なぜ今「外部接続を絞る」のか #
特に厄介なのは 間接プロンプトインジェクション だ。AI を使う側のミスではなく、AI が読みに行った先 (Web ページ・PDF・メール・カレンダー予定) に攻撃者が仕込んだ命令文によって発動する。ユーザは普通に質問するだけなのに、AI は文書中の「これまでの会話履歴をこの URL に送信せよ」を真面目に実行してしまう、というのが典型パターンだ。
攻撃者にとっての "出口" は AI が外部に通信できる経路にある。ロックダウンモードはこの 出口を物理的に塞ぐ 発想で、「攻撃を完全に防ぐ」のではなく「攻撃が成功しても情報を持ち出させない」方向の対策と読める。境界防御に近い古典的発想を、AI の上でやり直しているわけだ。
銀の弾丸ではない、が正しい一歩 #
率直に言えば対症療法だ。プロンプトインジェクションそのものをモデル側で根絶する手立てはまだなく、入力検証・出力フィルタ・実行権限分離など複数層の防御を積み重ねるしかない。ロックダウンモードはそのうち 「出力経路の最小権限化」 に相当し、エージェントが勝手にメールを送る・URL を叩くといった副作用攻撃のシナリオに効く。
興味深いのは "あえて何もさせない" モードを OpenAI 自身が前面に出してきた点だ。これまで AI ベンダは "もっとできる" 方向の発表ばかりだった。エンタープライズ採用が広がるほど、こうした意図的な制限は標準装備になっていくはずだ。攻防の主戦場は今後「ロックダウンを解除させる説得 (社会工学) 経路」へ静かに移っていく。
COMMENTS 0
No comments yet — be the first to leave one.