確認疲れが安全を壊す #
Anthropicは8月14日、AIコーディングツール「Claude Code」でコマンド実行前の権限確認を自動化する「auto mode」をデフォルト化する。Pro・Max・Teamプランが対象で、専用の分類器がコマンドを評価し、取り消し不能な操作や作業環境外に影響する操作だけをブロックまたは確認に回す。分類器実行にかかっていた追加トークン課金も撤廃された。Enterprise等の他プランはオプトインのまま残るが、1ヶ月以内にデフォルト化される予定だ。
背景にあるのは「確認疲れ」だ。対照実験では、危険なコマンドに対する人間テスターの拒否率はわずか13.6%。セッションが50回以上の確認を重ねると約5%まで低下したという。毎回「Yes/No」を求められるうち、人間は思考停止してボタンを押すだけの作業になる。UACダイアログやsudoパスワードの入力で散々指摘されてきた古典的な脆弱性が、AIエージェントの世界でもそのまま繰り返されている。
分類器という新しい単一障害点 #
危険コマンドの判定を人間の目からAIの分類器に移すことで検出率は上がる。だが同時に、安全判断が単一のモデルに集約されるという新たなリスクも生まれる。分類器を騙す入力、たとえばプロンプトインジェクションや危険なコマンドを無害に見せる言い換えが見つかれば、確認そのものが素通りしてしまう。しかも今回は分類器判定にトークン課金がないため、企業側が導入を渋る理由も一つ消えた格好だ。
運用側の論点
導入企業では利用者のPull Request数が約25%多いとの生産性データも示され、普及は加速するだろう。エージェントに実行権限を委ねる設計が広がるほど、分類器そのものの堅牢性がセキュリティ全体の天井になる。監査ログの保存とブロック内容の可視化を運用側で徹底したい。
COMMENTS 0
まだコメントはありません。最初のコメントを投稿しよう。