「Critical」到達の意味 #
OpenAIには、モデルの危険度を「Low」「Medium」「High」「Critical」の4段階で評価する安全フレームワークがある。サイバー能力の最上位「Critical」は、既知の防御をモデル単独で突破しうる水準を指す。これまでは理論上の到達点として語られてきたが、次期主力モデル「Astra」が社内評価でこの水準に達しうると自ら認めたのは今回が初めてだ。ベンチマークの数字が話題になりがちなAI業界で、モデルの潜在能力そのものが警戒対象として名指しされたのは異例と言える。
脆弱性発見・攻撃コード生成・侵入経路の設計といった一連の攻撃工程を、熟練の人間チームに頼らずモデル単独で自動化しうる水準を指す。OpenAI自身がこの可能性を認め、要件を満たさない一部活動の停止に踏み切った。
抑制ではなく「監視」を選んだ #
OpenAIは性能そのものを絞る代わりに、要件を満たさない一部の開発・提供活動だけを止め、推論過程(思考の連鎖)をリアルタイムで評価する体制を敷いた。モデルが攻撃的な振る舞いへ逸脱する兆候を検知しながら、政府機関や外部の安全性検証チームとも協力するという。モデルの手綱を完全に締めるのではなく、能力は維持したまま「安全に使わせる」監視体制側を強化する方向へ舵を切った格好だ。
攻撃者・防御者双方への含意 #
Critical級のサイバー能力は諸刃の剣だ。防御側が先取りできればパッチ未適用の脆弱性の自動検知や大規模インフラの自動監査に使えるが、同じ能力がAPI経由で悪用されたり重みごと流出したりすれば、これまで熟練の攻撃者しか持ち得なかった攻撃コード生成力が誰の手にも渡りうる。モデルの能力が実運用の安全策をすでに上回ったと企業自らが認めた今回の判断は、一企業の内部審査プロセスがセキュリティ業界全体の防御ラインを左右しかねない時代に入ったことを象徴している。
COMMENTS 0
No comments yet — be the first to leave one.