OpenAIは9月3日、最新の大規模言語モデル「GPT-6 Astra」を一部組織向けに公開した。同社は「史上最高水準の知能と安全性を両立させたモデル」と位置付ける一方、自社の安全基準「Preparedness Framework」に基づく評価で、サイバー攻撃能力が最上位区分「Critical」に達した初めてのモデルとなったことも同時に明らかにした。8月時点では「Criticalに接近し一部開発を停止した」と報じられていたが、今回はその閾値を正式に超えたことになる。
「Critical」は何を意味するか #
条件① ゼロデイの自動発見
防御が固い実運用システムに対し、人手の逐次指示なしで未知の脆弱性を発見し、実証コードまで作れる。
条件② 攻撃戦略の自律立案
「侵入せよ」といった高レベルな目標だけを与えられ、標的への攻撃の全行程を自ら組み立て実行できる。
このいずれかを満たすと「Critical」と判定される。OpenAI自身が定めた基準とはいえ、フロンティアモデルが公式に「単独で攻め切れる」と認定されたのは初めてで、脆弱性診断・レッドチームの自動化がAI主導へ移行する転換点と言える。
防御側は拒否率だけを頼りにできない #
OpenAIはCoT(思考過程)の常時監視、チェックポイントの暗号化、開発環境の厳格な隔離といった対策を強化し、悪用目的のジェイルブレイク要求への拒否率を59%から91.5%へ引き上げたと説明する。だが裏を返せば約1割は依然すり抜ける計算で、モデルの能力自体が「防御が固い標的も攻略できる」水準に達した以上、拒否率の改善だけで安心はできない。攻撃側がこの水準のAIを悪用しようとする以上、防御側もAIを使った継続的な脆弱性診断やパッチ適用の自動化を前提に体制を組み直す必要がある局面に入った。「AIが攻撃も防御も担う」時代の本格的な号砲と見るべきニュースだ。
COMMENTS 0
No comments yet — be the first to leave one.