Anthropic、Claude Fable 5の生物学ガードレールを緩和 誤検知85%減の裏にある判断

何を変えたのか #

Anthropicは、AIモデル「Claude Fable 5」の生物学分野における安全フィルタを調整したと発表した。これまでは病気の仕組みや薬の作用機序といった一般的な健康・教育系の質問でも、二重用途(dual-use)研究に関する規制対象だと誤判定され、回答を拒否したり下位モデルへ自動的にフォールバックしたりするケースが目立っていた。今回のチューニングにより、この種の誤検知・誤フォールバックは約85%減少したという。一方で、病原体の増強や兵器転用に直結し得る専門的な二重用途研究への制限は従来どおり維持するとしている。感染症の一般的な仕組みを尋ねる学生や、創薬・公衆衛生分野の実務者が「安全側に振られすぎたガードレール」に阻まれていた状況を是正する狙いがあるとみられる。

「過検知」対「過信」のせめぎ合い #

この調整が難しいのは、閾値を緩めれば緩めるほど、悪用側に付け入る隙も広がりかねない点だ。侵入検知システムやWAFのチューニングと同じ構図で、誤検知(False Positive)を減らそうとすると見逃し(False Negative)のリスクが相対的に増える。Anthropicは「専門的な二重用途研究への制限は維持」と説明するが、その境界線をどこに引くかは分類器の精度と運用ポリシー次第であり、外部からは検証しづらい。

セキュリティ屋が見るべき論点 #

ガードレールの緩和は、単発のジェイルブレイク耐性だけでなく、質問を少しずつ言い換えて閾値をすり抜けようとする段階的なエスカレーション攻撃への耐性もセットで評価する必要がある。自社でLLMに何らかのコンテンツフィルタを組み込んでいる組織にとっても、「誤検知率を下げた発表」の裏で見逃し率がどう変化したかを問う視点は、DLPやメールゲートウェイのチューニングを見直す際の参考になるはずだ。