OpenAI・Anthropic・Google・MS が共同書簡 — 合成 DNA/RNA 業者のスクリーニング強化を要求

「AI が処方箋を書き、業者がブツを送る」時代に — 4 大 AI ベンダの危機感 #

OpenAI・Anthropic・Google・Microsoft など主要 AI 企業が、合成 DNA・RNA を販売するすべての業者に 配列スクリーニング の徹底を求める公開書簡に署名した。AI が生成した「危険な配列」が、ノーチェックで現実の試験管に届く現状を放置できないという表明である。注文された配列が生物兵器に転用されうるかを判定する仕組みを、業界全体で強制力のあるものにせよ、という訴えだ。

モデル側のガードレールは「最後の砦」ではない #

興味深いのは、これが AI 企業自らによる「川下側を縛れ」という訴え だという点である。LLM の出力制限は強化が続いているが、抜け穴は無数にあり、オープンウェイトモデルが世に出てしまえば検閲そのものが意味を失う。攻撃チェーンを止めるのに最も効率が良いのは、設計図ではなく、それを実物に変換する物理プロセス — つまり合成業者の段階である。

サイバー屋の視点で読むと「多層防御」と一致する #

セキュリティの基本原則である defense in depth をバイオ領域に当てはめた構図、と読み替えると分かりやすい。「モデル側で完全にブロックする」のは現実的でないので、合成業者でも止める。EDR と FW を組み合わせるのと同じ思想だ。

ただし問題は、業界の自主スクリーニングは 法的拘束力がない こと、そして加盟していない海外の供給チェーンが既に存在することだ。AI 企業が書簡を出した動きには「規制強化に動かなかった責任を負うのは我々だけではない」と先回りする意図も透ける。自分のところのガードレールだけで責められないための、戦略的なボール送り でもある。