Anthropicが、「Claude」の生成テキストに埋め込んでいる電子透かしの仕組みを公開した。文章の見た目には一切変化がないのに、統計的に「AIが書いた」と判定できるという触れ込みだが、セキュリティ視点で読むと限界の方が目立つ内容だ。
統計パターンで刻む「見えない透かし」 #
仕組みはこうだ。トークン（単語の断片）を選ぶたびに使う乱数生成器へ秘密鍵を混ぜ込み、出力全体にごく弱い統計的偏りを残す。単語を強引に差し替えるわけではないため、文章の品質・生成速度・料金への影響はほぼゼロだという。検出側は同じ秘密鍵を使って偏りの有無を統計的に調べる仕組みで、鍵を持たない第三者が外から透かしの有無を断定するのは原理的に難しい。
攻撃者にとっての抜け穴
透かしは文章全体を書き直すだけで消える。他のAIに言い換えさせる、数箇所を手で直すだけで統計パターンは崩壊する。さらにコードや短文には元々乗りにくい——マルウェアのワンライナーやフィッシング文面、SNS投稿の量産など、実害に直結する短い出力ほど検出の網から漏れる。
EU AI Actがきっかけ、でも過信は禁物 #
導入の直接の動機はEU AI Actのコンテンツ表示義務だが、Anthropicはこれを全世界のClaude出力に一律適用している。ただし透かしはあくまで「AI生成である確率が高い」という統計的な手がかりに過ぎず、法的証拠や個別の断定には使えないとAnthropic自身が明言する。大量のテキストを束ねて偽情報キャンペーンの痕跡を追うようなフォレンジック・OSINT用途では有効打になり得るが、単発の投稿を検出する武器としては過信できない。
透かしは性善説の利用者向けの「品質表示」であり、悪意ある行為者を止める技術ではない——という現実を、Anthropic自身が公開文書で率直に認めた形だ。
COMMENTS 0
まだコメントはありません。最初のコメントを投稿しよう。