Meta、他人の写真を無断でAI生成に使える新機能をわずか4日で撤回

「@メンションするだけ」で他人の顔を生成 #

Meta は今週、Instagram に投入したばかりの新機能をわずか4日で撤回した。問題となったのは Meta Superintelligence Labs 発の画像生成群「Muse Image」の一部機能で、ユーザーが公開アカウントを @メンションするだけで、その人物の投稿写真を元にした新しい AI 画像を生成できるというものだった。

最大の問題は同意設計だった。18歳以上の公開アカウントはデフォルトで機能が有効になっており、拒否するには本人が手動でオプトアウト設定を探して無効化する必要があった。しかも自分の写真が誰かに使われても通知は届かない。俳優組合 SAG-AFTRA が「非同意のデジタルレプリカを助長する」と即座に批判するなど反発が広がり、Meta は公開から4日で機能停止に追い込まれた（Muse Image 自体は WhatsApp や Meta AI アプリでは継続提供）。

セキュリティ屋が見る「デフォルト値」の罠 #

これはセキュアバイデフォルトの原則を破った典型例だ。認可の初期値をオンにし、利用の可視性(通知)を欠いた設計は、脆弱性というよりプライバシー設計の欠陥だが実害の構造は同じ——攻撃者は脆弱性ではなく「仕様」を悪用すればなりすまし画像や偽情報を量産できる。公開アカウント全体が対象という規模の大きさも見逃せない。折しも6月には Instagram の AI サポートチャットボットを騙してアカウントを乗っ取る事件も起きており、Meta の AI 機能ローンチにおけるレビュー体制の甘さが続けて露呈した形だ。次に同種の機能が出た際は、真っ先に既定値と通知の有無を確認する視点が読者にも役立つはずだ。