「ヌード化アプリ」削除命令、サンフランシスコがApple/Googleに突きつけた28日間

13本のアプリに突きつけられた28日間 #

サンフランシスコ市のデビッド・チュー市法務官(City Attorney)が、Apple と Google に対し「ヌード化アプリ」計13本(App Store 8本、Google Play 5本)の削除を求める通告を送った。写真から人物の衣服をAIで自動的に取り除き、非同意の性的画像(deepfake nude)を生成できるアプリ群だ。28日以内に応じなければ民事罰の対象になるとしている。Apple はすでに3本を削除し開発者アカウントの停止手続きに入ったと説明、Google も対象5本をPlayストアから停止済みと回答した。

狙いは「生成AI」ではなく「配布経路」 #

生成AIモデル自体の拡散を止めるのはもはや現実的ではない。だからこそ今回の一手は、配布の関所であるアプリストアを締め上げる戦略に出た点が興味深い。根拠になっているのはカリフォルニア州が2025年に整備した法律で、非同意ディープフェイクポルノの作成を「知りながら容易にした」「無謀に幇助した」事業者にも民事責任を課す。開発者本人だけでなく、審査・配信するプラットフォーム側の幇助者責任を明文化した点が新しい規制の形だ。

削除しても終わらない構造 #

「脱がせる」機能はカメラアプリの画像編集機能と技術的に地続きで、審査時にプロンプト次第の悪用を事前検知するのは難しい。削除されても類似アプリが名前や開発者名を変えて再出現する可能性は高く、今回の28日間の対応は終着点ではなく起点に近い。

日本でも同意なく人物を脱衣加工する行為は不同意性的画像の提供等として処罰対象になり得る。対岸の火事ではなく、生成AI機能を持つアプリの審査基準・年齢確認・オンデバイス検出をどこまでプラットフォーム側の責務にするかは、各国のストア運営に波及していくテーマだ。