Google が「Gemini 悪用」で中国系犯罪組織を初提訴 — 5 カ月 159 万 URL、2 週間 250 万通

Google が 2026 年 6 月、米連邦地裁で中国を拠点とするサイバー犯罪組織を提訴した。容疑は同社の生成 AI「Gemini」をフィッシングインフラの自動化に悪用したこと。Gemini 悪用を理由にした Google の訴訟提起はこれが初めてで、AI 時代の攻撃と防御の関係を象徴する出来事になった。

何が「初」だったのか #

これまで Google はフィッシングサイトやマルバタイジングに対して、技術的なテイクダウン（ドメイン遮断・SafeBrowsing 登録）で対処してきた。今回が大きく違うのは、攻撃の 「生産設備」そのものを法的に解体しに行った 点だ。生成 AI が攻撃工程に組み込まれた結果、防御側がモグラ叩きで追いつけない規模に達したことを、Google 自身が訴状で認めた格好になる。

ハッカー視点で見る「自動化」の中身 #

数字の凄みは「1 日 1 万件の偽 URL」「1 日 18 万通の詐欺メッセージ」という量産レートにある。従来この種のキャンペーンは、テンプレ生成器・SMS ゲートウェイ・転送 URL 短縮を組み合わせて職人芸的に回していた。Gemini のような汎用 LLM が入ると、ターゲット別の文面・正規ブランドを模した HTML・誘導フローの分岐がすべて自然言語の指示で吐けるようになる。結果として、攻撃者側のボトルネックが「人手の文面作成」から「インフラ供給」に移った。

Google は FBI と米通信大手 3 社と連携してテイクダウンに動いており、攻撃 SMS の経路側でも遮断を仕掛けている。AI 悪用を入口として、プロバイダ層を含めたチェーン全体を切る戦い方は今後の定石になりそうだ。

防御側の宿題 #

この事案は「LLM のセーフティをすり抜けられたか」という UI 上の問題ではなく、API/エージェントとして組み込まれた LLM がどう犯罪インフラ化するかという構造の問題だ。利用規約違反の検知、トラフィック異常での自動凍結、IoC（生成物の特徴）を共有する業界横断の枠組み — このあたりが整わない限り、訴訟は「最後の手段」のまま残り続ける。Gemini 単体の話ではなく、自社で LLM API を運用する全企業に共通の宿題である。