フロリダ州が OpenAI と CEO 個人を提訴、ChatGPT を「子供を危険にさらす製品」と断罪

米フロリダ州司法長官が、OpenAI と同社サム・アルトマン CEO 個人を相手取って提訴した。同州は ChatGPT を「子供を危険にさらす製品」と断じ、安全に関する警告を無視して展開した結果、利用者を自殺誘導や銃乱射事件の幇助といった危険にさらし、未成年者を依存状態に陥れたと主張している。州はすでに 4 月、州内で発生した銃乱射事件をめぐる ChatGPT 関与の刑事捜査も開始しており、刑事と民事の両面でプラットフォームを追い詰めにかかった格好だ。

「製品」として AI を問うことの意味 #

注目すべきはアルトマン CEO を個人で被告に含めた点と、ChatGPT を「製品」と定義した点だ。米国では従来、プラットフォーム上のユーザ生成コンテンツによる被害は通信品位法 230 条 (Section 230) で運営者が広く免責されてきた。だが ChatGPT の出力は「ユーザの投稿」ではなく「LLM が生成した一次出力」であり、製造物責任 (product liability) の枠で扱えるというのが今回の法的構成だ。これが認められれば、AI ベンダーは欠陥車両や欠陥薬と同じ立て付けで訴えられる先例になる。

ガードレールの限界が法廷で問われる #

ハッカー側から見れば、現在の LLM の安全装置はコンテキスト窓内のロールプレイ誘導や、長文セッション中の safety drift で容易に外れることは周知の事実だ。さらに、未成年であることを偽る・伏せるだけで年齢確認は実質機能しない。州側はおそらく内部資料で「OpenAI が把握していたが放置していた」事実を引き出しに来る。AI 安全性を「ベストエフォート」と扱ってきた業界に、製造物責任ベースの規制レイヤが乗る可能性は高い。日本のベンダーや、AI 機能を組み込むサービス事業者も、未成年への接続境界を実装で説明できない状態は、いよいよ持たない時期に入った。