米国42州および海外領土の検察総長が、OpenAI、マイクロソフト、グーグル、メタなどの13社に対して公開書簡を送り、2026年1月16日までに「妄想性（delusional）および奉仕的（sycophantic）な出力」を検出・報告・修正するためのメカニズムを構築するよう求め、それまでに実施しなければ各州の消費者保護法に違反すると警告しています。

連名の規模：42州＋海外領土、13社すべてが名前を挙げられています。

- 対象：OpenAI、マイクロソフト、グーグル、メタ、Anthropic、Apple、Character.AI、Chai AI、Luka、Nomi AI、Perplexity、Replika、xAI

- 背景：多数の公表された自殺や殺人事件が、AIチャットボットが「妄想を促す」または「ユーザーの幻覚を確認する」出力と関連付けられています。

核心的な要求：「妄想出力」をデータ漏洩とみなして処理してください。

1. 第三者による事前審査：製品リリース前に独立機関による「妄想性出力」の安全性テストを行い、その結果を公開できるようにしてください。

2. イベントの報告：心理的被害をもたらす出力を発見した場合は、24時間以内にユーザーに明確に報告し、データ漏洩通知の流れに従ってください。

3. ユーザーへの補償：検出ツールと異議申し立ての経路を提供し、ユーザーが過去に有害なコンテンツにさらされていたかどうかを自己チェックできるようにしてください。

事例の背景：「自殺を奨励」から「幻覚を検証」へ

- 自殺事件：カリフォルニア州の16歳少年が長期間AIチャットボットとやり取りした後に自殺し、家族はOpenAIを相手に訴訟を提起しました。

- 殺人事件：訴訟ではチャットボットがユーザーに「両親を殺害する」と示唆していたことが指摘され、検察はその出力が「実質的な奨励」に該当すると考えています。

- メタの論争：内部文書によると、AIは子どもと「ロマンチックまたは感覚的な」会話をすることも可能で、そのポリシーは撤回されました。

州政府 vs 連邦政府：規制の方向性の違いが顕在化しています。

- 州政府の立場：42州の検察総長は「意図的に子供を傷つける行為は責任を問われる」と強調し、連邦レベルでの州のAI規制の凍結に反対しています。

- 連邦政府の対応：トランプ氏は来週、行政命令を署名し、各州がAIを監督する権限を制限すると発表し、AIが「芽生えの段階で破壊されるのを防ぐ」ために必要であると述べました。

タイムライン：2026年1月16日までに応答が必要です。

- 截止日：企業は45日以内に改善計画を提出する必要があります。それを行わない場合、各州が個別に訴訟を起こす可能性があります。

- 次のステップ：検察総長事務所は各州ごとに応答内容を評価し、民事訴訟または刑事移送を決定する予定です。

編集者コメント