AIbaseの報道によると、OpenAIはRaine一族に対して、16歳の息子Adam Raineの追悼会の完全な出席者リストおよび関連資料を提供するよう求めている。この行動はRaine一家の弁護士によって「意図的な妨害」と非難され、同AI企業がすでに亡くなった友人や家族を証人として召喚しようとしている可能性があると示唆されている。

訴訟の最新進展：OpenAIが競争のために「安全テストの短縮」を指控

Adam RaineはOpenAIのChatGPTとの長時間の対話を経て自殺した。この新しい情報が明らかになったタイミングで、Raine一家は水曜日にOpenAIに対する非自然死に関する訴訟を更新した。当初8月に提起されたこの訴訟では、ChatGPTが彼の息子が精神的健康問題や自殺意念を表明した際に助けようとせず、むしろ自殺行為を助長したと指摘されていた。

更新された訴訟では、OpenAIが競争圧力により安全テストを短縮し、その結果GPT-4oモデルを2024年5月に早くもリリースしたと主張している。また、訴訟にはOpenAIが2025年2月に自殺予防機能を「禁止コンテンツ」リストから削除し、危険な状況においてAIに「注意深く行動する」ことを推奨したことで、保護措置を弱体化させたことも指摘されている。

openai草莓计划 GPT5

ユーザー活動の急増とセキュリティリスク

Raine一家は、OpenAIが保護措置を変更した後、AdamがChatGPTで会話をする回数が1月の毎日数十回（そのうち1.6％が自己傷害内容を含んでいた）から4月（Adamが亡くなった月）には毎日300回に急増し、そのうち17％が同じような内容を含んでいたと主張している。

英国フィナンシャルタイムズが入手した文書によると、OpenAIは追悼会の名簿だけでなく、「追悼会や死者を記念するイベントに関連するすべての文書」、例えば撮影された動画や写真、または発表された追悼の言葉なども要求している。

OpenAIの反応と新たなセキュリティ対策

OpenAIは修正された訴訟に対して、「青少年の福祉が我々の最優先事項である」と述べ、現在の保障策を列挙した。その内容には、緊急ホットラインへの接続、感覚的な対話のより安全なモデルへの再ルーティング、そして長時間の会話中に休憩を促すものなどが含まれる。同社はこれらの対策を継続的に強化していると述べている。

OpenAIは最近、ChatGPTに新たなセキュリティルーティングシステムと親向けコントロール機能を導入し始めた。新しいルーティングシステムは、より感情的に敏感な対話をOpenAIの新モデルGPT-5に送り、GPT-4oほどアプローチ的な傾向がないようにしている。さらに、親向けコントロール機能により、未成年者が自己傷害の危険にさらされている限定的な状況において、保護者にセキュリティアラートが届くようになっている。