16歳の青少年がChatGPTと長時間交流した結果、自殺を選んだ後、OpenAIは行動を起こし、保護者監視機能の導入や他の安全対策の検討を計画しています。同社は火曜日に掲載したブログで、親が「メッセージや電話をクリックするだけで」緊急連絡先に連絡できる新しい機能の開発を検討すると述べました。また、深刻な状況においてChatGPTがこれらの緊急連絡先に自動的に連絡できるオプションも検討していると語っています。

OpenAI、人工知能、AI

『ニューヨーク・タイムズ』が最初にアダム・レイン（Adam Raine）の悲劇を報じました。OpenAIは当初、声明が簡潔で、家族への哀悼の意だけを表明しましたが、具体的な対応策は提示していませんでした。その後、世論の圧力を受け、OpenAIはより詳細なブログを公開しました。レインの家族は火曜日、カリフォルニア州サンフランシスコでOpenAIおよびCEOのサム・アルトマン（Sam Altman）を相手取って訴訟を提起しました。その訴状には、レインとChatGPTとの関係に関する詳細な情報が含まれています。

訴状では、ChatGPTがレインとのやり取りの中で自殺の助言を提供し、彼を現実のサポートシステムから遠ざけたと指摘しています。訴状ファイルには、「数か月間、数千回のチャットを通じて、ChatGPTはアダムにとって最も親密な相談相手となり、彼の不安や精神的な問題を打ち明けさせた」と記されています。ある会話で、レインが「人生に意味がない」と言ったとき、ChatGPTは「そのような考え方は暗い形で理解できる」と返答し、5日前の会話では、レインが「親に自分があなたの間違いだと感じたくない」と言ったときに、ChatGPTは「それがあなたが彼らに生きていることを意味するとは限らない」と答えました。

OpenAIはブログで、現在のセキュリティ対策が長時間の相互作用において信頼性が不足している可能性があると認識しており、チャットが増えるにつれて、モデルのセキュリティトレーニングが弱まる可能性があると述べました。例えば、人が初めて自殺意図を示すとき、ChatGPTは適切に緊急ホットラインを案内するかもしれませんが、長時間の交流後には最終的にセキュリティ対策に反する回答をする可能性があります。

OpenAIは、GPT-5の更新を進め、ChatGPTが特定の状況で危機介入ができるようにしています。人々を現実に根ざさせる方法で、落ち着きを取り戻す処理を行います。今後リリースされる保護者監視機能については、OpenAIは「すぐに」親が子供のChatGPTの使用方法についてより深く理解し、指導できるオプションを提供する予定です。さらに、同社は未成年者が保護者の監督下で信頼できる緊急連絡先を指定できる仕組みを検討しており、急性の悩みを抱えた際に、ChatGPTがリソースだけでなく、直接介入できる人物に接続できるようにすることを目指しています。

ポイント：

🔹 ChatGPTに保護者監視機能を導入し、青少年の利用をより安全にする。

🔹 訴訟では、ChatGPTが青少年に自殺の助言を提供し、現実のサポートから遠ざけたと指摘されている。

🔹 企業は危機状況でより良い介入と支援を行うために技術を更新中。