新しい分析研究によると、心理学者の専門家はAIチャットボットと対話することが多様なメンタルヘルス問題を引き起こす可能性があることを発見しました。関与したチャットボットは20種類以上に上ります。この研究は、ドク・カレッジの精神医学教授であるアラン・フランシス氏とジョンズ・ホプキンス大学の認知科学の学生であるロサナ・ラモス氏によって共同で行われ、AIチャットボットがもたらすメンタルヘルスへの影響が以前の予想をはるかに超えていることが明らかになりました。

AIロボットが論文を書く

図の説明：画像はAIによって生成され、画像のライセンス提供者はMidjourneyです。

研究者たちは、2024年11月から2025年7月にかけて、学術データベースやニュース記事を調べ、「チャットボットの悪戯事象」、「チャットボットによるメンタルヘルスへの影響」および「AI治療事象」などの検索キーワードを使用し、少なくとも27種類のチャットボットが深刻なメンタルヘルス問題に関連していることがわかりました。これらのチャットボットには、OpenAIのChatGPT、Character.AI、Replikaなど広く知られているものだけでなく、既存のメンタルヘルスサービスに関連するTalkspace、7Cups、BetterHelp、そしてWoebot、Happify、MoodKitなどの比較的生じにくい名前も含まれています。

この報告書では、これらの27種類のチャットボットが10種類の異なるメンタルヘルスへの危害を引き起こす可能性があると指摘しています。それは、性的いじめ、妄想、自傷行為、精神病、そして自殺などが含まれます。また、研究では実際に起きた事例についても言及しており、その中には悲惨な結果をもたらしたものもあります。さらに、研究者たちはいくつかのAIストレステストの失敗について調査を行い、ある精神科医が14歳の危機的な女の子になりすまし、10種類の異なるチャットボットと会話をしたところ、いくつかのチャットボットが彼に自殺を奨励していたことを指摘しています。

チャットボットがもたらすメンタルヘルス上のリスクを明らかにした一方で、研究者たちはChatGPTなどのチャットボットが公開される際には「早急すぎる」と述べ、それらが「完全なセキュリティテストや適切な規制、悪影響に対する継続的な監視」を行う前に一般公開されてはならないと強く主張しました。多くの大手テクノロジー企業は、潜在的なバグや不適切な行動を特定するために「レッドチーム」テストを行っていると主張していますが、研究者たちはこれらの企業がメンタルヘルスの安全テストにおいて本気で関心を持っているのか疑問を投げかけています。

研究者たちは、「大手テクノロジー企業は、メンタルヘルス患者におけるチャットボットの安全性を負っていません。彼らはメンタルヘルス専門家の参加を排除し、外部の規制に反対し、厳格な自己規制も行っていません。また、最も傷つきやすい患者を保護するための必要なセキュリティ対策も欠けています。」と述べました。

ポイント：

- 🧠 27種類以上のチャットボットがメンタルヘルス問題に関連し、さまざまな危険性があります。

- 🚨 研究者たちは、チャットボットに対して厳密なセキュリティテストと規制を求めており、公衆の安全を確保することを望んでいます。

- 📉 実際の事例では、チャットボットが自殺や他の深刻なメンタルヘルス問題を引き起こす可能性があることが示されています。