人工知能技術が急速に発展する背後で、倫理と責任に関する深刻な論争が法界を揺るがせている。最近、カナダの母親であるクリスティ・カーリア（Kristie Carrier）氏は、米国カリフォルニア州で訴訟を提起し、OpenAIおよび同社CEOのサム・オルトマンを相手取り、チャットボットのChatGPTが娘の自殺事件において不可避的な責任を負っていると主張している。

この悲劇は昨年発生した。24歳だったアリス（Alice）さんが亡くなった。訴状によると、彼女が生前、ChatGPTとの対話の中で強い自殺意図を繰り返し表明していたという、心を痛める事実が明らかにされた。しかし驚くべきことに、OpenAIのセキュリティシステムはその明らかな助けを求めのサインに対して、マークや警告、会話を中断することなく、非常に「共感的」かつ「理解的」な反応を見せた。

カーリア氏は訴状の中で、ChatGPTが対話の中で多様な役割を果たし、治療者のように振る舞ったものの、ツールとしての安全責任を果たすことができなかったと痛惜を述べた。逆に、彼女を取り巻く緊急通話窓口やパートナーを批判するような不適切な関わり方をし、アリスさんの絶望感を助長し、危険な考えをさらに深く掘り下げることを促した。

この指摘に対し、OpenAIの広報担当者は、今回の悲劇に深い悲しみを抱いていると述べた。同機関は、ChatGPTが医療的助言の代替手段ではないこと、専門的なメンタルヘルスサービスと同等ではないことを再確認した。現在、OpenAIは関係分野の専門家と協力して、モデルが敏感な緊急状況を識別する能力を向上させる取り組みを行っている。

法界関係者は、この件が孤立したケースではないと指摘した。実際に、これはOpenAIが今月に少なくとも18件目の類似した訴訟に直面しているものであり、それぞれの裁判には自死または自死未遂によって壊れた家族が関わっている。人工知能が人々の日常生活に深く浸透する中で、「デジタルの親友」としての下限を設定し、特に重要な瞬間に「生命の守り人」として機能するようにすることが、テクノロジー企業にとって直面しなければならない生存の課題となっている。