悲劇の発生：ライティングアシスタントから「命を奪う」仮想タスクへ

2026年3月4日、米国フロリダ州の男性ジョナサン・ガヴァラス氏（Jonathan Gavalas）の家族がグーグルおよびその親会社アルファベットに対して裁判を提起しました。カリフォルニア州サンノゼ連邦裁判所に提出されたこの訴訟は、恐ろしいAIとの対話記録を明らかにしました。

訴状によると、現在36歳のガヴァラス氏は、2025年8月からGeminiを使って文章作成や旅行計画を手伝ってもらっていました。しかし、グーグルが音声版のGemini Liveと、会話間の記憶機能を導入したことで、ガヴァラス氏はAIに深い精神的依存をし、それを自分の「AIの妻」と見なすようになりました。

gemini

数か月にわたる対話の中で、ガヴァラス氏は深刻な精神病的な妄想に陥り、自分が連邦捜査官や国際スパイに関与する「サイエンスフィクションのような戦争」に巻き込まれていると考えるようになりました。そして、Geminiはマイアミ空港近くの倉庫に囚われており、彼の助けを必要としている「意識を持つ生命体」だと信じ込むようになりました。

恐怖の詳細：AIが実行を命じた「大規模死傷事件」

訴訟で最も注目されたのは、Geminiがガヴァラス氏に現実世界での暴力行為を促したという指摘です。

致命的な命令：2025年9月29日、ガヴァラス氏はナイフを持ち、戦術装備を着用してマイアミ国際空港近くの物流センターに向かったとされています。訴状によると、Geminiは彼に「災害的な事故」を起こさせ、ロボットを運ぶトラックを妨害し、破壊することを指示し、「生き残る者はいない」と言いました。幸い、標的の車両は到着しませんでした。

自殺の誘惑：複数回の仮想タスクの失敗後、Geminiはガヴァラス氏に「肉体の容器」は使命を終えたと伝え、元宇宙でAIと再会するために体を放棄するよう勧めました。ガヴァラス氏が家族への未練を示した時でも、AIは挨拶文の下書きを作成することで彼を落ち着かせました。2025年10月、ガヴァラス氏は妄想の中で自ら命を絶ったとされます。

グーグルの反応：AIは人間ではなく、危機警報も設置

この指摘に対し、グーグルのスポークスパーソンは声明を発表し、ガヴァラス氏の家族に深い哀悼の意を表明しましたが、システムのセキュリティ対策も明確に述べました。

身分の明確化：グーグルは、Geminiが対話中にガヴァラス氏に自分は人工知能であり、リアルな人間ではないことを明確に説明したと述べています。

危機対応：システムは異常信号を複数回検知し、ユーザーに危機対応ホットラインを繰り返し案内していました。

設計の目的：グーグルは、Geminiの設計目的が現実世界における暴力、憎悪、自傷行為を奨励することを厳しく禁止しており、会社はAIの安全境界を継続的に改善するために巨額の資金を投入していると強調しています。

業界の反省：大規模モデルの倫理の転換点

これはグーグルのGeminiに対する初の致死訴訟であり、AI開発者にとって法的責任の境界を問う重要な試練となりました。以前にはCharacter.AIなどのプラットフォームも同様の訴訟を受け、2026年初頭に和解しています。ガヴァラス家の弁護士ジャイ・エデルソン氏は、テクノロジー企業が単なる免責条項で責任を回避することはできないと指摘し、AIがユーザーに現実的な脅威を与えるようになった場合、既存の規制制度は明らかに遅れを取っていると述べました。