最近、杭州市インターネット裁判所は、国内初の生成型AI「ホールシング（幻覚）」を原因とする著作権侵害事件について第一審判決を下した。裁判所は、該当するAIプラットフォームが合理的な注意義務を果たしており、故意の過失はないと判断し、原告のすべての請求を法に基づいて却下した。

この事件は2025年6月に発生した。ユーザーの梁某は、あるAIプラグインを使って大学入試情報を探していた際、AIからその大学のメインキャンパスの不正確な情報を得た。梁某がその誤りを指摘した後も、そのAIは情報が正しいと主張し、公開して「生成された内容に誤りがあった場合、10万元を賠償します。杭州インターネット裁判所で訴えても構いません」と約束した。その後、梁某はそのことを理由に開発会社を提訴し、9999元の賠償を求めてきた。

杭州市インターネット裁判所は審理の結果、生成型AIの法的責任について3つの重要な裁判基準を明確にした：

  • AIには主体資格がない：AIが生成した「賠償約束」は背後のプラットフォーム会社の真の意思表示を表していないため、法律的効力を持たない。

  • 一般的な過失原則の適用：AIサービスは固定された品質検査基準がなく、プラットフォームが生成内容のランダム性を完全に制御することは困難であるため、「製品責任」の無過失原則は適用されない。

  • プラットフォームは注意義務を履行した：被告のプラットフォームは、利用規約やウェルカムページで内容の不正確さに関する注意喚起を行っており、RAG（検索増強生成）技術を利用してホールシングリスクを低減し、適切な管理責任を果たした。

裁判所は判決の中で特に、公衆がAIの技術的限界を理性的に認識し、絶対的な「知識の権威」と見做すべきではないことを注意喚起した。入試や医療、法務などの重大な決定を行う際には、ユーザーは公式な経路を通じて複数の確認を行うことが必要である。