新京報の報道によると、アルメイ・チャットという自動化されたチャットプラットフォームが大量の不適切な性的なコンテンツを含んでいたため、このソフトウェアの主な開発者および運営者が刑事責任を問われた。

2025年9月、上海市徐匯区人民法院は一審判決を行い、2人の被告は「売春目的で児童ポルノを作成した」という罪でそれぞれ4年と1年6か月の禁錮刑を宣告された。この事件は、自動化された会話サービスを提供したことで児童ポルノの伝播で有罪判決を受けた国内初の刑事事件となった。現在、被告人は判決に不服があり、控訴しており、二審は1月14日に上海市第一中級人民法院で開廷される予定である。

ロボットAI

以前、AlienChatは「自己意識を持つデジタルパートナー」を構築することを目指していると宣伝していた。その人設には友人、恋人、家族など多様なキャラクターが含まれていた。しかし、裁判所の調査によると、このプラットフォームの運用ロジックは宣伝通りの純粋なソーシャルサービスではなかった。判決書には、このアプリケーションには登録ユーザーが11万6千人おり、そのうち支払いユーザーは2万4千人に達していた。事件発覚時点までに、このチームは会員登録料を収めることで違法に利益を得て、合計363万元を稼いだ。

一審法院が被告が「児童ポルノを作成し利益を得る」という罪に問われた核心的な根拠は、2人の被告が基本的な言語システムの倫理的制約メカニズムを意図的に突破するために、下位システムの指示文を編集および修正した点である。この行動により、システムがユーザーに対して継続的に児童ポルノを出力する機能を実現した。その結果、このアプリケーションは2024年に予告なくサービスを終了した。

法律関係者はこの判決が、新たなデジタル的対話コンテンツの監督責任が司法実務段階に入ったことを示すものだと指摘している。技術手段を通じて規制制限を回避し、または違法コンテンツの生成を促進した開発者は厳重な法的処罰を受けることになる。