最近、抖音プラットフォームはAI技術を用いて性的・低俗なコンテンツを生成する違法行為に対して特別な対策を実施しました。今年に入り、プラットフォームは合計で4万2000件以上の違法コンテンツを処理し、1万4000個のアカウントに対してコメント禁止やアカウント停止などの段階的な処罰を講じ、ネットワーク上の黒産業を効果的に抑止しました。

今回の対策は、AIを用いて架空の人間関係を作り出し、性的な意味を持つ動画を投稿して第三者のアプリに誘導する黒産業グループを主な対象としています。調査によると、一部の違法者らはAIによって生成された美女の画像をライブ配信のカバー写真やホーム画面の収蔵に使用し、ユーザーを第三者的な性的アプリに誘導していました。現在、339個の関連アカウントは無期限にライブ配信権を没収され、4人からなる関与したグループは情報ネットワークの不法利用に関する疑いで正式に刑事拘留されています。

抖音は、AIによって生成された露出度の高い「エッジギリギリ」のコンテンツがプラットフォームの規約および関連法律に違反していると強調しています。現在、8421個の継続的にこのようなコンテンツを投稿していたアカウントがブロックまたは権限低下処分され、関連する違法情報は公安機関に移管されています。

今後、抖音は技術手段を継続してアップグレードし、AIによって生成される悪質なコンテンツの識別および遮断能力を高めていきます。プラットフォームはユーザーに呼びかけ、低俗なコンテンツに対抗し、明るく清潔なネットワーク空間を維持することを心がけてください。