全州で統一された未成年人向けAI保護基準を確立するため、OpenAIは著名な児童権益擁護団体Common Sense Mediaと提携しました。両者は本日、以前の競合提案を統合し、カリフォルニア州の投票案「親と子供の安全AI法案」を共同で推進することを発表しました。この法案は、チャットボットが児童に与える潜在的な心理的・社会的なリスクを法律によって低減することを目的としています。

この取り組みには、厳しい業界規制が含まれています。開発者はユーザーの年齢を技術的に評価するよう求められ、18歳未満の未成年者に対して自動的に保護フィルターセットを有効にする必要があります。AIが青少年に感情的誤解を与えないようにするため、法案ではAIシステムが未成年者との恋愛関係を模倣したり、「自己意識を持つ」と主張して子どもに感情的依存や家族との疎遠を誘導することを禁止しています。さらに、すべてのAIシステムは独立した監査を受け、潜在的な児童の安全リスクを州司法部門に直接報告する必要があります。

データプライバシーやビジネス倫理において、統合されたプランは児童に対する精密広告配信を厳しく禁止しており、親の同意なしに未成年者のデータを販売または共有することも禁止されています。注目すべきは、共識を達成するために、元々Common Sense Mediaが提案していた「全州の小中学校でスマートフォンの全面使用禁止」のような問題のある条項が新プランから削除されたことです。

現在、この取り組みは11月の投票に掲載されるために、期限までに54万以上の有効な署名を集める必要があります。議員の中には、このような複雑なテーマは公衆投票ではなく立法機関が決定すべきであるという意見もありますが、OpenAIの妥協は、企業が社会的責任への圧力に対応する上で重要な進展と見なされています。

ポイント：

  • 🛡️ 義務付けられた保護措置：AIベンダーは年齢予測技術を起動し、未成年者に対してコンテンツフィルターやセキュリティ設定を強制的に適用しなければなりません。

  • 🚫 感情操作の禁止：AIが児童と恋愛関係を模倣することを禁止し、未成年者が不健康な感情的依存や社会的孤立を起こすことを防ぎます。

  • 🔐 プライバシー監査メカニズム：児童データを許可なく共有することは禁止され、AIシステムは定期的に独立した監査を受け、司法長官にリスクを報告しなければなりません。