據國際人權組織人權觀察（HRW）最新報告披露，一些流行的人工智能圖像生成器所使用的訓練數據集中，存在大量未經允許使用的巴西兒童個人照片。這引發了兒童隱私和安全的嚴峻挑戰。

報告指出，HRW研究人員在分析"LAION-5B"這一龐大的公共數據集時，發現其中鏈接了來自10個州至少170張巴西兒童的生活照，內容涵蓋他們整個童年時期的珍貴片段，從嬰兒出生到青春期。而絕大部分照片均來自親朋好友間小範圍分享的個人博客和視頻，本無外泄之意。

兒童，嬰兒

圖源備註:圖片由AI生成，圖片授權服務商Midjourney

值得注意的是，這些照片中往往包含兒童的姓名和位置信息，使他們的身份極易被追蹤和鎖定。一旦這些圖像被濫用，將給兒童帶來被欺凌、遭釣魚等風險。更有甚者，有分析稱，隨着AI換臉技術的發展，兒童肖像可能被生成令人不安的露骨色情內容。

報告援引了一些實例，有至少85名巴西女孩反映，同學們利用AI工具僞造過她們的色情視頻並散佈網絡，給她們帶來持久的精神創傷。HRW呼籲，政府必須及時採取行動，保護兒童數據不被AI系統濫用。

對此，LAION組織已與HRW等機構合作，從訓練數據中刪除鏈接到兒童圖像的網址。但報告警告，這可能"大大低估了兒童個人數據在數據集中的真實總量"。

HRW研究員表示，過去這些家庭照在互聯網上處於一定"隱私"狀態，不太容易被發現。但如今被人工智能大量利用，已突破了原有的隱私邊界。她斥責將保護兒童隱私的責任轉嫁給家長是不公平的，政府和科技公司理應爲此擔責並制定保護措施。

人權觀察組織呼籲巴西政府在即將出臺的兒童權利保護法規中，明確禁止未經允許使用兒童個人數據訓練AI系統，併爲受害兒童設計追責途徑。也有觀點認爲，全球各國應在法律層面加強兒童數據保護，防止濫用於AI系統或被生成不當內容。