在澳大利亞維多利亞州兒童保護機構近日被迫下達禁令，要求工作人員不得再使用生成式人工智能服務。這一決定是因爲一名工作人員在使用 ChatGPT 撰寫保護申請報告時，輸入了大量個人信息，包括一名高風險兒童的姓名。這個事件引起了維多利亞州信息專員辦公室（Ovic）的關注，他們在去年12月接到報告，隨後對此展開了調查。

禁止 停止 禁令

調查結果顯示，這名員工提交的報告涉及一名年幼兒童，兒童的父母被控性犯罪，儘管這些指控並涉及到孩子本人。Ovic 在調查報告中指出，報告中多處用語顯然是 ChatGPT 生成，且存在不符合兒童保護指南的語言和句子結構。例如，報告中將一名兒童的玩偶 —— 據稱是父親用於性目的的玩具，形容爲父母 “支持兒童發展需求的年齡適宜具”，這大大淡化了兒童所面臨的潛在。

Ovic 的報告還指出，輸入個人信息到 ChatGPT 中屬於對部門信息的未經授權披露。這位員工承認自己使用 ChatGPT 是爲了節省時間並提高工作效率，但否認輸入了個人信息調查還發現，這名員工可能在100個案件中使用了 ChatGPT，而在整個部門，從2023年7月到12月，幾乎有900名員工訪問了 ChatGPT 網站，佔員工總數的近13%。

爲此，Ovic 對部門發佈了一系列指令，包括封鎖多個生成式人工智能網站的 IP 和域名，ChatGPT、Meta AI、Gemini 和 Copilot 都在封鎖範圍之內，禁令將持續兩年。部門方面表示接受調查結果，並將積極落實相關指令，且已不再僱傭該名員工。Ovic 對未來在兒童保護領域使用生成式人工智能持開放態度，但強調必須確保更高的安全標準。

劃重點:

✅ 一名維州兒童保護工作人員在使用 ChatGPT 時輸入個人信息，導致機構下令禁止使用生成式 AI。  

🚫 調查發現，該工作人員的報告中存在多處不符合兒童保護標準的語言和不準確的信息。  

🔒 Ovic 要求部門封鎖多個 AI 網站，禁令將持續兩年，確保兒童信息安全。