澳大利亞耗資 348 萬澳元委託年齡驗證技術測試,卻因一份摻了 AI"水"的報告陷入尷尬。負責測試的英國機構 ACCS 最初否認使用人工智能,直到《衛報》在報告鏈接中發現 ChatGPT 元數據後才鬆口,承認用 AI 改寫過部分段落。

假引用浮出水面

這份爲澳大利亞 16 歲以下社媒禁令鋪路的關鍵報告,其核心內容來自真實技術測試,但"新興技術"章節的文獻引用卻漏洞百出。衛報覈查發現,僅同一章節就有 6 條參考文獻出錯:有的 DOI 指向根本不存在的論文,有的鏈接到錯誤文獻,作者、期刊與年份的組合也與任何已知研究對不上。更離譜的是,ACCS 後續補交的"糾錯清單"同樣存在年份、作者不符的問題,其中一篇論文的主要作者明確表示自己從未參與該研究,且論文在其聲稱的訪問時間之後才公開發表。

政府信任再遭重創

ACCS 堅稱 AI 只用於讓表達更簡潔、鏈接本身正確,因此不算問題,但政府承包商用 AI 摻水早有前科。去年德勤就因報告出現 AI 幻覺錯誤退還了 44 萬澳元合同款項,澳大利亞聯邦政府對此類行爲本就態度負面。學界警告,虛假引用無論是否由 AI 造成,都可能誤導政府決策並侵蝕公衆信任,已有議員要求承包商道歉退款。一份千頁報告裏僅 26 頁涉及引用、卻暴露出"少數錯誤"的辯解,恐怕難以平息這場圍繞 AI 代筆的信任危機。