著名的開放學術預印本存儲庫arXiv近日出臺嚴厲新規,宣佈將對在科研論文中濫用人工智能(AI)的行爲進行嚴厲打擊。此舉的核心目的並非禁止技術輔助,而是爲了遏制部分學者因過度依賴AI生成內容且未仔細覈查,導致論文可信度嚴重下滑的亂象。

目前,arXiv正從康奈爾大學運營的網站轉型爲獨立的非營利組織。轉型後,該平臺將能籌集更多資金,以專門應對和解決近年來愈發嚴重的AI低質量論文氾濫問題,維護計算機科學和數學等領域的學術傳播質量。
嚴厲懲戒幻覺與作弊,違規作者最高禁發一年
根據arXiv公佈的具體懲罰措施,一旦發現論文中存在確鑿的AI幻覺內容,或者作者在論文中暗中加入AI提示詞以圖獲得更高評價,相關作者將面臨一年內不得發佈新論文的重罰。
對於被封禁期滿一年的作者,其懲罰並未完全結束。一年後如果他們想在arXiv上重新發布新論文,該論文必須先獲得信譽良好的同行評審期刊接受,以此作爲額外的學術信用擔保。
並非全面禁用人工智能,作者須對內容負全責
arXiv官方強調,新規的出臺並不意味着完全禁止研究人員使用人工智能進行輔助編寫。平臺依然允許AI作爲輔助工具存在,但大前提是論文作者必須對最終呈現的所有內容承擔全部責任。
這意味着,如果作者直接從AI工具中複製粘貼不當語言、抄襲內容、偏見錯誤或誤導性引用,都將面臨處罰。爲確保公平,被認定違規的作者擁有上訴權利,arXiv承諾只在證據確鑿的情況下才會實施封禁。
