近期，瑞士蘇黎世大學的一項實驗在 Reddit 論壇引起了軒然大波。研究團隊悄悄在 r/ChangeMyView（CMV）這個社區中發佈了由人工智能生成的評論，旨在研究大型語言模型(LLM)對改變觀點的影響。然而，這一行爲遭到了廣泛的批評，主要原因是未獲得參與者的知情同意。

CMV 是一個鼓勵用戶發表觀點、邀請不同意見進行討論的社羣，社區規則嚴格，旨在維護討論的文明性。週六早晨，CMV 的版主們發佈了一則長文，透露了這項未經授權的實驗。研究人員使用多個賬戶發佈了 AI 生成的評論，並表示這種做法是爲了測試 AI 在倫理場景中的說服力。他們承認，沒有告知社區用戶這些評論是由 AI 生成的，認爲如果提前告知，會影響研究的可行性。

reddit，官方logo截圖

研究人員的做法引發了衆多批評，CMV 版主指出，他們使用的某些賬戶聲稱是性侵受害者、專門諮詢創傷的顧問，甚至是反對 “黑人的命也是命” 運動的黑人男性，這無疑是對社區用戶的嚴重誤導。所有與該實驗相關的賬戶目前已被封禁。

多位學者對此表示強烈反對，科羅拉多大學的信息科學家凱西・菲斯勒在社交媒體上指出:“這種未經同意的操控行爲是對研究倫理的嚴重侵犯。” 康奈爾大學公民與技術實驗室的研究主任薩拉・吉爾伯特則擔憂這項研究對 CMV 社區造成的損害，認爲此後人們會懷疑自己是否在與真實用戶交流，而這直接影響了該社區的核心使命。

CMV 的版主還向蘇黎世大學的倫理委員會提出了投訴。大學方面表示，研究的確違規，但認爲該項目產生的重要見解仍值得發表，並指出其風險較小。對此，版主表示，他們願意協助研究者，但希望研究者在開展實驗前能夠先進行溝通，而不是採取操控的方式。

這一事件引發了關於 AI 倫理和在線社區信任的重要討論，顯示出在科技日益發展的今天，如何平衡研究的推進與倫理的堅守依然是個亟待解決的問題。