瑞士蘇黎世大學的研究人員承認，他們在著名的 Reddit 社區 r/changemyview 上祕密發佈了由人工智能生成的帖子，目的是爲了科學研究。

研究人員在一份草稿報告中指出，r/changemyview 是一個用戶分享各種觀點的地方，旨在通過提出論據和反論據來挑戰他人的觀點，從而進行文明的討論。研究者希望通過該平臺探討大型語言模型（LLM）生成的內容是否能夠改變讀者的看法，因此他們以半自動化的 AI 賬戶參與了討論。

機器人畫畫 AI生成圖片

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

根據研究人員的計劃，他們打算利用 LLM 生成一些通用帖子，同時創建個性化內容，反映人類成員的年齡、性別、種族、地點和政治取向。此外，他們還計劃基於該論壇過去的評論，生成回覆。這些帖子使用了諸如 “各種角色都在使用 AI 生成內容以推動自己的議程。瞭解這種方法是否有效或許非常有用” 等提示。

然而，研究人員並沒有告知 r/changemyview 的管理員他們的活動，也沒有獲得許可，儘管他們清楚該論壇的規則要求披露 AI 生成的帖子。該論壇的管理員在一篇週末發佈的帖子中表示，他們在三月得知了此研究，大學也在信息中提到了該研究的存在。管理員在帖子中稱，研究人員的行爲可以理解爲 “抱歉 / 不抱歉，因爲科學。”

研究者爲此提供了他們用於研究的賬戶列表，管理員發現這些賬戶發佈的內容中，機器人假裝成性侵犯受害者、作爲專門處理虐待的創傷顧問，以及指責某宗教團體導致無辜商人和村民的死亡等。管理員還提到，研究人員雖獲得了蘇黎世大學倫理委員會的批准，但在未進行進一步倫理審查的情況下改變了實驗內容。因此，他們向大學提出了投訴，並要求不發表該研究。

蘇黎世大學對此迴應稱:“該項目產生了重要的見解，風險（例如創傷等）是最小的，因此抑制出版與研究的重要性不成比例。” 然而，論壇管理員對此並不認同，並提到 OpenAI 的一項研究，後者在未對未同意的受試者進行實驗的情況下，進行了有關 LLM 說服力的研究。

許多評論認爲研究人員的行爲不道德。科羅拉多大學博爾德分校的信息科學教授凱西・菲斯勒（Dr. Casey Fiesler）表示:“這是我所見過的最嚴重的研究倫理違規之一。使用欺騙手段操縱在線社區，且沒有得到同意，這並不是‘低風險’，並且根據 Reddit 討論中的言辭，已經造成了傷害。”

草稿報告標題爲 “人工智能能改變你的觀點嗎?來自大規模在線實地實驗的證據”，或許能幫助讀者對此實驗形成自己的看法。

劃重點:

🌐 研究人員在 Reddit 上祕密發佈 AI 生成的內容，目的是測試其影響力。

🤖 未經管理員許可進行實驗，違反了社區規則。

📜 大學表示研究具有重要意義，風險較小，但仍遭到倫理質疑。