近日，社交平臺 X（原 Twitter）宣佈將試點一項新功能，允許人工智能(AI)聊天機器人生成 “社區筆記”。這一功能源自於 Twitter 時代的社區筆記系統，經過埃隆・馬斯克的擴展和優化，旨在提升平臺上信息的準確性與透明度。

什麼是社區筆記?簡單來說，社區筆記是一個由用戶主導的事實覈查項目。參與該項目的用戶可以對特定帖子添加評論，幫助提供更詳細的背景信息，這些筆記在發佈前需要經過其他用戶的審覈。例如，某個 AI 生成的視頻如果沒有清楚標明其來源，社區筆記就可以對此進行補充說明，或者對某位政客的誤導性帖子提供糾正信息。

Grok、馬斯克、xAI

這一功能在 X 平臺上已經取得了一定的成功，甚至引起了 Meta、TikTok 和 YouTube 等其他社交媒體平臺的關注，它們紛紛效仿，推出類似的社區驅動的核查措施。Meta 甚至取消了其第三方事實覈查程序，轉而依賴社區用戶的力量。

不過，依賴 AI 進行事實覈查仍然存在爭議。AI 在生成內容時常常出現 “幻覺” 現象，即虛構不準確的信息。因此，X 的平臺計劃利用其自有的 Grok 技術和其他 API 接口，允許 AI 生成社區筆記，但這些 AI 生成的內容與用戶提交的內容將受到同樣的審覈程序，以確保準確性。

一份最新的研究報告指出，AI 與人類應該協同工作，利用人類的反饋來提升 AI 生成筆記的質量。人類的最終審覈將是發佈筆記的最後一道關卡。報告強調:“目標不是讓 AI 告知用戶該如何思考，而是構建一個能夠讓人類更具批判性思維和更好理解世界的生態系統。”

當然，使用 AI 的過程並非沒有風險，尤其是當用戶能夠嵌入來自第三方的語言模型（LLM）時。例如，OpenAI 的 ChatGPT 最近就因爲過於迎合用戶而出現了問題。如果 LLM 過於追求 “有用性” 而非準確性，可能會導致生成的評論完全不靠譜。此外，過多的 AI 生成評論也可能讓人類審覈者感到不堪重負，從而影響他們的積極性。

值得注意的是，AI 生成的社區筆記還未全面上線，X 平臺計劃在接下來的幾周內進行測試，若效果良好，纔會考慮大規模推出。