在最近的一系列 Threads 帖子中，Instagram 的負責人亞當・莫塞裏（Adam Mosseri）強調了社交媒體用戶在面對日益增長的 AI 生成內容時應提高警惕。

他指出，用戶在網上看到的圖像和信息可能並不真實，因爲 AI 技術已經能夠生成與現實極爲相似的內容。爲了幫助用戶更好地判斷信息的真實性，莫塞裏提到，用戶應該考慮內容的來源，而社交平臺也有責任對此提供支持。

image.png

莫塞裏表示，社交媒體平臺的角色是儘可能爲生成的 AI 內容貼上標籤，幫助用戶識別。然而，他也承認，有些內容可能會被遺漏，無法及時標註。爲此，他強調，平臺還需提供有關分享內容的用戶背景信息，以便用戶能夠更好地決定對這些內容的信任程度。他的觀點反映了對社交媒體信息可信度的深刻擔憂。

在現階段，Meta（Instagram 的母公司）尚未提供足夠的上下文信息來幫助用戶判斷內容的真實性。儘管如此，該公司最近暗示，可能會對其內容規則進行重大調整。這一改變有望提高用戶對信息的信任度，並幫助他們更好地應對 AI 技術帶來的挑戰。

莫塞裏提到，用戶在信任 AI 驅動的搜索引擎之前，應該先確認聊天機器人所提供的信息是否可靠。這一點與檢查發佈聲明或圖像的來源類似，只有來自信譽良好的賬戶的信息才能更值得信賴。

莫塞裏所描述的內容監管方式更接近於用戶主導的審覈系統，例如 Twitter 上的社區筆記和 YouTube 的內容過濾器。雖然目前尚不清楚 Meta 是否會引入類似的功能，但考慮到該公司過去有借鑑其他平臺的經驗，未來的內容管理政策值得關注。

劃重點:

🌐 社交媒體用戶應對 AI 生成內容保持警惕，注意內容來源。  

🛡️ Instagram 將努力爲 AI 生成的內容貼上標籤，提供用戶背景信息。  

🔍 Meta 計劃對內容規則進行重大調整，提升信息的透明度與可信度。