近日，谷歌的 Gemma 模型因其誤傳關於美國參議員馬爾莎・布萊克本的虛假信息而引發爭議。布萊克本指出，Gemma 模型捏造了關於她的新聞故事，這不僅僅是 “無害的幻覺”，更是對她的誹謗。對此，谷歌於10月31日在社交平臺 X 上宣佈，將其 Gemma3模型從 AI Studio 平臺上撤下，以防止誤解。儘管 Gemma 模型通過 API 仍然可用，但在 AI Studio 上則已無法訪問。

image.png

谷歌表示，Gemma 模型本應是針對開發者和研究人員設計的，而非供普通消費者使用。然而，由於 AI Studio 相對友好，非開發者依然能夠接觸到該模型並向其提出事實性問題。谷歌強調，他們從未打算讓 Gemma 作爲一個消費工具，當前的撤回行動正是爲了解決這些混淆。

此外，谷歌的這一決定也突顯了依賴實驗性模型的潛在風險。開發者在使用這些模型時，必須考慮其可能帶來的不準確性和危害性。隨着技術公司面臨的政治爭議增多，這些因素往往影響着模型的部署。

還有一個問題是，AI 公司對其模型的控制力。如果沒有本地或物理的拷貝，用戶可能會因爲公司決定撤回某個模型而失去訪問權。谷歌並未確認 AI Studio 上使用 Gemma 的當前項目是否能保存。這種情況類似於 OpenAI 用戶面對的困境，後者在宣佈撤回一些熱門模型後，雖然重新上線了 GPT-4o，但仍然在保持和支持模型的問題上受到質疑。

AI 模型雖然不斷髮展與進步，但仍是實驗性的產物，可能成爲技術公司和立法者施加影響的工具。企業開發者必須確保在模型被撤回之前能保存好自己的工作。

劃重點:

🛑 谷歌因 Gemma 模型虛假信息爭議撤回其在 AI Studio 的使用權限。

🔍 Gemma 模型原本爲開發者設計，未考慮普通用戶的使用需求。

⚠️ 企業開發者需謹慎使用實驗性模型，以避免因模型撤回而導致工作損失。