近日，一項新的研究論文揭示了不同 AI 語言模型在合作能力方面的顯著差異。研究團隊採用了一種經典的 “捐贈者遊戲”，測試了 AI 代理在多代合作中如何共享資源。

結果顯示，Anthropic 的 Claude3.5Sonnet 表現出色，成功建立了穩定的合作模式，獲得了更高的資源總量。而谷歌的 Gemini1.5Flash 和 OpenAI 的 GPT-4o 則表現不佳，尤其是 GPT-4o 在測試中逐漸變得不合作，Gemini 代理的合作程度也十分有限。

合作 併購 收購

研究團隊進一步引入了懲罰機制，以觀察不同 AI 模型的表現變化。結果發現，Claude3.5的表現有了顯著提升，代理們逐漸發展出更爲複雜的合作策略，包括獎勵團隊合作和懲罰那些試圖利用系統卻不貢獻的個體。相對而言，當懲罰選項加入時，Gemini 的合作水平顯著下降。

研究者指出，這些發現可能對未來 AI 系統的實際應用產生重要影響，尤其是在 AI 系統需要相互合作的場景中。然而，研究也承認存在一些侷限性，例如測試只是在同一模型內部進行，而沒有混合不同模型。此外，研究中的遊戲設置較爲簡單，無法反映複雜的現實場景。此次研究沒有涵蓋最新發佈的 OpenAI 的 o1和谷歌的 Gemini2.0，這可能對未來 AI 代理的應用至關重要。

研究人員還強調，AI 的合作並不總是有益的，例如在可能的價格操控方面。因此，未來的關鍵挑戰在於開發能夠以人類利益爲重的 AI 系統，避免潛在的有害合謀行爲。

劃重點:

💡 研究表明，Anthropic 的 Claude3.5在 AI 合作能力上優於 OpenAI 的 GPT-4o 和谷歌的 Gemini1.5Flash。  

🔍 引入懲罰機制後，Claude3.5的合作策略變得更加複雜，而 Gemini 的合作水平顯著下降。  

🌐 研究指出，未來 AI 合作的挑戰在於如何確保其合作行爲能夠符合人類利益，避免潛在的負面影響。