價值190億美元的AI初創公司Anthropic的CEO Dario Amodei在週三舊金山AI大會上，就人工智能發展風險問題發表了引人深思的見解。雖然他認爲目前的AI模型並不會給人類帶來即刻威脅，但他對一些同行過於輕視AI風險的論調提出了尖銳批評。

針對著名風險投資人Marc Andreessen的觀點，Amodei展開了獨到的分析。Andreessen曾在今年三月發推文稱"限制AI就等同於限制數學、軟件和芯片"，並將AI簡單歸結爲"數學"。對此，Amodei指出這種邏輯存在根本性缺陷。"如果用這種邏輯，人類大腦不也是數學嗎?神經元的放電和計算同樣是數學。按照這種說法，我們甚至不應該害怕希特勒，因爲那也只是數學。整個宇宙都可以被簡化爲數學。"

機器人 人工智能 AI (2)

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

作爲OpenAI前副總裁，Amodei於2021年離職創立了Anthropic。他屬於那些公開警示AI潛在風險的科技高管羣體，支持對AI行業進行適度監管。事實上，Anthropic還曾支持過一項加州AI監管法案，儘管該法案最終被否決。

與之形成鮮明對比的是投資了包括OpenAI和Xai在內多家AI公司的Andreessen。他堅持主張AI技術應該不受約束地發展，甚至將AI安全警示派稱爲"邪教"，並認爲對AI的監管將導致"新的極權主義"。

儘管Amodei承認當前的AI模型"不夠智能，也不夠自主"，不會對人類構成嚴重威脅，但他強調AI技術正在快速進化。特別是隨着能夠自主執行人類命令的AI"代理"的出現，公衆將更深入地認識到AI的能力及其潛在危害。

"現在人們可能會對聊天機器人的一些不可預測行爲一笑了之，"Amodei說，"但對於未來的AI代理，我們必須建立更好的控制機制。"

這場爭論不僅反映了AI界對安全問題的分歧，也凸顯出在AI快速發展的當下，如何在創新與監管之間找到平衡點的重要性。在技術突飛猛進的同時，理性評估和防範潛在風險，將是確保AI健康發展的關鍵。