據彭博社報道,人工智能領域知名專家吳恩達對當前部分頂尖模型開發商研究人員提出的“AI 生存風險”警告提出批評。他認爲,這類關於 AI 可能導致人類滅絕的擔憂更接近於科幻小說情節,而非嚴謹的科學結論,且可能不利於確保該技術爲社會帶來最大益處。
作爲 Google Brain 和教育平臺 Coursera 的聯合創始人,吳恩達指出,在 AI 熱潮初期,科技行業曾通過渲染 AI 潛在災難性危害來加大宣傳力度,其目的顯然是爲了影響監管走向。他在接受彭博電視採訪時表示,過去兩週對此感到沮喪,認爲這波公關宣傳如今再次興起,可能出於類似目的。
考克森辭職引發新一輪爭論
近期,前 Anthropic 和 OpenAI 研究員雅各布·考克森(Jacob Coxon)的高調辭職引發了公衆對 AI 安全問題的廣泛關注。考克森指責其兩名前僱主在“拿人類生命下注”,因爲它們競相開發超級人工智能;他還表示,部分 AI 開發者認爲這項技術可能在十年內對人類構成致命威脅。
在此背景下,包括 Anthropic 首席執行官達里奧·阿莫代伊和 OpenAI 負責人薩姆·奧爾特曼在內的多位 AI 領袖呼籲業界放緩前沿模型的開發步伐,並採取更多措施保障未來發展。吳恩達早年曾與阿莫代伊和奧爾特曼共事
儘管吳恩達承認 AI 確實存在風險,包括網絡安全方面的隱患,但他強調有關 AI 導致人類滅絕的擔憂“更像是科幻小說,而非科學”。
與“減速”主張不同,吳恩達認爲行業應繼續推進 AI 發展,同時通過受控測試、工程防護和迭代改進解決可驗證的安全問題,並讓 AI 更多應用於能夠產生社會價值的場景。他建議行業專注於解決實際的工程問題,以持續改進和保護這項技術。
VIP會員