AI領域研究者吳恩達9月17日在接受彭博電視採訪時表示,頂尖模型開發商近期有關AI可能導致人類生存風險的警告“更像科幻小說,而不是科學”,並認爲這類敘事可能分散行業對實際AI安全問題的關注。吳恩達曾參與創辦Google Brain和Coursera。

吳恩達稱,科技行業早期曾放大AI潛在災難性風險,以獲取關注並影響監管方向;近兩週相關討論再次升溫,也可能存在類似動機。他認爲AI確實存在現實風險,尤其包括網絡安全等領域,但不認同將人類滅絕風險作爲當前AI發展的核心判斷依據。

近期,前Anthropic和OpenAI研究員Jacob Coxon公開離職並警告前沿實驗室正在競相開發超級AI,引發新一輪AI安全爭論。Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman隨後均提出應適當放緩前沿模型發展,並加強安全措施。吳恩達早年曾與兩人共事。

與“減速”主張不同,吳恩達認爲行業應繼續推進AI發展,同時通過受控測試、工程防護和迭代改進解決可驗證的安全問題,並讓AI更多應用於能夠產生社會價值的場景。當前,AI安全討論正從模型能力邊界進一步延伸至網絡安全、代理失控、對齊及前沿模型治理等具體問題。