據彭博社報道，AI 先鋒李飛飛呼籲由獨立機構和公共部門對 AI 進行更多監督。她認爲，對於能力日益強大的 AI 系統，其安全評估不應完全交由開發這些系統的公司負責。

評估不能只交給開發公司

作爲斯坦福大學教授、World Labs 聯合創始人，李飛飛週二表示，儘管 AI 公司的內部研究人員可以評估單個模型的能力和安全性，但這無法替代由政府、行業和學術機構共同制定的更廣泛標準。她接受彭博電視採訪時稱：“我仍然認爲，由獨立機構以及學術界等公共部門制定基準非常重要。同時，行業和政府也應該共同承擔責任。”

隨着 AI 系統能力不斷增強，人們對其潛在風險的擔憂也在加劇。硅谷一些領導人警告，這項技術發展速度過快，可能最終超出人類控制。最近幾周，Anthropic CEO 達里奧·阿莫代伊和 OpenAI CEO 薩姆·奧特曼都呼籲放緩前沿模型的開發速度，兩人將於週三在聯合國安全理事會討論 AI 安全問題。

李飛飛表示，AI 可能帶來的生存性風險，最終取決於人類選擇如何開發、治理和使用這項技術。她強調，這一原則同樣適用於 AI 以外的技術——從電力、蒸汽機到現代交通工具，人類社會都需要在技術可能帶來的益處與人身安全之間尋求平衡。她指出，人類“掌握着技術的力量”，“我們必須掌握控制權。AI 關乎的不是 AI，而是人類。它關乎我們共同以及個人的尊嚴和自主權，也關乎我們的責任。”

人類必須掌握控制權，辯論愈演愈烈

李飛飛的言論，爲政策制定者與 AI 行業領袖之間日益激烈的辯論增添了新聲音，焦點正是應如何嚴肅對待有關這項技術最極端風險的警告。週二早些時候，美國總統特朗普在紐約聯合國大會發表講話時，駁斥了對 AI 生存威脅的擔憂，稱其爲“一場騙局”，並強調有必要繼續全速發展這項技術。

李飛飛還指出，關於 AI 系統行爲的討論，已經超出了推動當前熱潮的所謂“前沿模型”。她創辦的 World Labs 正在開發能夠生成和重建三維環境的“世界模型”，該技術可用於訓練和評估機器人，並賦能設計、醫療等行業應用。她表示，隨着這些系統走向現實世界應用，行業面臨同一個根本性問題：如何評估能力日益強大的 AI，並判斷其是否按預期運行。