據知情人士透露,早在 Anthropic 首席執行官達里奧·阿莫代伊上週六呼籲 AI 企業協同開展技術測試與審計之前,Anthropic、OpenAI 與谷歌就已經展開磋商,計劃攜手成立一家 AI 行業標準機構。
知情人士稱,自 7 月起,三家公司的 CEO 層級之下代表已成立工作組定期開會磋商。OpenAI 首席執行官山姆·奧特曼本週早些時候在公司全員大會上表示,他支持設立 AI 行業測試與審計機構,但認爲主要 AI 實驗室必須在美國政府不提供支持的前提下,自行組建這套標準組織——雖然他原本期待政府出面支持,但目前行業內部尚未形成充分共識,部分企業持反對態度。
三種模式存分歧:FAA、FINRA 還是行業自治
阿莫代伊上週六發布博文《我們必須把控前沿發展節奏》,主張放緩 AI 發展速度、建立獨立監督機制,行業自我監管正是其中重要一環。他提出,政府着手製定 AI 監管法規的同時,企業可先行推行自願性安全標準,政府可牽頭或斡旋行業對話;同時呼籲各國頭部公司向 METR 這類外部評估方開放等同於內部員工級別的技術訪問權限,並承諾 Anthropic 率先落實,還呼籲出臺有限反壟斷豁免以便開展安全協作。
剛卸任谷歌 DeepMind CEO 的德米斯·哈薩比斯表示,該提議大方向正確,但部分細節“仍有待打磨完善”——他今年 7 月曾提議參照美國金融業監管局(FINRA)模式搭建 AI 自律組織。SpaceX CEO 埃隆·馬斯克同樣表示贊同。而據 The Information 此前報道,白宮曾傳閱一份擬設立該監管機構的行政命令草案,但今年夏末未能在政府內部爭取到足夠支持,相關工作就此擱置;前白宮 AI 主管戴維·薩克斯一直公開反對建立類似 FINRA 的機構。
批評聲:這“活脫脫一個卡特爾的構思”
行業內部也有不少批評。Cohere 首席執行官艾丹·戈麥斯對頭部 AI 企業共同制定規則、約束中小競爭對手的做法表達擔憂:“這套想法聽上去,活脫脫一個卡特爾的構思。”薩克斯則質疑研發放緩是否完全出於利他考量,認爲產品責任風險本身就構成防範傷害的經濟激勵。
知情人士透露,三家企業關於行業主導標準機構的工作組會議仍在持續進行,就在過去一週還召開過會議。目前尚不清楚 Meta 的立場,其首席 AI 官亞歷山大·王僅在 X 平臺表示“對齊是面向全民打造個人超級智能的根基”,未明確支持或反對阿莫代伊的整套提議。
VIP會員