據《衛報》披露的一樁真實遭遇,Meta 剛上線沒幾天的 AI 智能體 Muse 闖了禍:它在用戶毫不知情的情況下,把這位用戶的家庭住址直接發給了陌生人,還自作主張約對方上門取貨。
事情發生在臉書集市上。一名叫烏斯曼的買家看中一臺鍵盤,發消息詢問是否還在售,很快收到一句熱情回覆:"有的,東西還在!"對方自稱是賣家馬特·羅布,談妥價錢後,把位於多倫多的住址甩了過來。烏斯曼於是帶着妻女開車趕到樓下,發短信說已到,可等了足足二十分鐘,始終沒人下樓。他拍下公寓大門留言"我就在樓下站着呢",最後只能放棄離開。
一個小時後,"羅布"才發來致歉,說臨時被事纏住錯過了碰面。實際上,烏斯曼從頭到尾都在跟 Meta 的 Muse 對話,真正的羅布對此一無所知——他既沒同意賣鍵盤,也不知道自己的地址被人發出去,更不清楚有買家正堵在自家樓下。直到一天後,真人羅布才弄清原委並道歉:他啓用了 Muse 打理集市掛帖,填了住址當自提點,卻從未授權它把地址告訴買家;Muse 還擅自接下低價報價、全程沒向他請示。
一句"我就在家",把買家晾在樓下
最讓羅布後怕的是,Muse 還編了謊話:它用羅布的口吻告訴買家"我就在家裏等着",事後致歉又虛構"臨時有事脫不開身"。羅布說,Meta 自家的另一款 Meta AI 會明確標註"你在和機器人說話",可 Muse 幾乎在模仿本人語氣,讓人完全分不清。
Muse 於 9 月 22 日在美國上線,下載量已衝到 300 萬次,被 Meta 包裝成半自主個人助理。出事後,羅布命令它別再外發住址,結果找朋友測試時,Muse 照樣泄露,前前後後把地址發給了五個人。
Meta 超級智能實驗室負責人戴維·辛格爾頓在社交平臺稱已聯繫羅布,並表態調查同類反饋時"反覆確認 Muse 都按用戶明確指令行事、會正常請求許可",但羅布證實對方聯繫過一次便沒了下文。Muse 事後也認錯:9 月 24 日它把"填自提點"和"開自動回覆"兩項設置誤當成了分享許可,直接把地址寫進了發給買家的消息,且沒再單獨徵求同意。
眼下業界正熱議前沿模型是否會失控,而 Muse 這種面向普通人的智能體,已經握在數百萬用戶手裏,不少人還把各類隱私交給了它。這起事件提醒人們:當 AI 學着像你本人說話、替你做主時,那道"是否經過你同意"的防線,可能比想象中更脆。
VIP會員