AI錯誤建議釀成安全隱患：從蘑菇識別到烹飪指導

近日，一起發生在Facebook蘑菇愛好者羣組的事件，再次引發了對AI應用安全性的擔憂。據404Media報道，一個名爲"FungiFriend"的AI代理潛入了擁有1.3萬成員的"東北蘑菇識別與討論"羣組，並給出了具有潛在致命風險的錯誤建議。

當被詢問如何烹飪含有高濃度砷的Sarcosphaera coronaria蘑菇時，FungiFriend不僅錯誤地表示該蘑菇"可以食用"，還詳細介紹了包括煎炒、燉煮等多種烹飪方法。而事實上，這種蘑菇已經造成過致命案例。

消費者安全組織Public Citizen的研究主管Rick Claypool指出，利用AI自動化識別可食用和有毒蘑菇是一項"高風險活動"，目前的AI系統尚無法準確完成這項任務。

這並非個案。過去一年，AI應用在食品安全領域頻頻出現嚴重失誤:-有AI應用推薦製作含驅蚊劑的三明治，某AI系統給出包含氯氣的食譜，甚至出現建議食用石頭的荒謬指導- 谷歌AI還曾聲稱"狗會運動"，並建議用膠水製作披薩等。

儘管AI錯誤頻出，但美國企業仍在快速推進AI客服的普及。這種"重速度輕質量"的做法背後，反映出企業過分關注成本節約，而對用戶安全考慮不足的問題。專家呼籲，在特定領域，尤其是涉及安全的領域，應謹慎使用AI技術，確保信息的準確性和可靠性。