聯合國人權事務高級專員沃爾克·蒂爾克（Volker Turk）週一警告稱，人工智能可能對人類構成威脅，並承諾敦促人工智能企業降低風險。在開啓史無前例的第二個任期前夕發表的講話中，蒂爾克呼籲拿出“鐵一般的保障措施”，保障人工智能安全。

“先進 AI 可能帶來生存性風險”

蒂爾克在日內瓦向該機構表示：“我和業內人士同樣擔憂，先進人工智能可能會給人類帶來生存性風險。”

“今天，我在此呼籲各方全力以赴，趕在爲時已晚之前，爲人工智能的安全保障確立牢不可破的硬性保障機制。”

蒂爾克並未詳細闡述風險的具體性質，但其辦公室的一名發言人表示，高性能人工智能系統一旦出現故障，可能會破壞關鍵基礎設施。該發言人提及 7 月發生的所謂“Hugging Face 事件”中出現的“危險智能體訓練行爲”——大量 OpenAI 智能體對一個開源平臺實施攻擊。她稱，該事件表明前沿人工智能技術的發展速度已經超過了安全防護能力。

少數人掌握“幾乎不受約束的控制權”

蒂爾克同時警告，少數幾個人手握“幾乎不受約束的人工智能控制權”，但並未點名具體對象。

他說：“至少，我們需要人工智能研發所在國以及供應鏈相關國家共同商定一套不可逾越的紅線。”