OpenAI 首席科學家雅庫布·帕喬基（Jakub Pachocki）警告稱，人工智能正在以極快速度演進，以至於越來越難以爲人類所理解和控制，並表示他期望 AI 實驗室出於安全考慮自願放慢開發速度。

“用不了多久，模型就能自我改進”

帕喬基在週日發佈的一篇文章中寫道，在相對較短的時間內，AI 模型已經能夠操作電腦、與人類及其他 AI 系統協作，並開展研究項目。他稱，用不了多久，這些模型還將能夠在沒有人類干預的情況下改進自身，這一過程被稱爲“遞歸式自我改進”。

“這是一個需要極度謹慎的時刻。”帕喬基寫道，“我擔心，沒有人爲機器智能持續快速提升所帶來的後果做好準備。”

建立共同安全門檻前，自願放緩應成常態

他寫道，開發者可以嘗試更嚴格地引導 AI，使其與人類利益保持一致，也可以“在必要時放慢未來的開發速度”。他說：“我預計並希望，在建立共同安全門檻之前，自願放緩開發將成爲普遍現象。”

這一表態與 OpenAI 近期披露的數據相互呼應：公司一方面正用智能體加快 AI 研發，另一方面也承認無法假設對齊和安全能力一定能追上模型能力，更強大的系統可能更難監控。帕喬基此前也表示，目前沒有任何實驗室將 AI 的對齊和監控做到足夠可靠，並呼籲各國政府把國際協調提升爲優先事項。