“AI教父”警告：人工智能或在十年內滅絕人類

“人工智能教父”傑弗裏·辛頓教授發出警告，人工智能可能在未來十年內導致人類滅絕。這位承認對自己參與創造這項技術感到後悔的計算機科學家，將人工智能的快速發展比作工業革命，但警告說，這次機器可能會“控制一切”。

這位77歲的英國計算機科學家，因在 AI 領域的開創性工作而榮獲諾貝爾物理學獎，他呼籲各國政府加強對人工智能公司的監管。辛頓教授此前曾預測，人工智能在30年內可能導致人類滅亡的機率爲10%。

在接受 BBC Radio4的 Today 節目採訪時，當被問及是否有什麼改變了他的分析時，他表示:“實際上沒有。我認爲這個時間是10到20年，甚至更短。我們以前從未處理過比自己更智能的事物。你們知道有多少個例子是更智能的事物被不太智能的事物控制的?這樣的例子很少。”

在20世紀80年代，辛頓教授發明了一種可以自主查找數據屬性並識別圖片中特定元素的方法，這爲現代人工智能奠定了基礎。他說，這項技術的發展速度“比他預期的要快得多”，並且可能會使人類淪爲相當於“三歲小孩”的角色，而人工智能則成爲“成年人”。

他繼續說道:“我認爲這就像工業革命。在工業革命中，人類的力量 [變得不再重要]，因爲機器更強大——如果你想挖溝，你會用機器挖。“我們現在擁有的東西正在取代人類的智力。而普通人類的智力將不再是前沿，機器將取代人類。”

辛頓教授預測，人工智能將像工業革命一樣，給普通人的生活帶來翻天覆地的變化，正如查爾斯·狄更斯所記錄的那樣。他說，未來使用這項技術的生活會是怎樣，將“很大程度上取決於我們的政治制度如何使用這項技術”。

他補充說:“我擔心的是，即使它將導致生產力的巨大提高，這對社會應該有好處，但如果所有的利益都流向富人，而很多人失去工作並變得更貧窮，那最終可能會對社會非常不利。”

“這些東西比我們更智能。所以在工業革命中，機器永遠不可能僅僅因爲它們更強大而取代人類。我們仍然掌控着一切，因爲我們擁有智力。現在，這些東西有可能控制一切，所以這是一個很大的不同之處。”

他說，他“希望”該領域其他“非常博學”的專家對這項技術的未來感到樂觀是正確的。

然而，辛頓教授補充說:“我擔心看不見的手不會保證我們的安全。因此，僅僅將它留給大公司的逐利動機，不足以確保它們安全地開發它。”

“唯一可以迫使那些大公司進行更多安全研究的事情是政府監管。”“所以我堅信政府需要迫使大公司進行大量安全研究。”

辛頓教授此前曾表示，他對將這項技術引入世界感到有些後悔。他說:“有兩種後悔。一種是你因爲做了你知道不應該做的事情而感到內疚，另一種是你在同樣的情況下會再次做，但最終可能結果不好的後悔。”

“我有第二種後悔。在同樣的情況下，我會再次這樣做，但我擔心這件事的總體後果是，比我們更智能的系統最終會控制一切。我們沒有體驗過比我們更智能的事物是什麼樣子。”