人工智能技術正在迅猛發展，但其潛在風險不容忽視。被譽爲"人工智能之父"的Yoshua Bengio近日在接受採訪時表達了對AI發展的擔憂。

Bengio是加拿大計算機科學家，60歲的他畢生致力於神經網絡和深度學習算法研究，爲當今AI模型如ChatGPT和Claude奠定了基礎。作爲2018年圖靈獎得主，2022年全球被引用次數最多的計算機科學家，Bengio在AI領域的影響力不言而喻。

機器人拿槍指着你 AI (2)

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

然而，這位AI先驅如今卻發出這樣的警告。他指出:"智能意味着力量，誰控制了這種力量 - 無論是人類水平還是更高 - 誰就會變得非常強大。"Bengio認爲，在創造可能危險地集中權力的技術之前，我們需要格外謹慎。

Bengio特別提到了AI可能帶來的潛在威脅。他警告說，如果AI落入"壞人"之手，可能會被恐怖分子或意圖破壞民主的國家行爲體利用。更令人擔憂的是，科學家們指出，按照目前的訓練方式，我們可能無法避免這些系統變得自主併產生自我保護目標，從而失去對它們的控制。

儘管投資者對AI領域熱情高漲，如英偉達（NVDA）股價年初至今上漲172%，但Bengio的警告不容忽視。他呼籲在開發強大的AI系統時，要充分考慮其潛在風險，確保技術發展不會對人類社會造成威脅。

在AI快速發展的今天，本吉奧的觀點爲我們敲響了警鐘。如何在推動技術進步的同時，有效控制其風險，將是整個AI行業面臨的重大挑戰。