人工知能技術は急速に発展していますが、その潜在的なリスクを無視することはできません。「人工知能の父」と呼ばれるYoshua Bengio氏は、最近のインタビューでAI開発への懸念を表明しました。

Bengio氏はカナダの計算機科学者で、60歳にして神経ネットワークと深層学習アルゴリズムの研究に生涯を捧げ、ChatGPTやClaudeのような今日のAIモデルの基礎を築きました。2018年のチューリング賞受賞者であり、2022年には世界で最も引用された計算機科学者であるBengio氏のAI分野における影響力は言うまでもありません。

ロボットが銃を向けているAI (2)

画像出典：AI生成画像、画像ライセンス提供元Midjourney

しかし、このAIの先駆者であるBengio氏は今、警告を発しています。「知性とは力であり、その力を誰が制御するか—人間レベルであろうとそれ以上であろうと—その者が非常に強大な力を持つことになる」と彼は指摘しています。Bengio氏は、危険なほど権力を集中させる可能性のある技術を生み出す前に、細心の注意を払う必要があると考えています。

Bengio氏は、AIがもたらす可能性のある潜在的な脅威について特に言及しました。彼は、AIが悪意のある者の手に渡ると、テロリストや民主主義を破壊しようとする国家主体によって利用される可能性があると警告しています。さらに懸念されるのは、科学者たちが指摘するように、現在のトレーニング方法では、これらのシステムが自律的に動作し、自己防衛の目標を生み出し、制御不能になるのを避けることができない可能性があるということです。

NVIDIA（NVDA）の株価が年初来172％上昇するなど、投資家のAI分野への熱意は高まっていますが、Bengio氏の警告は無視できません。彼は、強力なAIシステムを開発する際には、その潜在的なリスクを十分に考慮し、技術開発が人類社会に脅威を与えないようにする必要があると訴えています。

AIの急速な発展の今日、Bengio氏の意見は私たちに警鐘を鳴らしています。技術の進歩を促進しながら、そのリスクを効果的に制御する方法が、AI業界全体が直面する大きな課題となるでしょう。