ブルームバーグの報道によると、AIの先駆けであるリー・フェイフェイは、独立機関と公的部門によるAIの監視をさらに強化するよう呼びかけている。彼女は、ますます強力なAIシステムにおいて、安全評価をこれらのシステムを開発した企業に完全に任せるのは適切ではないと考えている。

評価は開発会社に任せない

スタンフォード大学の教授であり、World Labsの共同創設者でもあるリー・フェイフェイ氏は、火曜日に「AI企業の内部研究者たちは個別のモデルの能力や安全性を評価できるかもしれないが、これは政府、業界、学術機関が共に策定するより広範な基準には代えられない」と語った。彼女はブルームバーグテレビでインタビューを受けた際に、「私は依然として、独立機関や学術界などの公的部門が基準を設定することが非常に重要だと考えている。同時に、業界と政府も責任を持つ必要がある」と述べた。

AIシステムの能力が高まっているにつれて、その潜在的なリスクに対する懸念も高まっている。シリコンバレーの一部のリーダーは、この技術の進展が速すぎて最終的には人間のコントロールを超える可能性があると警告している。ここ数週間、AnthropicのCEOダリオ・アモデイとOpenAIのCEOサム・オルトマンはともに、前線モデルの開発速度を遅らせるよう呼びかけ、3日には国連安全保障理事会でAIの安全性について議論する予定である。

リー・フェイフェイ氏は、AIがもたらす生存リスクは、最終的に人類がどのようにこの技術を開発し、管理し、使用するかにかかっていると述べた。彼女は、この原則はAI以外の技術にも適用されるべきだと強調し、電気、蒸気機関、現代の交通手段など、人類社会は技術がもたらす利益と人身の安全のバランスを見つける必要があると指摘した。彼女は、「私たちは技術の力を握っている。」と語り、「私たちがコントロールを握らなければならない。AIに関することではない。AIは私たち自身に関することだ。私たちの共通の尊厳と自立、そして個人の尊厳と自立に関することであり、責任に関することである。」と述べた。

人類がコントロールを握らなければならない、論争は激化する

リー・フェイフェイ氏の発言は、政策立案者とAI業界のリーダーとの間で高まっている論争に新たな声を加えた。焦点は、この技術の最も極端なリスクに関する警告をいかに真剣に受け止めるべきかである。火曜日の早朝、米国のトランプ大統領はニューヨークの国連総会で演説し、AIの生存危機への懸念を「嘘っぱち」と非難し、この技術を全速で進めていくことが必要であると強調した。