OpenAIのCEOであるサム・アラトマン氏は国連安全保障理事会でAIに関するテーマについて演説し、AIの発展がもたらす機会とリスクについて議論し、国際協力を強化し、先端AIシステムの能力評価、リスク評価、セキュリティ対策および人間の監督のための基準を構築するよう呼びかけました。彼は、AIの能力が急速に向上している現在、技術の潜在的な利益とリスクがより直接的に現れ始めていると述べました。AIは創造性と発見のルネサンスのように、あるいは混乱と動乱をもたらす産業革命のように、どちらにもなり得ると語りました。

二つの主な課題：制御不能のリスクと権力の集中

アラトマン氏はAIがもたらす深刻な問題を2つの方向にまとめました。一つ目は未来のコントロールの喪失です。AIの進歩が速すぎて、人々はそれに追いつくことができず、必要時に介入することもできません。彼は、業界がAIの利益が大きすぎるからといって過度な技術的リスクを受け入れてはいけず、企業同士の競争によって急いで決定をしてはいけないと明言しました。「OpenAIは過去に単独で速度を落としたことがあり、今後もそうするだろう」と述べ、人間が完全に制御できないようなモデルを訓練してはいけないとして、災害のリスクが10%、1%、あるいは0.1%であっても受け入れることはできないと強調しました。特に、再帰的自己改善（AIがAI開発に関与するプロセス）について言及し、もし開発がさらに自動化されれば、技術の進歩が急速に加速する可能性があるため、非常に注意深くなければならないと指摘しました。

二つ目は古くからの話である権力の集中です。最も強力なモデルと関連する権力が少数の人々に集中しないようにすべきであり、誰か一人、ある会社または国家がAIを使って自分たちの世界観をすべての人に対して押し付けることのないようにしなければなりません。アラトマン氏は、このような論理を拒否しなければならないと強調し、それが自分にとって有利でも同じです。OpenAIは楽観主義と末日論の間で中庸の道を歩もうとしており、3つの原則を守っています。第一に、人間がAIの意思決定の中心にいなければならない。第二に、科学の進歩と経済成長の利益が人々のために使われなければならない。第三に、技術は個人を強化し、多くの人が自分の目標を達成できるようにしなければなりません。

数学は国際競技レベルに到達し、統治は民主的プロセスで進めなければならない

アラトマン氏はAIが数学研究において進展したことを述べました。OpenAIのモデルは3年前には小学校の算数しか扱えなかったのが、2年前には高校の数学オリンピック金メダルレベルにまで達し、今では国際数学コンペティションのレベルに達しています。彼は例として、数週間前に内部モデルがミレニアム賞問題の一つであるナビエ-ストークス方程式を解いたことを挙げました。しかし彼は、その解き方は数学そのものではなく、人々が新しい知識を見つけて医療を改善することを可能にするためであると強調しました。また、企業が民主プロセスを代替してはいけないと述べました。「AIが『民主的』であれば、最も重要な決定は旧金山の研究所だけで決められず、人民に責任を持つ政府によって民主プロセスを通じて作られるべきだ」と語り、これは国際的な面でも協力が必要だと述べました。