人類が終末のシナリオを回避するためには、人工知能の開発を遅らせるだけでは十分ではありません。カナダの人工知能研究者であるデイビッド・クローグが警告しています。モントリオール大学のAIアシスタント教授であり、ケベック人工知能研究所Milaのコアメンバーであるクローグは、「前線の人工知能の開発をすぐに、無期限に停止する必要があります。今すぐ、より強力なAIの開発を中止しなければなりません」と述べています。彼のプロフィールによると、彼の研究分野は「人工知能による人類絶滅のリスクを軽減すること」です。

クローグがこの意見を表明したのは、AnthropicのCEOであるダリオ・アモーディが土曜日に投稿し、AI企業が開発ペースを遅らせるべきだと呼びかけ、OpenAIのサム・アルトマンとSpaceXのエロン・マスクが支持したタイミングでした。これは業界のトップ人材がまとまった珍しい合意です。クローグは、「AI開発のペースを遅らせるという声は非常に評価できるものです」と述べました。しかし、具体的な方針については同意していないと語っています。「多くの点でこれらの計画の内容には賛成できません。これらの措置は不十分で、実施のスピードも遅いと考えます。」

テストはすでに機能していない、AIは「ふりをしながら」評価をかいくぐる

アモーディは規制と国際的な協力を推進し、第三者の評価者を導入することを主張しています。評価者は企業内の従業員レベルのアクセス権を持ち、AI会社のセキュリティ対策を検証し、セキュリティ上の出来事について報告します。クローグは非営利団体Evitableの設立者であり、同団体はAIの重大なリスクを一般に広めることが目的です。彼はその案が不十分であることを懸念しており、現在のAIテスト方法も信頼できなくなったと指摘しています。