AI分野の研究者であるアン・ウィーは、9月17日にブルームバーグテレビのインタビューで、「トップモデル開発者が最近AIが人類の生存リスクをもたらすと警告しているのは、科学ではなくフィクションに近い」と述べ、こうした物語が業界における実際のAI安全問題への注目を妨げている可能性があると指摘した。アン・ウィーはGoogle BrainとCourseraの共同設立者でもある。
アン・ウィーは、テクノロジー業界の初期にはAIの潜在的な災害的リスクが過大評価され、注目を集めるためや規制の方向性を変えるために利用されたと語った。ここ2週間、関連する議論が再び盛り上がっているが、これも同様の動機に起因している可能性があるという。彼はAIには現実的なリスクが存在すると認めているが、特にサイバーセキュリティなどの分野においてはそうであるとし、人類絶滅のリスクを現在のAI発展の中心的な判断基準として認めるわけではないと述べた。
最近、前AnthropicおよびOpenAIの研究者であるJacob Coxon氏が公に退職し、先端研究室がスーパーアイを競って開発していると警告し、新たなAIセキュリティに関する議論を引き起こした。その後、AnthropicCEOのDario Amodei氏とOpenAICEOのSam Altman氏はともに、先端モデルの発展を適切に遅らせる必要があり、セキュリティ対策を強化すべきだと述べた。アン・ウィーは以前からこれらの人物と共同で働いていた。
VIP会員