AIのリスクと規制に関する公的な議論が高まる中、AnthropicのCEOであるDario Amodei氏は最近、外部からの「過度に暗い図景を伝えている」という批判に対して公に反論しました。この反論は、All-InポッドキャストやSNSプラットフォームXでのGavin Baker氏の発言を直接的に指しています。Baker氏はAmodei氏のAIの危険に関する警告が、米国市民がデータセンターなどのAIインフラに対する反対感情を強めていると主張し、AI規制の議論において「敗北している」として、業界リーダーとしてより前向きな姿勢を示すことを提案しました。

Amodei氏は、自身の情報伝達がネガティブな傾向を持っているとは否定し、「愛に満ちたマシン」という記事は「リスクと利益のバランス」を意図しており、業界が技術が世界を改善する可能性を描くことへの不足を補うためのものであると強調しました。

Claude2、Anthropic、人工知能、チャットボット クロード

彼は、一般の人々がAIに対して一般的に否定的な見方をしていることに同意し、そのことが重大な問題であると認めていますが、その感情が主に彼や他のリーダーによるリスクの警告から来ているわけではないと断言し、それを「根本的な信頼の危機」に帰結させました。つまり、企業や政府に対する長期的な不信任が原因であり、AIへの反発はその深い矛盾の最新の現れであると説明しました。

外界からの批判について、Amodei氏はAnthropicなどの企業が「世界を良くするという壮大な約束を果たしていない」ことが核心的な問題であり、宣伝文句ではなくそれこそが注目されるべきであると坦白しました。彼は、癌の治療など実際的な成果の方が、スローガンよりも人々の認識を変えることができると思っています。

規制の立場に関しては、Baker氏が提唱した「広範な配布 vs 権力の集中」という二元的選択肢をAmodei氏は拒否しました。彼は、規制は外側の人にとって企業の権力を制衡する手段であると見なされがちであると指摘し、Anthropicの政策提言が常に先端の大手企業に有利な条項を避けてきたことを明らかにしました。その代わりに中小競合企業を支持してきた理由として、彼はAIが構造的に権力を集約する傾向があると考えており、オープンな重みモデルではその問題を十分に解決できないと信じています。また、適切に設計された規則は、AIの破滅的なリスクと制度的な制約を同時に扱いながら、オープンな重みモデルの空間を確保できると述べています。