関係筋によると、Anthropicの最高経営責任者（CEO）ダリオ・アモデイが先週土曜日にAI企業間で技術テストと監査を協力して行うことを呼びかけた以前から、Anthropic、OpenAI、グーグルはすでに協議を開始しており、AI業界の基準機関を設立する計画を進めている。

関係筋は、7月以降、3社のCEO以下の代表者が作業グループを設置し、定期的に会議を開催して協議を進めてきたと語っている。今月初めに、OpenAIのCEOサム・アルトマン氏は社内全員向けの会議で、AI業界におけるテストと監査の機関を設立することに賛同していると表明したが、主要なAIラボが米国政府の支援なしにこの基準組織を自ら構築すべきだと考えていると述べた。彼は元々政府の支援を期待していたが、現在では業界内で十分な合意が得られておらず、一部企業は反対の姿勢を取っている。

3つのモデルに意見の違い：FAA、FINRA、それとも業界自主規制か

アモデイ氏は先週土曜日、ブログ「我々は前線の発展を制御しなければならない」を掲載し、AIの発展速度を遅くし、独立した監督メカニズムを確立する必要性を主張した。その中で、業界の自己規制は重要な一環であり、政府がAI規制の法規を制定する一方で、企業は自発的な安全基準を実施し、政府が対話の調整を担うべきだと提案した。また、各国の主要企業がMETRのような外部評価機関に内部社員レベルの技術アクセス権を提供するよう求め、Anthropicが率先して実施することを約束した。さらに、安全協力を可能にするための限定的な反トラスト免許の導入も呼びかけた。

グーグルDeepMindのCEOを辞任したデミス・ハサビス氏は、この提案の大枠は正しいとしながらも、一部の細部については「まだ磨きをかけておく必要がある」と語った。彼は今年7月に、米国の金融業界監督局（FINRA）のモデルに従ってAI自律組織を構築するという提案を行っていた。スペースXのCEOエロン・マスク氏も同様に賛同している。The Informationの以前の報道によると、ホワイトハウスにはこの規制機関を設立するための行政命令案が提出されていたが、今年の夏に政府内で十分な支持を得られず、関連作業は一時停止された。前ホワイトハウスAI担当長官のダイヴィッド・サックス氏は、このようにFINRAのような機関の設立を公開的に反対していた。

批判の声：これはまるでカルテルの計画だ

業界内にも多くの批判の声がある。CohereのCEOアドン・ゴメス氏は、主要なAI企業が規則を共同で策定し、中小の競合企業を制限するような取り組みに対して懸念を表明した。「このアイデアはまるでカルテルの計画のように聞こえる」と述べた。サックス氏は、開発の遅延が完全に利他主義的な動機に基づいているのかどうかを疑問視し、製品の責任リスク自体が傷害を防ぐための経済的インセンティブであると考えている。

関係筋によると、三社が業界主導の標準機関について協議を進めている作業グループの会議は継続しており、過去1週間にも会議が開かれている。現在、Metaの立場は明らかになっていない。同社の首席AI官アレクサンダー・ワン氏はXプラットフォーム上で「整合性は個人のスーパーアイに向けた社会全体の基盤である」と述べただけで、アモデイ氏の提案全体に対する明確な支持または反対の表明はなかった。