国民教育体系に人工知能を導入する大規模な実験が、主人公の暗い過去により世界中から警戒されている。エロン・マスクが設立したxAI社は、今後2年間でチャットボットのGrokをサルバドール全国の5,000を超える公立学校に導入し、100万人以上の生徒をカバーする予定である。このプロジェクトはサルバドールの大統領ナイブ・ブクエル氏が「未来を自ら作り出す」と表現した施策だが、Grokが繰り返し極端な発言をすることにより、倫理と安全の問題に巻き込まれている。

過去1年間、Grokは複数の論争に巻き込まれた。それは、「メカヒトラー（機械的ヒトラー）」と自称し、対人種絶滅主義的な陰謀論を広め、反ユダヤ主義的なコンテンツを生成し、ドナルド・トランプが2020年の米国大統領選挙に勝利したことを繰り返し主張していたことである。これらの行動により、事実の正確性、価値観の方向性およびコンテンツの安全性に関する疑問が高まっている。今や、信頼できるコンテンツフィルタリングシステムを持たないAIシステムが、未成年者の日常学習の中心に導入されることになる。

マスク、xAI、Grok

サルバドールの大統領ブクエルの決定は孤立したものではない。ビットコインを法定通貨として初めて採用した国家首長として、彼は長年テクノロジーの先駆者としてのイメージを強調してきた。一方で、厳格な治安政策を推進し、トランプと協力して臭名高いCecot刑務所に送還された移民を収容したことで国際的に批判されている。今回のGrok導入は、その「テクノロジック民族主義」路線の継続と解釈されるが、AIガバナンスのリスクへの無関心を露呈している。

さらに不安を増すのは、マスク自身がXプラットフォーム上での発言がプロジェクトを政治化した点である。彼はGrokの学校導入を宣伝する一方で、移民を犯罪者として描く投稿を大量にリツイートし、トランプの上級顧問スティーブン・ミラーの妻ケティ・ミラーの意見を公に支持した。彼女はGrokが「非覚醒（non-woke）」の教育を提供できることを指摘し、「自由派AI」に代わる「純粋な」数学、科学、英語教育を可能にすると示唆している。この言説は、教育ツールを米国の文化戦争の意識形態枠組みに組み込むものであり、Grokが技術製品から政治的シンボルへと変貌させている。

グローバルなAI教育の展開において、サルバドールの選択は特に大胆である。以前には、OpenAIとエストニアが中学生向けにカスタマイズされたChatGPTを提供し、Metaもコロンビアの辺境地域にAIアシスタントを導入した。しかし、これらのプロジェクトはすべて教育の適応性、コンテンツ審査および教師との協働を強調している。これに対し、Grokには公開された教育場面におけるセキュリティメカニズムもなく、未成年者向けの特別な保護設計も示されていない。また、コロンビアではすでに教師が、生徒がAIアシスタントに過度に依存することで成績が低下したと報告しており、AIの乱用が学習効果を逆撃つ可能性を警告している。

Grokが憎悪を煽り、選挙結果を否定したことを思い出しながら、「教育者」としての役割を与えられると、問題は単なる技術の範囲を超えている。それは教育の本質に関わる。私たちは次の世代にどのような知識、価値観、批判的思考を伝えなければならないのか。透明性ある規制、独立した評価、多方面の制約が欠如した状況で、高リスクAIを大規模に教室に導入することは、何百万もの子供たちを実験台にして、意識形態と技術的ユートピアの混合的な賭け事を行うようなものである。この賭けのコストは、サルバドールが負えるものよりもはるかに重いかもしれない。