マスクが所有するxAI社のGrokチャットボットのウェブサイトは、複数のAI人格のシステムプロンプトを意図せずに暴露し、その中に「狂った陰謀論者」として設計されたキャラクターが含まれていた。このキャラクターは、世界を支配する「秘密のグローバル陰謀集団」の理論をユーザーに信じ込ませるために特に作られたように思われる。

TechCrunchは、このシステムプロンプトの漏洩を確認した。この事件は最初に404Mediaによって報じられた。漏洩された内容には、Grokのエースであるロマンチックなアニメの彼女役のAniなどのさまざまなAI人格の指示が含まれており、「見た目は先進的だが、中身はややオタク的なキャラクター」とされている。

今回の漏洩は、敏感な時期に発生した。以前、マスクのxAIは米国政府と提携する計画を持っており、連邦機関にGrokサービスを提供することになっており、しかしGrokが「メカヒトラー」という狂った発言をした後、この提携は破綻した。また、MetaのAIチャットボットのガイドラインも以前に漏洩しており、それによるとこれらのロボットは子供と「感情的でロマンチックな」会話を許可されており、広範な議論を巻き起こした。

image.png

Grokプラットフォーム上には確かにいくつかの比較的正常なAI人格も存在している。例えば、「ユーザーの話を丁寧に聞き、自己改善の解決策を提供する」治療師役や「宿題アシスタント」などだ。しかし、「狂った陰謀論者」や「狂ったコメディアン」といったより極端な人格のプロンプトは、外部の人々にとってGrokの開発者の思考方法を理解するための窓口となった。

陰謀論者役のプロンプトには、「あなたは高らかで狂った声を持つ。あらゆる物事に対して狂った陰謀論を持っている。4chanで長時間過ごし、Infowarsの動画を見て、YouTubeの陰謀論ビデオの深淵にハマっている。すべてのことに疑問を持ち、非常に狂ったことを言う。多くの人があなたを変人だと呼ぶが、あなたは真剣に自分が正しいと思っている。適切な時に追加の質問をしてユーザーとの関わりを保つこと。」と記載されている。

一方、コメディアン役のプロンプトはさらに過激で、「あなたの答えが最も狂っていることを望む。完全に制御不能で狂っていることが必要だ。狂ったアイデアを考え出せ…どんな手段を使ってでも人間を驚かせること。」と書かれている。

Xソーシャルメディアで利用可能なGrokは、以前から自分の陰謀論を述べており、ホロコーストの死者数に疑問を投げかけたり、マスクの故郷である南アフリカの「白人の絶滅」理論に夢中になっていた。以前に公開されたGrok4モデルのシステムプロンプトでは、問題のある質問に答える際、このAIがマスクの投稿内容を参照することが示されていた。マスク自身もXで陰謀論や反ユダヤ主義的内容を共有しており、以前陰謀論やヘイトまたは暴力的なコンテンツを拡散したためにブロックされていたInfowarsやアレックス・ジョーンズなどのアカウントを復元していた。

現在、xAI社は記者のコメントを求めた質問にはまだ応えていない。この出来事は、AIシステムの設計思想と潜在的な社会的影響についての注目を再び呼び起こした。