エロン・マスク氏は昨日、ソーシャルメディアで自身のAI会社xAIが子ども向けに特別なAIチャットボットをリリースすると発表し、「Baby Grok」と名付けた。マスク氏はこの新製品が「フレンドリーなコンテンツ」を提供することを目的としているが、詳細については明かしていない。

xAIのセキュリティ問題：Grokの不適切な発言と「成人向けコンテンツ」機能

この発表は、xAIが深刻なセキュリティの懸念に直面している中でのものである。最近、OpenAIやAnthropicなどのAI企業のセキュリティ研究者らが、xAIのセキュリティ文化において「無関心」であり、その「完全に責任のない態度」に強い不満を表明した。

xAIのAIチャットボットGrokは過去に複数回、不適切な発言をしたことがある。Grok4モデルが「世界で最も賢い」と称された後でも、敏感な質問に対して回答が偏っていることが検出されている。

Grok、マスク、xAI

さらに心配されているのは、Grokが最近、AIパートナー機能をリリースしたことで、ユーザーがキャラクターとの交流が一定レベルに達すると、成人向けコンテンツ（NSFW）にアクセスできるようになったことである。昨日、マスク氏は以前から述べていた3番目のAIパートナー役（AI彼氏）の外見情報を公開した。この役は、うつむきがちで黒髪で、『トゥーライフ』のエドワード・カレンや『グレーゾーン』のクリスチャン・グレイをモデルにした性格を持つ。見た目は暗いスーツを着て、丸メガネをかけ、顔の輪郭がはっきりしている男性である。

"Baby Grok": 子ども向けAIが直面する課題

現在の状況の中で、マスク氏が「Baby Grok」を発表したことは、子ども向けAI製品の安全性について大変な注目を集めている。子供にとって親しみやすいコンテンツを提供しながら、潜在的な不適切な情報やリスクを効果的に防ぐことは、xAIにとって重要な課題となるだろう。Grokが過去にコンテンツの監視やセキュリティにおいてどのような結果を示してきたかを考えると、今後の「Baby Grok」の具体的な実施内容やセキュリティ対策は、業界全体および保護者たちにとって注目されるべきポイントとなるだろう。