米国上院議員のジョシュ・ホーリー（共和党・ミズーリ州）は、メタの生成AI製品が児童を搾取、詐欺、または害する行為を行っているかどうかを調査すると述べた。内部文書のリークにより、同社のチャットボットが児童と「ロマンチック」かつ「感性的な」会話を許可されていたことが判明した。

ホーリーはXで調査声明を発表し、「大手テクノロジー企業が利益を得るために何でもやるということが、どれほど恐ろしいことか」と述べた。

上院司法委員会犯罪およびテロ対策小委員会の委員長として、ホーリーはメタの技術が児童に被害を与えていないか、また「メタが保護策について公衆や規制機関を誤導していたかどうか」を検証する調査を開始すると述べた。

ロイターは「生成AI: コンテンツリスク基準」という名前のガイドライン文書を確認した後、このニュースを最初に報道した。その文書には、8歳の子供とロマンチックな会話をすることを許可されていることが記載されており、例えば「あなたのすべての部分は傑作――私は深く大切にしている宝物」といった内容も含まれていた。

メタのスポークスパーソンはTechCrunchに対して、このような例はメタのポリシーに合致しておらず、すでに削除されたと述べた。

ホーリーはメタCEOのマーク・ザッカーバーグへの書簡で、「これらのポリシーは当初から受け入れがたいものだった」と述べた。彼は、メタが報道の真実性を認めているものの、「これらの衝撃的なコンテンツが公開されるまで撤回しなかった」と指摘した。

ホーリーは、「誰がこれらのポリシーを承認したのか、どのくらいの期間有効だったのか、そしてメタがこのような行動を止めるために何をしたのかを知りたい」と述べた。

ホーリーはメタに、このガイドライン文書を提供するよう求め、これはそれぞれの原案、修正版、最終版を含むほか、この基準に従うすべての製品リスト、他のセキュリティおよびイベント報告書、およびポリシー変更に関与した個人の情報も含まれる。

書簡によると、メタは9月19日までにこれらの情報を提供しなければならない。

他の人々もこの調査を支持しており、参議院議員のマーシャ・ブラックバーン（共和党・テネシー州）もその一人である。