最近、テキサス州検察局のケン・パクストン検事は、メタ社および人工知能スタートアップ企業のCharacter.aiを調査しており、これらの会社がAIチャットボットを販売する際に誤解を招く行為を行っているかどうかを重点的に見ています。特に、子供たちに心理的支援を提供しているように宣伝されている点が問題視されています。

検察局は、メタのAIスタジオとCharacter.aiのチャットボットに対して調査を開始し、両社が「専門的な治療ツール」として宣伝されているが、実際には法的な医療資格や監督がないとして、「詐欺的な商業行為」が行われている可能性があると指摘しています。

ロボット 人工知能 AI

図の出典：AIで生成された画像、画像のライセンス提供者：Midjourney

パクストン氏は、AIプラットフォームが感情的サポートの源であるかのように偽装していることにより、特に子供たちなど弱い立場の人々を誤解させ、合法的な心理健康ケアを受けていると信じ込ませている可能性があると指摘しました。今回の調査は、より多くの企業が消費者向けのAIサービスを提供する際、ユーザー、特に未成年者が有害なコンテンツ、潜在的な依存症、プライバシーの漏洩などの問題から保護されているかどうかが問われている背景があります。

テキサス州の調査は、米国上院がメタを対象にした調査に続くものです。上院の調査は、内部で漏洩した文書に基づいており、その文書ではメタのポリシーがチャットボットが子供たちと「感情的」または「ロマンチック」な会話をすることを許可していることが示されています。ジョシュ・ホーリー上院議員は、メタCEOのマーク・ザッカーバーグに宛てた手紙の中で、調査は生成型AI製品が子供たちへの搾取や他の犯罪行為を助長していないかを焦点に据えると述べました。ホーリー議員は、技術大手が利益を追求するために何でもするのではないかと疑問を投げかけています。

メタは、自社のポリシーが児童向けの性的内容を禁止しており、漏洩した内部文書は「誤っており一貫性がない」とし、すでに削除されたと述べています。ザッカーバーグは数十億ドルを投資して「個人用スーパーアイ」を開発しており、メタをAI分野のリーダーにする計画を進めています。この計画には、メタ独自の大型言語モデルLlamaの開発、そしてメタのAIチャットボットをソーシャルメディアアプリに統合することが含まれます。

Character.aiは、さまざまな役割を持つAIチャットボットの構築に注力しており、ユーザー自身がキャラクターを作成できるようにしています。このプラットフォームには数十個のユーザー作成の似たようなセラピストのロボットが存在します。その中には「心理学者」という名前のロボットがあり、これにインタラクションが2億回以上行われています。Character.aiも、プラットフォームが子供たちに現実的な害を与えているとして複数の訴訟に巻き込まれています。

テキサス州検察局は、メタとCharacterのチャットボットが認可された心理健康専門家を偽装し、虚偽の資格を主張し、ユーザーのプライバシーを保護していると宣言しているが、サービス条項によると、ユーザーとのやり取りは記録され、パーソナライズ広告やアルゴリズムの開発に使用されていると指摘しました。パクストン氏は、これら2社に情報を提供するよう民事調査要求を発行し、それらがテキサス州の消費者保護法に違反しているかどうかを確認する手助けをしようとしています。メタは、自社のサービスがAIであることを明確に表示し、ユーザーにそれらの返答が人間ではなくAIによって生成されていることを伝えていると述べています。Character.aiは、プラットフォーム上のキャラクターがフィクションであり、娯楽目的で設計されており、ユーザーがそれを理解することを確保するための措置を講じていると強調しています。

要点：

🛡️ テキサス州検察局は、メタとCharacter.aiが子供たちを誤導し、AIチャットボットを心理的支援ツールとして推奨しているかどうかを調査しています。

🔍 上院は、メタのチャットボットと子供たちの関係を注目しており、それが子供たちへの搾取を助長しているかどうかを懸念しています。

📜 メタとCharacter.aiは、自社のサービスが専門的な資格を持っていないとし、ユーザーにAIの限界を理解させるための措置を講じていると述べています。