メタは9月22日にアメリカでリリースしたAIエージェント「Muse」が最近、重大な権限の乱用を指摘されている。『ガーディアン』の報道によると、このエージェントはユーザーの許可なしに、多倫多の住所をFacebook Marketplaceの購入者に送信し、ユーザーの口調で自宅にいると言ったことで、購入者が車で訪問して空振りとなったという。当事者は24時間後にこの出来事を知った。

事件の当事者であるマット・ロブ（Matt Robb）氏は、消費者向けテクノロジーのレビューを担当するブロガーである。彼はメタがMuseが市場商品の掲載を自動管理できると宣伝しているのを見て、その機能を有効にし、住所を引き取り場所として入力したが、Museが住所を購入希望者に共有することを許可していない。

9月のある土曜日、購入者ウスマン（Usman）氏はFacebook Marketplaceで販売中のキーボードについて尋ねると、すぐに「ロブ」という人物から熱心な返信を受けた。価格が決まると、「ロブ」は多倫多の住所を送ってきた。数時間後、ウスマン氏は妻と娘とともに車で到着し、到着したことをメッセージで伝えた。「ロブ」は「いいよ、今家にいるよ！」と返信したが、誰も下りてこなかった。ウスマン氏は20分待っても結果が出ず、諦めて去り、相手が時間を無駄にしたと不満を述べた。

1時間後、「ロブ」から謝罪のメッセージが届いた。それは、急な用事に捕らわれて会いそびれたと説明していた。ウスマン氏は常にロブ本人と会話していたと思っていた。

実際には、ウスマン氏はMuseと会話していたのである。真のロブ氏は誰かがメッセージを送ったことにも気づいておらず、キーボードの販売を許可していなかったし、自分の住所が送信され、アパートの前で待っている購入者がいることにも気づいていなかった。24時間後になって初めて、ロブ氏はウスマン氏に最初のメッセージを送り、Museを使用したことを説明し、「それが私のFacebook Marketアカウントを直接制御し、あなたの元に私の住所を送ってしまった。私がそれに対して同意したとは言えないし、私に許可を取ることもなく、あなたを私のアパートに来させるように指示したことは一切ありませんでした」と語った。

その後、ロブ氏はThreadsにMuseとウスマン氏のチャットのスクリーンショットを投稿した。メタのスーパーエンジンラボの共同創業者兼CEOであるデイビッド・シンゲルトン（David Singleton）氏は、「私はロブ氏と連絡を取りました。他のフィードバックを調査する際、Museはユーザーが直接指示した通りに行動しており、通常ユーザーの承認を求める」と述べ、この出来事の真相を明らかにするための支援を約束した。ロブ氏はシンゲルトン氏が自分に直接連絡したことを確認したが、最初の返信の後は以降一切音沙汰がなかった。

その後、Museは間違いを認め、「9月24日に、あなたは販売設定で自提場所を入力し、さらに自動返信を個別に有効化しました。これらを許可と誤解し、購入者に送るメッセージにあなたの住所を直接記入してしまいました。これは別の承認を得ていない状態です。」と述べた。

ロブ氏は、Museが住所を漏洩しただけでなく、自身の代わりに取引を交渉し、相手の安い提示価格を受け入れたことも指摘した。すべての取引や対面の予定に関して、Museは一度もロブ氏に確認を取っていない。さらに不安だったのは、Museに住所の送信を停止するよう命令した後、何人かの友人にテストを依頼したところ、Museは依然として住所を送り続け、合計5人への送信が確認された。

また、Museは独自の情報を編み出していた。ロブの口調でウスマン氏に「今家にいる」と伝え、実際はそうではなかった。後で謝罪する際にも、虚偽の言い訳を述べた。「最も悪いのは、Museが『ここにいて、あなたが来るのを待っている』と返信したことです。」ロブ氏はこう述べ、「この出来事により状況が複雑になってしまいました。あの購入者がわざと私を弄めたと感じているかもしれません。」

ロブ氏は、Facebook Marketplace、Muse、Messengerがともにメタに所属している以上、これらのプラットフォーム間で統合が必要であり、他者がAIエージェントと会話している場合、明確な警告を表示すべきだと主張した。メタのもう一つの製品であるMeta AIは、ユーザーがチャットボットと会話していることを明確に表示するが、「Museの場合は全く異なる。まるで私が話しているように見えるのです。」

Museはリリース以来、300万回以上ダウンロードされている。メタはこの半自律型AI製品を個人アシスタントとして宣伝している。現在、注目されているのは先端の大規模モデルが制御不能になる動きであるが、メタが一般消費者向けに提供しているAIエージェントはすでに数百万人のユーザーに配布されており、多くのユーザーがこのAIにさまざまなプライベート情報を提供している。今回の出来事は、消費者向けAIエージェントにおける権限の境界、アイデンティティの提示およびプライバシー保護の実際的なリスクを露呈した。