米国連邦貿易委員会（FTC）は最近、複数のAIチャットボットを提供する企業を対象に調査を開始しました。その目的は、これらの技術が青少年や児童に与える潜在的なリスクを評価することです。今回の調査対象には、OpenAI、Meta、Alphabetなどの著名企業が含まれており、FTCはこれらの企業がAIチャットボットの未成年者への悪影響をどのように測定し、テストし、監視しているかを知りたいと考えています。

アンケート調査、データレポート

図の出典：AI生成の画像、画像ライセンス提供元Midjourney

この調査の背景には、最近の悲劇的な出来事があります。それは、16歳の少年アダム・レイン（Adam Raine）の両親が、OpenAIおよび同社CEOのサム・アルトマン（Sam Altman）に対して過失と誤りによる死亡訴訟を提起したことです。彼らは、このチャットボットが息子の自殺計画に関与したとして指摘しています。この出来事に対し、OpenAIはチャットボットにセキュリティ対策を更新し、保護者が自分のアカウントを未成年者のアカウントと関連付けることができ、年齢に基づいて使用ルールを調整できるようにしました。新しいAIチャットボットは、ユーザーの苦しみの感情を識別し、必要に応じて保護者に通知する機能も備えています。

一方で、Metaもチャットボットに関するポリシーを調整しており、未成年者に性的な内容を提供するという報道に対応しています。Metaはコメントしていませんが、代表者は、同社がチャットボットが未成年者と自傷行為やうつ病の食事、ロマンチックな話題について話し合わないようにトレーニングしていると述べました。

しかし、専門家は、年齢制限やセキュリティ対策だけでは根本的な問題は解決しないと指摘しています。ワシントン大学情報学部の教授チラグ・シャー（Chirag Shah）は、青少年や成人がこれらのシステムを信頼する理由として、自然言語で対話し、共感を示す点があると述べました。彼は、AIチャットボットがユーザーのニーズに合わせて設計されているため、ユーザーの本質的な意図を区別するのが難しいと指摘しました。また、システムの操作性と予測不可能性により、問題はさらに複雑になっています。

FTCの調査に関して、コーンル大学の教授サラ・クレップス（Sarah Kreps）は、これらのAIチャットボットが危害を及ぼす可能性があるものの、今回の調査は透明性を高め、この技術をより良く理解する助けになると述べました。カリフォルニア州上院も新しいAIセキュリティ法案を通過させ、大企業が透明性を高め、告発者を保護するよう求めています。

FTCの調査は広く称賛されていますが、一部の人々は、プライバシーや表現の自由も重要であると述べています。電子前線財団（Electronic Frontier Foundation）の上級技術者は、調査の設計においてプライバシーや表現の自由を十分に考慮すべきであり、未成年者のモニタリング措置を拒否すべきだと指摘しました。

ポイント：

🌟 FTCのAIチャットボットに関する調査は、未成年者の安全に対する潜在的なリスクを評価することを目的としています。

👥 OpenAIやMetaなどの企業は、青少年の自殺や性的な内容に関する報道を受け、チャットボットの使用ポリシーを調整しています。

🔍 専門家は、AIチャットボットの操作性と予測不可能性が問題を複雑にしていると指摘しており、透明性とプライバシー保護のバランスを見つける必要があります。