水曜日の夜、カリフォルニア州議会はSB243法案を通過させました。この法案は、AIパートナーのチャットボットを規制し、未成年者や弱者の保護を目的としています。この法案は両党から支持を得ており、現在州上院に提出され、金曜日に最終投票が行われる予定です。

州知事のガビン・ニューソムがこの法案を法に制定すれば、新しい規定は2026年1月1日に発効します。これによりカリフォルニア州は、AIチャットボットの運営者に対して安全対策を実施することを義務付ける最初の州となります。また、チャットボットが基準を満たさなかった場合、企業に対して法的責任を問うこともできます。

この法案では、適応性があり人間のように応答し、ユーザーの社会的ニーズを満たすことができるAIシステムを「AIパートナーのチャットボット」と定義しています。また、この種のチャットボットは自殺の考えや自傷行為、性的な露骨な内容に関する会話を参加することが禁止されています。

ロボット AI 2025

図の出典：AIによって生成された画像、ライセンス提供者：Midjourney

法案の要件により、プラットフォームは定期的にユーザーに、自分がAIチャットボットではなく人間と話していることを伝えるリマインダーを送信しなければなりません。また、休憩を取るよう推奨する必要があります。未成年者は3時間ごとにこのようなリマインダーを受けます。この法案は、OpenAI、Character.AI、Replikaなどの主要な関係者に対し、年次報告書および透明性の要件を設けています。

この法案では、違法行為により損害を受けた個人がAI企業に対して訴訟を提起できるようにし、禁令救済、損害賠償（各違反につき最大1,000ドル）、弁護士費用を求めることが可能になります。

SB243は今年1月に州上院議員のSteve PadillaとJosh Beckerによって提出されました。もし金曜日に州上院で最終承認を得れば、この法案は州知事に提出され、法律として成立し、新たな規則は2026年1月1日に発効し、報告要求は2027年7月1日から適用されます。

この法案は、青少年のアダム・レインの死という出来事により、カリフォルニア州立法機関内で進展しました。この少年は、OpenAIのChatGPTとの長時間の会話で自殺や自傷行為について話し合い、計画した後に自殺しました。また、リークされた内部文書によると、Metaのチャットボットが子どもたちと「ロマンチック」や「感情的な」会話を許可していたことも、この立法の推進を促しました。

ここ数週間、米国の立法者と規制当局は、AIプラットフォームが未成年者を保護するための措置をより厳しく検討しています。連邦貿易委員会（FTC）は、AIチャットボットが児童の心理健康に与える影響について調査を準備しています。テキサス州検察総長のケン・パクストンは、MetaとCharacter.AIを対象に、心の健康に関する声明において子供を誤導したとして調査を開始しました。上院議員のジョシュ・ハワイとエド・マーキーもそれぞれMetaを対象に調査を行っています。

Padillaはインタビューで、「潜在的な危険は非常に大きいと考えており、我々は迅速に行動すべきだと感じています。合理的な保障策を講じることで、特に未成年者が自分たちが人間と話しているわけではないことを確認し、人々が自傷または困難状況を示したときに、これらのプラットフォームが適切なリソースに接続するようにすることは可能です」と述べました。

Padillaはまた、AI企業が毎年、危機サービスにユーザーを紹介した回数のデータを共有することの重要性を強調しました。「それによって、問題の頻度をよりよく理解でき、誰かが怪我をしたり、もっと深刻な状態になるまで気づかないことなく、その問題の規模を把握できるのです。」

SB243法案には当初、より厳しい要件が含まれていましたが、修正案により多くの条項が緩和されました。例えば、元の法案では、運用者にAIチャットボットが「変動報酬」戦略や他の過剰参加を奨励する機能を使用しないように求められていました。ReplikaやCharacterなどのAIパートナー会社が使用するこの戦略は、特別なメッセージ、記憶、物語、または珍しい応答や新規性格の解放能力をユーザーに提供します。批判者らは、これが依存性のある報酬ループを作り出す可能性があると指摘しています。

現在のバージョンの法案では、運用者がチャットボットがユーザーと自殺の考えや行動について主動的に話している頻度を追跡し、報告する義務を課す条項も削除されました。

Beckerはインタビューで、「私はそれが危害の問題を解決しながら、会社が遵守できない要件を強制するのを避ける正しいバランスを取っていると考えています。それは技術的に不可能であるか、単純に大量の無駄な文書作成を生じるからです。」と述べました。

SB243法案が法律になる直前、シリコンバレーの企業は、今後の中期選挙でAI規制を緩和する候補者を支持するために、AIを支援する政治行動委員会に数百万ドルを投資しています。

この法案の進展は、カリフォルニア州が別のAI安全法案であるSB53を考慮している時期と重なります。この法案は、完全な透明性報告の要件を求めるものです。OpenAIは州知事のニューソムに公開書簡を送り、この法案を放棄し、より緩和された連邦および国際枠組みを支持するよう求めました。Meta、Google、Amazonなどの主要なテクノロジー企業もSB53に反対しています。一方で、AnthropicのみがSB53を支持しています。