AIチャットボットが「万能医者」と「優等弁護士」を演じ始めると、法律の呪文もまたやってくる。米国ニューヨーク州の立法機関は、AIチャットボットが一般の人々に実質的な法的または医療上のアドバイスを提供することを禁止する法案S7263を審議中である。

この法案は、ニューヨーク州上院インターネットおよび技術委員会によって推進されており、その中心的な対象は、「無資格で業務を行う」可能性があるAIシステムである。法案では、AIチャットボットが資格を持つ専門家（医師や弁護士など）を装って診断のアドバイスや法的解決策を提供することは厳禁とされている。もし運営者がこの禁止令に違反した場合、利用者は民事訴訟権

誤解を防ぐために、法案は「アイデンティティの透明性」に関する基準を提示している：

  • 強制的なヒント：所有者は、ユーザーがAIと対話していることを「明確で目立つ」ように伝えなければならない。また、フォントは識別しやすいものでなければならない。

  • 責任の共有：ヒントを提供しても、AIのアドバイスにより害を受けた場合、所有者が負うべき法的責任を免責することはできない。

この立法の背景には痛ましい事実がある。今年1月、未成年者の自殺に関連する複数の裁判において、生成型AIアプリケーションのCharacter.AIとグーグルは和解した。ニューヨーク州上院議員のクリスティーン・ゴンサレス氏は、人々は「真の人の真の関心」を受けるべきであり、AIのイノベーションがニューヨーク人の安全、特に児童の安全を犠牲にしてはならないと強調している。

この法案が最終的に署名されれば、90日後に正式に施行される予定である。これはAI業界が「暴走する」相談時代から抜け出すことを示しており、各プラットフォームは専門分野とユーザーの間に堅固なセキュリティのバッファゾーンを築く必要がある。