當 AI 聊天機器人開始扮演“全能醫生”和“金牌律師”時，法律的緊箍咒也隨之而來。美國紐約州立法機構正在審議一項代號爲 S7263 的法案，旨在禁止 AI 聊天機器人向公衆提供實質性的法律或醫療建議。

該法案由紐約州參議院互聯網與技術委員會推動，核心矛頭直指那些可能涉及“無證執業”的 AI 系統。法案規定，AI 聊天機器人嚴禁假扮持證專業人士（如醫生、律師）提供診療建議或法律方案。如果運營方違反禁令，用戶將擁有民事訴權，可以直接起訴聊天機器人所有者並索賠。

爲了防止誤導，法案還提出了一套“身份透明”標準：

  • 強制提示：所有者必須以“清晰、顯著”的方式告知用戶正在與 AI 互動，且字體需易於辨認。

  • 責任共擔：即便提供了提示，所有者也無法免除因 AI 建議造成傷害而應承擔的法律責任。

此次立法背後有着沉痛的背景。今年 1 月，因數起與未成年人自殺相關的訴訟，生成式 AI 應用 Character.AI 與 Google 達成了和解。紐約州參議員克里斯滕·岡薩雷斯強調，公衆理應獲得“來自真實人的真實關懷”，AI 的創新不應以紐約人的安全，尤其是兒童的安全爲代價。

若該法案最終簽署通過，將在 90 天后正式生效。這預示着 AI 行業將告別“野蠻生長”的諮詢時代，各平臺必須在專業領域與用戶之間築起一道堅實的安全防火牆。