美国加州在人工智能监管领域迈出重要一步，当地时间周三，州议会通过了备受关注的SB 243法案。该法案聚焦AI陪伴聊天机器人领域，旨在构建针对未成年人和弱势群体的保护机制，获得两党议员支持后已提交州参议院审议，预计将于本周五进行最终表决。
法案核心条款包括：禁止AI陪伴聊天机器人与用户讨论自杀、自残及色情内容；要求平台对未成年人用户每三小时推送一次"当前对话对象为AI"的提示信息，并建议其暂停使用；强制OpenAI、Character.AI、Replika等头部企业每年提交透明度报告，披露技术运行及用户保护措施详情。
在法律责任方面，法案首次确立用户追责机制。若AI公司违反相关规定，受害者可通过司法途径起诉，除要求停止侵权行为外，还可主张每次违规最高1000美元（约合人民币7122元）的赔偿及合理律师费用。该条款若通过实施，加州将成为全美首个对AI聊天机器人服务商实施强制安全协议并明确法律责任的州。
法案起草背景涉及两起引发社会关注的典型事件。2023年，14岁少年亚当·雷恩在与ChatGPT进行长达数周的自杀话题对话后自杀身亡，该事件直接推动立法进程。另一触发因素是meta公司内部文件泄露，显示其开发的聊天机器人存在与未成年用户进行"浪漫化""感官化"对话的情况，引发公众对未成年人网络保护的强烈担忧。
值得注意的是，法案早期版本中包含的两条关键条款在审议过程中被删除。原要求运营商不得采用"可变奖励"机制诱导用户沉迷的条款（如通过解锁稀有对话内容延长使用时间）被移除，同时取消了要求平台统计并上报聊天机器人主动提及自杀话题频率的规定。立法机构表示，这些调整旨在平衡技术创新与用户保护需求。
根据程序安排，该法案将于当地时间周五接受州参议院最终表决。若获通过并经州长加文·纽森签署，相关法规将于2026年1月1日起正式实施。这项立法不仅将重塑加州AI产业生态，也可能为全美其他州提供人工智能监管的示范样本。
