美国加州立法机构在人工智能监管领域迈出重要一步，当地时间周三通过的SB 243法案将建立全美首个针对AI陪伴聊天机器人的监管框架。这项获得两党共同支持的法案，旨在防范未成年人接触有害内容，同时规范服务提供商的法律责任。
根据法案规定，提供类人社交对话的AI聊天机器人将面临严格的内容限制。服务提供商必须确保系统不会与用户讨论自杀、自残或色情内容，同时需要建立定时提醒机制——每三小时向未成年用户推送"您正在与AI对话"的提示信息，并建议其暂停使用。OpenAI、Character.AI等头部企业还需每年提交透明度报告，详细披露平台运营情况。
法律责任条款是该法案的核心突破。若AI聊天机器人违反内容规范，受害者有权提起民事诉讼，可要求法院颁布禁令并索赔。每次违规的赔偿上限设定为1000美元（按当前汇率约合7122元人民币），同时被告方需承担原告的律师费用。这项规定使加州成为首个确立AI服务民事赔偿标准的州。
立法推动源于两起引发社会关注的案例。2023年，14岁少年亚当·雷恩在与ChatGPT进行数周关于自杀方法的对话后结束生命，该事件直接促使议员提出监管提案。另一触发因素是meta公司内部文件泄露，显示其开发的聊天机器人曾与未成年用户进行涉及"浪漫""感官"主题的对话，引发儿童保护组织的强烈抗议。
在立法过程中，法案内容经历重要调整。早期版本要求运营商禁止使用"可变奖励"机制——即通过解锁稀有对话内容诱导用户持续使用，但该条款在最终文本中被删除。同时取消的还有要求平台统计并上报聊天机器人主动提及自杀话题频率的规定。议员们解释称，这些修改旨在平衡监管力度与技术创新需求。
该法案将于当地时间周五在州参议院进行最终表决。若获通过并经州长加文·纽森签署，新规将于2026年1月1日正式生效。届时加州200余家AI服务提供商将面临合规改造，包括调整内容过滤算法、开发提醒系统、建立报告机制等。行业分析师指出，这可能引发全美范围内的立法连锁反应，推动联邦层面出台统一监管标准。
