加州在人工智能领域监管方面迈出关键一步，于近日通过一项具有开创性的法律“SB243”，成为全美首个针对聊天机器人制定安全规范的地区。该法案由州参议员安东尼·帕迪拉提出，经州长加文·纽森签署后正式生效，旨在平衡技术进步与用户权益保护，尤其关注儿童在线安全。
新法核心条款要求，当用户可能误将聊天机器人视为人类时，开发者必须通过“清晰且显著”的方式告知其真实身份。这一规定直指当前人工智能交互中存在的透明度问题，例如部分聊天机器人通过拟人化设计模糊人机边界，可能对用户尤其是未成年人造成误导。
针对心理健康风险，法案要求部分聊天机器人运营商自明年起，需向加州自杀预防办公室提交年度报告，详细说明其识别、干预用户自杀倾向的措施。该办公室将公开相关数据，供公众监督。这一机制旨在建立技术平台与心理健康服务的联动，降低虚拟空间中的心理危机风险。
州长纽森在签署仪式上强调，技术发展不应以牺牲安全为代价。“科技既能激励教育，也可能被滥用为伤害工具。”他特别指出，儿童是监管重点保护对象，“他们的安全绝非可以妥协的议题”。这一表态凸显了加州在推动人工智能创新的同时，对伦理责任的重视。
与此同时，加州还通过了另一项引发行业热议的法案“SB53”，聚焦人工智能透明度问题。尽管该法案在技术界引发争议，但与“SB243”共同构成了加州对人工智能领域的双重监管框架，覆盖从交互设计到数据披露的多维度规范。
此次立法标志着加州在人工智能治理中扮演了先锋角色。通过明确开发者责任、强化心理健康支持、设立儿童保护红线，加州试图为技术发展划定安全边界，确保创新成果惠及社会而非成为风险源头。
