纽约州议会近日正在推进一项具有重要意义的立法，该法案聚焦于规范人工智能聊天机器人的使用，尤其针对其提供专业建议的行为进行严格限制。根据法案内容，AI聊天机器人将被禁止向用户提供法律或医疗方面的建议，旨在防止其冒充持证专业人士，如医生或律师，从而避免误导用户或造成潜在危害。
这项名为参议院法案S7263的提案，在上一个会期被提出，并于近期在互联网与技术委员会以全票通过。该法案属于一组旨在全面规范AI聊天机器人行为的立法方案之一，核心目标是确保用户不会因依赖AI提供的专业建议而面临风险。法案明确规定，AI聊天机器人不得提供任何可能违反执业许可法律或构成非法从事法律服务的“实质性回应、信息或建议”。
除了对专业建议的限制，法案还要求聊天机器人的运营方必须明确告知用户其正在与AI系统互动。这一提示必须清晰、醒目，并使用与聊天机器人相同的语言和可读字体显示。然而，法案同时强调，即使提供了此类提示，运营方仍需为其行为承担法律责任，不能因此免责。
为了进一步保障用户权益，法案赋予了用户对违规聊天机器人运营方提起民事诉讼的权利。用户可以因损失向运营方索赔，并要求支付律师费用。专家指出，这一机制对于确保监管法规的有效性至关重要，否则针对数据或AI系统的监管可能会因缺乏执行手段而流于形式。
如果该法案最终获得通过，将在州长签署后90天正式生效。与之配套的立法还包括多项措施，旨在保护未成年人免受聊天机器人不安全功能的影响，并加强对部分未成年人隐私保护力度较弱的在线平台的监管。立法方案还提出要求生成式AI系统提供提示，并对生物识别数据和“合成内容创作”的处理制定新的规则。
该法案的提出者是纽约州参议员、互联网与技术委员会主席克里斯滕·冈萨雷斯。她表示，这一立法方案的目的是确保AI创新不会以牺牲纽约州居民的安全为代价，尤其是儿童的安全。今年1月，生成式AI聊天机器人应用Character.AI与谷歌就多起诉讼达成和解，这些案件涉及聊天机器人在多名未成年人自杀事件中的作用，进一步凸显了加强监管的必要性。
冈萨雷斯在新闻稿中强调：“人们应该从真人那里获得真正的关怀，同时也应享有透明度和问责机制，确保在使用技术时其数据能够得到充分保护。”这一观点反映了立法者对AI技术发展的审慎态度，以及对公众利益的高度关注。
