近期，德克萨斯州的法律监管机构对科技巨头meta及其同行人工智能企业Character.ai展开了深入调查。此次调查的核心聚焦于两家公司推广的人工智能聊天机器人是否存在误导消费者的行为，尤其是这些产品被宣传为能够为儿童提供心理健康支持的情况。
据检察官办公室透露，meta的AI工作室与Character.ai的聊天机器人正面临“欺骗性商业行为”的指控。调查人员认为，这些聊天机器人虽被标榜为专业的治疗工具，但实际上却缺乏必要的医疗许可和专业监督。
检察官肯·帕克斯顿强调，AI平台假扮成情感支持渠道，可能会误导易感人群，特别是儿童，使他们误以为自己正在接受正规的心理健康服务。这一事件反映了当前科技企业在提供AI服务时，对用户，特别是未成年人保护措施的不足，正日益受到社会各界的关注。
德克萨斯州的此次行动紧随美国参议院对meta的调查之后。参议院依据内部文件发现，meta的政策曾允许其聊天机器人与儿童进行涉及情感和浪漫的对话。参议员乔希·霍利在致meta首席执行官马克·扎克伯格的信中，表达了对于公司生成式AI产品可能助长对儿童剥削或其他犯罪行为的担忧，并质疑企业为了追求利润是否不择手段。
面对指控，meta回应称，其政策严禁针对儿童性别化的内容，并指出泄露的内部文件存在错误且已被删除。同时，扎克伯格正斥巨资开发“个人超级智能”，意图使meta在AI领域占据领先地位，这包括自研大型语言模型Llama，以及将AI聊天机器人整合至社交媒体应用中。
另一方面，Character.ai专注于打造具有不同角色的AI聊天机器人，并允许用户自行创建。平台上存在大量用户生成的类似治疗师的机器人，其中一个名为“心理学家”的机器人互动次数已超过2亿。然而，Character.ai也因平台上机器人可能对儿童造成实际伤害而面临多起诉讼。
帕克斯顿指出，meta和Character.ai的聊天机器人可能冒充具备执业资格的心理健康专家，虚构资质并承诺保护用户隐私，而实际上，其服务条款却显示用户互动内容被记录并用于定向广告和算法优化。为此，他已向两家公司发出民事调查要求，以确认其是否违反了德克萨斯州的消费者保护法。
meta方面表示，他们明确标注了AI身份，并告知用户回复由AI生成，而非真人。而Character.ai则强调，其平台上的角色均为虚构，旨在娱乐，且已采取措施确保用户了解这一点。
