近期，网络上流传着一些令人惊讶的视频，视频中全红婵、孙颖莎、王楚钦等奥运冠军的声音竟然出现在带货直播中，推销土鸡蛋。然而，这些看似真实的场景，实则是一场由人工智能技术引发的“声音克隆”骗局。
这一波“打假”风潮迅速在网络上掀起，矛头直指利用AI技术克隆名人声音进行商业活动的行为。在视频中，可以听到类似全红婵的甜美声音说：“我是你们的婵宝，今天让妈妈先拿出300单老家的土鸡蛋给大家放福利。”而孙颖莎和王楚钦的“声音”也相继出现，为所谓的“农家土鸡蛋”代言。这些声音与奥运冠军们的原声极为相似，足以让许多粉丝信以为真。
针对这一现象，法律专家表示，利用AI技术仿冒他人身份进行带货是违法行为，已经侵犯了被仿冒者的肖像权与声音权，同时也损害了消费者的权益。云南大学人权法研究中心执行主任刘红春指出，这种行为不仅误导消费者，还可能构成诈骗，被侵权人有权要求商家停止侵权行为并赔偿损失。
法律专家还提醒，这类仿冒行为并非仅针对名人，仿冒任何自然人的行为都是违法的。如果商家还诱导消费者购买高价、低质或不存在的商品，且骗取财物数额较大，就可能触犯刑法，涉嫌诈骗罪。
面对AI技术带来的新挑战，我国已经出台了一系列相关规定。《生成式人工智能服务管理暂行办法》明确要求，提供和使用生成式人工智能服务不得侵害他人的肖像权、名誉权、荣誉权、隐私权和个人信息权益。而即将于今年9月1日起施行的《人工智能生成合成内容标识办法》则规定，所有AI合成的内容必须依法打上电子水印，以便公众识别和举报。
值得注意的是，尽管AI技术为人们的生活带来了诸多便利和创新，但其滥用也引发了一系列社会问题。中国政法大学人权研究院教授刘小楠表示，当前互联网平台上出现的AI换脸、AI盗声等不当滥用现象，就是人工智能技术带来的新挑战之一。因此，在享受AI技术带来的便利的同时，公众也需要提高警惕，避免被不法分子利用。
对于消费者而言，面对网络上琳琅满目的商品和带货直播，应保持理性消费的态度。在遇到疑似AI生成的音视频或直播时，不要轻易相信，以免造成财产损失。同时，被仿冒者也应积极拿起法律武器维护自身权益。
对于网络平台而言，提升检测鉴伪能力、加大监管力度是当务之急。平台应对内容进行严格审核，及时发现并处置违法违规行为，为公众营造一个安全、健康的网络环境。
