在人工智能技术迅猛发展的当下，普通民众既享受着技术革新带来的便利，也面临着新型诈骗手段的威胁。近期，利用AI换声换脸技术实施诈骗的案例频发，中老年群体成为主要受害对象，这一现象引发社会广泛关注。记者调查发现，部分网络平台存在监管漏洞，为不法分子提供了可乘之机。
记者在二手交易平台闲鱼搜索"AI换脸"关键词后，发现多家提供换脸视频制作的商家。当询问能否制作明星换脸视频时，商家以肖像权为由拒绝，但表示可接受普通人或网红的订单。制作单条换脸视频收费19.9元，包含声音合成则需25元，商家承诺仅需提供一张照片，30分钟内即可完成制作。记者体验购买两条视频共花费50元，整个交易过程未遇到任何身份审核或内容审查。
与二手平台形成鲜明对比的是，主流电商平台对相关关键词实施了严格管控。当记者在某电商平台搜索"AI换脸"时，系统自动跳转至"绿网计划"宣传页面，提示用户遵守《反电信网络诈骗法》等法律法规。网络安全专家张威指出，当前AI领域监管处于模糊地带，虽然《民法典》明确规定未经许可不得伪造他人肖像，但实际执行中存在困难。
国家早在2025年就出台了《人工智能生成合成内容标识办法》，要求所有AI生成内容必须添加显式或隐式标识，相当于强制要求亮明"数字身份证"。然而记者测试发现，将购买的AI换脸视频上传至多家短视频平台后，均能顺利发布且未被标注AI生成属性。这种监管缺失为诈骗分子提供了便利条件。
上海嗨通科技创始人张林才向记者演示了AI换脸的全过程：仅需一张日常照片和普通笔记本电脑，就能将人脸信息移植到他人身上。更令人震惊的是，用这种技术合成的视频成功骗过了记者亲属的识别。张林才建议，公众可通过要求对方做捂脸动作来识破换脸骗局，因为该动作会破坏面部信息合成效果，同时可通过回忆共同经历来验证通话对象真实性。
除了换脸诈骗，AI生成的低质量视频也在侵蚀老年人的消费安全。中老年博主宝龙发现，各大视频平台充斥着大量AI制作的"财神爷""送子观音"等迷信内容，这些视频下方常附有三无产品购买链接。宝龙表示："我爷爷每天刷手机超过8小时，这类视频越点赞推送越多，很多老人因此购买劣质商品。"据他观察，制作者通过流量分成每日可获利数十元，而AI制作成本几乎为零，导致此类内容泛滥。
专家分析指出，中老年人成为主要受害群体的原因在于技术认知不足和情感需求强烈。不法分子正是利用老年人对亲人的思念之情，通过伪造视频实施诈骗。宝龙呼吁子女应加强与长辈的沟通，定期普及防骗知识，同时建议平台建立更严格的内容审核机制，对可疑视频实施年龄分级或限制推送。
