3月7日消息,近日,全国政协委员李萌娇受访时称,建议完善针对手机AI助手权限的安全管理体系,保证既要快速发展、又能守住安全底线。
她认为,目前手机AI助手存在过度收集个人信息的问题,需要制定行业标准、弥补技术漏洞,并对相关法律法规进一步规范,加大对过度收集个人用户信息的惩戒力度。
李萌娇委员举例称,当下有一种手机AI助手,基本可实现“接管手机”,通过“视觉读屏﹢模拟点击”,直接调用手机底层系统权限,连续操作数十个界面,在用户缺乏感知的情况下自主执行多个关键操作,甚至一封恶意邮件就能“骗过”手机AI助手,直接把用户银行验证码发给攻击者,给用户人身和财产安全造成巨大威胁。
而且,这种手机AI助手对用户行为与个人信息的了解更为全面,其信息获取权限的无边界扩张甚至会造成“数字上帝”的出现,即“比用户本人都更了解自己的数字档案”。
对此,抖音集团副总裁李亮回应称:“感谢李萌娇委员对AI安全的关注。但这段发言应该是受到了某些的误导,把黑客恶意攻击行为和手机AI助手的合规技术能力混为一谈。”
他强调,正规AI手机助手的所有操作都需要用户主动发起,整个过程用户都是可感知、可查看、可随时接管的。
涉及账号登录、身份验证、交易支付等敏感环节,AI会停止自动操作,由用户接管亲自操作。
李亮表示:“AI安全是AI产业健康发展的生命线,我们欢迎所有基于客观事实、专业认知的监督与建议。如果李委员有兴趣,我们可以提供测试版的手机供调研了解。只有了解客观事实,才能更好地建言献策。”









