11月18日,华中科技大学与阿里巴巴集团签署合作协议,双方将围绕人工智能安全展开合作,并共建智能攻防与前沿安全联合研究中心。该中心首批启动9个课题,研究方向覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护。
在智能体安全方面,中心关注人工智能智能体代用户操作手机、执行复杂任务时可能遇到的风险。例如,屏幕画面可能被伪造,用户操作可能受到恶意诱导。围绕这些场景,中心设置图像对抗样本与终端威胁研判课题,研究风险识别和防护技术。
数据协同与隐私保护也是首批课题的重要方向。中心设立隐私保护关系图谱课题,尝试借助密态计算等技术,实现数据可用不可见、协同不透传。这样既能保留数据互通的便利,也能加强隐私保护,避免二者只能二选一。











