11月21日消息,华中科技大学与阿里巴巴集团在11月18日签署合作协议,双方围绕人工智能安全共建智能攻防与前沿安全联合研究中心,首批启动9个课题。
该中心首批课题分布在四个方向,包括大模型安全攻防、智能体与终端安全、智能化系统与软件安全以及数据协同与隐私保护。
当人工智能智能体代替用户操作手机、完成复杂任务时,可能遇到屏幕画面伪造、操作被恶意诱导等风险。针对这些问题,中心设置了图像对抗样本与终端威胁研判课题,探索相关安全风险的识别与防护技术。
在数据协同与隐私保护方向,中心设置隐私保护关系图谱课题,研究利用密态计算等技术,让数据实现可用不可见、协同不透传,使数据互通带来的便利与隐私保护并行不悖。











