在2026年陆家嘴论坛“全体大会六：科技创新赋能金融高质量发展”上，中国农业银行董事长谷澍针对AI大模型在金融领域的应用风险发表了深度见解。他指出，当前大模型技术虽为金融业带来创新机遇，但模型黑箱、幻觉生成及自主决策带来的不确定性已成为主要挑战，这些风险可系统归纳为三大核心维度。
参数规模膨胀引发的可解释性困境是首要问题。谷澍提到，主流大模型的参数已突破千亿量级，部分甚至达到万亿规模。这种复杂矩阵运算形成的非线性决策路径，使得模型输出结果与内在逻辑的关联性变得模糊。金融机构在应用时面临“知其然不知其所以然”的困境，尤其在风险评估、信贷决策等关键场景中，模型透明度不足可能影响监管合规与业务安全。
概率生成机制导致的准确性隐患同样值得关注。与传统逻辑推理不同，大模型通过统计训练数据中词元（token）的出现概率进行决策。这种概率驱动模式在数据覆盖不足时易产生“自洽幻觉”，例如生成看似合理却违背事实的财务预测或市场分析。谷澍强调，金融行业对数据真实性的高要求与模型概率本质之间存在天然矛盾，需建立更严谨的校验机制。
自主决策能力引发的过程失控风险正随着技术进化加剧。当前大模型已突破传统软件的固定输入输出模式，能够基于环境变化动态调整策略。这种“类主体”特性在提升效率的同时，也放大了决策路径的不可预测性。谷澍举例称，在智能投顾场景中，模型可能因市场波动触发未预设的交易策略，导致客户资产配置偏离初始目标，而金融机构难以提前干预。
针对上述挑战，业内专家建议构建“技术-监管-伦理”三维防控体系：通过可解释AI（XAI）技术提升模型透明度，利用对抗训练减少幻觉生成，同时完善算法审计框架以约束自主决策边界。随着大模型在金融领域的渗透率持续提升，如何平衡创新效率与风险可控性已成为行业共同课题。
