在上海的一场聚焦AI金融的沙龙活动中，金融领域的合规机制建设成为了讨论的热点话题。此次活动由社与深蓝媒体智库联合举办，主题为“AI金融双刃剑：从安全底线寻找转型机遇”。在活动的圆桌对话环节，多位行业内的专家和企业代表围绕“AI算法备案时代的金融合规路径”展开了深入探讨。
与会嘉宾一致认为，金融AI的合规实践需要在监管的刚性要求与技术实现的可行性之间找到一个动态平衡。随着人工智能技术在金融领域的广泛应用，如何构建一个既能满足监管要求又能激发创新活力的合规体系，成为了金融科技发展面临的重要课题。
在AI算法备案制度的框架下，金融企业需要对智能投顾、信用评估、保险定价等业务算法进行合规改造和备案准备，这一过程面临着多重挑战。嘉宾们指出，金融AI算法备案的关键在于穿透算法黑箱，实现决策的透明化，以便进行审计和干预。为此，企业需要采取“主动合规”的策略，重构技术伦理。
星火智云副总裁罗方舟分享了他们公司的合规实践。为了应对监管环境的变化，星火智云将监管文本、图片、视频和销售流程意见等转化为AI学习的底层知识库，通过类似“基础必修课”的规划，将正向准则植入AI训练流程。这种“AI研修课”的方式不仅完善了合规能力，也为AI在业务中的大规模应用奠定了基础。
神州融信云科技股份有限公司研发技术中心总经理郭学超表示，当前金融市场虽然看似热度很高，但实际上成熟的应用模式并不多。他认为，备案或许是一个很好的解决合规问题的路径，同时他也强调了合规性的重要性。郭学超透露，他们公司通过应用端到端大模型、固化流程、结合小模型等方式来规避合规困境。
在圆桌讨论中，嘉宾们还探讨了不同金融细分领域的风险特征与影响范围，以及如何在统一框架下实现备案策略的精准适配。上海金融与发展实验室特聘研究员潘晓俊认为，基于不同金融细分领域应用AI算法的风险特征，行业方向已经较为明确。他建议，企业可以从简单、可控的场景入手，逐步深入，同时要注重模型的专业性，包括技术专业度和业务效果的专业性。
中诚信信用分析（北京）有限公司信评总监曹闰则强调了AI输出时的谨慎态度，特别是在考虑“幻觉”问题时。他指出，AI学习过程中的数据收集来自多方，隐私性和密集性存在差异，且缺乏明确的监管规定。因此，如何合规利用这些数据成为了一个难题。曹闰表示，他们公司正在尝试将数据拆分为内部数据和敏感数据两类，但后续拆分是否符合监管要求以及输出是否满足合规性仍需进一步交流。
罗方舟还分享了星火智云在流量场景下面临的算法对抗和数据安全问题。他表示，由于流量平台核心收入依赖广告收入，星火智云需要通过算法精准挖掘目标客户，而平台则倾向于将核心用户打包售卖，这引发了双方通过数据和算法能力争夺目标用户的竞争。在此过程中，数据安全问题尤为突出。罗方舟透露，他们公司正在与支付通道和监管部门沟通，验证数据流的安全性、合规性及算法可控性，以实现监管认可的合规状态。
