当前大模型、智能体等AI（人工智能（885728））技术正加速渗透金融业，在重塑行业效率的同时，也带来需要审慎应对的结构性挑战。
行业的技术应用趋势如何？技术应用边界在哪？如何解决技术的可靠性和可信性问题？技术风险之下又有哪些潜在机遇？在7月3日举办的2026全球数字经济（885976）大会数字金融论坛上，来自业界、学界、政界的专业人士围绕这些问题展开交流。
关注AI技术应用潜在风险
“当前智能金融已经迈入规模化应用阶段。”中国银行（601988）原行长李礼辉在论坛上表示，基于AI Agent（人工智能（885728）代理）的金融智能体已初步展现出高水平的专业能力，并已经开始被部署于市场分析、风险评估、投资顾问、财富管理、量化交易、产品定制、内部审计等高价值领域，这将全面提高金融管理、金融服务的专业化水平。
IDC中国副总裁兼首席分析师武连峰预计，代理式AI将重塑金融核心业务流程。技术应用将持续深入到组织业务流程中，为此，金融机构需做好组织架构变革、利益分配等。
伴随着AI技术在金融业务领域的应用深化，算法幻觉、歧视及黑箱等问题在金融应用场景下也有所凸显。业内人士普遍认为，需重点关注金融业AI技术应用的可靠性、可信性及合规性风险。
除此之外，AI技术可能引发的潜在系统性风险及信息安全问题也值得关注。“一方面，AI技术的持续提升，意味着其对金融系统可能带来的潜在破坏性风险也在不断增大。另一方面，个人信息以及机构用户信息的泄露风险有所加大。AI对用户画像的刻画能力日益增强，使得个人消费（883434）习惯、行为特征等隐私信息面临较以往更为严重的泄露威胁。”德意志银行（DB）投资银行亚洲区主席吴穷认为。
探索多元风险可控措施
金融业是经营风险的行业。业内人士认为，在新的技术环境下，风险依旧是金融机构关注的关键因素。为增强金融业AI技术应用的安全性与合规性，业内人士认为，需要明确AI技术在金融业务领域的应用边界。
实际上，监管对金融机构的AI开发应用已出台更为细化的要求。国家金融监督管理总局发布的《关于银行业保险业人工智能（885728）安全开发应用的指导意见》，从完善人工智能（885728）治理架构、推进高水平人工智能（885728）开发应用、提升数据治理能力等多个方面提出指引。
李礼辉认为，AI时代下，金融的可靠性外延必须扩展到金融科技硬件和软件的可靠性、可信任。“一是需要从模型和算法基础架构的可解释性入手，展现其基本推理路径和逻辑，将金融模型及智能化行为转化为可理解、可监测的过程，逐步实现从结果正确向过程可解释的跨越；二是应让AI模型和工具必须实现金融的可信计算，配置先进的安全技术工具，确保能够去幻觉、零误差。”
“如果说金融的本质是风控，金融AI的本质仍然是风控。”香港科技大学首席内地事务官、香港生成式人工智能（885728）研发中心首席运营官黄红英认为，AI并非万能，涉及高复杂、高风险、高博弈的场景一定要有人兜底。
英国爱丁堡大学金融计算（风险建模）教授马铁军从学界的理论视角出发，提出当下前沿研究正在探索将金融业所要求的合规、公平、可靠、伦理相关考量，前置到AI大模型的训练过程当中，以可保证的安全训练过程推进金融大模型的合规进程，并探索极限风险控制理论和风险量化模型。
需要指出的是，尽管金融业的AI技术应用存在各类潜在的新兴风险点，但业内人士普遍认为，AI技术正在为行业带来更多机会。
马铁军指出，“我们将大规模生成式AI技术应用于银行业交易及个人数据监测场景，以实现对金融弱势群体的需求特征进行前瞻性识别，并为制定更具针对性的政策支持提供依据。”
值得一提的是，AI技术应用伴生的风险也在给保险业带来机会。普华永道管理咨询数智化咨询合伙人王建平表示，近期，其所在公司正与多家保险公司联合研发一款针对AI伴生风险的保险产品，旨在为AI应用过程中可能引发的相关风险提供保障。典型场景包括自动驾驶汽车、无人机（885564）及机器人等实体智能设备引发的责任风险，同时也涵盖AI智能体（886099）在运行过程中可能产生的知识产权侵权、肖像权侵犯等无形风险。这些领域均存在广阔的保险业务机会。
