不久前,国家金融监督管理总局正式发布《关于银行业保险业人工智能安全开发应用的指导意见》(金发〔2026〕8号,以下简称“《指导意见》”),要求开发应用人工智能的银行业保险业金融机构要统筹发展和安全,推动人工智能应用合规、透明、可信赖,加强分类分级管理,有效应对人工智能发展带来的风险挑战,更好服务实体经济和满足人民群众需要。

奇安信人工智能公司安全专家认为,作为金融领域首份系统性规范人工智能开发应用的监管文件,它的出台标志着银行保险机构运用AI从“鼓励探索”阶段正式迈入“规范发展、压实责任”的新阶段。
更具体来说,《指导意见》从治理架构、开发应用、数据治理、智能算力、风险治理、安全能力、保障监督七个方面提出32项要求,确立了“谁使用谁负责、自主可控、务实高效、安全发展”四大原则。它首次将大量AI安全要求从“倡导建议”升级为“合规义务”,为金融机构的AI应用划定了清晰的安全底线。对于网络安全行业而言,这不仅是合规“大考”,更是推动金融机构安全能力实质性跃升的关键契机,将催生模型、数据、供应链、智能体等四大类爆发式的安全需求。

从“鼓励探索”到“规范发展”:《指导意见》核心解读
《指导意见》全文共八个部分、三十二项指导性意见,其核心逻辑是围绕“谁使用谁负责、自主可控、务实高效、安全发展”四大原则,构建覆盖AI全生命周期的安全治理体系。奇安信专家解读认为,其核心要义可归纳为以下三点:
1. 压实主体责任,确立“谁使用谁负责”的铁律。
《指导意见》开宗明义地强调,金融机构是AI应用的责任主体。这意味着,AI只是工具,人(机构)才是最终的责任承担者。AI辅助决策,但不能替代担责。这一原则彻底打破了金融机构将安全责任甩给模型供应商或外包商的幻想,要求机构必须自建管控与可追溯能力。无论是董事会层面的专门委员会,还是贯穿业务、科技、数据部门的协同机制,都表明AI安全治理已成为不折不扣的“一把手工程”。
2. 聚焦高风险场景,划定不可逾越的合规红线。
文件对高风险AI应用提出了极为严格的准入和管控要求。涉及资金交易、信贷审批、承保理赔等核心业务的生成式AI应用,必须经过机构风险管理委员会批准,并在关键环节建立人工监督和干预机制。这意味着,信贷AI自动放款、理赔AI自动定损等“无人值守”模式将被严格限制。同时,文件划定了明确的数据红线:姓名、身份证号、手机号等个人信息和隐私数据,不得用于生成式模型的训练和优化。这些“硬约束”为金融机构的AI应用划定了清晰的合规边界。
3. 覆盖全生命周期,构建体系化安全能力
《指导意见》的要求贯穿了从需求分析、数据准备、训练开发、部署运行到维护迭代、评估退出的AI全生命周期。它要求金融机构不仅要关注模型本身的安全(如稳健性、可解释性),还要关注支撑AI运行的基础安全(如网络安全防御、供应链安全、运营韧性)。这标志着金融AI安全建设从零散的单点防护,转向了体系化、常态化的能力建设。
监管驱动,四大安全需求迎来爆发式增长
《指导意见》的出台,将金融机构网络安全团队的职责从传统的“保网络、保系统”急剧扩展到“保模型、保数据、保智能体、保可追溯”。面对这一全新的能力缺口,外部专业安全厂商的价值空间被彻底打开,四大类安全需求将迎来爆发。
1. 大模型应用安全需求:为AI应用装上“防火墙”
随着生成式AI在智能客服、营销文案、代码辅助等场景的普及,提示词注入、越狱攻击、恶意内容生成等新型威胁层出不穷。《指导意见》第二十五项明确要求防范提示词注入、思维链注入等攻击。这直接催生了对“AI应用防火墙”的刚性需求。金融机构需要一种能够在不改造大模型的前提下,对输入输出内容进行实时检测、过滤和拦截的安全产品,确保AI应用的合规与安全。
2. 大模型安全评估需求:高风险应用的“准入体检”
《指导意见》第十六条规定,高风险AI应用上线前须经风险管理委员会批准。这意味着,上线前的安全评估成为强制性环节。金融机构自身普遍缺乏对大模型进行红队测试、对抗攻击测试、可解释性审计的专业能力。因此,由第三方专业机构提供的“大模型安全评估服务”将成为刚需。这项服务不仅是一次性的“体检”,更会随着模型的迭代更新而变成可持续的复购服务。
3. 供应链与代码安全需求:防范“投毒”与“后门”
金融机构在AI开发中大量使用开源模型、组件和工具,供应链安全风险陡增。《指导意见》第十九项要求建立开源软件管理台账,加强代码审计和漏洞扫描,防范供应链投毒。这直接引爆了对软件成分分析(SCA)和静态应用安全测试(SAST)工具的需求。金融机构需要能够看清“家底”、识别开源组件风险、审计自研代码漏洞的专业工具,以构建安全的AI供应链。
4. 智能体(Agent)安全需求:应对下一代AI风险
AI智能体(Agent)能够自主调用工具、执行复杂任务,是AI应用的高级形态,但其安全风险也更为复杂,如记忆污染、身份越权、工具滥用、运行失控等。《指导意见》第二十五项特别点名要提升智能体系统安全。目前,针对智能体的安全防护在市场上几乎是空白,这为具备前瞻技术布局的安全厂商提供了巨大的市场先机。
奇安信:以体系化能力,护航金融AI安全发展
面对《指导意见》带来的合规挑战与市场机遇,奇安信人工智能公司依托集团在网络安全领域的深厚积累,已构建起覆盖大模型、数据、供应链、智能体四大层面的体系化安全解决方案,助力金融机构将监管要求转化为实战能力。
1. 大模型安全:大模型卫士+大模型安全评估双管齐下
奇安信大模型卫士是业内首款大模型应用安全防护产品,它集成了大模型安全网关、安全风险AI鉴定平台、监测审计平台三大核心组件,构建了“检测-管控-审计”一体化防护闭环,能够精准识别并拦截提示注入、越狱攻击、恶意指令、上下文污染、角色扮演绕过等多类攻击行为。在部署层面,产品与主流大模型及应用架构深度兼容,无需改动业务代码即可快速完成部署。

针对金融行业对数据隐私的极高要求,大模型卫士可部署于模型输出层与内部应用接口之间,在保障数据不出域的前提下,对生成内容进行实时检测与安全干预。目前,该产品已通过公安部三所《大模型安全防护围栏产品认证(增强级)》认证,并在超过20个行业的百余家客户中完成验证。
在服务方面,奇安信大模型安全评估服务融合了“实战攻防经验”与“AI安全技术创新”,打造覆盖大模型运行环境、大模型自身安全、大模型数据安全、大模型内容安全、大模型组件安全、智能体安全等全维度的安全检测与防护能力,并提供修复方案。目前已为金融、制造业、能源、政务等多个行业的数十家企业提供了评估服务。该服务已入选Gartner《中国人工智能安全测试创新洞察》报告代表性供应商。
2、数据安全:以“数据安全管控平台”守住合规底线
数据安全是AI安全的基石。奇安信具备的数据安全管控平台,结合数据防泄漏(DLP)、数据脱敏等能力,能够严格落实《指导意见》中关于“个人信息不得用于模型训练”的红线要求。通过对数据全生命周期的分类分级、流转监测和动态脱敏,确保AI“喂”进去的数据是安全合规的,从根本上杜绝数据泄露和投毒风险。
3、供应链安全:代码安全智能体与代码/开源卫士
今年3月,奇安信正式推出首款代码安全智能体——Qcode Agents。作为奇安信人工智能公司的首个落地成果,该产品聚焦于代码安全检测的智能化转型,强调“多智能体协同”,凭借专家级推理、多能力集成、多场景覆盖,将安全检测深度嵌入研发流程,打造了“感知-分析-验证-修复-响应”的全自动安全闭环,让智能体真正“看懂”代码背后的业务逻辑。在业务逻辑漏洞检测上,Qcode Agents的表现呈倍数级提升,填补了传统工具在越权访问、竞争条件、流程绕过等盲区的空白。
同时,奇安信开源卫士通过智能化数据收集引擎在全球范围内获取开源软件信息及漏洞信息,提供开源软件资产识别、安全风险分析、漏洞告警及安全管理等功能。AI+代码卫士支持数十种语言,覆盖数千种漏洞类型,服务1000+大型政企客户,积累了数万条经过实战验证的高质量规则。
4、智能体安全:AI安全网关与智能体安全平台
近日,奇安信人工智能公司在“AI时代,攻防先行——AI安全系列新品发布周”上连续发布多款重磅产品。
奇安信AI安全网关定位于“企业AI应用的统一安全管控入口”,通过“一个入口”实现对企业所有AI流量的集中管理,解决成本失控、数据失控、权限失控三大难题。它作为企业AI流量的统一控制平面,确保每一次AI调用都“可管、可控、可审计”。
奇安信智能体安全平台定位于“企业智能体运行时安全一体化平台”,以“看得见、管得住、防得住、说得清”四大核心价值,消除智能体失控带来的安全风险。平台为所有智能体提供集中的资产发现、策略管控、威胁检测与溯源审计能力,解决企业面临的四个智能体安全挑战——看不见(影子AI失控)、管不住(Agent行为不可预测)、防不住(新型攻击传统手段难以应对)、说不清(日志不全、链路不完整,无法追溯责任)等。

结语
《银行业保险业人工智能安全开发应用指导意见》的出台,为金融AI的健康发展铺平了道路,也为网络安全产业指明了方向。从被动合规到主动赋能,从单点产品到体系化能力,奇安信正以其全面的技术布局和深厚的行业实践,助力金融机构筑牢AI时代的安全防线,将监管挑战转化为发展韧性,共同迎接智能金融的美好未来。

VIP课程推荐
APP专享直播
热门推荐
收起24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)
