AI技术带给银行业金融机构的 失泄密风险及对策

　　当前我国AI技术发展突飞猛进，众多企业积极投身AI技术研发，直接推动了AI技术门槛不断降低，并迅速衍生出在“智能代写”“AI心理咨询师”“AI语音助手”多个类目的实际用途，在某些工作中能够大大降低工作强度，赢得了众多受众的青睐。然而对于银行业金融机构来说，AI技术也存在数据过度收集、强数据挖掘关联、模型投毒攻击等众多弊端，一旦使用不当，则存在着明显的失泄密隐患。

　　一、银行业金融机构对AI技术应用现状

　　目前，国内多家银行纷纷对其手机银行APP进行了升级，2024年国有六大行金融科技总投入达1254.59亿元。在金融企业级大模型应用上，某国有银行的大模型技术体系甚至覆盖了20余个业务领域、200余个场景，累计调用超10亿次，还有的银行AI技术覆盖了79个场景，财务分析效率由数小时缩短至分钟级。此外，在客户端表现上，AI技术成为各大银行争相展示的亮点。从智能客服到个性化服务推荐，再到风险防控和智能投顾，AI技术的应用正全面赋能手机银行的功能创新和服务优化。

　　(一)线上软件应用

　　在金融服务场景中，手机客户端、网上银行、公众号微

　　银行等线上服务发挥着越来越重要的角色，根据公开消息，2024年全国个人网上银行用户使用比例达57%，其中大量的AI技术应用更是渗透了客户服务的方方面面。一是智能客服。通过大量的AI交互数据演练，实现主动服务，甚至通过自然语言处理技术实现7×24小时在线应答，覆盖账户查询、转账、贷款办理等高频需求。二是个性化推荐算法。通过收集用户交易历史、浏览行为和风险偏好数据，再结合AI模型算法，精准推荐理财、信用卡等产品。三是多模态验证。通过同时收集指纹、面部困惑表情和反复点击频率等信息，提前预判客户投诉趋势并触发指引，降低投诉率。

　　(二)办公场景应用

　　同样，在银行的日常办公场景中，AI以其独特的联想能力，广泛的数据收集能力和精准的错误识别能力赢得了广大用户的认可，在金融行业中同样适用。一是文档自动联想。在撰写某些报告、新闻宣传时，AI可以直接引用现有文档进行内容联想补充，丰富文档层次。二是文档自动化审核。通过输入行业类别，AI可以自动对文档进行语法、惯用词、错别字等内容进行审核，并提出修改建议。三是会议纪要生成。AI 助手能够在会议进行过程中，实时捕捉与记录会议内容，在多人同时发言或发言语速较快的情况下，也能够保持较高的识别准确率，自动生成会议纪要。

　　(三)数据分析应用

　　金融机构离不开数据分析和各类计算，而在数据分析上AI可谓是“特长生”。区别于传统的手工数据分析算法，AI分析既避免了主观倾向对结果的影响又能实现数据指向性结果输出，大大降低人工劳动强度。一是反诈骗识别。AI算法实时监测交易数据，结合设备指纹、IP地址等多维度验证，精准识别深夜境外大额消费等异常模式，拦截准确率达95%。二是内部运营效率提升。通过设立AI客户咨询数据分析库和内部管理机制库，并链接AI自动索引功能，实现辅助应答、快速检索功能。三是算法风险评估。AI通过分析大量数据，如征信记录和消费行为，来预测违约概率。特别是处理非结构化数据，如财务报表或社交媒体信息时，AI算法可能比传统模型更准确。四是舆情监测分析。大模型驱动的 AI助手能够实时监测各大网络平台、社交媒体上舆情信息，通过情感分析、话题聚类等技术，快速监测声誉风险，形成报告。

　　二、AI失泄密的关键风险点

　　AI的深度应用，确实为优化金融服务，提升客户满意度和强化内部数据分析带来巨大便利。然而，在人工智能的快速应用过程中，存在着巨大的隐私泄露和数据滥用的风险。根据JFrog公司发布的《2025年软件供应链现状报告》，过去一年中，软件供应链的安全漏洞急剧增加，其中“秘密”或机密信息的曝光案例同比增长了64%，总计达到了惊人的

　　25229例。对于银行业金融机构而言，同样存在严峻的AI失泄密隐患。

　　(一)大数据过度收集泄密风险

　　金融服务端的AI系统如果想要达到较高的智能化要求，就需要大量的数据进行训练和学习，为了确保训练成果，这些数据普遍要求是真实数据，包括客户的姓名、消费习惯，甚至是电话联系人等。在这个过程中，AI可能会在用户不知情的情况下收集大量敏感信息，且由于AI工具收集数据过于庞大，种类繁杂，后台监测较为困难。例如，某移动客户端在验证收集客户语音、图像等数据时，可能会同步收集客户操作习惯及其他APP安装情况，并将客户信息打包储存至数据库，这些数据一旦被不法分子获取，就可能造成泄密风险。

　　(二)数据库关联泄密风险

　　在具备足够的数据库支撑后，AI强大的数据处理和分析能力，能够从海量数据中挖掘出有价值的信息。通过对多个数据源的数据进行关联分析，攻击者可能获取到原本分散且看似无关的敏感信息，从而拼凑出完整的机密信息，造成客户信息或银行内部信息泄露，这对银行业金融机构来说，存在巨大隐患。假设某农商银行在制定内部机密文件时，通过互联网电脑进行“AI纠错”或“AI润色”功能，那么机密文件极有可能被第三方AI收录储存，其他人在使用AI检索

　　类似的内容后，只需要多次围绕关键字进行深度检索，就很容易拼凑出完整的信息，极易发生泄密事件。

　　(三)AI智能助手劫持泄密风险

　　很多金融机构的客户端都上线了智能语音助手等AI应用。这些应用看似聪明安全，但也存在指令强制覆盖、虚拟远程端劫持等安全漏洞，被攻击者劫持后，攻击者可以通过向智能助手发送恶意指令，获取用户的账号密码、银行卡信息等。此前某大型银行APP突然出现异常赌博网站，导致不少用户点击并且中招被骗导致信息泄露，就是遭受了DNS劫持攻击的典型案例。

　　三、应对AI失泄密风险的对策

　　(一)完善内控制度

　　对于银行业金融机构而言，AI技术是一把锋利的“双刃剑”，我们既不能放弃AI错失发展机遇，更不能“用而不管”任其“野蛮生长”。因此做好内控制度管理是应对AI失泄密风险的首要关口。一是抓紧完善AI内控管理制度。要认真调研山西农信对AI技术的需求，结合业务发展规划和产业优化前景，提前做好AI内控管理措施，抓紧完善AI在各个层级的规范制度，出台覆盖全条线的AI测试、使用、监测管理办法和应急预案。按照山西资源型经济和旅游经济互补发展的现实情况，尽快拟定AI技术在运营、信贷、资金等多个条线的具体分工应用，并划定信息收集红线，明确

　　客户端数据收集、使用、存储和保护等方面的规范和要求，建立AI数据生命周期管理表，加大对窃密泄密行为的惩处力度。二是进一步严格涉密文件处理流程。要结合山西农信AI技术发展现状，进一步更新涉密文件管理办法，重点针对AI辅助涉密文件起草、涉密文件AI纠错、涉密文件AI口播转录、涉密文件AI格式转换等风险行为出台对应的涉密管理措施。对于信贷、储蓄等涉计客户隐私信息的文件处理传递，则明确要求不得通过互联网进行传递，并形成有力的惩戒处罚机制。充分利用好现有内网OA作用，完善保密人员管理制度，实现经办人强制留痕，达到涉密文件经手即担责，泄密即严处的管理氛围，责任到人，层层狠抓。三是选择安全的AI代理服务商。在充分借鉴国有大行的AI服务经验及其他科技公司的实用成果，优先选择通过安全认证的AI服务，如获得ISO27001 认证或符合GDPR标准的服务商，并与之签订保密协议，明确甲方抽检条款和数据安全责任违约赔偿条款。四是建立定期AI失泄密检查制度。要充分吸收现有交流检查的成功经验，结合AI失泄密易发点，逐步建立成熟科学的AI失泄密检查制度，检查范围应包括AI数据使用、涉密文件管理、敏感信息导出台账等等。此外，应依托现有审计队伍和保密人员队伍，逐步在各分支机构建立较为专业的AI管理检查队伍，定期进行交流检查，避免出现AI泄密事件。

　　(二)加强技术保障

　　AI技术说到底是科技产业革新的产物，无论是正常运行还是数据泄露，无疑离不开技术的支持，因此作为服务全省的地方性金融机构，我们存有大量的保密信息，有必要提前部署AI技术保障，以应对即将到来的AI技术引发的产业变革。一是建立全省统一的强化数据加密措施。全省农商银行应设立省一级AI数据库，负责收集、处理、管理全省分支机构的各类AI数据，由专门的团队负责运营管理，最大程度降低硬件泄密风险。在将数据输入AI 系统前，由技术部门移除姓名、身份证号等敏感信息，运用假名化技术隐藏真实身份，采用差分隐私技术为训练数据添加噪声，确保数据在存储和传输过程中的安全性。在AI数据计算时，要充分用好模型水印、模型加密等，防止模型被窃取和篡改。同时，建立模型监测和预警机制，及时发现和处理模型投毒攻击、逆向工程等安全威胁，实现在不泄露原始数据的前提下进行数据分析和处理。二是设立AI数据库分类访问权限。设立数据库密钥授权制度，仅赋予必要人员访问 AI系统和数据的权限，对AI平台登录、数据访问等关键操作启用多因素认证，在省一级层面确定AI数据管理员，责任到人。设计分类访问权限，为全省分支机构分别设置各自的访问权限，在权限范围内，仅能查看调阅本机构AI数据，同时，对各级有AI权限的人员执行专人专岗，单独管理，严格规范其

　　使用手机、电脑及其他智能设备的使用，避免泄密。三是加强AI数据库数据监测。建立AI数据调用实时日志，安排专人定期对数据库增删改查、AI调用、模型训练数据访问等日志进行检查。设置关键词自动报警监测功能，对敏感词，例如“洗钱”“集资”“卖卡”等，一旦出现则当即触发报警，由专人中断干预监测，并在敏感数据中嵌入隐形标识，便于泄露后溯源。设置流量异常监测功能，在出现数据短期内大量导出导入、非工作时间高频访问等情况，立即强制熔断，在专人确认无风险后，方可继续进行数据访问。

　　(三)强化培训教育

　　今年3月11日，科技巨头三星公司刚刚允许部分员工使用“ChatGPT”AI软件参与办公，在短短20天内就爆发了涉及27万用户的AI泄密事件，为AI技术人员管理敲响了警钟。现在看来，我们在AI技术人员管理方面仍有很大的上升空间。一是全面加强AI失泄密安全意识培训。目前我们在AI技术应用方面正在不断跟进，对AI失泄密安全意识的培训也需同步进行。结合三星公司失泄密的经验教训，任何一个岗位的差错，都有可能造成AI泄密事件。因此，全省应快速录制关于AI失泄密方面的视频课，通过在线学习平台的方式为全体员工开展培训，提高保密意识。对涉及到AI技术应用和管理的人员，要在此基础上多次开展更为专业的相关培训，培训内容包括数据安全、隐私保护、网络安全

　　等方面的知识和技能，不断提高其对窃密泄密风险的认识和防范能力。二是坚持做好AI失泄密“重灾区”警示教育。纵观国内外AI失泄密报告，宣传工作往往在“不经意间”就对外透露出涉密信息，一旦经过AI手段处理后，涉密信息极易在互联网上传播。因此，要常态化开展宣传工作AI失泄密警示教育，避免使用AI技术进行“辅助”，确有必要引入互联网AI技术时，也应确保上传内容不含任何涉密信息或不宜对外公布的信息。要建立对外发布审核制度，各机构对外发布工作应由专门的部门负责，其他部门和个人不得擅自对外发布信息。有发布需求的，也应有专人严格审核，在审核无泄密风险后，方可进行发布。此外，要重点开展职工使用“在线文字提取”“在线PDF转换”“你说我记”等应用互联网应用的警示教育工作，这些使用场景往往出现在信贷调查、文件撰写、重要文件转换等场景中，一旦其中有AI技术参与，则存在较大的泄密风险。三是加强客户对AI失泄密知识的讲解普及。在保护客户信息安全上，除了银行业金融机构要扎实做好内控管理和技术保障以外，要多频次对广大客户进行AI失泄密知识的讲解普及，应在全省各分支机构开展主题宣传活动，以“线上+线下”的方式，为客户讲解AI窃密泄密风险及其防范方法，提高公众的安全意识和自我保护能力。

　　AI技术作为当前重要科技力量，正在深刻改变着人类社会的运作模式，作为银行业金融机构，如何利用好AI在提高服务效能，降低运营成本的同时避免信息泄露是一个值得长期研究的课题。AI技术的庞大算力也好，强悍的信息收集能力也罢，它的本质是一串数据，永远存在丢失、泄密的风险。在AI技术的使用过程中，我们只有不断完善内控制度建设，持续加强技术保障，坚持强化培训教育，确保对AI的使用进行严格管控、定期检查其输出，并在我们主观决策的框架内谨慎使用AI，才能最大限度地降低风险，确保信息安全。
 

（责任编辑 吴运竑 校对 杨艳丽)