马上消费：大语言模型安全热议下，金融行业ai风险的思考-2024德国欧洲杯官网

伴随disco diffusion、chatgpt等生成式ai产品相继问世，aigc正在掀起一场新的工业革命。近日，普华永道的分析师对外发布了关于生成式ai升级带来的十一大安全趋势研判，呼吁全球关注人工智能安全风险带来的巨大挑战。

金融行业信息化建设起步早，已成为人工智能应用最佳的领域之一，然而，技术创新也带来了金融欺诈、交易公平等风险。马上消费金融股份有限公司（以下简称“马上消费”）作为科技驱动的金融机构，通过主动拥抱监管、建立消保委员会、严格数据管理、制定行业标准、加强技术人才培养与技术研发投入等方式，积极应对人工智能技术在消费金融领域的安全问题。

针对当前行业面临的人工智能安全风险挑战，马上消费人工智能研究院院长陆全从人工智能在金融行业应用的现状以及挑战两个方面分享对策与建议。

技术是把双刃剑，效益与风险并存

金融行业因客户群、庞大数据库庞大等特性，在客服、投顾、风控等场景中人工智能技术应用成熟度处于领先地位。通过对大型数据集的学习分析，提供快速响应互动、个性化投资推荐等客户服务，提供异常数据检测、用户行为分析等机构决策支撑。与此同时，在这些应用场景中，也存在着三大安全风险。

数据滥用造成的隐私泄露、金融欺诈风险。为保障金融服务质量，需要采集大量数据处理分析，对数据的采集存在扩大化问题，过度采集用户的行为、偏好等隐私数据。

模型偏差造成的贷款歧视、交易公平风险。人工智能技术应用在信贷领域，可快速、低成本地对潜在借款人进行准确的评估，与传统的信用评分体系相比，人工智能信用评分更加复杂。模型对大量用户数据进行处理，建立多数人适用的评估规则，但存在认知和数据偏差导致对特定人群的信用偏见，产生贷款等服务歧视。

攻击破坏造成的财产损失、业务停滞风险。金融行业相较于其他行业，对系统稳定和数据的依赖性更强，但由于人工智能技术的局限性存在脆弱易受攻击的特点，面对攻击造成的财产、大量数据丢失的损失不可估量，技术不稳定性对自身业务造成致命影响，可能直接导致业务停滞。

技术攻防对抗，创新升级新挑战

人工智能在实践和应用中面临着诸多挑战，由于ai模型、数据、系统的不成熟性造成的欺诈和安全问题不容忽视。人工智能技术开展针对自身的攻防安全技术研究，促使技术应用向可信、可靠、安全方向发展。

人脸识别攻击，多模态融合防护。金融行业对身份认证的基础需求加快人脸识别的应用，不法分子通过图片、3d打印等物理方式攻击突破人脸识别系统进行资金盗取诈骗。多模态生物识别技术相较于单一生物特征，通过设计融合算法，综合人脸几何特征、声纹、虹膜等多种特征，弥补某些生物特征容易被伪造的弱点，提升识别精确度，形成对人脸识别攻击的技术防御。

马上消费在多模态人脸识别应用中还加入了光电体积描记术识别、光场相机活体识别等活体检测技术，持续进行防伪技术攻关，为客户人身财产安全筑造坚实的防护屏障。

数据污染攻击，增强优化防护。数据污染攻击通过投入污染数据，改变模型反馈机制，将恶意文件标记为善意的，让系统做出错误的行为。在金融行业中，攻击验证环节的反馈，破解认证系统稳定性，可实施非法转账等诈骗行为。行业一般使用数据增强、稳健优化、模型迁移等方式来提高模型稳定性，马上消费在此基础上增设了异常检测机制，对用户访问进行识别，不匹配预期模型和数据集的项目进行异常数据测试，通过删减调整以减轻异常数据对模型的干扰。

模型窃取攻击，多模型加密防护。模型窃取攻击以模型重建和影子模型的形式获取模型参数窃取重要商业决策模型，通常会造成用户身份信息、交易数据、企业商业秘密等敏感信息泄露。马上消费通过将机器学习模型与加密技术结合起来，利用差分隐私技术、多方安全计算技术等实现在加密条件下保护训练过程数据的隐私性。同时，将数据分区训练多个模型，根据多个模型的结果去做决策，提升模型窃取难度，抗恶意用户访问。

目前的人工智能安全技术是在特定的攻击情况中针对性解决一些安全问题，实际人工智能安全风险没有根本的技术解决方法。所谓“道高一尺，魔高一丈”，人工智能安全将持续处于一种攻防不断对抗的状态，因此相应的技术必须不断更新升级，技术创新会不断带来新挑战。

行业挑战任重道远，合力推动技术向善

人工智能的安全风险取决于技术发展及其安全可控的程度，安全保障需要社会全体的共同参与，为人工智能发展应用建立安全边界、做好自我监管是未来长期我们要面临的挑战。

2022年3月，马上消费牵头成立行业首个aif联盟，坚持对金融黑产“零”容忍态度，凝聚同业合力，一同打击金融黑产；在体制建设上，将消保纳入顶层设计，实现100%产品和服务标准化消保评审体系，定期专项监督，做到消保全流程管控，使客户满意度持续提升。

依托科技研发创新，参与超30项金融科技标准编制工作，涉及研发运营一体化能力成熟度、开发平台通用能力要求等，获得28项人工智能与交易安全领域备案认证，在标准及认证方面表现优秀，引领消金行业规范化发展。

然而，行业应对人工智能安全风险的挑战依然任重道远，各金融机构、科技企业仍需高度重视、积极迎接挑战，提升人工智能技术研发能力，从数据治理、强化监管、规范制定方面降低风险，提供优质高效的金融服务，推动金融服务向智能安全可信方向发展。