中金 | AI安全初探：耦合共生，相辅相成

　　李虹洁袁佳妮等

　　CHATGPT自然语言处理模型带动下游应用百花齐放，AI技术突破对安全产业同样带来变革，包括产品检测效率的提升、赋能安全运营降本增效；同时安全问题随之出现，对数据、模型的保护，对AIGC的鉴伪等均对安全产品、技术提出了新需求。本篇报告我们主要梳理了海内外云厂商、安全厂商如何依托AI技术赋能安全产品，以及对数据、模型安全保护的思考。

　　摘要

　　大模型作为新型数字基础设施，安全保驾护航。海内外云厂商对于云基础设施从IDC机房、硬件服务器、虚拟机，到云上应用、数据都进行了全方位的深度安全保护。推演至大模型，作为与云同等的新型数字基础设施，同样需要安全防护。从模型训练所需的数据、模型本身、AIGC的鉴伪，对安全产品、技术、形态、应用场景、商业模式都提出新的需求，也为安全行业带来新增量市场。同时，AI的突破使得攻击手段更为多样复杂，安全厂商也需要提升创新水平、攻防能力，来面对AI新纪元下的安全挑战。

　　大模型及AIGC内容监管，海内外厂商提出新策略。OpenAI推出ChatGPT后，对安全的投入也持续加强，包括招募专家进行对抗性测试、对预训练数据筛选过滤、微调模型优化输出结果、持续监控模型滥用等，从策略层面保障模型安全问题。国内从政策层面对AIGC进行相应监管，对模型的安全评估审查、生成式内容标识、用户数据保护等提出了多项要求。国内厂商也对AIGC内容监管、鉴伪布局相应产品。我们认为，随着大模型的落地、AIGC的应用丰富，生成式内容监管的要求和产品需求有望提升。

　　依托AI技术，提升安全产品检测能力与运营效率。微软将安全与GPT融合发布Security Copilot，依托强大的威胁情报能力通过关联内容发现潜在攻击信号，加强安全检测能力，同时以自然语言形式交互，提升安全运营人员体验的同时降本增效；其他海外安全头部厂商将AI能力嵌入核心产品，例如Palo Alto Networks、Fortinet基于AI赋能防火墙，CrowdStrike、Zscaler以AI加强云安全，并实现以AI能力作为单独组件或集成至平台收费。国内厂商如深信服基于大模型算法+海量安全数据+威胁情报+安全知识训练出安全GPT模型，对标Security Copilot，公司预计下半年将安全GPT接入全线安全产品，提升整体竞争力。

　　风险

　　政策落地不及预期，技术发展不及预期，下游需求不及预期。