人工智能时代, 以大模型为代表的技术已成为国际竞争新焦点与经济发展新引擎, 深刻改变社会格局并广泛应用于目标检测、语音识别、自然语言处理等关键领域。
人工智能时代, 以大模型为代表的技术已成为国际竞争新焦点与经济发展新引擎, 深刻改变社会格局并广泛应用于目标检测、语音识别、自然语言处理等关键领域。以 DeepSeek 等为代表的大模型正迅速渗透各行各业, 驱动新一代 AI 发展浪潮。
然而, 在带来巨大便利与机遇的同时, 大模型也暴露出严峻的安全挑战:模型训练与使用过程中的隐私泄露、自身安全性问题日益凸显;其风险深藏于语义与算力层, 使得仅关注协议与流量的传统防火墙无力应对提示词注入攻击、敏感数据泄露及 GPU 算力恶意消耗等新型威胁;同时, 全球日益收紧的 AI 与数据安全法规, 也使大模型生成内容的合规性审查成为企业必须面对的严峻课题。这些「系统性短板」涵盖安全架构、漏洞响应、数据合规等方面, 亟待通过技术突破、管理强化与多方协同, 建立完善的内生安全机制, 以保障大模型在各个关键领域安全运行。
面对 AI 时代的系统性挑战,6 月 24 日,腾讯云举办「开箱吧, 腾讯云」大模型安全发布会, 正式推出面向大模型应用场景的全栈安全解决方案。发布会上, 腾讯云重磅发布两大全新产品——LLM-WAF 大模型防火墙和 AISPM 大模型安全态势管理平台, 并揭示 GuardLM 技术的突破。三位来自腾讯的安全专家登台, 通过直观的产品功能演示, 深入剖析在复杂多变的大模型安全态势下, 企业普遍面临的各类通用安全问题, 并结合金融、泛互、零售等不同行业领域的实际案例, 分享腾讯云在大模型安全防护方面的成功实践经验和行业领先的安全策略, 助力企业构建可信赖的大模型安全防线。
从技术到组织体系:纵深应对大模型多重安全风险
AI 技术带来新的生产驱动力, 企业数字化进入「大模型时代」。在企业将大模型投入实际应用的过程中,腾讯云安全总结了大模型企业应用十大常见安全风险, 涵盖样本投毒、提示词注入攻击、第三方代码或开源模型带来的供应链风险, 以及自动化 Agent 权限滥用、模型推理被劫持等新型 AI 应用威胁。这些风险贯穿于企业应用大模型的各个环节, 构成关键挑战。腾讯云安全总经理李滨分析, 这些风险并非孤立存在, 而是从数据采集、处理、模型训练、部署到最终应用的整个 AI 技术生命周期中端到端传导的。
李滨总结,大模型安全问题本质上是一次全方位的安全体系升级, 而非局限于局部对抗, 需要从全局视角建立系统框架。为此, 腾讯云安全从技术、管理、合规、伦理四大维度出发, 全面覆盖数据隐私、模型自身、应用集成、基础设施以及治理伦理等领域, 构建 AI 时代的动态安全生态。
腾讯云大模型安全治理框架以安全基准、安全运营和安全合规三大支柱为基础, 形成了覆盖模型基础设施到应用全生命周期的立体化技术防护方案, 针对不同阶段风险部署相应策略, 构建起大模型安全的纵深防御体系。
在内容输入和输出环节, 由于样本劫持、数据投毒或者模型本身的幻觉等原因, 大模型可能会生成有风险的内容, 而腾讯云天御基于多年内容安全的能力, 能帮助企业进行大模型应对这一安全隐患。
在攻防对抗与情报方面, 腾讯云安全建立了大模型安全 Red Team 对抗机制, 以腾讯的安全专家能力为基础, 建立针对大模型的安全测试方法, 主动发现大模型及生态存在的风险, 并依托这些安全研究成果, 研发了专门针对大模型进行安全保护的大模型安全态势感知系统 AISPM 和大模型智能安全网关 LLM-WAF, 为企业大模型应用进行全生命周期保障护航。
在合法合规标准方面, 腾讯云安全也积极参与大模型相关标准的制定工作, 如参与起草《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》国际标准等, 依托自研大模型混元为企业保驾护航。
LLM-WAF:大模型服务「专业门卫」
据 IDC 数据,2024 年全球 AI IT 总投资达 3158 亿美元, 预计 2028 年将增至 8159 亿美元, 五年复合增长率 32.9%。AI 大模型从实验室走向各行业, 成为企业数字化转型的关键力量。然而, 随着 AI 与企业业务融合加深, 安全问题和需求也日益凸显。腾讯云安全高级产品经理王军从案例出发揭示大模型四大安全痛点, 从 BOT 滥爬、API 风险, 到提示词注入攻击, 再到不当信息滥用, 大模型提升业务效率的同时也带来安全隐患。只有在上线初期就将大模型安全防护能力「一体化」接入业务, 才能避免效率红利被安全风险吞噬。
基于此,腾讯云WAF 在原有基础上, 正式面向大模型业务推出大模型安全防护模块 LLM-WAF。该产品采用创新的架构理念, 专为大模型应用场景打造, 能够在多模型、多场景、高并发环境下提供全链路防护。LLM-WAF 支持企业大模型业务 5 分钟快速接入防护, 兼容腾讯混元、DeepSeek 等多种主流大模型。其智能安全防护引擎可高效检测并拦截算力滥用、提示词攻击、不当内容、数据泄露等各类安全风险, 为大模型业务运行提供全面保障。
腾讯云安全高级产品经理王军介绍,LLM-WAF 的核心优势具体表现在:一支持轻松接入, 即刻防护,5 分钟内完成配置;二是智能守护算力资源, 实时监测拦截异常算力滥用行为;三是内容安全双重保障, 通过两道防线识别不当及敏感信息;四是 API 安全纵深防御, 覆盖 API 全生命周期, 降低数据泄露风险;五是 BOT 流量精准管理, 结合 AI 驱动精准识别和动态挑战机制确保核心接口资源安全;六是合规有保障, 提供详细攻击日志记录, 满足审计需求。基于此,LLM-WAF 在真实业务场景下能够提供强大防护能力——无论是防止恶意提示词注入, 还是拦截高风险内容输出,LLM-WAF 都能实现实时防护, 并为企业提供可定制化的拦截响应与完整的攻击溯源能力, 助力构建安全、合规、可控的大模型应用环境。
目前,LLM-WAF 在多个行业有典型应用场景。金融行业用于智能投顾、对话银行等业务, 可防护提示攻击、API 套利等风险, 保障交易、数据合规和系统可用性。泛互行业用于内容平台等, 应对爬虫、越狱 Prompt 等威胁, 平衡内容生产与合规治理。零售行业用于智能客服等, 防范品牌声誉受损和利润侵蚀, 确保业务稳定可靠。
AISPM:大模型安全「园区天眼」
当前大模型部署与使用呈现泛滥趋势, 一方面源于大模型能力提升及应用场景拓展, 另一方面因云厂商方案简化、API 服务发展及开源模型迭代降低了部署使用门槛, 使业务接入成本大幅下降。然而, 安全团队未能及时制定大模型应用体系的管理方案, 将使大模型应用脱离安全管控。同时, 大模型应用还引入了新的风险如引用的大模型组件存在漏洞, 以及组件配置不当导致的未授权访问等问题。
AISPM 通过持续检测、评估 AI 模型和数据的安全态势, 协助企业应对挑战。对于企业来说, 基于 AISPM 掌握自身全部的模型、训练数据、供应链和 web 接口安全情况, 都是非常必要的。
为此,腾讯云推出AISPM 大模型安全态势管理产品以应对大模型专项安全治理场景。该系统提供网络扫描和主机端检测, 提供资产识别、风险检测、攻击示警等核心能力, 支持 80 余种大模型组件的识别, 能够检测 200 多个大模型组件漏洞, 并实时监控针对大模型的网络攻击行为, 使企业安全团队能够及时掌握大模型应用情况, 避免敏感数据被用于推理或训练而引发的法律合规风险。
发布会上, 腾讯云安全高级产品经理毛武斌全方位演示了 AISPM 在 AI 资产识别、风险检测、攻击行为监控等方面的相关能力。AISPM 在腾讯云安全中心上是一个独立的页面, 可根据企业具体场景需求进行全量资产或指定部分资产进行检测, 进而全面清晰呈现当前资产面临的暴露路径、网络攻击来源及风险, 帮助企业掌握大模型资产的安全态势, 以便及时响应, 守护企业的 AI 安全生态。
大模型技术的兴起为网络安全领域带来了全新的挑战与机遇, 企业需要以开放的心态、创新的思维和务实的行动, 携手平衡挑战与机遇。腾讯云也将持续快速迭代, 以更创新、场景化的安全产品及解决方案, 帮助客户增强 AI 系统的安全性、提升防御主动性、降低攻击面, 与行业伙伴携手共建一个更加安全、可信的 AI 时代。
来源：互联网
