大模型安全众测覆盖开源模型、应用与智能体
本次众测把智能体应用纳入独立赛道，安全评估对象已从模型输出延伸至工具调用、权限控制和运行环境。活动依据国家漏洞分类分级标准开展定级，并安排厂商完成漏洞修复与复测，最终将整理典型共性问题，形成面向行业的大模型应用漏洞风险通报。
BRIEF / 内容提要
事件与背景
CNCERT启动2026年人工智能大模型安全众测，分别面向开源大模型、大模型应用和智能体应用，检验模型特有风险、密码安全及传统漏洞。
ASSESSMENT / 风险研判
影响与判断
众测范围反映出大模型安全评估正在从内容合规走向完整应用安全。开源模型、云端应用与智能体的部署方式不同，但共同涉及数据边界、工具权限、组件依赖和运行环境。企业可借此校准自身测试范围，尤其要避免只检查模型回答而遗漏传统Web漏洞、智能体越权和底层基础设施风险。
KEY POINTS / 关注重点
需要关注的信息
- 测试划分为开源大模型、大模型应用和智能体应用三个赛道，覆盖端侧及云端托管产品。
- 测试范围包括模型特有漏洞、智能体相关风险、密码安全问题以及传统网络安全漏洞。
- 发现的问题将由平台与厂商协同定级、修复和复测，并形成典型共性漏洞风险总结。
VERIFICATION / 核验清单
建议优先确认
- 确认内部安全测试是否同时覆盖模型接口、应用前端、智能体工具和运行基础设施。
- 核对开源模型及第三方组件的版本、许可证、依赖来源和漏洞跟踪责任。
- 检查发现问题后的分级、修复、复测与风险接受记录能否贯穿模型版本迭代。
ACTION / 应对建议
企业可采取的措施
- 建立企业内部模型、智能体、插件和工具调用清单，明确每项能力的责任人。
- 在上线前验证提示词注入、越权调用、敏感数据泄露和运行环境逃逸等风险。
- 将模型安全测试纳入版本发布流程，并保留问题修复、复测和风险接受记录。