大模型安全测评体系与实践报告（2026）（19页，2026年）

分类：人工智能

标签：大模型安全、安全测评、人工智能治理、全生命周期、提示词注入、数据隐私、业务执行风险、360大模型卫士

摘要：《大模型安全测评体系与实践报告（2026）》由360AI安全实验室联合多家高校、企业与咨询机构专家编制，面向政府、行业组织与企业，系统回答“大模型风险怎么看、安全测评怎么做、测评结果怎么用”三大问题。报告背景指出，大模型正从“聊天助手”演变为能够调用知识库、数据库与业务工具的“数字员工”，风险随之从“说错一句话”扩展到泄露敏感信息、越权调用工具乃至错误执行真实业务。据斯坦福《AI Index Report 2026》，受访组织AI采用率达88%，2025年记录的AI相关事件为362起，高于2024年的233起；与此同时，备案登记、国家标准与安全检测机制陆续落地，大模型安全治理正由原则要求走向制度化、常态化。报告提出六个核心判断：风险不只在“说错话”更在“做错事”；应用扩张与安全事件同步上升，发展与安全必须并重；不能用同一套试卷与合格线考所有模型，需分级分类、场景化测评；安全测评不是一次性验收而是持续治理闭环；测评结果要回答“能不能用、可用在哪、需何种控制措施”；安全测评将成为人工智能规模化应用的重要基础设施。并凝结行业需建立的四个共识：测评与AI应用发展同步推进、能力越强接入越深越要分

来源：zuudee | 日期：2026-09-23 | 格式：PDF | 页数：19