工业和信息化领域人工智能安全评测框架2026-三层评测架构,两套工具集
| 来源:中国人工智能产业发展联盟 时间:2026/10/26 | |
本框架由中国人工智能产业发展联盟牵头,面向工信领域 AI 模型、应用系统与运行环境,跳出通用大模型内容安全的局限,构建通用安全‑应用安全‑业务安全三层递进评测体系,填补智能体、具身智能、工业 / 电信业务场景的安全测评规范空白,既可以用于企业自主安全自测,也支撑第三方机构开展标准化评测。 报告搭建完整三层评测架构:
框架明确测试实施 + 结果评定两套工具集 测试实施手段:基准测试、对抗测试、场景测试三类;尤其强调涉及生产、物理设备的测试,必须在沙箱、仿真隔离环境开展,禁止直接在线上生产环境执行高危用例。 结果判定方式:程序化规则判定、裁判模型判定、人工判定、专家研判,四种方式交叉校验;对于高风险、语义复杂场景,不能完全依赖 AI 裁判模型,需要引入人工与专家复核。 同时完整规范评测全流程:评测方案制定→测试开展→结果复核→问题整改复测→持续跟踪。明确支持企业自主评测或者委托第三方评测,要求测试过程留痕可追溯;当模型版本、业务环境发生重大变更,需要重新开展安全评估。 框架客观提示:不需要所有对象执行全部测试条目,应当依据 AI 系统的能力、部署权限、业务影响范围,做裁剪适配;业务安全测试,必须建立在通用安全、应用安全测评通过的基础之上再开展。
|
|
| 【转载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,文章内容仅供参考,如有侵权,请联系删除。】 |