中国信通院发布《人工智能安全框架(2020年)》

 来源:互联网     编辑:管理员      时间:2022/12/10
 

2020年12月9日在北京举办的“2020第三代人工智能产业论坛”上,中国信息通信研究院(以下简称“中国信通院”)安全研究所发布《人工智能安全框架(2020年)》蓝皮报告,中国信通院安全研究所信息安全研究部主任魏薇对报告进行了详细解读。



当前,随着全球人工智能规模化建设和应用加速,人工智能基础设施、设计研发以及融合应用面临的安全风险日益凸显。企业在设计研发、部署运营人工智能应用的全生命周期过程中,需要科学有效的人工智能安全框架予以指导。为此,在工业和信息化部网络安全管理局指导下,中国信通院联合瑞莱智慧、百度、腾讯、360、中科院信工所共同编制了《人工智能安全框架(2020年)》蓝皮报告。聚焦当前人工智能突出安全风险,提出涵盖人工智能安全目标,人工智能安全分级能力,以及人工智能安全技术和管理体系的人工智能安全框架。并且,描绘出面向人工智能应用关键核心组件,覆盖人工智能应用全生命周期的安全技术图谱,为人工智能相关企业循序渐进提升人工智能安全能力,部署人工智能安全技术措施,提供有益指引。

报告前言

人工智能作为引领新一轮科技革命和产业变革的战略性技术,正成为世界主要国家推动科技跨越式发展、实现产业优化升级、赢得全球竞争主动权的重要战略抓手。随着全球人工智能规模化建设和应用加速,人工智能基础设施、设计研发以及融合应用面临的安全风险日益凸显。世界主要国家纷纷通过制定人工智能伦理准则、完善法律法规和行业管理等方式开展人工智能安全治理。人工智能安全技术体系是人工智能安全治理的重要组成部分,是落实人工智能伦理规范和法律监管要求的重要支撑,是人工智能产业健康有序发展的重要保障。

人工智能安全框架是构建人工智能安全技术体系的重要指南,旨在为人工智能相关企业循序渐进提升安全能力、部署安全技术措施提供指导。在工业和信息化部网络安全管理局指导下,中国信通院联合瑞莱智慧、百度、腾讯、360、中科院信工所共同编制《人工智能安全框架(2020年)》蓝皮书。本蓝皮书针对全球人工智能安全框架缺失问题,凝聚业界专家共识,聚焦当前人工智能突出安全风险,提出涵盖人工智能安全目标,人工智能安全分级能力,以及人工智能安全技术和管理体系的人工智能安全框架,期待为社会各方提升人工智能安全防护能力提供有益参考。

报告目录

一、人工智能安全现状
(一)人工智能安全挑战
(二)人工智能风险地图
(三)人工智能安全技术现状
(四)人工智能安全框架缺失

二、人工智能安全框架
(一)设计思路
1.框架范围
2.设计原则
3.核心要素
(二)安全框架
(三)框架分析
1.安全目标
2.安全能力
3.安全技术
4.安全管理

三、人工智能安全技术实施

(一)业务安全
1.业务合规性评估
2.安全攻击检测
3.业务安全机制
4.恶意应用检测
(二)算法安全
1.算法鲁棒性增强
2.算法公平性保障
3.算法可解释性提升
4.算法知识产权保护
5.算法安全评测
(三)数据安全
1.数据隐私计算
2.数据追踪溯源
3.问题数据清洗
4.数据公平性增强
5.数据安全评测
(四)平台安全
1.漏洞挖掘修复
2.模型文件校验
3.框架平台安全部署
(五)安全技术图谱

四、人工智能重点应用安全防护实践

(一)自动驾驶安全防护
1.安全风险
2.安全防护
(二)智能信贷风控安全防护
1.安全风险
2.安全防护
(三)深度伪造应用安全防护
1.安全风险
2.安全防护


 信息推荐
» AI新可能?2020“中国高校计算机大赛-人工智能创意赛”有想法!
» 第十八届NOC大赛决赛暨人工智能教育报告会在日照举办
» 广州市与百度战略合作升级,推动人工智能的全场景应用落地
» 2020第三代人工智能产业论坛在京召开
» 2020海升股份社人工智能产业交流论坛举办
» 教育部部长陈宝生:人工智能展示了变革教育的巨大潜能
» 工业和信息化部关于公布2020年中国优秀工业设计奖获奖名单的通告
» “智能机器人”重点专项简介
» 中国工程院院士李兰娟:人工智能将改变医疗卫生事业
» 中国科学院院士王怀民——人工智能不会让人类成为“工具人”
» 通知公告 > 关于开展第十七届中国青年女科学家奖和2020年度未来女科学家计划候选人推荐工作的通知
» 人工智能背后的“人工”:时薪10元,欠薪高发
 
返回首页
AI大模型
AI自动驾驶
chatgpt智能
生成式AI应用
智能机器人行业
行业动态
行业资料
最新资讯
» AI时代来袭:中小企业如何抓住千载难逢的发展机遇
» 人工智能时代的制造业进展与期望-人工智能和高级分析可以助力做出更好的决策
» 从规则走向实践,2023 AI浪潮下的秘密武器:大模型治理的兴起与挑战
» 十大趋势重塑未来企业!超越想象的数字变革_2024年重要战略技术趋势
» 未来驾驶革命:2023中国智驾大模型应用研究报告
» IDC蚂蚁集团:2023安全平行切面白皮书-数字时代的原生安全架构(60页).pdf 报告预览 IDC&蚂蚁集团:2023安全平行切面白皮书
» 北京关于印发因地制宜开展以工代赈工作促进农民群众就业增收实施意见的通知
» OpenAI前CEO阿尔特曼被开除
 

人工智能协会