本书对人工智能安全的基本概念和框架进行梳理。第1章主要介绍信息安全和人工智能的基础性概念。第2章和第3章分别从人工智能信息系统安全和人工智能算法安全的角度，对人工智能安全的研究方法、研究手段进行详述，其中包含大量的真实例子、程序代码。第4章主要讨论人工智能辅助攻防新场景。第5章主要讨论人工智能安全生态。希望通过本书，传统信息安全和人工智能的研究者能快速进入这个领域，为人工智能安全的研究添砖加瓦。

第1章 　信息安全与人工智能基础
1.1 　“人工智能安全”在研究什么
1.1.1 　AI Safety与AI Security
1.1.2 　人工智能系统面临的安全挑战
1.1.3 　应对安全挑战
1.2 　信息安全基础知识
1.2.1 　信息安全三要素
1.2.2 　攻击的产生条件
1.2.3 　常见的漏洞类型
1.2.4 　输入验证
1.2.5 　攻击面
1.2.6 　漏洞挖掘方法
1.2.7 　常见的漏洞库
1.2.8 　防御手段
1.3 　人工智能基础知识
1.3.1 　人工智能发展历史
1.3.2 　深度学习基础
1.3.3 　ImageNet与ILSVRC
1.3.4 　图像识别领域的里程碑技术
1.3.5 　对一些概念的解释
1.4 　信息安全与人工智能的碰撞
1.5 　本章小结
参考资料\t
第2章 　人工智能信息系统安全
2.1 　信息系统环境安全
2.1.1 　人工智能与信息系统环境
2.1.2 　因存在信息系统环境漏洞而被攻击的人工智能系统
2.2 　基础架构安全
2.2.1 　人工智能基础架构
2.2.2 　人工智能框架安全
2.3 　依赖库安全
2.3.1 　TensorFlow处理GIF文件的一个漏洞
2.3.2 　依赖库NumPy中的一个漏洞
2.3.3 　依赖库OpenCV中的一个堆溢出漏洞
2.4 　云服务安全
2.5 　人工智能综合应用：自动驾驶安全
2.5.1 　自动驾驶技术现状
2.5.2 　自动驾驶安全分析
2.5.3 　自动驾驶汽车感知层攻击示例及分析
2.5.4 　汽车信息系统攻击示例及分析
2.6 　本章小结
参考资料\t
第3章 　人工智能算法安全
3.1 　人工智能算法安全概述
3.2 　白盒场景下的对抗攻击
3.2.1 　快速梯度符号法
3.2.2 　DeepFool算法
3.2.3 　投影梯度下降法
3.2.4 　基于优化的对抗样本生成算法——C＆W算法
3.2.5 　通用对抗扰动
3.3 　黑盒场景下的对抗攻击
3.3.1 　基于迁移的黑盒攻击
3.3.2 　基于查询的黑盒攻击算法
3.4 　对抗防御
3.4.1 　数据增强（训练阶段）
3.4.2 　鲁棒网络结构（训练阶段）
3.4.3 　鲁棒损失函数（训练阶段）
3.4.4 　输入变换（测试阶段）
3.4.5 　模型后处理（测试阶段）
3.4.6 　对抗检测（测试阶段）
3.4.7 　可验证的鲁棒训练
3.5 　案例分析
3.5.1 　人脸识别
3.5.2 　智能汽车
3.6 　本章小结
参考资料\t
第4章 　人工智能辅助攻防新场景
4.1 　自动化漏洞挖掘、攻击与防御
4.1.1 　2016 Cyber Grand Challenge
4.1.2 　符号执行技术
4.1.3 　Mayhem系统原理
4.2 　生成对抗网络在安全领域的应用
4.3 　DeepFake检测挑战赛
4.4 　实验：为视频中的人物换脸
4.4.1 　实验步骤
4.4.2 　实验原理
4.4.3 　从法律角度看AI换脸技术
4.5 　本章小结
参考资料\t
第5章 　人工智能安全生态
5.1 　人工智能安全研究现状
5.1.1 　政府规划
5.1.2 　非政府组织的推动
5.1.3 　人工智能研究人员对安全的研究
5.1.4 　厂商和安全极客的作用
5.1.5 　非人工智能专业科学家的作用
5.2 　人工智能安全与伦理
5.2.1 　人工智能伦理研究现状
5.2.2 　让人工智能做出正确的道德决策
5.2.3 　人工智能道德决策的难点
5.2.4 　人工智能安全问题责任归属
5.2.5 　人类应该如何对待人工智能
5.2.6 　人工智能有可能统治人类吗
5.3 　本章小结
参考资料