本书系统地描述了深度学习的基本理论算法及应用。全书共14章，第1~3章论述了数学基础、机器学习基础和深度学习基础；第4~7章介绍了一些经典网络及计算机视觉领域中常用的CNN、RNN、GAN等网络结构技术；第8~9章介绍了深度学习在计算机视觉领域的目标检测及图像分割两大应用；第10~14章介绍了计算机视觉领域主要的优化方法及思路等，包括迁移学习、网络架构及训练、网络优化技巧、超参数调整及模型的压缩和加速等。本书凝聚了众多一线科研人员及工程师的经验，旨在培养读者发现问题、解决问题、扩展问题的能力。本书内容取材于编者在日常学习过程中总结的知识点及各大公司常见的笔试、面试题。本书可为高等院校计算机科学、信息科学、人工智能、控制科学与工程、电子科学与技术等领域的研究及教学人员提供参考，也可为相关专业本科生及研究生提供思考方向，还可为深度学习及计算机视觉领域的初、中级研究人员和工程技术人员提供参考，尤其适合需要查漏补缺的应聘者及提供相关岗位的面试官阅读。

第1章 数学基础
1.1 向量和矩阵
1.1.1 标量、向量、矩阵和张量
1.1.2 张量与矩阵的区别
1.1.3 矩阵和向量相乘的结果
1.1.4 向量和矩阵的范数归纳
1.1.5 判断一个矩阵是否为正定矩阵
1.2 导数和偏导数
1.2.1 导数偏导计算
1.2.2 导数和偏导数的区别
1.3 特征值和特征向量
1.3.1 特征值分解
1.3.2 奇异值和特征值的关系
1.4 概率分布与随机变量
1.4.1 机器学习为什么要使用概率
1.4.2 变量与随机变量的区别
1.4.3 随机变量与概率分布的联系
1.4.4 离散型随机变量和概率质量函数
1.4.5 连续型随机变量和概率密度函数
1.4.6 举例理解条件概率
1.4.7 联合概率与边缘概率的区别和联系
1.4.8 条件概率的链式法则
1.4.9 独立性和条件独立性
1.5 常见概率分布
1.5.1 伯努利分布
1.5.2 高斯分布
1.5.3 何时采用正态分布
1.5.4 指数分布
1.5.5 Laplace分布
1.5.6 Dirac分布和经验分布
1.6 期望、方差、协方差、相关系数
1.6.1 期望
1.6.2 方差
1.6.3 协方差
1.6.4 相关系数
第2章 机器学习基础
2.1 基本概念
2.1.1 大话机器学习本质
2.1.2 什么是神经网络
2.1.3 各种常见算法图示
2.1.4 计算图的导数计算
2.1.5 理解局部最优与全局最优
2.1.6 大数据与深度学习之间的关系
2.2 机器学习的学习方式
2.2.1 监督学习
2.2.2 非监督学习
2.2.3 半监督学习
2.2.4 弱监督学习
2.2.5 监督学习模型的搭建步骤
2.3 分类算法
2.3.1 常用分类算法的优缺点
2.3.2 分类算法的评估方法
2.3.3 正确率能否很好地评估分类算法
2.3.4 什么样的分类器是最好的
2.4 逻辑回归
2.4.1 回归的种类
2.4.2 逻辑回归适用性
2.4.3 逻辑回归与朴素贝叶斯的区别
2.4.4 线性回归与逻辑回归的区别
2.5 代价函数
2.5.1 为什么需要代价函数
2.5.2 代价函数作用原理
2.5.3 常见代价函数
2.5.4 为什么代价函数要非负
2.5.5 为什么用交叉熵代替二次代价函数
2.6 损失函数
2.6.1 什么是损失函数
2.6.2 常见的损失函数
2.6.3 逻辑回归为什么使用对数损失函数
2.6.4 对数损失函数如何度量损失
2.7 梯度下降法
2.7.1 梯度下降法的作用
2.7.2 梯度下降法的直观理解
2.7.3 梯度下降法算法描述
2.7.4 梯度下降法的缺点
2.7.5 如何对梯度下降法进行调优
2.7.6 随机梯度下降和批量梯度下降的区别
2.7.7 各种梯度下降法性能比较
2.8 线性判别分析
2.8.1 LDA思想总结
2.8.2 图解LDA核心思想
2.8.3 二类LDA算法原理
2.8.4 LDA算法流程总结
2.8.5 LDA和PCA的异同
2.8.6 LDA的优缺点
2.9 主成分分析
2.9.1 图解PCA核心思想
2.9.2 PCA算法推理
2.9.3 PCA算法流程总结
2.9.4 PCA思想总结
2.9.5 PCA算法的优缺点
2.9.6 降维的必要性及目的
2.9.7 KPCA与PCA的区别
2.10 模型评估
2.10.1 模型评估常用方法
2.10.2 误差、偏差和方差的区别和联系
2.10.3 为什么使用标准差
2.10.4 经验误差与泛化误差
2.10.5 图解欠拟合与过拟合
2.10.6 如何解决欠拟合与过拟合
10.3.3 时间序列
10.3.4 医疗健康
10.4 迁移学习的基本方法
10.4.1 基于实例的迁移学习方法
10.4.2 基于特征的迁移学习方法
10.4.3 基于模型的迁移学习方法
10.4.4 基于关系的迁移学习方法
10.5 分布对齐的常用方法
10.5.1 数据分布自适应方法
10.5.2 特征选择方法
10.5.3 子空间学习方法
10.6 深度迁移学习方法
10.6.1 深度网络的可迁移性
10.6.2 微调
10.6.3 深度网络自适应
10.6.4 深度对抗网络迁移
10.7 迁移学习研究前沿
10.7.1 机器智能与人类经验结合的迁移学习
10.7.2 传递迁移学习
10.7.3 终身迁移学习
10.7.4 在线迁移学习
10.7.5 迁移强化学习
10.7.6 迁移学习的可解释性
第11章 网络构架介绍及训练
11.1 TENSORFLOW
11.1.1 TensorFlow的设计理念
11.1.2 TensorFlow的特点
11.1.3 TensorFlow的系统架构
11.1.4 TensorFlow的编程模型
11.1.5 基于TensorFlow搭建VGG16
11.2 CAFFE
11.2.1 Caffe的特性
11.2.2 Caffe2的特性
11.2.3 Caffe2和PyTorch的区别
11.3 PYTORCH
11.3.1 为什么选择PyTorch
11.3.2 PyTorch的架构
11.3.3 PyTorch 1.0 三大重要更新
11.4 常见的深度学习