深度学习是人工智能与机器学习领域的重要研究分支，经过短短十几年的发展，已经在计算机视觉与图像处理、自然语言处理等领域取得令人瞩目的成就。本书作为深度学习方面的专门书籍，融合了机器学习、人工神经网络和深度学习的相关概念，并且从信号处理视角呈现了深度学习背后的几何学原理，以便从统一的角度去深化理解深度学习的主要模型和算法，从而更好地用于指导理论分析和实践开发。全书分为三个部分，共14章。第1～4章为第一部分，主要介绍机器学习基础知识，包括向量空间、矩阵代数、凸优化等数学预备知识，以及支持向量机、核回归等经典机器学习技术；第5～9章为第二部分，主要介绍深度学习的构成要素，包括人工神经网络与反向传播、卷积神经网络、图神经网络及归一化和注意力机制，重点介绍这些模型背后的数学原理和几何解释；第10～14章为第三部分，主要介绍深度学习的高级主题，包括深度神经网络几何学、深度学习优化与泛化能力，以及生成模型与无监督学习。
本书适合具备一定数学基础和机器学习基础且对深度神经网络感兴趣的研究人员和工程技术人员阅读。另外，高等院校智能科学与技术、计算机科学与技术、自动化及相关专业的研究生或高年级本科生也可以将本书作为辅助教材使用。

芮钟喆（Jong Chul Ye）于1999年获美国普渡大学博士学位，现任韩国科学技术院（Korea Advanced Institute for Science and Technology，KAIST）生物与脑工程系教授和数学科学系兼职教授；长期从事压缩感知图像重建、信号处理和机器学习等研究；是IEEE Fellow，IEEE SPS计算成像技术委员会主席；目前是IEEE Transactions on Medical Imaging副主编、IEEE Signal Processing Magazine资深编辑，以及BMC Biomedical Engineering部门编辑；曾担任2020 IEEE International Symposium on Biomedical Imaging（ISBI）大会共主席，IEEE Transactions on Image Processing、IEEE Transactions on Computational Imaging、Journal of Electronic Imaging副主编，Magnetic Resonance in Medicine编委会成员，以及Physics in Medicine and Biology国际咨询委员会成员。

第一部分 机器学习基础
第1章 数学预备知识
1.1 度量空间
1.2 向量空间
1.3 巴拿赫空间与希尔伯特空间
1.4 概率空间
1.5 矩阵代数
1.5.1 Kronecker积
1.5.2 矩阵与向量微积分
1.6 凸优化基础
1.6.1 基本概念
1.6.2 凸集与凸函数
1.6.3 次微分
1.6.4 凸共轭
1.6.5 拉格朗日对偶公式
1.7 习题
第2章 线性与核分类器
2.1 引言
2.2 硬间隔线性分类器
2.2.1 可分离情况的最大间隔分类器
2.2.2 对偶公式
2.2.3 KKT条件与支持向量
2.3 软间隔线性分类器
2.4 采用核SVM的非线性分类器
2.4.1 特征空间中的线性分类器
2.4.2 核技巧
2.5 图像分类的经典方法
2.6 习题
第3章 线性回归、逻辑回归与核回归
3.1 引言
3.2 线性回归
3.3 逻辑回归
3.3.1 对数概率与线性回归
3.3.2 使用逻辑回归进行多分类
3.4 岭回归
3.5 核回归
3.6 回归中的偏差-方差权衡
3.7 习题
第4章 再生核希尔伯特空间与表示定理
4.1 引言
4.2 再生核希尔伯特空间
4.2.1 特征映射和核
4.2.2 再生核希尔伯特空间的定义
4.3 表示定理
4.4 表示定理的应用
4.4.1 核岭回归
4.4.2 核SVM
4.5 核机器的优缺点
4.6 习题
第二部分 深度学习的构成要素
第5章 生物神经网络
第6章 人工神经网络与反向传播
第7章 卷积神经网络
第8章 图神经网络
第9章 归一化和注意力
第三部分 深度学习的高级主题
第10章 深度神经网络几何学
第11章 深度学习优化
第12章 深度学习的泛化能力
第13章 生成模型与无监督学习
第14章 总结与展望
附录A 专业术语中英文对照表
参考文献