机器学习专门研究计算机怎样模拟或实现人类的学习行为，它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域。本书是一本机器学习的人门书，通过本书，学习者将初步理解主流的机器学习算法，并且可以用机器学习技术解决现实生活中的问题。只要有本科三年级以上的数学知识，会一种编程语言，就可以掌握本书的绝大部分内容。
本书共有15章，主要讲解经典的机器学习算法，如线性回归、逻辑回归、决策树等，同时讲解近几年才出现的算法，如XGBoost、LightGBM等集成学习算法。此外，本书还会讲解利用机器学习解决问题的实用技术，如Python、Scikit-learn工具的使用等。
本书配套有教学大纲、教学进度、教学课件、教学视频及习题，可以作为专科生、本科生、研究生的机器学习教材，也可以作为从事机器学习、数据挖掘相关工作的研究人员和技术人员的参考书。

黄海广，中国海洋大学计算机系统结构专业博士毕业，现为温州大学计算机与人工智能学院副教授，人工智能系主任，硕士生导师。主要讲授机器学习、数据挖掘技术、深度学习等，翻译和编写过大量人工智能领域的文章，Github的star数量超过7万，善于指导初学者入门人工智能行业。

第1章 引言
1.1 机器学习概述
1.2 机器学习发展史
1.3 机器学习的类型
1.3.1 监督学习
1.3.2 无监督学习
1.3.3 强化学习
1.4 机器学习的主要概念
1.4.1 模型
1.4.2 损失函数
1.4.3 优化算法
1.4.4 模型评估
1.5 机器学习的背景知识
1.5.1 数学基础
1.5.2 编程基础
1.6 机器学习的开发流程
1.7 本书概述
1.7.1 本书结构
1.7.2 学习路线
习题
参考文献
第2章 数学基础回顾（选修）
2.1 数学基础的必要性
2.1.1 数学基础概述
2.1.2 符号定义
2.2 高等数学
2.2.1 导数的定义
2.2.2 左右导数的几何意义和物理意义
2.2.3 函数的可导性与连续性之间的关系
2.2.4 平面曲线的切线和法线
2.2.5 四则运算法则
2.2.6 基本导数与微分表
2.2.7 复合函数、反函数、隐函数及参数方程所确定的函数的微分法
2.2.8 常用高阶导数公式
2.2.9 微分中值定理
2.2.10 泰勒公式
2.2.11 函数单调性的判断
2.2.12 函数凹凸性的判断
2.3 线性代数
2.3.1 基本概念
2.3.2 矩阵乘法
2.3.3 向量-向量乘法
2.3.4 矩阵-向量乘法
2.3.5 矩阵-矩阵乘法
2.3.6 单位矩阵和对角矩阵
2.3.7 矩阵的转置
2.3.8 对称矩阵
2.3.9 矩阵的迹
2.3.10 矩阵求导常见公式
2.3.11 范数
2.3.12 线性相关性和秩
2.3.13 方阵的逆
2.3.14 正交阵
2.3.15 行列式
2.3.16 二次型和半正定矩阵
2.3.17 特征值和特征向量
2.4 概率论与数理统计
2.4.1 概率的基本要素
2.4.2 条件概率和独立性
2.4.3 随机变量
2.4.4 累积分布函数
2.4.5 概率质量函数
2.4.6 概率密度函数
2.4.7 期望
2.4.8 方差
2.4.9 一些常见的随机变量
2.4.10 联合分布和边缘分布
2.4.11 条件概率分布
2.4.12 贝叶斯定理
2.4.13 独立性
2.4.14 期望和协方差
2.4.15 KL散度
2.5 优化理论
2.5.1 梯度下降法
2.5.2 牛顿法
2.5.3 拉格朗日乘子法
习题
参考文献
第3章 机器学习库Scikit-learn
3.1 背景知识
3.2 Scikit-learn概述
3.3 Scikit-learn主要用法
3.3.1 基本建模流程
3.3.2 数据预处理
3.3.3 监督学习算法
3.3.4 无监督学习算法
3.3.5 评价指标
3.3.6 交叉验证及超参数调优
3.4 Scikit-learn总结
习题
参考文献
第4章 回归
4.1 线性回归
4.1.1 符号定义
4.1.2 背景知识
4.1.3 线性回归求解
4.2 最小二乘法
4.3 梯度下降
4.3.1 批梯度下降
4.3.2 随机梯度下降
4.3.3 小批量梯度下降
4.3.4 梯度下降的数学推导
4.3.5 梯度下降与最小二乘法比较
4.4 数据规范化
4.4.1 数据规范化概述
4.4.2 数据规范化的主要方式
4.4.3 数据规范化的适用范围
4.5 正则化
4.5.1 过拟合和欠拟合
5.5.2 过拟合的处理
4.5.3 欠拟合的处理
4.5.4 正则化的主要形式
4.6 回归的评价指标
习题
参考文献
第5章 逻辑回归
5.1 分类问题
5.2 Sigmoid函数
5.2.1 Sigmoid函数概述
5.2.2 Sigmoid函数的特点
5.2.3 Sigmoid函数的原理
5.3 逻辑回归
5.3.1 逻辑回归算法思想
5.3.2 逻辑回归的原理
5.4 逻辑回归算法总结
习题
参考文献
第6章 朴素贝叶斯
6.1 贝叶斯方法
6.1.1 先验概率、后验概率、联合分布
6.1.2 判别模型和生成模型
6.2 朴素贝叶斯原理
6.2.1 朴素贝叶斯概述
6.2.2 拉普拉斯平滑
6.2.3 朴素贝叶斯公式推导
6.2.4 朴素贝叶斯案例
6.3 朴素贝叶斯分类算法总结
习题
参考文献
第7章 机器学习实践
7.1 数据集划分
7.1.1 训练集、验证集和测试集划分
7.1.2 交叉验证
7.1.3 不平衡数据处理
7.2 评价指标
7.2.1 回归的评价指标
7.2.2 分类的评价指标
7.2.3 评价指标案例
7.3 正则化、偏差和方差
7.3.1 欠拟合和过拟合
7.3.2 正则化
7.3.3 偏差和方差
习题
参考文献
第8章 KNN算法
8.1 距离度量
8.1.1 欧几里得距离
8.1.2 曼哈顿距离
8.1.3 切比雪夫距离
8.1.4 闵可夫斯基距离
8.1.5 汉明距离
8.1.6 余弦相似度
8.2 KNN算法简介
8.2.1 KNN算法概述
8.2.2 KNN算法流程
8.3 KD树划分
8.3.1 KD树概述
8.3.2 KD树划分案例
8.4 KD树搜索
8.4.1 KD树搜索概述
8.4.2 KD树搜索案例
习题