本书以Python语言为基础，对机器学习领域的相关概念和应用进行了介绍。本书在介绍机器学习理论的时候，尽量用浅显易懂的语言以及基础的数学知识来讲解。此外，为了将知识表述得更形象，本书添加了大量图像作为辅助，正所谓"数无形时少直觉，形少数时难入微""一图抵千言"。本书内容主要包括Python语言的基础知识、实践中很常用的机器学习算法及其原理，以及实践中的机器学习算法应用，还有一些深度学习框架的讲解和应用。
本书将复杂的机器学习算法用简单的方法加以解释，适合想入门数据分析、机器学习、人工智能等领域的读者阅读。

王新宇，上海大学副教授，主讲机器学习课程，研究方向包括金融行业大数据挖掘、医学行业大数据挖掘、图像识别以及高性能计算。

章环境配置与准备知识1
1．1环境配置1
1．2机器学习相关概念2
1．2．1机器学习中的数据2
1．2．2训练集和测试集4
1．2．3欠拟合与过度拟合5
1．2．4人工智能、机器学习、深度学习5
第2章Python基础知识6
2．1hello world！6
2．2变量6
2．3操作符7
2．3．1基本运算符7
2．3．2比较运算符8
2．3．3逻辑运算符10
2．4字符串11
2．4．1基础11
2．4．2转义字符12
2．4．3索引和切片13
2．4．4字符串方法14
2．5列表18
2．6集合21
2．7字典22
2．8循环语句24
2．9判断语句26
2．10函数26
2．11面向对象编程29
第3章数值计算扩展工具——Numpy31
3．1创建数组31
3．1．1创建元素为0或1的数组31
3．1．2将列表转换为数组33
3．1．3生成一串数字33
3．1．4生成特殊数组34
3．2数组索引35
3．3排序与查询36
3．4随机数生成器39
3．5数学函数41
3．5．1三角函数41
3．5．2指数与对数43
3．5．3约数43
3．5．4数组自身加乘44
3．5．5算术运算45
3．6统计函数47
3．7线性代数50
第4章数据分析工具——Pandas52
4．1序列对象Series52
4．1．1创建Series对象52
4．1．2Series索引53
4．1．3查看Series相关属性56
4．1．4二元运算57
4．1．5统计方法62
4．1．6缺失值处理65
4．1．7排序66
4．1．8计数与重复67
4．1．9其他69
4．2数据框对象DataFrame70
4．2．1创建数据框70
4．2．2行操作71
4．2．3列操作73
4．3分组对象GroupBy75
4．3．1基本函数75
4．3．2统计函数77
第5章可视化展示库——Matplotlib80
5．1作图类命令80
5．1．1折线图80
5．1．2柱状图和条形图82
5．1．3散点图84
5．1．4饼图85
5．1．5面积图86
5．2坐标轴控制88
5．2．1axis88
5．2．2xlim与ylim89
5．2．3xticks与yticks90
5．2．4xlabel与ylabel90
5．3其他设置91
第6章通用型开源机器学习库——Scikit93
6．1预处理94
6．1．1标准化95
6．1．2非线性转换96
6．1．3归一化97
6．1．4二值化97
6．1．5分类特征编码98
6．1．6缺失值插补99
6．1．7生成多项式特征100
6．2降维101
6．3有监督学习与无监督学习101
6．4模型评估102
6．4．1测试集评分102
6．4．2交叉验证迭代器105
6．4．3分层交叉验证迭代器108
6．4．4分组迭代器109
6．4．5时间序列交叉验证111
第7章机器学习常用数据集112
7．1boston房价数据集112
7．1．1数据集基本信息描述112
7．1．2数据探索113
7．2diabetes糖尿病数据集115
7．2．1数据基本信息描述116
7．2．2数据探索116
7．3digits手写字体识别数据集117
7．3．1数据集基本信息描述124
7．3．2数据集探索124
7．4iris鸢尾花数据集127
7．4．1数据集基本信息描述127
7．4．2数据探索128
7．5wine红酒数据集131
7．5．1数据集基本信息描述131
7．5．2数据探索132
第8章线性回归算法134
8．1从二次函数到机器学习134
8．1．1二次函数最优求解方法134
8．1．2梯度下降135
8．1．3梯度下降的Python实现138
8．1．4初始值与学习速率α的选择139
8．2深入理解线性回归算法142
8．2．1回归曲线的数学解释143
8．2．2梯度下降方法求解最优直线144
8．2．3理解“机器学习”中的“学习”145
8．2．4导数求解与梯度下降145
8．2．5学习速率α与迭代次数的设置146
8．3线性回归算法实战——糖尿病患者病情预测146
第9章逻辑回归算法149
9．1逻辑回归算法的基础知识149
9．1．1直线分割平面149
9．1．2逻辑函数153
9．2深入理解逻辑回归算法155
9．2．1直线分类器与逻辑回归的结合155
9．2．2Sigmoid函数的作用158
9．2．3逻辑回归模型159
9．3逻辑回归算法实战——二维鸢尾花分类160
0章神经网络算法164
10．1神经网络算法的基础知识164
10．1．1逻辑回归与神经网络的关系165
10．1．2激活函数165
10．2深入理解神经网络算法167
10．2．1神经网络的表示167
10．2．2做回归的神经网络168
10．2．3做二分类的神经网络168
10．2．4做多分类的神经网络169
10．3神经网络的应用169
10．3．1MLPClassifier分类169
10．3．2MLPRegressor回归171
1章线性判别算法173
11．1线性判别算法的核心知识173
11．1．1方差173
11．1．2投影175
11．1．3投影方式与方差的关系177
11．2线性判别算法详解178
11．2．1投影的实际应用179
11．2．2另一种思路解决重叠问题180
11．2．3线性判别算法的实质182
11．3线性判别算法实战——花卉分类183
2章K最近邻算法187
12．1K最近邻算法的核心知识187
12．1．1两点的距离公式187
12．1．2权重188
12．2K最近邻算法详解188
12．2．1K最近邻算法原理188
12．2．2K最近邻算法的关键——k的选择191
12．2．3距离加权最近邻算法191
12．3K最近邻算法实战——手写字体识别192
3章决策树方法与随机森林194
13．1决策树方法的基本知识194
13．2决策树方法的原理197
13．2．1信息熵198
13．2．2分割数据199
13．2．3计算信息增益201
13．3决策树方法实战——红酒分类204
13．4随机森林205
4章贝叶斯算法206
14．1贝叶斯算法的基础知识206
14．1．1概率206
14．1．2条件概率207
14．1．3联合概率209
14．1．4贝叶斯定理210
14．2深入理解贝叶斯算法210
14．2．1先验概率和后验概率211
14．2．2词向量211
14．2．3贝叶斯模型214
14．3贝叶斯算法实战——文本分类222
5章支持向量机225
15．1支持向量机的基础知识225
15．1．1向量225
15．1．2点积228
15．1．3投影229
15．1．4向量与代数直线的关系230
15．2深入理解支持向量机233
15．2．1超平面233
15．2．2支持向量机在二维空间的超平面234
15．2．3计算最优超平面235
15．3支持向量机实战——鸢尾花分类237
6章PCA降维算法240
16．1PCA降维算法的核心知识240
16．1．1矩阵的直观理解240
16．1．2特征向量的本质243
16．1．3协方差244
16．1．4协方差矩阵244
16．2PCA降维算法详解244
16．2．1协方差矩阵的特征向量245
16．2．2PCA降维算法的Python实现246
16．3PCA降维算法实战——iris数据集可视化247
7章SVD奇异值分解249
17．1SVD奇异值分解的相关知识249
17．2深入理解矩阵作用250
17．2．1矩阵作用250
17．2．2将矩阵作用分解为特征向量作用251
17．2．3将矩阵作用分解为奇异矩阵作用253
17．3SVD奇异值分解的应用255
17．3．1U矩阵的理解257
17．3．2V矩阵的理解258
17．3．3S矩阵的理解259
8章聚类算法260
18．1深入理解K均值聚类算法260
18．2Scikit库中的K均值聚类算法264
18．3其他聚类算法266
9章深度学习框架及其应用269
19．1TensorFlow269
19．1．1TensorFlow的基本概念269
19．1．2TensorFlow的应用271
19．2Keras277
19．3PyTorch282
19．4Caffe288