本书系统介绍了自然语言处理及深度学习，并结合实际应用场景和综合案例，深入浅出地讲解自然语言处理领域的相关知识。全书共15章，分为4个部分。第1部分是自然语言处理基础，首先介绍自然语言处理的相关概念和基本技能，然后介绍词向量技术和实现方法，最后介绍关键词提取技术。第2部分是自然语言处理核心技术，分别介绍朴素贝叶斯算法、N－gram语言模型、PyTorch深度学习框架、FastText模型文本分类和基于深度学习的文本分类。第3部分是序列标注，介绍序列标注的具体应用，如HMM词性标注和HMM命名实体识别等常见的自然语言处理应用场景。第4部分是预训练模型，它在很大程度上促进了自然语言处理的发展，这部分内容关注预训练模型的具体应用，如ALBERT的命名实体识别、Transformer的文本分类、BERT的文本相似度计算、ERNIE的情感分析等。本书适合对人工智能、机器学习、深度学习和自然语言处理感兴趣的读者阅读，也可以作为应用型本科院校和高等职业院校人工智能相关专业的教材。

第1部分 自然语言处理基础
第1章 绪论
1.1 自然语言处理综述
1.1.1 自然语言处理的基本概念
1.1.2 自然语言处理的发展历程
1.1.3 自然语言处理的研究内容
1.1.4 自然语言处理的挑战与发展趋势
1.2 文本处理技能
1.2.1 字符串处理
1.2.2 中文分词及案例实现
1.3 文本数据处理
1.3.1 文本操作基础
1.3.2 案例实现——文本数据统计
1.3.3 案例实现——词云生成
本章总结
作业与练习
第2章 词向量技术
2.1 词向量概述
2.1.1 词向量基础
2.1.2 词向量表示的问题
2.2 词向量离散表示
2.2.1 独热编码
2.2.2 词袋模型
2.2.3 词频-逆文本频率
2.2.4 案例实现——文本离散表示
2.3 词向量分布表示
2.3.1 神经网络语言模型
2.3.2 Word2vec模型
2.3.3 案例实现——中文词向量训练
本章总结
作业与练习
第3章 关键词提取
3.1 关键词提取概述
3.1.1 关键词提取基础
3.1.2 基于TF-IDF的关键词提取
3.1.3 基于TextRank的关键词提取
3.1.4 基于Word2vec词聚类的关键词提取
3.2 关键词提取的实现
3.2.1 案例介绍
3.2.2 案例实现——关键词提取综合案例
本章总结
作业与练习
第2部分 自然语言处理核心技术
第4章 朴素贝叶斯中文分类604.1朴素贝叶斯分类算法概述
4.1.1 概率基础
4.1.2 朴素贝叶斯分类器
4.2 机器学习库sklearn
4.2.1 sklearn获取数据
4.2.2 sklearn数据预处理
4.2.3 sklearn构建模型
4.3 案例实现——朴素贝叶斯中文分类
本章总结
作业与练习
第5章 N-gram语言模型
5.1 N-gram概述
5.1.1 N-gram语言模型简介
5.1.2 N-gram概率计算
5.1.3 案例——N-gram的实现
5.2 案例实现——基于N-gram的新闻文本预测
本章总结
作业与练习
第6章 PyTorch深度学习框架
6.1 PyTorch基础
6.1.1 PyTorch的介绍与安装
6.1.2 PyTorch入门使用
6.1.3 梯度下降与反向传播
6.1.4 案例——使用PyTorch实现线性回归
6.2 PyTorch数据加载
6.2.1 使用数据加载器的目的
6.2.2 DataSet的使用方法
6.2.3 DataLoader的使用方法
6.3 PyTorch自带数据集加载
本章总结
作业与练习
第7章 FastText模型文本分类
7.1 FastText模型简介
7.1.1 FastText模型原理
7.1.2 FastText模型结构
7.1.3 FastText模型优化
7.2 案例实现——FastText模型文本分类
本章总结
作业与练习
第8章 基于深度学习的文本分类
8.1 基于TextCNN的文本分类
8.1.1 卷积神经网络
8.1.2 TextCNN的原理
8.2 基于TextRNN的文本分类
8.2.1 LSTM原理
8.2.2 LSTM网络结构
8.3 基于TextRCNN的文本分类
8.3.1 TextRCNN原理
8.3.2 TextRCNN网络结构
8.4 案例实现——基于深度学习的文本分类
本章总结
作业与练习
第3部分 序列标注
第9章 HMM的词性标注
9.1 词性标注简介
9.1.1 词性标注的基本概念
9.1.2 中文词性的分类及作用
9.1.3 词性标注体系
9.2 HMM词性标注的原理和基本问题
9.2.1 HMM词性标注的原理
9.2.2 HMM的基本问题
9.3 案例实现——HMM的中文词性标注
本章总结
作业与练习
第10章 HMM的命名实体识别
10.1 命名实体识别
10.1.1 命名实体识别的概念
10.1.2 NER的标注方法
10.2 NER的HMM
10.3 案例实现——HMM的中文命名实体识别
本章总结
作业与练习
第11章 BiLSTM-CRF的命名实体识别
11.1 CRF简介
11.1.1 CRF的基本概念
11.1.2 BiLSTM的命名实体识别
11.1.3 CRF的命名实体识别
11.2 BiLSTM-CRF的原理
11.3 案例实现——BiLSTM-CRF的中文命名实体识别
本章总结
作业与练习
第4部分 预训练模型
第12章 ALBERT的命名实体识别
12.1 预训练模型简介
12.1.1 预训练模型的基本概念
12.1.2 经典的预训练模型
12.2 预训练模型HuggingFace
12.2.1 HuggingFace简介
12.2.2 案例实现——使用HuggingFace完成情感分析
12.3 案例实现——ALBERT的中文命名实体识别
本章总结
作业与练习
第13章 Transformer的文本分类
13.1 Transformer概述
13.1.1 Encoder-Decoder模型
13.1.2 Transformer简介
13.1.3 Transformer总体结构
13.2 Self-Attention机制
13.2.1 Self-Attention机制的原理
13.2.2 Self-Attention的计算过程
13.2.3 位置编码和LayerNormalization
13.3 案例实现——Transformer的文本分类
本章总结
作业与练