传统的入侵检测和日志文件分析已经不再足以保护当今的复杂网络。在《数据驱动的网络分析》一书中，安全研究人员Michael Collins（柯林斯）展示了多种收集和分析网络流量数据集的技术和工具。你将从中理解网络的使用方式，以及保护和改进它所必需的行动。

本书分为3个部分，讲解了收集和组织数据的过程、各种分析工具和多种不同的分析场景和技术。对于熟悉脚本的网络管理员和运营安全分析人员来说，本书是他们的理想读物。

传统的入侵检测和日志文件分析已经不再足以保护当今的复杂网络，柯林斯编著的这本《数据驱动的网络分析》讲解了多种网络流量数据集的采集和分析技术及工具，借助这些工具，可以迅速定位网络中的问题，并采取相应的行动，保障网络的运行安全。

本书分为3部分，共15章，内容包括数据采集的常规过程，用于采集网络流量的传感器，基于特定系统的传感器，数据存储和分析，使用互联网层次知识系统（SiLK）分析NetFlow数据，用于安全分析的R语言简介、入侵检测系统的工作机制以及实施，确定实施攻击的幕后真凶，探索性数据分析以及数据可视化，检查通信流量和行为，获取网络映射和库存盘点的详细过程等。

本书适合网络安全工程师和网络管理人员阅读。

第1部分 数据

第1章 传感器和探测器简介

 1.1 观察点：传感器的位置对数据采集的影响

 1.2 领域：确定可以采集的数据

 1.3 操作：传感器对数据所做的处理

 1.4 小结

第2章 网络传感器

 2.1 网络分层及其对测量的影响

2.1.1 网络层次和观察点

2.1.2 网络层次和编址

 2.2 封包数据

2.2.1 封包和帧格式

2.2.2 滚动缓存

2.2.3 限制每个封包中捕捉的数据

2.2.4 过滤特定类型封包

2.2.5 如果不是以太网怎么办

 2.3 NetFlow

2.3.1 NetFlow v5格式和字段

2.3.2 NetFlow生成和采集

第3章 主机和服务传感器：在源上的流量日志

 3.1 访问和操纵日志文件

 3.2 日志文件的内容

3.2.1 优秀日志消息的特性

3.2.2 现有日志文件以及处理方法

 3.3 有代表性的日志文件格式

3.3.1 HTTP：CLF和ELF

3.3.2 SMTP

3.3.3 Microsoft Exchange：邮件跟踪日志

 3.4 日志文件传输：转移、Syslog和消息队列

3.4.1 转移和日志文件留存

3.4.2 syslog

第4章 用于分析的数据存储：关系数据库、大数据和其他选项

 4.1 日志数据和CRUD范式

 4.2 NoSQL系统简介

 4.3 使用何种存储方法

第2部分 工具

第5章 SiLK套件

 5.1 SiLK的概念和工作原理

 5.2 获取和安装SiLK

 5.3 选择和格式化输出字段操作：rwcut

 5.4 基本字段操纵：rwfilter

5.4.1 端口和协议

5.4.2 大小

5.4.3 IP地址

5.4.4 时间

5.4.5 TCP选项

5.4.6 助手选项

5.4.7 杂项过滤选项和一些技巧

 5.5 rwfileinfo及出处

 5.6 合并信息流：rwcount

 5.7 rwset和IP集

 5.8 rwuniq

 5.9 rwbag

 5.10 SiLK高级机制

 5.11 采集SiLK数据

5.11.1 YAF

5.11.2 rwptoflow

5.11.3 rwtuc

第6章 R安全分析简介

 6.1　安装与设置

 6.2　R语言基础知识

6.2.1　R提示符

6.2.2　R变量

6.2.3　编写函数

6.2.4　条件与循环

 6.3　使用R工作区

 6.4　数据帧

 6.5　可视化

6.5.1　可视化命令

6.5.2　可视化参数

6.5.3　可视化注解

6.5.4　导出可视化

 6.6　分析：统计假设检验

6.6.1　假设检验

6.6.2　检验数据

第7章 分类和事件工具：IDS、AV和SEM

 7.1　IDS的工作原理

7.1.1　基本词汇

7.1.2　分类器失效率：理解“基率谬误”

7.1.3　应用分类

 7.2　提高IDS性能

7.2.1　改进IDS检测

7.2.2　改进IDS响应

7.2.3　预取数据

第8章 参考和查找：了解“某人是谁”的工具

 8.1 MAC和硬件地址

 8.2 IP编址

8.2.1 IPv4地址、结构和重要地址

8.2.2 IPv6地址、结构和重要地址

8.2.3 检查连接性：使用ping连接到某个地址

8.2.4 路由跟踪

8.2.5 IP信息：地理位置和人口统计学特征

 8.3 DNS

8.3.1 DNS名称结构

8.3.2 用dig转发DNS查询

8.3.3 DNS反向查找

8.3.4 使用whois查找所有者

 8.4 其他参考工具

第9章 其他工具

 9.1　可视化

 9.2　通信和探查

9.2.1　netcat

9.2.2　nmap

9.2.3　Scapy

 9.3　封包检查和参考

9.3.1　Wireshark

9.3.2　GeoIP

9.3.3　NVD、恶意软件网站和C*E

9.3.4　搜索引擎、邮件列表和人

第3部分 分析

第10章 探索性数据分析和可视化

 10.1 EDA的目标：应用分析

 10.2 EDA工作流程

 10.3 变量和可视化

 10.4 单变量可视化：直方图、QQ图、箱线图和等级图

10.3.1 直方图

10.3.2 柱状图（不是饼图）

10.3.3 分位数-分位数（Quantile-Quantile ，QQ）图

10.3.4 五数概括法和箱线图

10.3.5 生成箱线图

 10.5 双变量描述

10.5.1 散点图

10.5.2 列联表

 10.6 多变量可视化

第11章 摸索

 11.1 攻击模式

 11.2 摸索：错误的配置、自动化和扫描

11.2.1 查找失败

11.2.2 自动化

11.2.3 扫描

 11.3 识别摸索行为

11.3.1 TCP摸索：状态机

11.3.2 ICMP消息和摸索

11.3.3 识别UDP摸索

 11.4 服务级摸索

11.4.1 HTTP摸索

11.4.2 SMTP摸索

 11.5 摸索分析

11.5.1 构建摸索警报

11.5.2 摸索行为的取证分析

11.5.3 设计一个网络来利用摸索

第12章 通信量和时间分析

 12.1 工作日对网络通信量的影响

 12.2 信标

 12.3 文件传输/攫取

 12.4 局部性

12.4.1 DDoS、突发拥塞和资源耗尽

12.4.2 DDoS和路由基础架构

 12.5 应用通信量和局部性分析

12.5.1 数据选择

12.5.2 将通信量作为警报

12.5.3 将信标作为警报

12.5.4 将局部性作为警报

12.5.5 工程解决方案

第13章 图解分析

 13.1 图的属性：什么是图

 13.2 标签、权重和路径

 13.3 分量和连通性

 13.4 聚类系数

 13.5 图的分析

13.5.1 将分量分析作为警报

13.5.2 将集中度分析用于取证

13.5.3 广度优先搜索的取证使用

13.5.4 将集中度分析用于工程

第14章 应用程序识别

 14.1 应用程序识别机制

14.1.1 端口号

14.1.2 通过标志抓取识别应用程序

14.1.3 通过行为识别应用程序

14.1.4 通过附属网站识别应用程序

 14.2 应用程序标志：识别和分类

14.2.1 非Web标志

14.2.2 Web客户端标志：User-Agent字符串

第15章 网络映射

 15.1 创建一个初始网络库存清单和映射

15.1.1 创建库存清单：数据、覆盖范围和文件

15.1.2 第1阶段：前3个问题

15.1.3 第2阶段：检查IP空间

15.1.4 第3阶段：识别盲目和难以理解的流量

15.1.5 第4阶段：识别客户端和服务器

 15.2 更新库存清单：走向连续审计