作者简介 彭冬:微博广告基础架构团队负责人、技术专家,商业大数据平台及智能监控平台发起人,目前负责广告核心引擎基础架构、Hubble智能监控系统、商业基础数据平台(D+)等基础设施建设。关注计算广告、大数据、人工智能、高可用系统架构设计、区块链等方向。在加入微博之前,曾就职于百度负责大数据平台建设,曾担任趣点科技联合创始人兼CTO等职位。毕业于西北工业大学,曾在靠前外知名期刊发表多篇学术论文,拥有9项发明。 朱伟:微博广告SRE团队技术负责人,不错运维工程师,2016年4月加入微博,目前主要负责微博广告智能监控报警平台和服务治理等项目的建设与研究。 刘俊:微博平台部监控技术负责人,负责微博平台、PC微博大规模监控系统的建设,主要关注实时大数据、运维自动化、智能化方向。2014年加入微博,之前曾在新浪、搜狐等公司从事运维监控方面的工作。 目录 第1篇 开门见山:运维发展史 第1章 运维现状 1.1 运维工程 1.1.1 认识运维 1.1.2 主要职责 1.1.3 运维技术 1.2 运维发展历程 1.2.1 人工阶段 1.2.2 工具和自动化阶段 1.2.3 平台化阶段 1.2.4 智能运维阶段 1.3 运维现状 1.3.1 故障频发 1.3.2 系统复杂性 1.3.3 大数据环境 1.4 本章小结 1.5 参考文献 第2章 智能运维 2.1 海量数据的存储、分析和处理 2.2 多维度、多数据源 2.3 信息过载 2.4 复杂业务模型下的故障定位 2.5 本章小结 2.6 参考文献 第2篇 站在巨人肩上:智能运维基础设施 第3章 开源数据采集技术 3.1 数据采集工具对比 3.2 轻量级采集工具Fil 3.2.1 Filebeat工作原理 3.2.2 Filebeat的安装与配置 3.2.3 启动和运行Fil 3.3 日志采集解析工具 3.3.1 Logstash工作原理 3.3.2 安装Log 3.3.3 配置Log 3.3.4 启动Log 3.4 本章小结 3.5 参考文献 第4章 分布式消息队列 4.1 开源消息队列对比与分析 4.1.1 概述 4.1.2 4.1.3 Ac 4.1.4 Ro 4.1.5? 4.2 Kafka安装与使用 4.2.1 组件概念 4.2.2 基本特性 4.2.3 安装与使用 4.2.4 Java API使用 4.3 案例分析 4.3.1 日志采集 4.3.2 实时结算 4.3.3 实时计算 4.4 本章小结 4.5 参考文献 第5章 大数据存储技术 5.1 传统数据存储 5.1.1 传统应用的架构 5.1.2 传统存储的运行机制 5.1.3 传统存储带来的问题 5.2 基于HDFS的分布式存储 5.2.1 分布式存储的定义 5.2.2 HDFS的基本原理 5.2.3 HDFS架构解析 5.2.4 HDFS优势 5.2.5 HDFS不适合的场景 5.3 分层存储 5.3.1 数据仓库 5.3.2 数据仓库分层架构 5.3.3 分层存储的好处 5.4 案例分析 5.4.1 数据存储架构 5.4.2 数据仓库建模 5.4.3 常见的存储问题及解决方案 5.5 本章小结 5.6 参考文献 第6章 大规模数据离线计算分析 6.1 经典的离线计算 6.1.1 Linux神级工具sed和 6.1.2 Python数据处理Pandas基础 6.1.3 Python的优势和不足 6.2 分布式离线计算 6.2.1 MapReduce离线计算 6.2.2 离线计算的数据倾斜问题 6.2.3 分布式离线计算的技术栈 6.3 案例分析 6.3.1 离线计算管理 6.3.2 离线计算原子控制 6.3.3 离线计算的数据质量 6.4 本章小结 6.5 参考文献 第7章 实时计算框架 7.1 关于实时流计算 7.1.1 如何提高实时流计算的实时性 7.1.2 如何提高实时流计算结果的准确性 7.1.3 如何提高实时流计算结果的响应速度 7.2 Spark Streaming计算框架介绍 7.2.1 概述 7.2.2 基本概念 7.2.3 运行原理 7.2.4 编程模型 7.2.5 Spark Streaming的使用 7.2.6 优化运行时间 7.3 Flink计算框架 7.3.1 基本概念 7.3.2 Flink特点 7.3.3 运行原理 7.3.4 Java API的使用 7.4 案例分析 7.4.1 背景介绍 7.4.2 架构设计 7.4.3 效果分析 7.5 本章小结 7.6 参考文献 第8章 时序数据分析框架 8.1 时序数据库简介 8.1.1 什么是时序数据库 8.1.2 时序数据库的特点 8.1.3 时序数据库对比 8.2 时序数据库Grap 8.2.1 Graphite简介 8.2.2 Graphite在微博广告监控系统中的应用 8.3 多维分析利器D 8.3.1 什么是D 8.3.2 Druid架构 8.3.3 Druid在微博广告监控平台中的应用 8.4 性能神器ClickH 8.4.1 什么是ClickH 8.4.2 ClickHouse的特性 8.4.3 ClickHouse的不足 8.4.4 安装配置ClickH 8.4.5 表引擎 8.4.6 函数支持 8.5 本章小结 8.6 参考文献 第9章 机器学习框架 9.1 简介 9.2 TensorFlow介绍 9.2.1 什么是Tensor 9.2.2 下载安装 9.2.3 “Hello TensorFlow”示例 9.3 TensorFlow进阶 9.3.1 基础理论 9.3.2 模型准备 9.3.3 训练数据 9.3.4 模型训练 9.3.5 生成seq2seq句子 9.3.6 运行演示 9.4 本章小结 9.5 参考文献 第3篇 运维新时代:智能运维技术详解 第10章 数据聚合与关联技术 10.1 数据聚合 10.1.1 聚合运算 10.1.2 多维度聚合 10.2 降低维度 10.2.1 将告警聚合成关联“事件” 10.2.2 减少误报:告警分类 10.3 数据关联 10.4 实时数据关联案例 10.4.1 设计方案 10.4.2 效果 10.5 本章小结 10.6 参考文献 第11章 数据异常点检测技术 11.1 概述 11.2 异常检测方法 11.2.1 基于统计模型的异常点检测 11.2.2 基于邻近度的异常点检测 11.2.3 基于密度的异常点检测 11.3 独立森林 11.4 本章小结 11.5 参考文 内容推荐 由彭冬、朱伟、刘俊、王莉、陆松林等著的《智能运维(从0搭建大规模分布式AIOps系统)》结合大企业的智能运维实践,全面完整地介绍智能运维的技术体系,让读者更加了解运维技术的现状和发展。同时,帮助运维工程师在一定程度上了解机器学习的常见算法模型,以及如何将它们应用到运维工作中。 全书共分4篇。第1篇运维发展史,重点阐述当前运维的发展现状及面临的技术挑战;第2篇智能运维基础设施,重点讲述大数据场景下的数据存储、大数据处理和分析的方法与经验,以及海量数据多维度多指标的处理分析技术;第3篇智能运维技术详解,重点关注在新时期大数据时代下智能化的运维技术,包括数据聚合与关联、数据异常点检测、故障诊断和分析、趋势预测算法;第4篇技术案例详解,为大家梳理了通过开源框架ELK快速构建智能监控系统的整体方案,还将分享微博平台和微博广告两个不同业务场景下智能监控系统的技术实践。 本书适合运维、开发、架构、DevOps工程师及广大互联网技术爱好者研读和借鉴。 |