Hadoop应用实战

谭磊、范磊编著的《Hadoop应用实战》全面地讲 述了Hadoop相关领域的重要知识和最新的技术及应用 。书中首先介绍了数据挖掘的基础知识、Hadoop的基 本框架和相关信息，然后系统地描述了如何在各类行 业中用好Hadoop来做数据挖掘。 本书面向的主要读者人群是想了解Hadoop与大数 据的技术人员，无论他们是在互联网企业，还是在传 统企业；无论他们从事的是技术或者运维工作，专业 做数据分析，还是企业的策略官、市场官和运营官， 都能从本书中找到各自所需要的内容。 本书可以帮助读者开阔眼界和找到方法，让他们 知道如何分析实际商业场景和业务问题，构建基于 Hadoop的大数据系统，通过使用数据运营，对公司业 务运营带来直接的效益。当然对于学生、教师和有志 于从业大数据运营的人员来说，也是一本实用的教材 。

谭磊，复旦大学计算机学士，美国杜克大学计算机硕士，《New Internet：大数据挖掘》和《区块链2.0》等8本专业书籍的作者和译者，NABA北美区块链协会联合创始人，中国工业设计协会CIO，复旦大学软件学院硕士导师，杭州数字化产业综合服务中心主任。 在美国微软服务时间超过13年，曾经担任多家公司多个层级技术管理岗位，在搜索、互联网广告、数据挖掘、电子商务等方面有丰富的经验，是互联网技术领域ZI深专家。 范磊，前英特尔亚太区大数据总监，知名大数据专家，星环科技联合创始人兼CEO。

第1章 大数据概念的老调重弹 1.1 互联网和物联网上的数据 1.1.1 互联网上越来越多的数据被存储 1.1.2 物联网带来更多的数据 1.2 数据能为我们做的事 1.2.1 用户画像和任何企业都需要关注的数据 1.2.2 大数据的3V、4V和N个 1.2.3 从数据分析到数据挖掘 1.2.4 大数据处理的三个维度 1.3 数据挖掘中的一些基本概念 1.3.1 分类算法 1.3.2 聚类算法 1.3.3 关联算法 1.3.4 序列算法 1.3.5 估测和预测 1.3.6 A/B Test 1.4 数据仓库 1.4.1 数据仓库是解决大数据存储的基础设施 1.4.2 4种不同类型的数据仓库 1.4.3 国内外数据仓库的不同使用方式 1.5 不包含在本书中的内容 1.6 这本书都讲些啥 第2章 Hadoop的前世今生 2.1 Google的计算框架 2.1.1 Google公司的三篇论文 2.1.2 GFS文件系统 2.1.3 MapReduce的模型和框架 2.1.4 BigTable数据库 2.2 Hadoop的诞生 2.2.1 从GFS到HDFS 2.2.2 Hadoop的基础计算框架MapReduce 2.2.3 从BigTable到 2.3 Hadoop的今天 2.4 Hadoop大事记 第3章 等同于大数据的Hadoop 3.1 Hadoop理念 3.2 Hadoop核心基础架构 3.2.1 Namenode和Datanode 3.2.2 Hadoop底层的文件系统HDFS 3.2.3 Hadoop上的数据库HBase 3.3 Hadoop上的各种其他组件 3.3.1 资源分配系统YARN 3.3.2 灵活的编程语言pig 3.3.3 数据挖掘工具Mahout 3.3.4 专注于数据挖掘的R语言 3.3.5 数据仓库工具Hive 3.3.6 数据采集系统Flume 3.4 Spark和Hadoop 3.4.1 闪电侠出现了 3.4.2 大数据领域的Taylor Swift 3.4.3 Spark的架构 3.4.4 Spark和流处理 第4章 Hadoop的价值 4.1 大数据时代需要新的架构 4.1.1 企业IT面临的挑战 4.1.2 数据分析要考虑的问题 4.1.3 新的IT架构的需求 4.2 Hadoop能解决的问题 4.2.1 Hadoop适合做的事情 4.2.2 Hadoop对系统数据安全性的保障 4.2.3 数据流与数据流处理 4.3 去IOE 4.4 7种最常见的Hadoop和Spark项目 第5章 Hadoop系统速成 5.1 Hadoop系统搭建速成 5.1.1 Hadoop系统的三种运行模式 5.1.2 单点搭建Hadoop系统 5.1.3 全分布式(多节点)搭建Hadoop系统 5.1.4 在Hadoop上编程 5.1.5 Hadoop系统的典型配置 5.2 在云上运行 5.2.1 在金山云上运行Hadoop 5.2.2 微软的HDInsight 5.3 Hadoop信息大全 第6章 数据仓库和Hadoop 6.1 大数据时代的数据系统设计 6.1.1 分布式系统上的CAP原理 6.1.2 ACID和BASE概念的区别 6.1.3 NoSQL 6.1.4 各种数据源的整合 6.2 传统数据仓库的瓶颈 6.2.1 传统数据仓库的瓶颈之一：数据量的问题 6.2.2 传统数据仓库的瓶颈之二：数据类型的问题 6.2.3 传统数据仓库的瓶颈之三：数据处理的延时问题 6.2.4 传统数据仓库的瓶颈之四：数据模型的变化问题 6.3 Hadoop是解决数据仓库瓶颈的方法 6.3.1 解决数据量的问题 6.3.2 解决数据类型的问题 6.3.3 数据处理的速度问题 6.3.4 数据模型的变化问题 6.4 基于Hadoop和Spark的数据仓库解决方案 6.4.1 基于Hadoop/Spark结构的数据仓库系统架构 6.4.2 分布式计算引擎 6.4.3 标准化的编程模型 6.4.4 数据操作方式的多样性 6.4.5 OLAP交互式统计分析能力 6.4.6 多类型数据的处理能力 6.4.7 实时计算与企业数据总线 6.4.8 数据探索与挖掘能力 6.4.9 安全性和权限管理 6.4.10 混合负载管理 第7章 在不同应用环境下的H 7.1 在存储密集型环境中的Hadoop 7.2 在网络密集型环境中的Hadoop 7.3 在运算密集型环境中的Hadoop 7.4 Hadoop平台的对比和选择 7.4.1 为什么会选择商用的Hadoop系统 7.4.2 商用Hadoop系统之间的选择 第8章 Hadoop在互联网公司的应用 8.1 Hadoop在腾讯 8.2 Hadoop在Facebook的应用 8.3 金山的Hadoop 8.4 迅雷公司对Hadoop的应用 第9章 Hadoop和行业应用之一 9.1 Hadoop和运营商 9.2 Hadoop和公用事业 9.3 Hadoop和“智慧工商” 9.4 Hadoop和政务云 第10章 Hadoop与“衣食住行”中的“食”和“行” 10.1 Hadoop和“食” 10.2 Hadoop和“行” 第11章 Hadoop和行业应用之三 11.1 Hadoop和金融 11.1.1 金融的大数据属性 11.1.2 金融企业的风险控制 11.2 Hadoop和医疗 11.3 Hadoop和物流 11.4 Hadoop和媒体 第12章 特殊场景下的Hadoop系统 12.1 Hadoop和实时系统 12.2 Hadoop平台的一些特殊场景实现 第13章 Hadoop系统的挑战和应对 13.1 Hadoop系统使用须知 13.2 Hadoop平台风险点预估 13.2.1 Namenode 的单点故障和系统的可用性 13.2.2 集群硬件故障导致平台可靠性与可用性大幅降低 13.2.3 Hadoop集群大数据安全和隐私问题 13.3 Hadoop平台硬件故障的应对机制 13.3.1 监控软硬件故障的应对机制 13.3.2 断电处理 13.4 Hadoop平台如何真正做到高可用性 13.4.1 Hadoop系统的高可用性冗余性保障 13.4.2 Facebook的Namenode HA的方案 13.4.3 TDH的Namenode 高可用性冗余解决方案 13.5 Hadoop平台安全性和隐私性的应对机制 13.5.1 关于安全和隐私问题的7个事项 13.5.2 星环的4A级统一安全管理解决方案 13.5.3 Hadoop系统安全Checklist 第14章 Hadoop的未来 14.1 Hadoop未来的发展趋势 14.1.1 对数据系统的不断升级 14.1.2 机器学习 14.2 Hadoop和区块链 附录A 专业词汇表 附录B 引用文献 附录C 参考网站一览 附录D HDFS命令行列表 附录E 本书引用案例索引