Hadoop大数据技术与项目实战

"本书是由校企“双元”合作的新形态教材，内容有效融入企业案例及大数据的前沿技术，体现工作岗位标准和岗位工作流程，在项目实施过程中培养学生精益求精的大国工匠精神，引导学生探索未知、追求真理、勇攀科学高峰，激发学生科技报国的家国情怀和使命担当。 本书内容设计主线清晰，内容编排科学合理、梯度明晰。本书以项目实施过程为主线组织教学内容，通过“电商平台用户行为数据分析”项目实战，贯穿Hadoop大数据核心技术，包括项目需求、大数据平台部署、数据采集、离线数据仓库设计与开发和项目数据可视化展示。本书通过理论、实践、项目实战相结合的方式，使读者逐步掌握基于Hadoop大数据技术的相关理论知识、操作技能并具备大数据应用创新能力，以满足大数据技术岗位的职业技能要求。 本书为“岗课赛证”融通的新形态教材，可以作为高等职业院校大数据、云计算、软件技术等相关专业教材，也可以作为从事大数据平台运维、大数据分析、云计算应用等技术人员的参考用书。 本书配套资源丰富，配有课程标准、软件安装包、项目源代码、习题库、微课视频等。本书对应的省级精品在线开放课程“Hadoop大数据技术与项目实战”在智慧树网上线，师生可以登录该网站进行在线学习及资源下载。"

本书由校企“双元”合作开发，以企业真实项目的实施流程为主线，通过“电商平台用户行为数据分析”项目实战，贯穿Hadoop大数据核心技术，包括项目需求、大数据平台部署、数据采集、离线数据仓库设计与开发和项目数据可视化展示。本书内容主要涉及VMware、Xshell、IDEA等软件的安装配置；Hadoop分布式集群环境搭建；Flume、Kafka、Hive、Sqoop、ZooKeeper等Hadoop生态组件的基本工作原理、搭建及配置方法；使用Flume-Kafka-Flume架构实现数据采集；Hive离线数据仓库的设计与开发；使用pyecharts工具进行数据可视化展示。本书为省级精品在线开放课程配套教材，同时配有课程标准、软件安装包、项目源代码、习题库、微课视频等，可以帮助读者更好地学习本书内容。本书可以作为高等职业院校大数据、云计算、软件技术等相关专业教材，也可以作为从事大数据平台运维、大数据分析、云计算应用等技术人员的参考用书。

王小洁，女，副教授，山西职业技术学院，山西职业技术学院大数据技术专业是国家"双高”建设专业群的龙头专业，与华为、新华三、中软国际等知名企业开展校企合作，在人才培养模式创新、课程教学资源建设、教材与教法改革、教师教学创新团队等方面均进行改革创新。大数据技术专业每年招生200余人，具有一定 的专业规模。

绪论1
学习目标1
重点难点1
学习方法1
思考与练习2
模块1项目需求3
学习目标3
项目概述3
1.1项目业务背景3
1.2项目实施计划5
1.2.1项目实施流程规划5
1.2.2技术选型及版本6
1.2.3项目实施的教学路径7
1.3项目数据字典介绍8
1.3.1数据源数据结构字典8
1.3.2Hive表数据字典13
素养园地17
项目总结17
思考与练习17
模块2大数据平台部署20
学习目标20
项目概述20
2.1大数据相关开发软件安装20
2.2Linux系统环境配置28
2.2.1安装虚拟机28
2.2.2克隆虚拟机50
2.2.3虚拟机免密码登录配置57
2.2.4Linux项目路径规划70
2.3Hadoop分布式集群环境搭建73
2.3.1JDK安装配置73
2.3.2Hadoop框架介绍及组成77
2.3.3HDFS集群配置79
2.3.4YARN集群配置89
2.3.5HDFSShell命令行操作95
2.3.6HDFS客户端开发环境配置及测试98
2.3.7HDFSAPI基本操作115
2.3.8MapReduce原理121
2.3.9MapReduce案例――词频统计122
2.4Hive数据仓库服务配置131
2.4.1MySQL环境配置131
2.4.2Hive环境配置135
2.4.3Hive与MySQL整合操作及Hive服务启动138
2.4.4HQL语句基本操作141
2.4.5HQL统计分析案例143
2.5Flume原理及安装部署144
2.6Sqoop原理及应用145
2.6.1Sqoop原理及安装部署146
2.6.2Sqoop数据迁移案例147
2.7ZooKeeper集群环境搭建151
2.8Kafka集群环境搭建及应用154
2.8.1Kafka集群环境搭建154
2.8.2Kafka常用命令及使用方法157
素养园地159
项目总结160
思考与练习161
模块3数据采集165
学习目标165
项目概述165
3.1项目数据源及产生方法165
3.2Flume脚本设计167
3.2.1Flume采集原理及流程167
3.2.2Flume数据采集脚本设计170
3.2.3链的创建流程172
3.2.4ETL业务逻辑分析182
3.2.5分流标记业务逻辑分析183
3.2.6Flume数据采集执行脚本及实现184
3.2.7Flume数据消费脚本设计187
3.2.8Flume数据消费执行脚本及实现191
素养园地195
项目总结195
思考与练习195
模块4离线数据仓库设计与开发198
学习目标198
项目概述198
4.1离线数据仓库概述198
4.2ODS层设计与开发199
4.3DWD层设计与开发204
4.3.1项目JSON解析函数及应用204
4.3.2启动日志表设计及数据加载206
4.4DWS层设计与开发209
4.5DWT层设计与开发212
4.5.1HQL关联查询（1）212
4.5.2HQL关联查询（2）216
4.5.3HQL关联查询（3）218
4.5.4设备主题表设计及数据加载219
4.6ADS层设计与开发222
4.6.1活跃用户数据表设计及数据加载223
4.6.2每日新增用户数据表设计及数据加载224
4.6.3沉默用户数据表设计及数据加载226
4.6.4本周回流用户数据表设计及数据加载228
4.6.5用户留存率数据表设计及数据加载229
素养园地243
项目总结243
思考与练习243
模块5项目数据可视化展示246
学习目标246
项目概述246
5.1创建MySQL数据表246
5.1.1大数据报表系统246
5.1.2MySQL数据表的创建247
5.2Sqoop数据迁移248
5.3数据可视化250
5.3.1pyecharts可视化工具介绍251
5.3.2导入数据、绘制大屏标题269
5.3.3绘制柱状图283
5.3.4绘制象形柱状图、水球图287
5.3.5绘制柱状图与折线图的叠加图291
5.3.6绘制轮播图294
5.3.7数据大屏展示297
素养园地301
项目总结301
思考与练习301
课程学习成果评价304
参考文献306