Spark项目实战

"目前市面上已经有很多大数据技术相关书籍，然而大部分书籍是基于理论或基础操作讲解单个技术点，这些书籍虽然可以使初学者掌握单个技术点的基础技能，不过对于多技术点整合使用存在一定局限性，需要读者自己去摸索，并且针对技术点的实际应用方面，欠缺带领读者体验在多技术点融合的基础上实现真实项目的操作与讲解。 作为Spark实训项目的教程，最重要且最难的一件事情就是将一些复杂、难以理解的思想和问题简单化，让初学者能够轻松理解并快速掌握Spark项目的开发流程。本教材对Spark项目开发过程的每个环节都进行了深入讲解，使读者由浅入深的了解每个环节知识内容。 "

本书运用Spark计算框架的核心组件对电商数据进行分析，以项目形式呈现，其内容涵盖环境搭建、数据分析、数据持久化和数据可视化,涉及JavaEE、ECharts、Hadoop、HBase、Spark、Kafka和ZooKeeper等技术点的综合应用。针对项目开发过程的每个环节都进行了深入讲解，使读者由浅入深地了解每个环节的知识内容。本书共分为7章。第1章主要介绍项目开发的基本情况；第2章主要介绍大数据集群环境的搭建；第3章主要介绍通过Spark实现热门品类靠前0分析，并对分析结果进行持久化操作；第4章主要介绍通过Spark实现各区域热门商品Top3分析，并对分析结果进行持久化操作；第5章主要介绍通过SparkSQL实现网站转化率统计，并对分析结果进行持久化操作；第6章主要介绍通过SparkStreaming实现广告点击流实时统计，并实时持久化统计结果；第7章主要介绍通过可视化技术将第3~6章的分析与统计结果进行图形化展示。本书配有视频、源代码、教学设计、教学PPT、教学大纲等资源。同时，为了帮助初学者更好地学习书中的内容，还提供了在线答疑，欢迎读者关注。本书适合拥有Spark基础的读者阅读，也可以作为高等院校相关课程的教学参考书。读者不仅能够通过项目实战巩固基础知识的学习效果，还能学习商业智能系统的开发过程。

江苏传智播客教育科技股份有限公司（简称传智播客）是一家致力于培养高素质软件开发人才的科技公司，“黑马程序员”是传智播客旗下高端IT教育品牌。

第1章项目概述1
1.1项目需求和目标1
1.2预备知识2
1.3项目架构设计及技术选取2
1.4开发环境和开发工具介绍3
1.5项目开发流程4
1.6硬件要求5
1.7本章小结6
第2章搭建大数据集群环境7
2.1安装准备7
2.1.1认识Linux操作系统7
2.1.2创建虚拟机8
2.1.3启动虚拟机并安装Linux操作系统14
2.1.4克隆虚拟机22
2.1.5配置Linux操作系统网络及主机名25
2.1.6SSH配置29
2.1.7配置时间同步36
2.2安装JDK41
2.3ZooKeeper集群部署42
2.3.1ZooKeeper集群的安装与配置42
2.3.2ZooKeeper集群的启动与关闭44
2.4Hadoop集群部署46
2.4.1Hadoop高可用集群规划46
2.4.2安装Hadoop47
2.4.3Hadoop高可用集群配置48
2.4.4启动Hadoop高可用集群55
2.5Spark集群部署60
2.5.1Spark集群部署模式60
2.5.2Spark集群安装配置61
2.5.3Spark集群测试62
2.6HBase集群部署64
2.6.1HBase集群规划64
2.6.2HBase集群安装配置65
2.6.3启动HBase集群67
2.7Kafka集群部署69
2.7.1Kafka集群的安装与配置69
2.7.2启动Kafka集群70
2.8本章小结72
第3章热门品类靠前0分析73
3.1数据集分析73
3.2实现思路分析74
3.3实现热门品类靠前075
3.3.1创建项目75
3.3.2创建Spark连接并读取数据集81
3.3.3获取业务数据82
3.3.4统计品类的行为类型83
3.3.5过滤品类的行为类型83
3.3.6合并相同品类的行为类型85
3.3.7根据品类的行为类型进行排序85
3.3.8数据持久化87
3.4运行程序92
3.5本章小结97
第4章各区域热门商品Top3分析98
4.1实现思路分析98
4.2实现各区域热门商品Top399
4.2.1创建Spark连接并读取数据集99
4.2.2获取业务数据100
4.2.3过滤商品的行为类型100
4.2.4转换数据格式101
4.2.5统计每个区域中的不同商品101
4.2.6根据区域进行分组102
4.2.7根据区域内商品的查看次数进行排序102
4.2.8数据持久化103
4.3运行程序106
4.4本章小结108
第5章网站转化率统计109
5.1数据集分析109
5.2实现思路分析110
5.3实现网站转化率统计111
5.3.1生成用户浏览网页数据111
5.3.2修改pom.xml文件112
5.3.3创建Spark连接并读取数据集113
5.3.4统计每个页面访问次数114
5.3.5获取每个用户浏览网页的顺序114
5.3.6合并同一用户浏览的网页114
5.3.7统计每个单跳的次数115
5.3.8计算页面单跳转化率116
5.3.9数据持久化117
5.4运行程序118
5.5本章小结121
第6章广告点击流实时统计122
6.1数据集分析122
6.2实现思路分析123
6.3数据库设计124
6.4实现广告点击流实时统计125
6.4.1修改pom.xml文件125
6.4.2生产用户广告点击流数据125
6.4.3创建SparkStreaming连接128
6.4.4读取用户广告点击流数据129
6.4.5获取业务数据129
6.4.6读取黑名单用户数据130
6.4.7过滤黑名单用户131
6.4.8统计每个城市不同广告的点击次数132
6.4.9添加黑名单用户133
6.4.10数据持久化134
6.5运行程序135
6.6本章小结137
第7章数据可视化138
7.1系统概述138
7.1.1技术选取138
7.1.2系统架构139
7.2数据表设计与实现141
7.2.1数据表介绍141
7.2.2Phoenix集成HBase142
7.2.3建立Phoenix与HBase表映射143
7.3创建SpringBoot项目147
7.4实现热门品类靠前0数据可视化152
7.4.1创建实体类靠前0Entity152
7.4.2创建数据库访问接口靠前0Dao153
7.4.3创建控制器类靠前0Controller153
7.4.4创建HTML文件top10.html154
7.4.5运行项目实现热门品类靠前0数据可视化157
7.5实现各区域热门商品Top3数据可视化160
7.5.1创建实体类Top3Entity160
7.5.2创建数据库访问接口Top3Dao160
7.5.3创建控制器类Top3Controller161
7.5.4创建HTML文件top3.html162
7.5.5运行项目实现各区域热门商品Top3数据可视化164
7.6实现页面单跳转化率数据可视化165
7.6.1创建实体类ConversionEntity165
7.6.2创建数据库访问接口ConversionDao165
7.6.3创建控制器类ConversionController166
7.6.4创建HTML文件conversion.html166
7.6.5运行项目实现页面单跳转化率数据可视化169
7.7实现广告点击流实时统计可视化169
7.7.1创建实体类AdsEntity169
7.7.2创建数据库访问接口AdsDao170
7.7.3创建控制器类AdsController170
7.7.4创建HTML文件ads.html171
7.7.5运行项目实现广告点击流实时统计可视化173
7.8本章小结174