企业大数据系统构建实战

对于很多企业而言，大数据的重要性不言而喻，但是如何构建、实施和应用大数据系统却是一个复杂的工程。吕兆星、郑传峰、宋天龙、杨晓鹏著的《企业大数据系统构建实战(技术、架构、实施与应用)》让读者认识到大数据不仅是数据、技术、架构、应用，更是结合了商业模式、战略定位、信息安全、单位协同、组织保障、实施选型的完整体系。本书内容从大数据的规划定位、组织实施和价值提升三个维度展开，兼顾整体性、全局性、安全性、价值性、技术性、体系性等方面的考虑。靠前部分：企业大数据战略规划：主要从宏观的角度介绍大数据的定位、组织保障、解决方案选择和自主实施思路，目的是从全局角度引导建立大数据工作的整体思维。第二部分：企业大数据落地实施：主要从执行层面介绍了与大数据落地相关的技术、架构、开发、工作流、应用和价值评估，直接以落地视角解读大数据工作中每个环节涉及的流程、知识和方法，这部分也是本书的核心。第三部分：大数据价值、变革和挑战：主要涉及大数据的社会价值、当前问题和挑战，以及大数据的未来趋势，这是对现有大数据工作的延展以及未来趋势的探索。

吕兆星（EthanLv），软通动力数据科技公司总架构师，HiveCloud创始人兼CTO，萝卜网CTO，大数据技术领域资历专家，精通基于大数据的分布式数据挖掘、存储与计算技术生态体系架构，精通垂直搜索技术及机器学习、文本情感倾向性挖掘开发、网络爬虫、全文索引体系架构。曾任国美在线大数据中心不错架构师，大数据平台负责人，军犬软件开网络舆情监测产品开发负责人。知名品牌研发的大数据和舆情产品包括：军犬舆情系列、淘商情系列、蜂棱系列、Covers系列。成功应用到电商、电信、金融、政府、食品、钢铁、医疗保健等行业，超过500个政府和企业用户。《上海世博会舆情技术大赛》第三名，《基于机器学习的数据挖掘模型》获得重量技术创新基金，萝卜客堂特邀不错讲师。
郑传峰（PeterZheng），HiveCloud 首席战略官，知名品牌大数据方向战略规划，包含数据产品、数据应用、数据价值变现等方向，软通动力数据科技公司资历数据应用专家。在CRM系统、DMP数据平台、精准营销系统、RTB、DSP、SSP和ADX方向拥有多年的操盘经验，包含大数据上层应用服务产品设计、咨询和实施。参与多个大型企业大数据战略规划和实施，其中用户画像、精准营销体系、个性化推荐体系成功应用于电商和运营商行业，企业案例包括国美电器、中国移动、中国联通和中国电信等。
宋天龙（TonySong），软通动力数据科技公司资历数据专家，HiveCloud数据总监，Webtrekk中国区技术和咨询负责人（Webtrekk，德国优选的网站数据分析服务提供商）， 数据研究与商业应用博主。拥有丰富的数据项目工作经验，参与过企业级项目包括企业数据体系规划、数据产品搭建、流量数据仓库建设、网站流量系统建设、企业BI等大型数据工作项目。参与实施客户案例包括Webpower、德国OTTO集团电子商务（中国），Esprit中国、猪八戒网、乐视商城、泰康人寿、合众人寿、酒仙网，迪信通等。合作培训的项目包括数盟、互联网分析沙龙、Netconcepts、truemetrics、中商联数据分析委等。萝卜课堂特邀讲师，百度文库认证作家、36大数据、站长之家、互联网分析沙龙专栏作家。著有《网站数据挖掘与分析：系统方法与商业实践》 一书。
杨晓鹏（KelvinYang），软通动力数据科技公司不错架构师，HiveCloud总架构师，知名品牌大数据存储平台、计算平台和应用服务平台的设计与研发。曾任居然之家O2O数据一体化总负责人。曾参与企业级项目包括大型电商网站的BI系统、数据仓库、大数据系统等设计和研发项目，金融银行类企业风险及异常交易分析项目。实施大中型企业数据项目包括居然之家、中国银联、华农保险、中国电信等超过50家客户案例。精通大数据Hadoop，Hive，HBase，Impala等组件架构与实施，精通数学模型，自主开发实现分治/覆盖的C4.5决策树、马尔科夫预测、KMeans、Apriori等模型算法程序，成功应用到电商、金融等行业。

前言
第1章企业大数据战略定位
1.1宏观
1.2微观
1.2.1资源协同
1.2.2战略定位
1.2.3启动契机
1.2.4大数据历程
1.3本章小结
第2章企业大数据职能规划
2.1大数据组织架构体系
2.1.1大数据部门在企业中的角色
2.1.2常见的大数据职能及职责
2.2大数据职位构建体系
2.2.1基础平台类
2.2.2数据管理类
2.2.3技术研发类
2.2.4产品设计类
2.2.5数据挖掘类
2.2.6数据分析类
2.3大数据制度和流程规范
2.3.1制度和流程规范意义
2.3.2制度和流程规范内容
2.3.3制度和流程规范模板
2.4本章小结
第3章企业大数据解决方案
3.1企业大数据解决方案实现方式
3.1.1独立研发
3.1.2第三方解决方案
3.1.3联合开发
3.2如何选择解决方案
3.2.1外部环境分析
3.2.2内部环境分析
3.2.3需求规划分析
3.2.4解决方案特性分析
3.2.5解决方案费用评估
3.3本章小结
第4章企业大数据自主实施思路
4.1制定规划原则
4.1.1价值性
4.1.2实时性
4.1.3高效性
4.1.4安全性
4.1.5延展性
4.1.6全局性
4.2制定目标蓝图
4.3制定建设目标
4.4明确组织规划
4.4.1组织结构设计的作用
4.4.2组织结构设立的导向
4.4.3组织结构的最终设立
4.5设计技术方案
4.5.1大数据系统建设方案
4.5.2大数据系统与传统BI的融合方案
4.6制定人才规划
4.6.1指导思想
4.6.2规划原则
4.6.3核心内容
4.7投入产出评估
4.7.1数据投入与产出的内涵
4.7.2数据投入与产出的特征
4.7.3数据投入与产出的管理
4.8数据风险管理
4.8.1数据风险管理的概念
4.8.2数据风险管理的类型
4.8.3数据风险管理的原则
4.8.4数据风险管理与控制
4.9本章小结
第5章大数据技术介绍
5.1核心技术
5.1.1Hadoop生态
5.1.2NoSQL
5.1.3实时计算
5.1.4全文检索
5.2相关技术
5.2.1数据可视化
5.2.2数据缓存
5.2.3中间件
5.2.4关系型数据库
5.2.5数据ETL
5.3大数据算法库
5.4本章小结
第6章大数据架构设计
6.1大数据架构设计原则
6.2大数据核心架构要素
6.3大数据架构设计模式
6.4本章小结
第7章大数据技术开发
7.1数据采集
7.1.1批量采集
7.1.2增量采集
7.2数据存储
7.2.1HDFS文件存储引擎
7.2.2Hive数据存储引擎
7.2.3HBase列式存储引擎
7.2.4MySQL关系型数据存储引擎
7.3多维计算
7.4功能服务
7.5平台管理
7.5.1监控管理
7.5.2调度管理
7.5.3权限管理
7.6应用域
7.7本章小结
第8章大数据工作流
8.1数据源
8.1.1日志/文件
8.1.2数据库
8.1.3网络爬虫
8.1.4第三方API/合作
8.2数据处理
8.2.1数据质量校验
8.2.2清洗转换
8.2.3质量提升
8.2.4数据脱敏
8.2.5集成整合
8.3数据存储
8.3.1关系型数据库
8.3.2分布式文件系统
8.4数据计算
8.4.1三种数据计算时效性
8.4.2结构化数据计算
8.4.3半/非结构化数据计算
8.4.4深度挖掘学习
8.5数据应用
8.5.1辅助决策
8.5.2数据驱动
8.6数据质量管理
8.6.1数据质量建设的内涵
8.6.2影响数据质量的常见因素
8.6.3数据质量建设的框架
8.7本章小结
第9章企业大数据业务应用
9.1大数据应用场景概述
9.1.1场景商业目的分析
9.1.2场景数据来源分析
9.1.3场景数据难易分析
9.1.4场景应用举例
9.2用户画像
9.2.1业务应用背景
9.2.2主要实现过程
9.2.3关键应用场景
9.2.4应用价值提炼
9.2.5场景总结回顾
9.3个性化营销
9.3.1业务应用背景
9.3.2主要实现过程
9.3.3关键应用场景
9.3.4应用价值提炼
9.3.5场景总结回顾
9.4精准广告
9.4.1业务应用背景
9.4.2主要实现过程
9.4.3关键应用场景
9.4.4应用价值提炼
9.4.5场景总结回顾
9.5征信
9.5.1应用场景背景
9.5.2主要实现过程
9.5.3主要应用场景
9.5.4应用价值提炼
9.5.5场景总结回顾
9.6本章小结
第10章企业大数据价值评估
10.1资产价值
10.1.1数据规模
10.1.2数据价值度
10.1.3数据鲜活性
10.1.4数据关联维度
10.1.5数据粒度
10.2业务价值
10.2.1用户体验提升
10.2.2运营优化
10.2.3销售贡献
10.2.4供应链优化
10.3本章小结
第11章大数据的社会价值
11.1民生价值
11.2政务价值
11.3产业价值
11.4本章小结
第12章大数据当前问题及挑战
12.1数据挑战
12.2安全挑战
12.3价值挑战
12.4认知挑战
12.5技术挑战
12.6人才挑战
12.7本章小结
第13章大数据未来趋势
13.1价值资产化
13.2产业生态化
13.3主体社会化
13.4应用智能化
13.5本章小结

Preface 前    言为什么要写这本书随着2013年大数据元年的开启，各行各业都已经将大数据视为推动企业发展、推进行业进步、加快产业升级、促进民生繁荣、巩固社会安全甚至提升国家竞争力的核心武器。从个性化推荐、关联销售到精准营销，从云平台、云服务、云计算到大数据产业链，从百度迁徙、高考预测到冬季流感预测，从机器学习、图像识别到智能交通，从总统竞选到美国中央情报局反恐，从美国的大数据研究和发展计划到中国的促进大数据发展行动纲要等一系列事实说明了大数据正受到来自政治、经济、社会、文化、军事等各个领域的广泛关注，并越来越彰显其巨大价值。    大数据不仅是一个技术名词，更是当下企业资产、核心竞争力、完整产业链和先进生产力的代名词。因此，大数据应该是作为一个整合概念和体系被认知，而非独立的方法论、技术论甚至应用论。处于飞速变革时代的中国，在大数据产业链各个环节的企事业单位受限于自身产业属性、盈利模式、利益趋向、认知、能力等，无法完整地展示出大数据的知识图谱与价值图谱。    纵观当下整个大数据认知取向，大致有三类基本认知点：    第一类是大数据知识论，这种认知以大数据方法、理论、知识的研究和推导为聚焦点，通过深度学习，归纳、总结出大数据知识体系。这是典型的学院派，优势是对基础理论研究非常透彻并且具备深厚的理论基础，不足之处是缺乏对产业、学术、应用的结合，更缺少真正能落地的应用案例。    第二类是大数据技术论，这种认知以大数据技术为聚焦点，落脚于大数据的硬件、服务、架构、开发、计算、算法等具体实施层面。诚然，大数据技术是大数据实施的核心，也是带来技术变革和生产力突破的关键，但只有技术而缺乏正确的方向以及有价值的应用引导，技术便无法发挥作用，更无法转化为经济价值、社会价值和政治价值。    第三类是大数据应用论，这种认知以大数据的场景化为聚焦点，通过对历史、现在、未来的变革、创新和实践的总结和构想，营造出大数据的丰富应用场景和能力空间。这是一种典型的以应用为驱动的认知理论，通过落地案例驱动技术来表现大数据的巨大价值。但这种应用论过于专注场景化包装，更强调落地而忽视技术的巨大潜力和推动作用，更无法体现出大数据作为企业资产、技术竞争力等非直接利润表现的价值因素。    本书的几位联合作者彼此是共事多年的朋友，各自负责大数据工作中的不同环节。大家的工作和知识有交集更有互补，因此，我们认为只有依靠这种“知识合并”和“知识互补”的关系才能够呈现出大数据的全貌，这也是撰写本书的出发点之一。    当前，市场上有非常多关于大数据的书籍，但能从整体性、全局性、安全性、价值性、技术性、体系性等方面完整考虑的书非常少。我们希望通过本书让读者认识到大数据不仅仅是数据、技术、架构、应用，更是结合了商业模式、战略定位、信息安全、单位协同、组织保障、实施选型的完整体系。    几位联合作者对于本书内容的贡献如下：吕兆星撰写了技术的架构部分，包括第4章、第5章、第6章；郑传峰撰写了战略和应用的部分，包括第1章、第2章、第9章；宋天龙撰写了数据和价值评估的部分，包括第3章、第8章、第10章、第11章、第12章、第13章；杨晓鹏撰写了技术开发的部分中第7章的全部内容。    作者简介吕兆星（Ethan Lv）资深大数据技术专家，精通基于大数据的分布式数据挖掘、存储、计算技术，以及其生态体系架构；精通垂直搜索技术、机器学习、文本情感倾向性挖掘、网络爬虫、全文索引体系架构。曾任软通动力集团大数据研究院总架构师、HiveCloud创始人、萝卜网CTO、国美在线大数据中心高级架构师等。    主导研发的大数据和文本挖掘平台包括：DMP、DSP、推荐系统、决策运营系统、iCreations系列产品、蜂棱系列产品、军犬舆情系列产品等。并成功应用到能源、电力、电商、电信、金融、政府、食品、医疗保健等行业与机构，覆盖超过500家各级企业用户。所著《基于机器学习的数据挖掘模型》获得国家级技术创新基金。    郑传峰（Peter Zheng）大数据业务应用领域专家，主导大数据方向的战略规划，包括数据产品、数据应用、数据价值变现等方向。曾任软通动力数据科技公司资深数据应用专家，HiveCloud首席战略官。    阶段性负责国美电器、国美在线，以及库巴网会员营销、网站运营和产品设计工作，在CRM系统、DMP数据平台、精准营销系统、广告精投、能源大数据拥有多年的操盘经验，涉及大数据上层应用服务产品的设计、咨询和实施。参与多家大型企业或机构的大数据战略规划和实施，行业覆盖零售、电商、电信、政府、交通、能源和电力等。    宋天龙（Tony Song）大数据领域资深数据分析、挖掘和建模专家，精通端到端数据价值场景设计、业务需求转换、数据结构梳理、数据建模与学习，以及数据工程交付。曾任软通动力集团大数据研究院数据总监，Webtrekk（德国最大的网站数据分析服务提供商）中国区技术和咨询负责人，国美大数据中心经理。    拥有丰富的大数据项目工作经验，参与过集团和企业级大数据存储平台、大数据开发和集成平台、数据体系规划、大