机器学习与R语言实战

现在，越来越多的人开始接触并考虑引入大数据技术来促进公司产品的销售以获得更多利润，而机器学习已经成为除统计以外一种新的分析方法，采用学习算法既能提高数据模型的预测精准度，又确保了对商务活动及其发展过程的预测能够摆脱人脑计算能力的局限，使面向大数据的分析处理依托计算机的大规模计算能力得以完成。
《机器学习与R语言实战/数据分析与决策技术丛书》由资历数据科学家丘祐玮亲笔撰写，借助当前机器学习和数据分析领域很常用的工具R语言，深入浅出地介绍了采用R语言进行数据分析及构建预测模型的100多种实用方法，包括分类、回归、聚类、关联分析等常用机器学习算法的实现，每一个算法都通过具体案例详细说明构建模型、实现模型以及评价模型的过程。而且书中还系统讲解了相关的R语言基础知识，包括环境准备以及数据、分析和结果可视化的方法。此外，还详细展示了使用RHadoop处理和分析海量数据的过程。
本书融合了作者在实践机器学习算法来完成数据分析方面的诸多心得，并且书中所有源代码和实验数据在配套的网站上都可以免费下载，相信阅读完本书并亲自动手完成书中所有算法案例后，你将对机器学习和R语言都有更深入的了解，设计学习算法来发现隐藏在数据中有价值的模式也不再是遥不可及的目标。

丘祐玮，他曾在趋势科技担任软件工程师，负责构建商务智能和客户关系管理大数据平台。除了创业者和数据科学家的身份之外，他还是spark和Hadoop大数据处理和数据挖掘分析方面的专家。Yu-Wei也是专业的Python、R、Hadoop讲师，在多个行业会议上作技术讲演。

译者序
前言
作者简介
审校者简介
第1章基于R实践机器学习
1.1简介
1.2下载和安装R
1.3下载和安装RStudio
1.4包的安装和加载
1.5数据读写
1.6使用R实现数据操作
1.7应用简单统计
1.8数据可视化
1.9获取用于机器学习的数据集
第2章挖掘RMSTitanic数据集
2.1简介
2.2从CSV文件中读取Titanic数据集
2.3根据数据类型进行转换
2.4检测缺失值
2.5插补缺失值
2.6识别和可视化数据
2.7基于决策树预测获救乘客
2.8基于混淆矩阵验证预测结果的准确性
2.9使用ROC曲线评估性能
第3章R和统计
3.1简介
3.2理解R中的数据采样
3.3在R中控制概率分布
3.4在R中进行一元描述统计
3.5在R中进行多元相关分析
3.6进行多元线性回归分析
3.7执行二项分布检验
3.8执行t检验
3.9执行Kolmogorov-Smirnov检验
3.10理解Wilcoxon秩和检验及Wilcoxon符号秩检验
3.11实施皮尔森卡方检验
3.12进行单因素方差分析
3.13进行双因素方差分析
第4章理解回归分析
4.1简介
4.2调用lm函数构建线性回归模型
4.3输出线性模型的特征信息
4.4使用线性回归模型预测未知值
4.5生成模型的诊断图
4.6利用lm函数生成多项式回归模型
4.7调用rlm函数生成稳健线性回归模型
4.8在SLID数据集上研究线性回归案例
4.9基于高斯模型的广义线性回归
4.10基于泊松模型的广义线性回归
4.11基于二项模型的广义线性回归
4.12利用广义加性模型处理数据
4.13可视化广义加性模型
4.14诊断广义加性模型
第5章分类I——树、延迟和概率
5.1简介
5.2准备训练和测试数据集
5.3使用递归分割树建立分类模型
5.4递归分割树可视化
5.5评测递归分割树的预测能力
5.6递归分割树剪枝
5.7使用条件推理树建立分类模型
5.8条件推理树可视化
5.9评测条件推理树的预测能力
5.10使用k近邻分类算法
5.11使用逻辑回归分类算法
5.12使用朴素贝叶斯分类算法
第6章分类II―神经网络和SVM
6.1简介
6.2使用支持向量机完成数据分类
6.3选择支持向量机的惩罚因子
6.4实现SVM模型的可视化
6.5基于支持向量机训练模型实现类预测
6.6调整支持向量机
6.7利用neuralnet包训练神经网络模型
6.8可视化由neuralnet包得到的神经网络模型
6.9基于neuralnet包得到的模型实现类标号预测
6.10利用nnet包训练神经网络模型
6.11基于nnet包得到的模型实现类标号预测
第7章模型评估
7.1简介
7.2基于k折交叉验证方法评测模型性能
7.3利用e1071包完成交叉验证
7.4利用caret包完成交叉检验
7.5利用caret包对变量重要程度排序
7.6利用rminer包对变量重要程度排序
7.7利用caret包找到高度关联的特征
7.8利用caret包选择特征
7.9评测回归模型的性能
7.10利用混淆矩阵评测模型的预测能力
7.11利用ROCR评测模型的预测能力
7.12利用caret包比较ROC曲线
7.13利用caret包比较模型性能差异
第8章集成学习
8.1简介
8.2使用bagging方法对数据分类
8.3基于bagging方法进行交叉验证
8.4使用boosting方法对数据分类
8.5基于boosting方法进行交叉验证
8.6使用gradientboosting方法对数据分类
8.7计算分类器边缘
8.8计算集成分类算法的误差演变
8.9使用随机森林方法对数据分类
8.10估算不同分类器的预测误差
第9章聚类
9.1简介
9.2使用层次聚类处理数据
9.3将树分成簇
9.4使用k均值方法处理数据
9.5绘制二元聚类图
9.6聚类算法比较
9.7从簇中抽取轮廓信息
9.8获得优化的k均值聚类
9.9使用密度聚类方法处理数据
9.10使用基于模型的聚类方法处理数据
9.11相异度矩阵的可视化
9.12使用外部验证评估聚类效果
第10章关联分析和序列挖掘
10.1简介
10.2将数据转换成事务数据
10.3展示事务及关联
10.4使用Apriori规则完成关联挖掘
10.5去掉冗余规则
10.6关联规则的可视化
10.7使用Eclat挖掘频繁项集
10.8生成时态事务数据
10.9使用cSPADE挖掘频繁时序模式
第11章降维
11.1简介
11.2使用FSelector完成特征筛选
11.3使用PCA进行降维
11.4使用scree测试确定主成分数
11.5使用Kaiser方法确定主成分数
11.6使用主成分分析散点图可视化多元变量
11.7使用MDS进行降维
11.8使用SVD进行降维
11.9使用SVD进行图像压缩
11.10使用ISOMAP进行非线性降维
11.11使用局部线性嵌入法进行非线性降维
第12章大数据分析（R和Hadoop）
12.1简介
12.2准备RHadoop环境
12.3安装rmr2
12.4安装rhdfs
12.5在rhdfs中操作HDFS
12.6在RHadoop中解决单词计数问题
12.7比较RMapReduce程序和标准R程序的性能差别
12.8测试和调试rmr2程序
12.9安装plyrmr
12.10使用plyrmr处理数据
12.11在RHadoop中实施机器学习
12.12在AmazonEMR环境中配置RHadoop机群
附录AR和机器学习的资源
附录BTitanic幸存者的数据集

前    言  Preface如今，大数据在诸多领域已经成为一个时髦的热门词汇，越来越多的人开始接触并考虑引入这一技术以促进公司产品的销售获得更多利润。然而，数据的采集、聚集以及可视化仅仅是数据分析整体工程的一部分，要从数据中抽取出有价值的信息才是一项有挑战性的新工作。
    大多数研究人员习惯依据历史样本数据进行统计分析，这种处理方法的弊端在于从统计分析中能够获得的信息十分有限。事实上，科学家们经常要解决从目标数据中发现被隐藏的模式以及探索未知关系的问题。目前，机器学习已经逐渐成为除统计分析以外的一种新的分析方法，它使用学习算法，结合输入的样本数据，能够得到更加精确的预测模型。通过机器学习，商业操作及其发展趋势的分析不再局限于人脑层面的思考，机器层面的分析使企业能够在大数据中发现潜在价值。
    R语言是目前机器学习和数据分析领域最常用的工具，开源和免费的优势使得它成为最受数据科学家们欢迎的主流语言。R语言为用户提供了丰富的学习包和可视化函数，用户不需要掌握任何分析过程背后数学模型的细节就能很简单地通过R语言在数据集上执行机器学习算法，快捷地完成数据分析任务。
    本书采取了务实的方法介绍如何使用R语言来实践机器学习。全书共12章，每章包含若干小节，当读者循序渐进地学习完每一小节后，将能够使用数目繁多的机器学习包构建自己的预测模型。
    本书首先引导读者学会搭建一个R语言环境并使用简单的R命令来观察数据。接下来读者将学习利用机器学习算法进行统计分析并评价生成模型，以及如何使R语言与Hadoop结合以构建大型数据分析平台。本书所涉及的全部机器学习案例都附带了详细的说明。
    我们相信，读完这本书你将发现机器学习从来没有这样容易。
    章节内容第1章介绍了如何创建一个可用的R环境和基本的R命令，包括数据读取、数据操纵、简单的统计分析以及数据的可视化。
    第2章介绍了如何使用R语言进行探索性数据分析，以Titanic数据为例，探讨了数据的转换、分析以及结果的可视化。我们建立了一个预测模型，来判断泰坦尼克号可能的幸存者。
    第3章首先重点探讨了数据采样和概率分布的概念，然后演示了对数据进行统计描述和统计推断性统计的过程。
    第4章探讨一个因变量（响应变量）和一组或多组独立的（预测量）解释变量之间的线性关系。读者将学习使用各类回归模型来解释数值间的关联，同时还将学习运用合适的模型对连续变量进行预测。
    第5章介绍基于树的分类器、k近邻分类器、逻辑回归分类器以及朴素贝叶斯分类器。为了帮助读者们能够更好地理解分类器的工作方式，这一章提供了一个基于电信数据集的用户分类实例。
    第6章介绍了两种复杂但功能强大的分类算法：神经网络和支持向量机。尽管这些方法从根本而言难度都较大，但通过这一章的学习，读者会发现在R语言里使用这些算法做出精确的预测是一件非常容易的事情。
    第7章展示一些评估模型性能的方法，通过这些检验方法，我们能够从中挑选出最优化的模型应用于预测。
    第8章探讨集成分类器，相对于单一分类器，集成分类器在分类和回归处理方面具有更多优势。而鉴于其在很多数据预测比赛中的良好表现，读者更应该了解在项目中如何使用集成分类器。
    第9章讨论多种聚类算法。通过聚类，我们能够发现对象间的共性，该章使用聚类算法对顾客进行划分，同时比较了不同聚类算法之间的差异。
    第10章讨论了如何发现事务数据中所隐含的常见模式和关联项。
    第11章介绍如何从原始变量中选择和抽取特征。借助降维，我们能够消除冗余特征对分析结果的影响，并降低计算的代价以避免模型的过度适应。该章将借助一个具体的图像压缩和存储案例解释降维方法。
    第12章介绍RHadoop处理和海量数据分析，以及如何使用RHadoop。该章依次介绍了RHadoop环境的构建，使用机器学习方法处理实际的海量数据集，最后该章探讨了使用亚马逊弹性计算云（Amazon EC2）服务来部署RHadoop集群。
    附录A提供R和与机器学习相关的所有资源。
    附录B提供泰坦尼克号幸存者的数据集。
    学习指南如果希望实践本书中的案例，你需要一台安装了R语言包并且能够访问Internet的计算机。读者可以从http://www.cran.r-project.org/ 下载安装程序，详细的安装说明可以在本书第1章中找到。
    本书所提供的全部示例程序都已经在R 3.1.2版本+Windows环境下测试成功，这些示例也同样适用于安装在Mac OS X以及类UNIX OS系统上的最新版本的R语言包。
    本书面向的读者本书适合那些希望了解并掌握R语言实践机器学习完成数据观察的读者，我们在书中介绍了R语言的基础知识，那些具备基本编程能力或了解机器学习算法的读者们能够在学习本书后有所收获，但如果读者没有任何R语言的基础也没有关系。