深度学习与R语言

近年来，深度学习可谓是机器学习方向的明星概念，不同的深度学习模型分别在图像处理与自然语言处理等任务中取得了靠前的好成绩。在许多场合都有这样的需求“如何对感兴趣的领域快速理解和使用深度学习技术?”答案涉及复杂的数学、编程语言(如C、C++和Java)。但随着R的兴起,现在使用深度学习技术比以往更容易。因为R易学易用，不要求很扎实的编程基础，它被广泛地应用于机器学习实践和教学中。即使对R语言不是很了解的用户也可以通过一些包来搭建深度学习网络。全书11章，分为原理篇（靠前~8章）和应用篇（第9~11章）。原理篇按照深度学习的发展过程，主要讨论了浅层神经网络、深度神经网络、卷积神经网络、递归神经网络、自编码网络、受限玻耳兹曼机和深度置信网。应用篇讨论R环境部署深度学习环境的一些策略，包括：MXNetR、H2O和其他深度学习R包以及一些典型的应用。本书可用作本科高年级机器学习课程参考书或数据科学课程教材，也可供对人工智能、机器学习感兴趣的读者参考阅读。

前言
第1章引言
1.1关于深度学习
1.1.1深度学习兴起的渊源
1.1.2深度学体框架
1.1.3深度学习本质
1.1.4深度学习应用
1.2前向反馈神经网络FNN
1.2.1多层感知器
1.2.2神经元的作用
1.2.3激活函数
1.2.4学习算法
1.3R语言基础
1.3.1入门
1.3.2基本语法
1.3.3数据
1.3.4绘图
1.3.5数据准备
1.3.6基本运算
1.4FNN的R实现
1.5学习指南
第2章深度神经网络DNN
2.1DNN原理
2.2DNN应用
2.2.1提高雾天视觉能见度
2.2.2打击黑客和网络犯罪
2.2.3图像压缩
2.2.4函数逼近
2.3DNN应用需要注意的一些问题
2.3.1神经元数量
2.3.2最佳层数的选择
2.3.3训练时间过长
2.3.4过拟合
2.4DNN应用技巧
2.5单响应变量DNN的R实现
2.6多响应变量DNN的R实现
2.7学习指南
第3章卷积神经网络CNN
3.1CNN原理
3.1.1局部感知
3.1.2权值共享
3.1.3多卷积核
3.1.4池化
3.2多层卷积
3.2.1ImageNet—2010网络结构
3.2.2DeepID网络结构
3.3CNN的R实现
3.4学习指南
第4章递归神经网络RNN
4.1RNN原理
4.2Elman网络
4.2.1承接层神经元的作用
4.2.2信息流动
4.2.3Elman网络应用
4.3Jordan网络
4.3.1Jordan网络结构
4.3.2Jordan网络应用
4.4RNN的R实现
4.5学习指南
第5章自编码网络AE
5.1无监督学习过程
5.2AE基本结构
5.2.1降维问题
5.2.2特征抽取
5.3稀疏自动编码网络SAE
5.3.1Kullback—Leibler散度
5.3.2使用SAE注意事项
5.4SAE的R实现
5.5学习指南
第6章堆栈自编码网络SA
6.1SA原理
6.2SA的R实现
6.3降噪自编码网络DAE
6.3.1随机掩蔽的椒盐噪声
6.3.2DAE基本任务
6.3.3标准化堆栈降噪自编码网络
6.4DAE的R实现
6.5学习指南
第7章受限玻耳兹曼机RBM
7.1RBM原理
7.1.1玻耳兹曼机的四类知识
7.1.2能量和概率的作用
7.1.3联合概率分布表示的自编码网络
7.1.4模型学习的目标
7.2训练技巧
7.2.1技巧1：Gibbs采样
7.2.2技巧2：最小化KL距离
7.2.3技巧3：使用RLU激活函数
7.2.4技巧4：模拟退火
7.3对深度学习的质疑
7.4RBM应用
7.4.1肝癌分类的RBM
7.4.2麻醉镇定作用预测的RBM
7.5RBM的R实现
7.6学习指南
第8章深度置信网络DBN
8.1DBN原理
8.2应用案例
8.3DBN的R实现
8.4学习指南
第9章MXNetR
9.1MXNet技术特性
9.2MXNetR安装
9.2.1安装MXNet基本需求
9.2.2MXNet云设置
9.2.3MXNet安装方法
9.2.4MXNetR安装方法
9.2.5常见的安装问题
9.3MXNetR在深度学习中的应用
9.3.1二分类模型
9.3.2回归模型与自定义神经网络
9.3.3手写数字竞赛
9.3.4图像识别应用
9.4学习指南
第10章word2vec的R语言实现
10.1word2vec词向量由来
10.1.1统计语言模型
10.1.2神经网络概率语言模型
10.2word2vec——词向量特征提取模型
10.2.1词向量
10.2.2CBOW的分层网络结构——HCBOW
10.2.3word2vec流程
10.3word2vec的R实现
10.3.1tmcn.word2vec包
10.3.2word2vec自编译函数
10.3.3使用tmcn.word2vec和word2vec注意的问题
10.4学习指南
第11章R语言其他深度学习包
11.1darch包
11.2Rdbn包
11.2.1Rdbn原理
11.2.2Rdbn安装
11.2.3Rdbn应用
11.3H2O包
11.3.1H2O原理
11.3.2H2O应用
11.4deepnet包
11.5mbench包
11.6AMORE包
11.7学习指南
附录
附录A深度学习发展史
附录B深度学习的未来——GAN
附录CR包分类
参考文献
后记

深度学习是机器学习领域一个新的研究方向,近年来在语音识别、计算机视觉等多类应用中取得突破性的进展，其动机在于建立模型模拟人类大脑的神经连接结构,进而给出数据的解释。    深度学习之所以被称为“深度”,是相对支持向量机(Support Vector Machine, SVM)、提升方法(Boosting)、最大熵方法等“浅层学习”方法而言的。浅层学习依靠人工经验抽取样本特征,网络模型学习后获得的是没有层次结构的单层特征;而深度学习通过对原始信号进行逐层特征变换,将样本在原空间的特征表示变换到新的特征空间,自动地学习得到层次化的特征表示,从而更有利于分类或特征的可视化。    本书的目的是把强大的深度学习技术传递到想实践深度学习的读者手中，而不是让读者理解深度学习的理论细节。因此,内容重点是数据分析和建模，注意力完全集中在能有效工作的深度学习技术、理念和策略上,这样可以用最少的时间快速消化和部署深度学习应用。    本书具有以下特点：    1)让读者清楚如何在R中使用深度学习。书中给出了大量的深度学习应用案例，这些例子可以直接输入到R环境中运行,指导读者一步一步构建和部署深度学习模型。    2)深度学习不需要很深的数学基础作为前提。无论你是谁?无论你来自哪里?无论你的受教育背景如何?都有能力使用这本书中论述的方法。    3)每一章都提供了进一步学习的详细参考资料，并且大部分是免费的。    图的上半部分给出了本书的学习路线，第1、5、7章相对独立，是学习深度神经网络的基础，虚线表示分类，实线表示支持，核心是第3、4、8章，每一章下面的英文表示依赖的R包。图的下半部分是深度学习R包与各章的关系。    图深度学习R包与各章的关系本书主要参考了ND Lewis所著的《Deep Learning Made Easy with R——A Gentle Introduction for Data Science》，在此表示感谢。感谢研究生谢璐、胡海涛、周春瑜、姚泽峰和沈佳杰在材料整理方面所做的工作。感谢胡彬、陈晓勇、李跃华老师对本书提出的宝贵意见。    本书的出版得到南通大学-南通智能信息技术联合研究中心开放课题项目的资助和南通大学学术著作出版基金资助。    深度学习领域发展迅猛，对许多问题作者并未做深入研究，一些有价值的新内容也来不及收入本书。加上作者知识水平和实践经验有限，书中难免存在不足之处，敬请读者批评指正。