复杂数据的变量选择与预测方法——R和PYTHON软件示例

有效地挖掘高维复杂数据的内在关联，并用其预测未来发展是一个重 要的研究课题。本书利用统计学和机器学习等相关知识对复杂数据进行分 析，从变量选择、模型建立和代码实现等方面进行系统的介绍。全书共 7 章，第 1 章介绍基于复杂数据预测的研究现状及内容概述；第 2～4 章介绍 数据建模的基础知识和代码实现，包括数据预处理过程、变量选择方法和 常用的机器学习方法；第 5 章和第 6 章详细介绍复杂数据的变量选择方法； 第 7 章介绍一种改进的支持向量回归模型及具体实现过程。 本书可供对复杂数据分析感兴趣的研究人员和工程技术人员，以及高 等院校计算机、自动化、数据科学、大数据技术等相关专业的本科生或研 究生参考。

第1 章绪论11.1 研究背景与研究意义11.2 国内外研究现状.21.2.1 变量选择的研究. 31.2.2 预测方法的研究. 31.3 本书需要解决的关键问题. .41.4 本书主要研究内容5第2 章数据预处理. 82.1 引言82.2 原始数据与建模数据92.3 常规前期处理工作92.3.1 数据审核. 92.3.2 数据筛选102.3.3 数据排序102.3.4 数据清理112.3.5 数据集成112.3.6 数据转换112.3.7 数据归约112.4 数据转换方法112.4.1 数据标准化方法122.4.2 相空间重构方法142.4.3 移动平均方法142.5 多变量预处理方法. 152.5.1 相关系数152.5.2 复相关系数162.5.3 多重共线性172.5.4 贡献度量192.5.5 时间序列分析的几个重要检验方法. 202.6 R 软件的编码示例. 232.6.1 R 软件的数据读取232.6.2 R 软件的常用数据结构编码.242.6.3 R 软件的常用数据统计函数编码.272.6.4 R 软件的apply( ) 函数族302.6.5 apply( ) 函数的用户自定义函数示例. 322.6.6 R 软件的多元数据直观表示.332.7 Python 的编码示例392.7.1 Python 的数据读取. 402.7.2 Python 的常用数据结构编码. 402.7.3 Python 的常用数据统计函数编码. .432.7.4 Python 可视化. 442.8 本章小结47第3 章数据建模回归分析方法.483.1 引言. 483.2 多元线性回归493.2.1 基本模型493.2.2 最小二乘参数估计法.503.2.3 多元线性回归的R 实现503.2.4 多元线性回归Python 实现. 513.3 广义线性模型513.3.1 LM 和GLM 的异同点.513.3.2 GLM 的数学特点. 523.3.3 LM 和GLM 的数学表达.523.3.4 广义线性模型的R 实现523.3.5 广义线性模型的Python 实现. 533.4 广义相加模型. 533.4.1 GAM 与LM、GLM 的关系533.4.2 广义相加模型的R 实现543.4.3 广义相加模型的Python 实现. 553.5 K 近邻算法563.5.1 KNN 的距离度量方法. 563.5.2 KNN 的R 实现593.5.3 KNN 的Python 实现. 603.6 随机森林603.6.1 随机森林的R 实现. .613.6.2 随机森林的Python 实现. 613.7 支持向量回归623.7.1 核方法及再生核希尔伯特空间. 633.7.2 SVR 的R 实现. 633.7.3 SVR 的Python 实现643.8 向量自回归模型. .643.8.1 标准的自回归模型.643.8.2 多元时间序列663.8.3 向量自回归模型663.8.4 VAR 的R 实现.673.8.5 VAR 的Python 实现. .693.9 灰色模型723.9.1 简述723.9.2 建模过程723.9.3 灰色模型的R 实现. .733.10 深度学习. 743.10.1 卷积神经网络及其代码实现743.10.2 长短期记忆神经网络及其代码实现753.10.3 门控循环单元及其代码实现773.11 自适应神经模糊推理系统. 783.11.1 隶属函数. 783.11.2 ANFIS 模型结构793.11.3 ANFIS 的Matlab 实现. 803.12 概率预测模型. 813.12.1 分位数回归模型及其代码实现823.12.2 概率密度预测模型及其代码实现853.13 集成方法. 863.14 多步预测策略. 873.14.1 迭代策略. 883.14.2 直接策略. 883.14.3 直接迭代策略. 893.14.4 多输入多输出策略. .893.14.5 直接多输出策略. 903.14.6 迭代多输出策略. 903.15 评估标准. 903.15.1 点预测的评估标准. .913.15.2 概率预测的评估标准. .923.16 本章小结. 93第4 章数据建模变量选择分析方法954.1 引言. 954.2 变量选择的方法. .964.2.1 子集选择法964.2.2 系数收缩法. 1004.2.3 智能优化选择法. 1024.3 变量选择的准则.1044.3.1 偏倚、方差和模型复杂性1044.3.2 基于偏倚–方差分解的模型选择. 1054.3.3 偏倚–方差分解的实例分析. 1084.3.4 平均残差平方和准则. .1094.3.5 Cp 准则1104.3.6 AIC 准则. 1114.3.7 BIC 准则. 1114.3.8 交叉验证法. 1114.3.9 PRESS 准则1124.3.10 自助法1124.3.11 损失函数1154.4 模拟分析试验设计1174.5 本章小结. 118第5 章基于线性模型的复杂数据变量选择1195.1 引言1195.2 基于最大相关最小冗余的变量子集选择方法. 1215.3 一种新颖的最大相关最小共同冗余准则：随机相关系数1235.3.1 研究背景与动机. 1235.3.2 基于相关系数的共同冗余信息测量1245.3.3 随机相关系数选择. .1265.4 基于随机相关系数和随机逐步的变量选择集成. 1275.4.1 随机逐步算法(ST2) . 1285.4.2 随机相关系数集成(SCCE) 算法. 1285.4.3 理论分析. 1305.5 仿真研究. 1335.5.1 标准测试. 1335.5.2 高度相关的预测因子. .1355.5.3 样本大小的影响. 1365.5.4 真实数据集实例. 1375.6 本章小结. 140第6 章基于非线性模型的复杂数据变量选择1416.1 引言1416.2 基本知识. 1436.2.1 互信息(MI) 1436.2.2 几种预测器. 1436.3 相关工作. 1446.3.1 MI 变量子集选择方法综述1446.3.2 现有变量选择方法的局限性1466.4 改进的MI 变量选择方法. .1486.4.1 新的变量选择框架. .1486.4.2 回归模型的标准化MI 1496.4.3 利用MI 测量共同冗余信息1506.4.4 改进的标准化互信息方法1526.4.5 基于随机正则化最大相关最小共同冗余(MRMCR) 的变量选择. 1536.4.6 随机正则化最大相关最小共同冗余(MRMCR) 准则. 1566.5 试验1616.5.1 仿真研究. 1616.5.2 波士顿住宅数据集分析. .1626.5.3 与现有方法的对比. .1646.6 本章小结. 171第7 章基于支持向量回归的复杂数据预测方法1727.1 引言1727.2 改进的支持向量回归：训练子集和模型的结合选择.1737.3 基本模型. 1747.3.1 支持向量回归(SVR) . 1747.3.2 训练子集选择. 1777.4 SVR 的训练子集和模型的结合选择. .1797.4.1 搜索区域估计. 1797.4.2 算法例证. 1827.4.3 嵌套粒子群优化算法. 1837.5 模型的收敛性. 1877.6 基于序贯网格方法的支持向量回归1887.7 数值结果. 1907.7.1 数据集描述. 1907.7.2 用于比较的SVR 模型1917.7.3 模型评价方法. 1927.7.4 参数选择过程. 1927.7.5 训练子集和模型选择过程1937.7.6 试验对比分析. 1997.7.7 计算复杂度. 2007.8 本章小结. 201参考文献. 202