MATLAB与机器学习

本书从人工智能、自动控制的基础知识开始讲述，逐步介绍机器学习在工程中的应用，其中阐述了机器学习的主要概念、算法和应用实例。针对一些重要应用案例，本书提供了完整的MATLAB机器学习解决方案，并包括所有应用实例的全部源代码，例如人脸识别、汽车自动驾驶和数据分类。本书是一本涵盖机器学习和MATLAB应用实例的综合指南，适合作为相关专业技术人员和本科生的参考书。

迈克尔·帕拉斯泽克普林斯顿卫星系统(PSS)公司总裁，该公司位于美国新泽西州普莱恩斯伯勒。Paluszek先生于1992年创建了PSS公司，主要业务是提供航空航天咨询服务。他使用MATLAB开发了地球同步通信卫星的控制系统和仿真系统Indostar-1，并于1995年推出了普林斯顿卫星系统公司的靠前个商业MATLAB工具箱：航天器控制工具箱。从那时起，他已经先后为飞行器、潜水艇、机器人和核聚变推进系统等开发了工具箱和软件包，并且形成了覆盖范围广泛的公司产品线。他目前正在领导一个美国陆军小型卫星精密姿态控制的研究合同项目，并与普林斯顿等离子体物理实验室合作开发一个用于发电和太空推进的紧凑型核聚变反应堆。
李三平，美国麻省大学计算机工程专业博士，现为DELLEMC中国研究院首席研究员，研究方向主要为深度学习模型与服务框架，云架构的预测分析与智能运维等。已在IEEE Transactions期刊和会议上发表论文数十篇，申请美国专利20余项。
陈建平，MatriWorks中国资历工程师，专注于工程大数据分析和高性能计算领域。拥有北京大学学士和硕士学位，并于20C)8年加入MathWorks公司，之前在NTT DoCoMo从事通信算法的研究工作。拥有十余年并行数值算法设计、实现，以及大规模工程数据分析和建模方面的经验。

第一部分机器学习概论
第1章机器学习概述
1.1引言
1.2机器学习基础
1.2.1数据
1.2.2模型
1.2.3训练
1.3学习机
1.4机器学习分类
1.5自主学习方法
1.5.1回归
1.5.2神经网络
1.5.3支持向量机
1.5.4决策树
1.5.5专家系统
第2章自主学习的历史
2.1引言
2.2人工智能
2.3学习控制
2.4机器学习
2.5未来
第3章机器学习软件
3.1自主学习软件
3.2商业化MATLAB软件
3.2.1MathWorks公司产品
3.2.2普林斯顿卫星系统产品
3.3MATLAB开源资源
3.3.1深度学习工具箱
3.3.2深度神经网络
3.3.3MatConvNet
3.4机器学习工具
3.4.1R语言
3.4.2Scikitlearn
3.4.3LIBSVM
3.5优化工具
3.5.1LOQO
3.5.2SNOPT
3.5.3GLPK
3.5.4CVX
3.5.5SeDuMi
3.5.6YALMIP
第二部分机器学习的MATLAB实现
第4章用于机器学习的MATLAB数据类型
4.1MATLAB数据类型概述
4.1.1矩阵
4.1.2元胞数组
4.1.3数据结构
4.1.4数值类型
4.1.5图像
4.1.6数据存储
4.1.7Tall数组
4.1.8稀疏矩阵
4.1.9表与分类数组
4.1.10大型MAT文件
4.2使用参数初始化数据结构
4.2.1问题
4.2.2方法
4.2.3步骤
4.3在图像数据存储上执行mapReduce
4.3.1问题
4.3.2方法
4.3.3步骤
总结
第5章MATLAB图形
5.1二维线图
5.1.1问题
5.1.2方法
5.1.3步骤
5.2二维图形
5.2.1问题
5.2.2方法
5.2.3步骤
5.3定制二维图
5.3.1问题
5.3.2方法
5.3.3步骤
5.4三维盒子
5.4.1问题
5.4.2方法
5.4.3步骤
5.5用纹理绘制三维对象
5.5.1问题
5.5.2方法
5.5.3步骤
5.6三维图形
5.6.1问题
5.6.2方法
5.6.3步骤
5.7构建图形用户界面
5.7.1问题
5.7.2方法
5.7.3步骤
总结
第6章MATLAB机器学习示例
6.1引言
6.2机器学习
6.2.1神经网络
6.2.2面部识别
6.2.3数据分类
6.3控制
6.3.1卡尔曼滤波器
6.3.2自适应控制
6.4人工智能
第7章基于深度学习的面部识别
7.1在线获取数据：用于训练神经网络
7.1.1问题
7.1.2方法
7.1.3步骤
7.2生成神经网络的训练数据
7.2.1问题
7.2.2方法
7.2.3步骤
7.3卷积
7.3.1问题
7.3.2方法
7.3.3步骤
7.4卷积层
7.4.1问题
7.4.2方法
7.4.3步骤
7.5池化
7.5.1问题
7.5.2方法
7.5.3步骤
7.6全连接层
7.6.1问题
7.6.2方法
7.6.3步骤
7.7确定输出概率
7.7.1问题
7.7.2方法
7.7.3步骤
7.8测试神经网络
7.8.1问题
7.8.2方法
7.8.3步骤
7.9识别图像
7.9.1问题
7.9.2方法
7.9.3步骤
总结
第8章数据分类
8.1生成分类测试数据
8.1.1问题
8.1.2方法
8.1.3步骤
8.2绘制决策树
8.2.1问题
8.2.2方法
8.2.3步骤
8.3决策树的算法实现
8.3.1问题
8.3.2方法
8.3.3步骤
8.4生成决策树
8.4.1问题
8.4.2方法
8.4.3步骤
8.5手工创建决策树
8.5.1问题
8.5.2方法
8.5.3步骤
8.6训练和测试决策树
8.6.1问题
8.6.2方法
8.6.3步骤
总结
第9章基于神经网络的数字分类
9.1生成带噪声的测试图像
9.1.1问题
9.1.2方法
9.1.3步骤
9.2创建神经网络工具箱
9.2.1问题
9.2.2方法
9.2.3步骤
9.3训练单一输出节点的神经网络
9.3.1问题
9.3.2方法
9.3.3步骤
9.4测试神经网络
9.4.1问题
9.4.2方法
9.4.3步骤
9.5训练多输出节点的神经网络
9.5.1问题
9.5.2方法
9.5.3步骤
总结
第10章卡尔曼滤波器
10.1状态估计器
10.1.1问题
10.1.2方法
10.1.3步骤
10.1.4传统卡尔曼滤波器
10.2使用UKF进行状态估计
10.2.1问题
10.2.2方法
10.2.3步骤
10.3使用UKF进行参数估计
10.3.1问题
10.3.2方法
10.3.3步骤
总结
第11章自适应控制
11.1自调谐：求振荡器频率
11.1.1问题
11.1.2方法
11.1.3步骤
11.2模型参考自适应控制
11.2.1创建方波输入
11.2.2实现模型参考自适应控制
11.2.3转子的MRAC系统实现
11.3飞机的纵向控制
11.3.1编写飞机纵向运动的微分方程
11.3.2利用数值方法寻找平衡状态
11.3.3飞机的数值仿真
11.3.4神经网络中对取值范围的限定和缩放
11.3.5寻找学习控制的神经网络
11.3.6枚举输入集合
11.3.7编写通用神经网络函数
11.3.8实现PID控制
11.3.9飞机俯仰角PID控制演示
11.3.10创建俯仰动力学的神经网络
11.3.11非线性仿真中的控制器演示
11.4轮船驾驶：实现轮船驾驶控制的增益调度
11.4.1问题
11.4.2方法
11.4.3步骤
总结
第12章自动驾驶
12.1汽车雷达建模
12.1.1问题
12.1.2步骤
12.1.3方法
12.2汽车的自主传递控制
12.2.1问题
12.2.2方法
12.2.3步骤
12.3汽车动力学
12.3.1问题
12.3.2步骤
12.3.3方法
12.4汽车仿真与卡尔曼滤波器
12.4.1问题
12.4.2方法
12.4.3步骤
12.5雷达数据的MHT实现
12.5.1问题
12.5.2方法
12.5.3步骤
12.5.4假设形成
12.5.5轨道剪枝
总结
参考文献

PREFACE前言机器学习正在众多学科中变得愈加重要，它应用于工程领域中的自动驾驶汽车技术和金融领域中的股市预测，而医疗专业人员则使用它来辅助诊断。虽然许多优秀的机器学习软件包可以通过商业购买和开源软件渠道获得，但深入理解其中隐藏的算法原理仍然是很有价值的。进而，自己动手编程来实现算法则会更加受益匪浅，因为这样不仅能够深入了解商业和开源软件包中的算法实现方法，还能掌握足够的背景知识来编写定制化的机器学习软件以实现特定的应用需求。    MATLAB的起源正是基于这样的目的。最初，科学家们使用FORTRAN语言编写数值软件来进行矩阵运算。当时，用户必须通过“编写-编译-链接-执行”的过程来使用计算机程序，整个过程非常耗时，且极易出错。MATLAB则为用户提供了一种脚本语言，用户只须编写很少的几行代码，立即执行，便可以解决许多问题。MATLAB的内置可视化工具可以进一步帮助用户更好地理解计算结果。编写MATLAB程序比编写FORTRAN程序更为高效和充满乐趣。    本书旨在帮助用户利用MATLAB解决一系列宽泛的学习问题。本书包含两部分：第一部分包括第1～3章，介绍机器学习的背景知识，其中包括学习控制，其内容通常与机器智能并不紧密相关，在书中我们采用“自主学习”一词涵盖所有这些学科。本书第二部分包括第4～12章，展示了完整的MATLAB机器学习应用示例。第4～6章针对性地介绍了MATLAB的相关功能，使得机器学习算法非常易于实现。其余章节则给出了应用示例。每一章都提供了特定主题的技术背景和如何实现学习算法的思路。每个示例都由一系列MATLAB函数支持的MATLAB脚本来实现。    本书适用于信息领域中对机器学习感兴趣的技术人员和开发者，也适用于其他技术领域中对如何利用机器学习和MATLAB来解决专业领域问题感兴趣的技术人员。