机器学习

\\\"本书全面且深入浅出地介绍了机器学习技术，不仅涵盖机器学习算法原理及其实现和运行，还包括Python编程基础和深度学习入门知识，有助于初学者快速掌握算法的实际应用。本书每一节都提供了相应的Python代码实例，通过文字、公式、图像、代码和运行结果的结合，读者可以深入理解算法的实现过程。 全书分为3部分: 第一部分（第1～3章）提供必备的预备知识，包括机器学习概述、Python和NumPy基础；第二部分（第4～11章）详细介绍各种机器学习算法，涉及回归、分类、聚类等任务；第三部分（第12、13章）介绍深度学习的背景知识，并介绍近年来备受关注的对抗生成网络。 本书适合作为高等院校计算机、信息工程专业高年级本科生、研究生的教材，同时也可供从事相关领域学术研究、工程实践专业人员以及对机器学习和深度学习感兴趣的初学者参考。 \\\"

目录 第1章机器学习概述1 1.1人工智能的概念和发展1 1.2机器学习的概念和发展6 1.3机器学习的应用9 1.3.1七大应用模式9 1.3.2经典应用11 1.4实现框架11 1.4.1机器学习框架11 1.4.2深度学习框架12 1.5小结15 第2章Python基础16 2.1认识Python16 2.1.1Python简介16 2.1.2Python开发环境16 2.1.3安装Python与选择编译器16 2.2Python语法特点17 2.2.1保留字17 2.2.2标识符18 2.2.3注释18 2.2.4代码缩进19 2.2.5数据类型20 2.2.6命名规则23 2.2.7运算符23 2.2.8input()和print()的用法26 2.3流程控制语句27 2.3.1判断语句28 2.3.2循环语句29 2.4序列类型及操作292.4.1序列处理函数和方法29 2.4.2列表31 2.4.3元组32 2.4.4字典33 2.4.5集合34 2.4.6列表、元组、字典、集合的区别35 2.5函数的定义与使用35 2.5.1函数的理解与定义35 2.5.2函数的调用35 2.5.3函数的参数传递和返回值36 2.5.4局部变量和全局变量37 2.6类和对象37 2.6.1定义类37 2.6.2创建类的实例38 2.6.3创建__init__()方法38 2.7模块39 2.7.1创建模块39 2.7.2导入模块39 2.8文件操作40 2.8.1创建和打开文件40 2.8.2关闭文件41 2.8.3写入文件内容41 2.8.4读取文件内容42 2.9小结42 目录〖3〗第3章NumPy基础43 3.1Matplotlib基础43 3.1.1绘图43 3.1.2显示图片45 3.2NumPy预备知识46 3.2.1NumPy简介46 3.2.2NumPy的安装46 3.2.3NumPy中的数组47 3.3NumPy语法49 3.3.1数组基础49 3.3.2数组的使用53 3.3.3索引进阶54 3.3.4广播55 3.4创建NumPy数组的3种方法57 3.4.1使用NumPy内部功能函数58 3.4.2从Python列表转换62 3.4.3使用特殊的库函数63 3.5小结63 第4章线性回归算法64 4.1概述64 4.1.1线性回归定义64 4.1.2线性回归的求解66 4.1.3线性回归的拟合问题72 4.1.4线性回归与正则化73 4.2实例分析74 4.2.1简单线性回归模型实例——最小二乘法74 4.2.2波士顿房价预测75 4.3小结80 第5章逻辑回归算法81 5.1导读81 5.1.1逻辑回归基本概念81 5.1.2逻辑回归应用82 5.2概述82 5.2.1probability和odds定义82 5.2.2logit函数和sigmoid函数及其特性83 5.2.3最大似然估计84 5.2.4参数的获取: 梯度下降法优化参数86 5.2.5模型评估方法87 5.2.6调参与最终模型90 5.2.7模型性能度量91 5.3实例分析92 5.3.1创建数据集并使用逻辑回归算法进行分类92 5.3.2简单逻辑回归模型实例95 5.4小结97 第6章k近邻算法99 6.1k近邻算法的基本概念100 6.2暴力搜索算法100 6.2.1距离度量100 6.2.2k值的选择101 6.2.3分类决策规则102 6.3实例分析: Iris数据集分类103 6.3.1Iris数据集103 6.3.2算法实现103 6.4小结108 第7章经典贝叶斯算法109 7.1数学回顾111 7.1.1条件概率111 7.1.2全概率公式111 7.1.3贝叶斯定理112 7.2朴素贝叶斯算法112 7.2.1基本概念112 7.2.2算法流程114 7.2.3拉普拉斯平滑115 7.3实例分析: 挑选西瓜115 7.4实例分析: 判断是否患有糖尿病119 7.4.1数据集简介119 7.4.2算法实现119 7.5小结125 第8章决策树126 8.1决策树原理127 8.1.1决策树模型127 8.1.2决策树的构建过程128 8.2决策树的特征选择128 8.2.1信息增益129 8.2.2信息增益率132 8.2.3基尼指数132 8.3决策树的构建134 8.3.1ID3算法134 8.3.2C4.5算法135 8.3.3CART生成算法136 8.4决策树的剪枝策略138 8.5随机森林141 8.6实例分析: 从零开始实现ID3算法143 8.6.1数据集143 8.6.2算法实现143 8.7实例分析: 用泰坦尼克号数据集实现随机森林148 8.7.1泰坦尼克号数据集简介148 8.7.2算法实现149 8.8小结152 第9章支持向量机153 9.1最优化方法: 拉格朗日乘数法154 9.1.1等式约束条件下的拉格朗日乘数法154 9.1.2拉格朗日对偶性及KKT条件155 9.2支持向量机157 9.2.1线性支持向量机157 9.2.2非线性支持向量机163 9.2.3SMO算法165 9.3实例分析: 乳腺癌数据集分类168 9.3.1乳腺癌数据集简介169 9.3.2算法实现169 9.4小结177 第10章Kmeans算法178 10.1概述179 10.1.1Kmeans算法180 10.1.2Kmeans++算法183 10.1.3评估指标185 10.2实例分析186 10.2.1对简单样本进行Kmeans聚类186 10.2.2创建数据集并进行Kmeans聚类187 10.2.3对MNIST数据集进行Kmeans聚类193 10.3小结195 第11章主成分分析算法197 11.1概述198 11.1.1PCA算法原理199 11.1.2PCA算法流程204 11.2实例分析204 11.2.1对简单样本进行PCA降维204 11.2.2对鸢尾花数据集进行PCA降维205 11.2.3对MNIST数据集进行PCA降维和Kmeans聚类210 11.3小结215 第12章深度学习216 12.1概述216 12.1.1神经网络简史216 12.1.2深度学习的应用——计算机视觉223 12.2计算机视觉中常用的神经网络层226 12.2.1全连接神经网络226 12.2.2卷积神经网络232 12.2.3权重初始化235 12.2.4优化算法237 12.2.5深度学习中的正则化240 12.3从零开始构建卷积神经网络模型243 12.3.1LeNet243 12.3.2AlexNet245 12.3.3ResNet250 12.3.4MNIST数据集分类257 12.4小结273 第13章生成对抗网络274 13.1生成对抗网络的提出与发展274 13.1.1生成对抗网络简史274 13.1.2生成对抗网络的提出者Ian Goodfellow274 13.1.3生成对抗网络应用——计算机视觉276 13.2生成对抗网络原理277 13.2.1生成对抗网络简介277 13.2.2带有条件约束的生成对抗网络280 13.3实例分析284 13.3.1手写体生成284 13.3.2人脸生成292 13.3.3条件生成对抗网络296 13.4小结303