Python机器学习：数据建模与分析 pdf下载

适读人群 ：本书既可以作为数据分析从业人员的参考书，也可作为高等院校数据分析、机器学习等专业课程的教材。

配套资源：电子课件、案例程序源代码、案例数据集

本书特色：

系统介绍Python用于机器学习的数据分析、机器学习、数据可视化相关库。

结合大量实例透彻讲解各类机器学习算法在数据建模、数据分析中的应用。

全彩呈现数据建模可视化图像，提供配套数据集、源代码、PPT等学习资源。

本书采用理论与实践相结合的方式，引导读者以Python为工具，以机器学习为方法，进行数据的建模与分析。本书共13章，对机器学习的原理部分进行了深入透彻的讲解，对机器学习算法部分均进行了Python实现。除前两章外，各章都给出了可实现的实践案例，并全彩呈现数据可视化图形。
本书兼具知识的深度和广度，在理论上突出可读性，在实践上强调可操作性，实践案例具备较强代表性。随书提供全部案例的数据集、源代码、教学PPT、关键知识点，教学辅导视频，具备较高实用性。
本书既可以作为数据分析从业人员的参考书，也可作为高等院校数据分析、机器学习等专业课程的教材。
扫描关注机械工业出版社计算机分社官方微信订阅号—身边的信息学，回复67490即可获取本书配套资源下载链接。

薛薇，博士，中国人民大学应用统计研究中心专职研究员，中国人民大学统计学院副教授。主要开设课程：机器学习，计量经济学，统计软件，统计学。研究方向：机器学习与深度学习算法研究。基于顾客消费行为大数据的客户终身价值统计建模，以及营销与品牌大数据的机器学习算法应用。

目录

前言

第1章 机器学习概述1
1.1 机器学习的发展：人工智能中的
机器学习1
1.1.1 符号主义人工智能1
1.1.2 基于机器学习的人工智能2
1.2 机器学习的核心：数据和数据建模4
1.2.1 机器学习的学习对象：数据集4
1.2.2 机器学习的任务：数据建模6
1.3 机器学习的典型应用11
1.3.1 机器学习的典型行业应用11
1.3.2 机器学习在客户细分中的应用12
1.3.3 机器学习在客户流失分析中的
应用13
1.3.4 机器学习在营销响应分析中的
应用14
1.3.5 机器学习在交叉销售中的应用15
1.3.6 机器学习在欺诈甄别中的应用16
【本章总结】16
【本章习题】17
第2章 Python机器学习基础18
2.1 Python：机器学习的首选工具18
2.2 Python的集成开发环境：
Anaconda19
2.2.1 Anaconda的简介19
2.2.2 Anaconda Prompt的使用20
2.2.3 Spyder的使用22
2.2.4 Jupyter Notebook的使用23
2.3 Python第三方包的引用24
2.4 NumPy使用示例24
2.4.1 NumPy数组的创建和访问25
2.4.2 NumPy的计算功能26
2.5 Pandas使用示例29
2.5.1 Pandas的序列和索引29
2.5.2 Pandas的数据框30
2.5.3 Pandas的数据加工处理31
2.6 NumPy和Pandas的综合应用：空气质量监测数据的预处理和基本分析32
2.6.1 空气质量监测数据的预处理32
2.6.2 空气质量监测数据的基本分析34
2.7 Matplotlib的综合应用：空气质量监测数据的图形化展示36
2.7.1 AQI的时序变化特点37
2.7.2 AQI的分布特征及相关性分析38
2.7.3 优化空气质量状况的统计图形40
【本章总结】41
【本章相关函数】41
【本章习题】47
第3章 数据预测与预测建模49
3.1 数据预测的基本概念49
3.2 预测建模50
3.2.1 什么是预测模型50
3.2.2 预测模型的几何理解53
3.2.3 预测模型参数估计的基本策略56
3.3 预测模型的评价59
3.3.1 模型误差的评价指标60
3.3.2 模型的图形化评价工具62
3.3.3 泛化误差的估计方法64
3.3.4 数据集的划分策略67
3.4 预测模型的选择问题69
3.4.1 模型选择的基本原则69
3.4.2 模型过拟合69
3.4.3 预测模型的偏差和方差71
3.5 Python建模实现73
3.5.1 ROC和P-R曲线图的实现74
3.5.2 模型复杂度与误差的模拟研究75
3.5.3 数据集划分和测试误差估计的实现79
3.5.4 模型过拟合以及偏差与方差的
模拟研究82
3.6 Python实践案例86
3.6.1 实践案例1：PM2.5浓度的
回归预测86
3.6.2 实践案例2：空气污染的分类预测87
【本章总结】91
【本章相关函数】91
【本章习题】91
第4章 数据预测建模：贝叶斯分类器93
4.1 贝叶斯概率和贝叶斯法则93
4.1.1 贝叶斯概率93
4.1.2 贝叶斯法则94
4.2 贝叶斯和朴素贝叶斯分类器94
4.2.1 贝叶斯和朴素贝叶斯分类器的
一般内容94
4.2.2 贝叶斯分类器的先验分布96
4.3 贝叶斯分类器的分类边界99
4.4 Python建模实现100
4.4.1 不同参数下的贝塔分布101
4.4.2 贝叶斯分类器和Logistic回归
分类边界的对比101
4.5 Python实践案例103
4.5.1 实践案例1：空气污染的分类
预测103
4.5.2 实践案例2：法律裁判文书中的
案情要素分类105
【本章总结】110
【本章相关函数】111
【本章习题】111
第5章 数据预测建模：近邻分析112
5.1 近邻分析：K-近邻法112
5.1.1 距离：K-近邻法的近邻度量113
5.1.2 参数K：1-近邻法还是K-近邻法114
5.1.3 与朴素贝叶斯分类器和Logistic
回归模型的对比117
5.2 基于观测相似性的加权K-近邻法117
5.2.1 加权K-近邻法的权重117
5.2.2 加权K-近邻法的预测119
5.2.3 加权K-近邻法的分类边界119
5.3 K-近邻法的适用性120
5.4 Python建模实现122
5.4.1 不同参数K下的分类边界122
5.4.2 不同核函数的特点123
5.4.3 不同加权方式和K下的分类边界124
5.5 Python实践案例125
5.5.1 实践案例1：空气质量等级的
预测125
5.5.2 实践案例2：国产电视剧的大众
评分预测127
【本章总结】129
【本章相关函数】129
【本章习题】130
第6章 数据预测建模：决策树131
6.1 决策树概述131
6.1.1 什么是决策树131
6.1.2 分类树的分类边界133
6.1.3 回归树的回归平面134
6.1.4 决策树的生长和剪枝135
6.2 CART的生长139
6.2.1 CART中分类树的异质性度量139
6.2.2 CART中回归树的异质性度量140
6.3 CART的后剪枝141
6.3.1 代价复杂度和最小代价复杂度141
6.3.2 CART的后剪枝过程142
6.4 Python建模实现143
6.4.1 回归树的非线性回归特点144
6.4.2 树深度对分类边界的影响145
6.4.3 基尼系数和熵的计算146
6.5 Python实践案例147
6.5.1 实践案例1：空气污染的预测
建模147
6.5.2 实践案例2：医疗大数据应用—
药物适用性研究151
【本章总结】154
【本章相关函数】155
【本章习题】155
第7章 数据预测建模：集成学习156
7.1 集成学习概述157
7.1.1 高方差问题的解决途径157
7.1.2 从弱模型到强模型的构建157
7.2 基于重抽样自举法的集成学习158
7.2.1 重抽样自举法158
7.2.2 袋装法158
7.2.3 随机森林161
7.3 从弱模型到强模型的构建163
7.3.1 提升法164
7.3.2 AdaBoost.M1算法165
7.3.3 SAMME算法和SAMME.R
算法170
7.3.4 回归预测中的提升法172
7.4 梯度提升树174
7.4.1 梯度提升算法174
7.4.2 梯度提升回归树178
7.4.3 梯度提升分类树179
7.5 XGBoost算法181
7.5.1 XGBoost的目标函数181
7.5.2 目标函数的近似表达182
7.5.3 决策树的求解183
7.6 Python建模实现185
7.6.1 单棵决策树、弱模型和提升法的
预测对比186
7.6.2 提升法中高权重样本观测的特点187
7.6.3 AdaBoost回归预测中损失函数的
选择问题189
7.6.4 梯度提升算法和AdaBoost的
预测对比189
7.7 Python实践案例191
7.7.1 实践案例1：PM2.5浓度的
回归预测191
7.7.2 实践案例2：空气质量等级的
分类预测195
【本章总结】197
【本章相关函数】197
【本章习题】198
第8章 数据预测建模：人工神经网络200
8.1 人工神经网络的基本概念201
8.1.1 人工神经网络的基本构成201
8.1.2 人工神经网络节点的功能202
8.2 感知机网络203
8.2.1 感知机网络中的节点203
8.2.2 感知机节点中的加法器204
8.2.3 感知机节点中的激活函数205
8.2.4 感知机的权重训练208
8.3 多层感知机及B-P反向传播算法213
8.3.1 多层网络的结构213
8.3.2 多层网络的隐藏节点214
8.3.3 B-P反向传播算法216
8.3.4 多层网络的其他问题218
8.4 Python建模实现220
8.4.1 不同激活函数的特点220
8.4.2 隐藏节点的作用222
8.5 Python实践案例223
8.5.1 实践案例1：手写体邮政编码的
识别223
8.5.2 实践案例2：PM2.5浓度的回归
预测225
【本章总结】227
【本章相关函数】227
【本章习题】227
第9章 数据预测建模：支持向量机229
9.1 支持向量分类概述229
9.1.1 支持向量分类的基本思路229
9.1.2 支持向量分类的几种情况232
9.2 完全线性可分下的支持向量分类233
9.2.1 如何求解超平面233
9.2.2 参数求解的拉格朗日乘子法235
9.2.3 支持向量分类的预测238
9.3 广义线性可分下的支持向量分类238
9.3.1 广义线性可分下的超平面239
9.3.2 广义线性可分下的错误惩罚和
目标函数240
9.3.3 广义线性可分下的超平面参数
求解241
9.4 线性不可分下的支持向量分类242
9.4.1 线性不可分问题的一般解决方式242
9.4.2 支持向量分类克服维灾难的途径244
9.5 支持向量回归247
9.5.1 支持向量回归的基本思路247
9.5.2 支持向量回归的目标函数和
约束条件249
9.6 Python建模实现252
9.6.1 支持向量机分类的意义252
9.6.2 完全线性可分下的最大边界超
平面254
9.6.3 不同惩罚参数C下的最大边界
超平面255
9.6.4 非线性可分下的空间变化255
9.6.5 不同惩罚参数C和核函数下的
分类曲面257
9.6.6 不同惩罚参数C和? 对支持
向量回归的影响257
9.7 Python实践案例258
9.7.1 实践案例1：物联网健康大数据
应用——老年人危险体位预警259
9.7.2 实践案例2：汽车油耗的回归
预测263
【本章总结】266
【本章相关函数】266
【本章习题】266
第10章 特征选择：过滤、包裹和
嵌入策略267
10.1 特征选择概述267
10.2 过滤式策略下的特征选择268
10.2.1 低方差过滤法269
10.2.2 高相关过滤法中的方差分析270
10.2.3 高相关过滤法中的卡方检验274
10.2.4 其他高相关过滤法276
10.3 包裹式策略下的特征选择278
10.3.1 包裹式策略的基本思路278
10.3.2 递归式特征剔除法279
10.3.3 基于交叉验证的递归式特征
剔除法280
10.4 嵌入式策略下的特征选择281
10.4.1 岭回归和Lasso回归281
10.4.2 弹性网回归285
10.5 Python建模实现288
10.5.1 高相关过滤法中的F分布和卡方
分布289
10.5.2 不同L2范数率下弹性网回归的
约束条件特征290
10.6 Python实践案例290
10.6.1 实践案例1：手写体邮政编码数据的
特征选择——基于过滤式策略291
10.6.2 实践案例2：手写体邮政编码数据的
特征选择——基于包裹式策略293
10.6.3 实践案例3：手写体邮政编码数据的
特征选择——基于嵌入式策略294
【本章总结】298
【本章相关函数】298
【本章习题】299
第11章 特征提取：空间变换策略300
11.1 特征提取概述300
11.2 主成分分析301
11.2.1 主成分分析的基本出发点302
11.2.2 主成分分析的基本原理303
11.2.3 确定主成分305
11.3 矩阵的奇异值分解307
11.3.1 奇异值分解的基本思路307
11.3.2 基于奇异值分解的特征提取308
11.4 核主成分分析309
11.4.1 核主成分分析的出发点309
11.4.2 核主成分分析的基本原理311
11.4.3 核主成分分析中的核函数312
11.5 因子分析315
11.5.1 因子分析的基本出发点315
11.5.2 因子分析的基本原理316
11.5.3 因子载荷矩阵的求解318
11.5.4 因子得分的计算319
11.5.5 因子分析的其他问题320
11.6 Python建模实现323
11.6.1 主成分分析的空间变换323
11.6.2 核主成分分析的空间变换324
11.6.3 因子分析的计算过程

前言

机器学习是数据科学中数据建模和分析的重要方法，既是当前大数据分析的基础和主流工具，也是通往深度学习和人工智能的必经之路；Python是数据科学实践中最常用的计算机编程语言，既是当前最流行的机器学习实现工具，也会因其在理论和应用方面的不断发展完善而拥有长期的竞争优势。在学好机器学习的理论方法的同时，掌握Python语言这个实用工具，是成为数据科学人才所必不可少的。
笔者将多年来在机器学习、数据挖掘、统计学、计算机语言和统计应用软件等课程中的教学经验与科研实践进行归纳总结，精心编写了这本实用的图书，希望将经验和心得分享给广大从事数据科学以及Python机器学习的同仁和高校师生们。
本书的特点如下：
1．对原理部分做清晰的讲解
机器学习是一门交叉性很强的学科，涉及统计学、数据科学、计算机学科等多个领域的知识。学习者要掌握好每个模型或算法的精髓和实践，需要由浅入深地关注直观含义、方法原理、公式推导、算法实现和适用场景等多个递进层面。本书也正是基于这样的层面来组织内容。
2．对实践部分做全面的实现
机器学习也是一门实操性很强的学科。学习者需要边学边做才能获得更加深刻的认知。正是如此，本书在第3章～第13章中设置了Python建模实现和Python实践案例。一方面，通过Python代码和各种可再现的图形，帮助学习者理解抽象理论背后的直观含义和方法精髓。另一方面，通过Python代码，帮助学习者掌握和拓展机器学习的算法实现和应用实践。全书所有模型和算法都有相应的Python代码，并提供全部代码下载。除第1章外，各章结尾还配有本章总结、本章相关函数和本章习题。
3．适合作为机器学习或相关课程的教学及自学用书
本书在理论上突出可读性并兼具知识的深度和广度，实践上强调可操作性并兼具应用的广泛性。本书采用一种有效而独特的方式讲解机器学习：一方面，以数据建模和分析中的问题为导向，依知识点的难度，由浅入深地讨论了众多主流机器学习算法的原理；另一方面，通过Python编程和可视化图形，直观展示抽象理论背后的精髓和朴素道理；通过应用案例强化算法的应用实践。
在章节安排上，本书分13章。在第1章以机器学习概述开篇，第2章介绍Python机器学习基础，第3章集中对数据预测与预测建模的各个方面进行了整体论述，帮助读者掌握机器学习的整体知识框架。后续第4章～第9章按照由易到难的内在逻辑，顺序展开机器学习预测建模方法的介绍，包括贝叶斯分类器、近邻分析、决策树、集成学习、人工神经网络和支持向量机等众多经典机器学习算法。第10、11章聚焦数据建模中不可或缺的重要环节——特征工程，分别论述了特征选择和特征提取。第12、13章深入介绍了机器学习中的聚类算法。
在内容设计上，除前两章外的各章均由基本原理、Python建模实现、Python实践案例、本章总结、本章相关函数以及本章习题几部分组成。基本原理部分详细论述了机器学习的算法，旨在使读者能够知其然更知其所以然；Python建模实现部分通过编程直观展示了抽象理论背后的朴素道理，从而帮助读者进一步加深对理论精髓的理解；Python实践案例部分展现了机器学习在环境污染、法律裁决、大众娱乐、医药健康、汽车节能、人工智能和商业分析等众多领域的应用，旨在提升读者的算法实践水平；本章总结、本章相关函数和本章习题部分简要回顾本章理论，归纳所涉及的Python函数，并通过习题强化知识要点。
本书以高等院校每周3至4课时共计约17周的课时数安排内容。Python建模实现部分，既可与Python实践案例共同作为上机实验课单独进行，也可与基本原理相结合一并讲解学习。内容设计和体量安排，不仅和数据科学与大数据技术的专业课程设置相吻合，也可满足人工智能、统计学以及计算机应用等相关专业课程的要求。本书也可作为Python 机器学习研究应用人员的参考用书。
本书编写过程中，陈欢歌老师参与了部分章节的编写以及文献资料与数据的整理，机械工业出版社的王斌老师从选题策划到章节安排都对本书提出了宝贵的建议。在此一并表示感谢。
在以大数据与人工智能技术为代表的新一轮科技浪潮的推动下，Python与机器学习也在迅猛发展并快速迭代，形成了方法丰富、分支多样、应用广泛的整体态势。要想全面而深入地掌握其全貌，就需要不断学习与完善、不断跟进与提高。欢迎各位读者不吝赐教，对本书不妥之处提出宝贵意见。

薛 薇
中国人民大学应用统计科学研究中心
中国人民大学统计学院