当前位置：首页 > 编程日记 > 正文

手把手教你实现PySpark机器学习项目——回归算法

编程日记 2024-12-16 19:50:00

作者 | hecongqing

来源 | AI算法之心（ID:AIHeartForYou）

【导读】PySpark作为工业界常用于处理大数据以及分布式计算的工具，特别是在算法建模时起到了非常大的作用。PySpark如何建模呢？这篇文章手把手带你入门PySpark，提前感受工业界的建模过程！

任务简介

在电商中，了解用户在不同品类的各个产品的购买力是非常重要的！这将有助于他们为不同产品的客户创建个性化的产品。在这篇文章中，笔者在真实的数据集中手把手实现如何预测用户在不同品类的各个产品的购买行为。

https://datahack.analyticsvidhya.com/contest/black-friday/

数据集简介

某零售公司想要了解针对不同类别的各种产品的顾客购买行为（购买量）。他们为上个月选定的大批量产品分享了各种客户的购买汇总。该数据集还包含客户人口统计信息(age, gender, marital status, city_type, stay_in_current_city)，产品详细信息（product_id and product category）以及上个月的purchase_amount总数。现在，他们希望建立一个模型来预测客户对各种产品的购买量，这将有助于他们为不同产品的客户创建个性化的产品。

手把手实战项目

1. 导入数据

这里我们使用PySpark的读数据接口read.csv读取数据，和pandas读取数据接口迷之相似。

2. 分析数据的类型

要查看Dataframe中列的类型，可以使用printSchema()方法。让我们在train上应用printSchema()，它将以树格式打印模式。

3. 预览数据集

在PySpark中，我们使用head()方法预览数据集以查看Dataframe的前n行，就像python中的pandas一样。我们需要在head方法中提供一个参数(行数)。让我们看一下train的前5行。

train.head(5)"""[Row(User_ID=1000001, Product_ID='P00069042', Gender='F', Age='0-17', Occupation=10, City_Category='A', Stay_In_Current_City_Years='2', Marital_Status=0, Product_Category_1=3, Product_Category_2=None, Product_Category_3=None, Purchase=8370), Row(User_ID=1000001, Product_ID='P00248942', Gender='F', Age='0-17', Occupation=10, City_Category='A', Stay_In_Current_City_Years='2', Marital_Status=0, Product_Category_1=1, Product_Category_2=6, Product_Category_3=14, Purchase=15200),  Row(User_ID=1000001, Product_ID='P00087842', Gender='F', Age='0-17', Occupation=10, City_Category='A', Stay_In_Current_City_Years='2', Marital_Status=0, Product_Category_1=12, Product_Category_2=None, Product_Category_3=None, Purchase=1422), Row(User_ID=1000001, Product_ID='P00085442', Gender='F', Age='0-17', Occupation=10, City_Category='A', Stay_In_Current_City_Years='2', Marital_Status=0, Product_Category_1=12, Product_Category_2=14, Product_Category_3=None, Purchase=1057), Row(User_ID=1000002, Product_ID='P00285442', Gender='M', Age='55+', Occupation=16, City_Category='C', Stay_In_Current_City_Years='4+', Marital_Status=0, Product_Category_1=8, Product_Category_2=None, Product_Category_3=None, Purchase=7969)]"""

要查看数据框架中的行数，我们需要调用方法count()。让我们核对一下train上的行数。Pandas和Spark的count方法是不同的。

4. 插补缺失值

通过调用drop()方法，可以检查train上非空数值的个数，并进行测试。默认情况下，drop()方法将删除包含任何空值的行。我们还可以通过设置参数“all”,当且仅当该行所有参数都为null时以删除该行。这与pandas上的drop方法类似。

在这里，为了填充简单，我使用-1来填充train和test的null值。虽然这不是一个很好的填充方法，你可以选择其他的填充方式。

5. 分析数值特征

我们还可以使用describe()方法查看Dataframe列的各种汇总统计信息，它显示了数字变量的统计信息。要显示结果，我们需要调用show()方法。

上面看起来好像比较乱，这里我们选择某一列来看看。

让我们从一个列中选择一个名为“User_ID”的列，我们需要调用一个方法select并传递我们想要选择的列名。select方法将显示所选列的结果。我们还可以通过提供用逗号分隔的列名，从数据框架中选择多个列。

为了建立一个模型，我们需要在“train”和“test”中看到分类特征的分布。这里我只对Product_ID显示这个，但是我们也可以对任何分类特性执行相同的操作。让我们看看在“train”和“test”中Product_ID的不同类别的数量。这可以通过应用distinct()和count()方法来实现。

在计算“train”和“test”的不同值的数量后，我们可以看到“train”和“test”有更多的类别。让我们使用相减方法检查Product_ID的类别，这些类别正在"test"中，但不在“train”中。我们也可以对所有的分类特征做同样的处理。

以上你可以看到46个不同的类别是在"test"中，而不在"train"中。在这种情况下，我们要么收集更多关于它们的数据，要么跳过那些类别(无效类别)的“test”。

我们还需要通过在Product_ID上应用StringIndexer转换将分类列转换为标签，该转换将标签的Product_ID列编码为标签索引的列。

在上面，我们将fit()方法应用于“train”数据框架上，构建了一个标签。稍后我们将使用这个标签来转换我们的"train"和“test”。让我们在labeller的帮助下转换我们的train和test的Dataframe。我们需要调用transform方法。我们将把转换结果存储在Train1和Test1中。

上面已经显示了我们在以前的"train" Dataframe中成功的添加了一个转化后的列“product_id_trans”，("Train1" Dataframe)。

8. 选择特征来构建机器学习模型

首先，我们需要从pyspark.ml.feature导入RFormula；然后，我们需要在这个公式中指定依赖和独立的列；我们还必须为为features列和label列指定名称。

在创建了这个公式之后，我们需要将这个公式应用到我们的Train1上，并通过这个公式转换Train1,Test1。让我们看看如何做到这一点，在拟合变换train1之后，

在应用了这个公式之后，我们可以看到train1和test1有两个额外的列，称为features和label，并对我们在公式中指定的列进行标记(featuresCol= features和labelCol= label)。直观上，train1和test1中的features列中的所有分类变量都被转换为数值，数值变量与之前应用ML时相同。我们还可以查看train1和test1中的列特性和标签。

9. 建立机器学习模型

在应用RFormula和转换Dataframe之后，我们现在需要根据这些数据开发机器学习模型。我想为这个任务应用一个随机森林回归。让我们导入一个在pyspark.ml中定义的随机森林回归器。然后建立一个叫做rf的模型。我将使用随机森林算法的默认参数。

在创建一个模型rf之后，我们需要将train1数据划分为train_cv和test_cv进行交叉验证。这里，我们将train1数据区域划分为train_cv的70%和test_cv的30%。

在train_cv上建立模型，在test_cv上进行预测。结果将保存在predictions中。

10. 模型效果评估

让我们评估对test_cv的预测，看看rmse和mse是多少。

为了评估模型，我们需要从pyspark.ml.evaluation中导入RegressionEvaluator。我们必须为此创建一个对象。有一种方法叫 evaluate for evaluator ，它对模型求值。我们需要为此指定度量标准。

经过计算，我们可以看到我们的rmse是3827.767295494888。

现在，我们将在所有的train1数据集上再次训练一个模型。

预测之后，我们得到测试集预测结果，并将其保存成csv文件。

写入csv文件后(submission.csv)。我们可以上传我们的第一个解决方案来查看分数，我得到的分数是3844.20920145983。

总结

在本文中，我以一个真实案例介绍了PySpark建模流程。这只是本系列文章的开始。在接下来的几周，我将继续分享PySpark使用的教程。同时，如果你有任何问题，或者你想对我要讲的内容提出任何建议，欢迎留言。

（*本文为AI科技大本营转载文章，转载请联系原作者）

◆

精彩推荐

◆

2019 中国大数据技术大会（BDTC）再度来袭！豪华主席阵容及百位技术专家齐聚，15 场精选专题技术和行业论坛，超强干货+技术剖析+行业实践立体解读，深入解析热门技术在行业中的实践落地。6.6 折票限时特惠（立减1400元），学生票仅 599 元！

手把手教你实现PySpark机器学习项目——回归算法

推荐阅读

相关文章：

mcDropdown使用方法

Windows上通过VLC播放器搭建rtsp流媒体测试地址操作步骤

Swift - AppDelegate.swift类中默认方法的介绍

上热搜了！“学了Python6个月，竟然找不到工作！”

Linux0.00内核为什么要自己设置0x80号陷阱门来调用write_char过程？

iOS支付宝(Alipay)接入详细流程，比微信支付更简单，项目实战中的问题分析

LIVE555简介及在Windows上通过VS2013编译操作步骤

GitHub App终于来了，iPhone用户可尝鲜，「同性交友」更加便捷

[NHibernate]代码生成器的使用

RapidJSON简介及使用

高德地图关键字搜索oc版

同一个内容，对比Java、C、PHP、Python的代码量，结局意外了

图片存储思考：

LIVE555中RTSP客户端接收媒体流分析及测试代码

swift代理传值

重磅：腾讯正式开源图计算框架Plato，十亿级节点图计算进入分钟级时代

类似ngnix的多进程监听用例

今日头条李磊等最新论文：用于文本生成的核化贝叶斯Softmax

FFmpeg中RTSP客户端拉流测试代码

虚拟机下运行linux通过nat模式与主机通信、与外网连接

远程过程调用RPC简介

iOS开发：沙盒机制以及利用沙盒存储字符串、数组、字典等数据

支撑亿级用户“刷手机”，百度Feed流背后的新技术装备有多牛？

玩转高性能超猛防火墙nf-HiPAC

ios 沙盒 plist 数据的读取和存储

FFmpeg实现获取USB摄像头视频流测试代码

重磅！明略发布数据中台战略和三大解决方案

Android程序完全退出的三种方法

FFmpeg通过摄像头实现对视频流进行解码并显示测试代码(旧接口)

IOS数据存储之文件沙盒存储