逻辑回归模型简介与python实践

逻辑回归模型简介与python实践提纲逻辑回归模型实现逻辑回归模型简介逻辑回归模型简介在介绍LogisticRegression之前我们先简单说一下线性回归，，线性回归的主要思想就是通过历史数据拟合出一条直线，用这条直线对新的数据进行预测。我们知道，线性回归的公式如下：

而对于LogisticRegression来说，其思想也是基于线性回归（LogisticRegression属于广义线性回归模型）。其公式如下：

逻辑回归模型简介其中，被称作sigmoid函数，我们可以看到，LogisticRegression算法是将线性函数的结果映射到了sigmoid函数中。igmoid的函数图形如下：提纲逻辑回归模型简介逻辑回归模型实现逻辑回归模型简介我们可以看到，sigmoid的函数输出是介于（0，1）之间的，中间值是0.5，于是之前的公式

hθ(x)hθ(x)的含义就很好理解了，因为

hθ(x)hθ(x)

输出是介于（0，1）之间，也就表明了数据属于某一类别的概率，例如：

hθ(x)hθ(x)<0.5则说明当前数据属于A类；

hθ(x)hθ(x)>0.5则说明当前数据属于B类。

所以我们可以将sigmoid函数看成样本数据的概率密度函数。

逻辑回归被广泛用于二分类器，神经网络领域

Python进行逻辑回归模型实践系统准备：centos6.8、Spark2.3.1、Pyrhon3.X数据准备：采用UCI机器学习库中的wine数据集作为算法数据，包括了三种酒中13种不同成分的数量。成分分别为：Alcohol，Malicacid，Ash，lcalinityofash，Magnesium，Totalphenols，Flavanoids，Nonflavanoidphenols，Proanthocyanins，Colorintensity，Hue，OD280/OD315ofdilutedwines，Proline。在“wine.data”文件中，每行代表一种酒的样本，共有178个样本；一共有14列，其中，第一列为类标志属性，共有三类，分别记为“1”，“2”，“3”；后面的13列为每个样本的对应属性的样本值。第1类有59个样本，第2类有71个样本，第3类有48个样本。由于实验为二类分类器，故只选取1，2，两个类别建模目的：训练逻辑回归分类器，使得知道13个特征后，把样本划归到相应类别。实例：初始化Spark，读取数据#-*-coding:utf-8-*-#pyspark--masterlocal[5]from

pysparkimportSparkContext,SQLContext,SparkConffrommathimportsqrt

#初始化sparkContextconf=SparkConf().setMaster("local").setAppName("MyKmeansDemo")sc=SparkContext(conf=conf)sqlContext=SQLContext(sc)

#读取数据df_wine=sc.textFile(u"file:/root/Documents/liangdong/work/laboratory/wine数据集.txt").map(

lambdax:str(x).split(",")).map(lambdax:[float(z)forzinx])实例：展示数据#本地数据转换为RDD

df_wine_rdd=sqlContext.createDataFrame(df_wine)

#展示数据

df_wine_rdd.show()实例：初始化SparkContext实例：读取数据并进行数据处理#由于逻辑回归一般用于二分类,故只抽取两个类别数据df_wine_rdd=df_wine_rdd.filter(col("_1").isin([1.0,

2.0]))#构建向量importpyspark.ml.featureasml_featurecols=df_wine_rdd.columns[1:]vectorAssembler=ml_feature.VectorAssembler().setInputCols(cols).setOutputCol("cols")wine_Vc=vectorAssembler.transform(df_wine_rdd)#对类别进行编码stringIndexer=ml_feature.StringIndexer().setInputCol("_1").setOutputCol("class").fit(wine_Vc)wine_Vc_c=stringIndexer.transform(wine_Vc)#划分训练集,测试集(trainData,testData)=wine_Vc_c.randomSplit([8.0,

2.0])#对数据进行标准化standardScaler=ml_feature.StandardScaler().setInputCol("cols").setOutputCol("cols_st").setWithMean(True).setWithStd(

True).fit(trainData)trainData_St=standardScaler.transform(trainData)testData_St=standardScaler.transform(testData)建立模型，并训练#使用逻辑回归模型,设置相关输入与参数importpyspark.ml.classificationasml_classification

clusters=ml_classification.LogisticRegression(featuresCol="cols",

#输入特征列

labelCol="class",

#目标列

predictionCol="Pred",

#输出结果列

maxIter=100,

#最大迭代次数

tol=1e-4,

#迭代停止最大误差

probabilityCol="Probability",

#输出概率列

rawPredictionCol="RawPrediction",

#预测线性组合,即逻辑方程的x

elasticNetParam=1.0,

#弹性网络混合参数,范围[0,1],0.0则完全用L2,1.0则用L1,其余取值,指定正则化L1,L2混合权重

fitIntercept=True,

#是否含有截距

standardization=True,

#训练模型前是否需要对训练特征进行标准化处理。

regParam=0.1,

#正则化参数

threshold=0.5,

#指定判断阈值,取值0.5则Probability<0.5为0类,>0.5为1类

).fit(trainData_St)模型评估#模型评估testData_St_pred=clusters.transform(testData_St)

#输出聚类中心并合并到数据表