基于概率神经网络的潜在客户挖掘

1、摘 要 本文利用概率神经网络对潜在客户的相关数据进 行分析处理,训练神经网络得到潜在客户对促销响应的预测模 型,模型将客户分为响应客户和不响应客户两类,指导企业有 效地进行促销活动,提高企业的投资收益率。关键词 概率神经网络 数据挖掘 客户响应率1 引言客户是企业收入的直接来源,不断获得新客户是企业持续 成长的关键,但是企业在促销中如果对所有客户进行宣传,花费 的成本太高,因此企业迫切需要在众多潜在客户中挖掘那些最 有可能对产品响应的客户,以提高企业的促销响应率。本文利 用概率神经网络对潜在客户的相关数据进行分析处理,训练神 经网络得到潜在客户对促销响应的预测模型,模型将客户分为 响应客户和不

2、响应客户两类,指导企业有效地进行促销活动, 提高企业的投资收益率。概率神经网络是由Specht博士在1989年提出的,他采用 Parzen提出的由高斯函数为基函数来形成联合概率密度分布的估 计方法和贝叶斯优化规则,是一种可用于模式分类的神经网络, 其实质是基于贝叶斯最小风险准则发展而来的一种并行算法。 该网络是将Bayes网络与前馈神经网络相结合的概率神经网络模 型,具有训练时间短和能产生Bayes后验概率的输出的特点。概率神经网络构造了一种概率密度分类估计、并行处理的 4层神经网络结构。与其他方法相比,概率神经网络为单向网 络,不需要多次重复的训练,稳定收敛于贝叶斯优化解,只进 行滑因子的估

3、计,网络训练速度高出BP网络5个数量级以上,完 全满足现场学习的要求,为构造应用系统提供了有力工具。实 例计算表明,概率神经网络在潜在客户分类中优于传统的方法 如线性回归、BP神经网络。2 基于概率神经网络的潜在客户挖掘2.1 确定业务对象企业将要推出一款新的产品,为了进行宣传推广,要对潜基于概率神经网络的潜在客户挖掘陈晓琴(重庆交通大学·重庆南岸在的客户进行推销,需要找出哪些是企业的潜在客户。企业在 过去营销过程中积累了大量的历史数据,而且可以获得大量的 相关客户的公众信息,以及这些客户在以往销售过程中的反应 情况。企业可利用概率神经网络对这些商业数据进行分析,得 到客户接触响应的

4、预测模型。2.2 数据准备将以往相似产品的销售历史记录建立客户分类模型, 对于每个目标客户,可以搜集的数据有如下特征信息:某一 特定办公地点的员工数(Local Emp、整个企业的员工数 (Ttl Emp、某一特定办公地点的年销售额(Local Sale、 整个企业的销售额(Ttl Sale、该企业是否有海外业务 (International Flag等等。这些都不与该企业是否购买推 销产品做出回应有明显的直接关系,但通过概率神经网络可以 发现它们之间的内在联系,对这些客户进行分类,区分哪些是 高可能性的客户,并将这些数据整理在data_rough.txt文件 中,前11列数据表示客户的相关属

5、性,最后一列表示该客户是 否购买企业的类似产品。共有1000条不同潜在客户的特征信 息,其中有一些会对销售宣传回应。将非数值型的数据修改为数值型的数据,导入Matlab工作 区,利用Matlab中概率神经网络算法实施实验。2.3 数据挖掘利用Matlab神经网络工具包中提供的概率神经网络的处理 工具进行潜在客户挖掘。客户响应预测的Matlab程序:function ifResponse=pnnCustomerMing(data_train,data_customer,ip_train=data_train(:,1:11;p_train=p_train't_train=data_trai

6、n(:,12;t_train=t_train'制订完善各种具体的、有针对性的、可操作性强的素质教育的 制度办法,推进素质逐步迈向规范化、可持续化道路。除常规 的、一般的制度外,学校应当制定素质教育的近期和中长期规 划,使教育不断向素质教育靠近;同时要把如何开展教研活 动、提升教师素质、实施素质教育具体化,使素质教育不断深 化,使教师逐步自觉实施素质教育,在实践中提高自身素质, 从一专一能向一专多能发展。5 学校在素质教育实践上应当直接参与我国教育家叶圣陶先生就说过:“教是为了不教”。 要让学生不仅学会,而且“会学”。“会学”就是要学生掌 握读书、解题、思考、分析等具体的学法,从而用手中

7、的钥 匙去开启智慧的大门。既要根据学科特点,尽量让学生多动 手动脚,动口动脑,让学生学会发现问题,解决问题,找出 方法,养成愿学、会学、乐学的习惯。也要让学生接受课程 以外的日常生活知识和生存本领。因此,除老师直接组织策 划、直接组织实施的日常素质教育外,学校也应当投入足够 的人力物力,直接组织和策划,直接参与一些活动的全过 程。比如,有的学校每年都在开展 “素质教育夏令营”、 “素质教育冬令营”、“春季踏青活动”、“秋季拓展训 练”等活动,每次活动分组策划主题,邀请教学经验丰富的 老师、有实践经验的专家周密部署和指导,以突出实践素质 教育主题的科学性、针对性,实践主题应突出培训学生的自 我管

8、理能力的培养、良好学习生活习惯的养成,自我认知能 力、独立生存能力、人际沟通能力、团队协作能力、挫折承 受能力、应变能力、学习能力和创新能力以及全脑学习系统 的开发等等,这对全面提高学生的素质大有裨益。 2011.No16t_train=ind2vec(t_train;net=newpnn(p_train,t_train,i;ifResponse=vec2ind(sim(net,data_customer'-1;(1数据导入与分组。将数据data_prepared.mat导入工 作区。将数据分为两组,训练数据集和测试数据集。利用训练 数据集训练神经网络,得到潜在客户挖掘模型,测试数据集

9、用 来检验神经网络模型的可靠性。利用Matlab提供的函数,可以设计算法对数据随机分组, 生成训练数据集data_train和测试数据集data_test。生成训练 数据集和测试数据集,data_train=data_prepared(index_train,:,data_test=data_prepared(index_test,:。(2训练神经网络。利用Matlab神经网络工具包中提供的 概率神经网络的处理函数针对训练数据集进行概率神经网络的构 建。并生成输入矩阵、输出目标矩阵、训练概率神经网络。(3模型检验。下面利用测试数据集data_test对构建 的神经网络在潜在客户分类中的有效性进

10、行检验,并通过比较 选择最佳的spread值。生成输入矩阵,生成预期输出结果,利 用训练好的神经网络模型对测试数据集客户进行分类。得到 模型的实际输出结果,这可以利用Matlab中的sim函数完成, o_test=sim(net,p_test。得到的o_test是一个稀疏矩阵, 需要将其转化为1×500的各个客户所属类别的向量,这利用 ind2vec的逆操作vec2ind完成,o_test=vec2ind(o_test。(4结果检验和模型选择。有两个输出结果:模型输出 结果和预期输出结果。模型输出结果是我们的神经网络模型利 用提供的客户相关信息,对客户是否对产品做出相应的一个预 测。

11、预期输出结果是实际发生的数值,是客观现实,我们希望 模型输出结果与预期输出结果一致。在大量测试数据集中,模 型输出结果与预期输出结果一致的数量越多,说明模型的预测 效果越好。同时,由于在训练过程中我们利用hold-out方法选择 spread值,对spread值取10000、5000、3000、2000、1000、 500、100、60、40、30、20、10、5、1、0.5、0.1、0.05、 0.04、0.03、0.01时分别对模型进行训练,得到神经网络模型 net1到net20。在模型检验中要根据不同模型的分类效果,选择 最佳的spread值和概率神经网络模型。这需要对20个模型的预 测

12、结果分别进行检验,当spread值达到10000时,预测出的实 际对产品做出响应的客户的个数几乎为0,而当spread值小于 或等于0.03时,总体预测准确率、响应客户预测准确率和不响 应客户预测准确率基本上达到稳定。从总体预测准确率来看, spread值为10时,预测效果最佳,但此时响应客户预测率不是 最高的,而本文需要预测的是在预测为响应客户的客户中实际 上为响应客户的个数,所以选择响应客户预测率最高的一个, 即是说spread值为0.04时预测效果最好。2.4 不同方法潜在客户挖掘结果比较分析在利用概率神经网络进行潜在客户挖掘的同时,我们也 利用传统的处理方法线性回归和常用的神经网络BP

13、神经网络 (Back Propagation Neural Networks,BPNN来对潜在客户 进行分类,试图发现那些最有可能对促销做出响应的客户。在利用BP神经网络进行客户分类的过程中,首先建立3层BP神经网络,输入层11个神经元,中间隐含层8个神经元, 输出层1个神经元,隐含层选激活函数tansig,输出层选激活函数purelin,有net=newff(minmax(p,8 1,'tansig' 'purelin'。再利用训练数据集训练神经网络,net=train(net,p_train,t_train。然后利用测试数据集测试训练好的神经 网络,利用训练

14、好的神经网络对测试数据集中的输入数据进行 预测,得到预期结果,o_test=sim(net,p_test。对于输出结 果需要稍微做一下调整,由于BP神经网络输出的不是整型值, 从0.9到2.2不等,这需要把它们转化为表示类型的整型值,取1和2附近的值为1或2,即取0.9到1.5的值为1,取1.5到2.2的值 为2。最后将预测出的结果跟预期结果进行比较,得到BP神经网 络预测效果的评价。在线性回归方法中,首先建立线性回归方程: 。其中t表 示n×1预期目标输出,p为n×11的输入矩阵, 为误差项。根据 训练数据集中的数据,运用Matlab线性回归函数得到线性回归 模型的参数

15、,b=regress(t,p。这样,就可以利用线性回归模 型预测客户的类型,并把预测结果跟预期结果比较,计算预测 准确度,分析模型的预测效果。不 同 客 户 分 类 模 型 预 测 准 确 度 的 比 较 见 表 4. 2, 其 中 PNN(0.04表示spread值为0.04的概率神经网络,PNN(10表示 spread值为10的概率神经网络,BPNN表示BP神经网络,LR表示 线性回归(linear regression。由上表可以看出,从总体预测准确率来看,用概率神经网 络的方法进行潜在客户挖掘不完全是效果最佳的,但是本文需 要预测的是在预测为响应客户的客户中实际上为响应客户的个 数,所以我们应从响应客户预测率方面来考虑,从中可以看出 概率神经网络方法优于BP神经网络和线性回归方法。3 总结概率神经网络(PNN在实际应用中,尤其是在解决分类 问题的应用中,它的优势在于用线性学习算法来完成以往非线 性学习算法所做的工作,同时又能保持非线性算法的高精度等 特性。潜在客户挖掘归根到底是一个分类问题,本文利用概率 神经网络对潜在客户的相关数据进行分析处理,训练神经网络 得到潜在客户对促销响应的预测模型,模型