数据挖掘技术在求职市场的应用以IT及金融行业为例_第1页
数据挖掘技术在求职市场的应用以IT及金融行业为例_第2页
数据挖掘技术在求职市场的应用以IT及金融行业为例_第3页
数据挖掘技术在求职市场的应用以IT及金融行业为例_第4页
数据挖掘技术在求职市场的应用以IT及金融行业为例_第5页
免费预览已结束,剩余18页可下载查看

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、目 录摘要IABSTRACTII一、绪论1(一)研究背景(二)研究目的与意义(三)研究思路与论文结构二、文献综述3(一)国内相关研究(二)国外相关研究(三)研究评述三、基于TF-IDF的特征提取5(一)TF-IDF理论基础(二)数据爬取及预处理(三)基于TF-IDF的职位特征提取四、基于决策树的数据挖掘11(一)C4.5算法原型(二)基于决策树算法的职位匹配(三)匹配职位决策树生成五、实验结果分析16(一)检验指标(二)检验说明(三)检验结果六、总结与展望18参考文献20附录 外文译文两篇22致谢41数据挖掘技术在求职市场的应用-以IT及金融行业为例摘要本文研究了当下人力资源市场的供需现状以及

2、存在的问题,并探寻了数据挖掘技术在人力资源市场的应用和存在的必要性,旨在通过数据挖掘技术,帮助求职者有效地与职位进行匹配。首先,本文通过Scrapy爬虫框架,从智聘网爬取了约1万条职位数据,对Java、前端、PHP三种类别的数据从薪水、教育背景、工作年限等多个维度进行了分析;其次,本文使用TF-IDF算法挖掘出职位的技能特征,并将其作为后续的匹配标准;然后,通过决策树C4.5算法,本文构建了职位匹配模型;最后,本文验证了模型的可靠性并分析了匹配规则,发现了职位数据各维度之间的潜在关系,并以此为求职者提供如何基于自身背景选择合适职位的参考规则以及各职位的核心技能特征。关键词:TF-IDF C4.

3、5算法 职位匹配The Application of Data Mining Technology in HR Market Taking IT Financial Market as an ExampleABSTRACTThis paper studies the current situation of supply and demand in the human resource market, in addition to its existing problems, and explores the application of data mining technology in t

4、he human resources market and the necessity of its existence, with the aim to help job seekers to effectively find the best suited positions through data mining technology. Firstly, this paper crawls about 10,000 job data from Z through the Scrapy framework, and analyzes three categories of data in

5、Java, front-end, and PHP from the dimensions of salary, education background, and working years, etc. Secondly, this paper uses the TF-IDF algorithm to find the skill characteristics of jobs and uses them as the subsequent matching criterion. Thirdly, through the decision tree C4.5 algorithm, the jo

6、b matching model based on the decision tree is constructed. Finally, this paper analyzes the reliability and matching rules of the model and finds out the potential relationships among the dimensions of job data, and provides job seekers with reference rules on how to select suitable positions based

7、 on their own background and the core skills of each position.Keywords: TF-IDF C4.5 algorithm job matchingII一、 绪论(一)研究背景我国的就业人口从2011年至2016年以来,一直保持上升的趋势,就业人口占适龄劳动人口的比例也在不断增长,在2016年达到了78.52%。 数据来源:前瞻产业研究院由此看来,人才供给在五年内一直保持着向上的趋势。然而,在全球范围内,依然存在着人才短缺问题。例如中国台湾的招聘难度达到了73%,中国香港的招聘难度达到了69%,并且此问题在世界各国内逐渐严重,是自

8、2007年以来最严重时期的时期。2/5的雇主表示他们正在经历着因缺乏合适人才难以填补职位空缺的困难,全球平均困难指数为40%。2016年全球人才短缺调查,数据来源:万宝盛华集团整理如此看来,人力资源市场中有着大量的职位匹配需求:岗位和人才需要有效快速的进行双方匹配。目前,越来越多的公司通过第三方求职网发布自己的招聘信息。在中国,38%的求职者通过人力资源公司或猎头公司求职,而42%的求职者通过第三方网站或求职网站提交申请,几乎占到了1半。2016人才趋势报告,数据来源:领英数据团队然而,对于求职网中海量的职位数据,求职者往往会应接不暇,难以从海量数据中找到适合自己的职位数据,而长时间的浏览和搜

9、索只会降低效率,徒增工作量。根据领英每年一度的人才趋势问卷调查中,求职者最大的拦路石,是不清楚该职位的实际要求。毫无疑问,人力资源市场是企业员工的主要来源,而企业员工的优劣对公司的发展具有非常重大的意义。获取优质的员工并将其分配在与之匹配的职位上,一方面,能让员工充分发挥潜能并为公司创造价值;另一方面,人才本身与职位更匹配,将有效降低人才跳槽率,减少公司因人才流动带来的损失。“大数据”是重塑招聘未来的首要趋势。在招聘中运用“大数据”来进行人才分析和消除人为偏见,这一做法将重塑招聘行业的未来。2017年中国人才招聘趋势报告,数据来源:领英数据团队(二)研究目的与意义在大数据时代,传统的网页浏览已

10、经不足以帮助求职者找到理想的职位。对于求职者,常常可能出现的情况是:求职者在求职网页上一连翻了十几页也未能找到合适的职位,亦或是,即使找到自己中意的职位,但是由于求职者对职位所需人才的特点并不了解,无竞争优势,求职季节海投但是无果,而且求职者还难以意识到自己在职场竞争中的劣势以及以后努力完善自我的方向;对于企业,招聘的人才对行业基本技能掌握不深,了解的技术应用落后于行业发展,因此企业需要花费大量人力物力来对员工进行培养。由此看来,对职位数据进行数据挖掘具有一定的意义。互联网作为炙手可热的行业,其热门职位成为了企业重力投资的领域,尤其是对于一些以信息技术为核心发展指标的企业。本文将从IT职位数据

11、角度出发,以前端开发、PHP、Java三种岗位为例,分析如何基于数据挖掘技术对职位进行分析,从不同维度量化职位数据,挖掘职位核心特征,建立匹配规则,从而进行更好帮助求职者与职位进行匹配,为其找工作提供指导,为企业有效管理人力资源提供参考。一方面,数据挖掘技术能帮助求职者找出每种职位数据指标对应的最佳标准,如工作经验、教育水平等指标,为求职者提供参考意见,从而更好地找到求职胜率大的职位;另一方面,数据挖掘技术也为求职者进行自我提升提供一些努力的方向,进而更好的实现企业用人单位与求职者的工作内容衔接。(三)研究思路与论文结构后文将按照如下思路展开:第二章将介绍当前数据挖掘技术在国内外人力资源市场的

12、研究与应用;第三章将介绍利用Scrapy框架对BOSS直聘网的职位数据进行爬取,并对数据进行预处理和基本的统计分析。接着,基于TF-IDF算法对工作描述数据进行挖掘,从而得到各职位的工作技能特征集合;第四章将基于决策树C4.5算法,构建基于工作技能特征集合的职位匹配模型;第五章将对模型的可靠性进行验证和分析;第六章对模型的匹配规则进行总结和概括,分析本文的不足并对将来作出展望。二、文献综述(一)国内相关研究随着数据挖掘技术的发展,人力资源市场领域已经开始引入了数据挖掘技术并取得了很多成功的运用案例。在求职市场中,常见的数据挖掘技术应用主要采用决策树1。在国内学者的研究中,关于人力资源市场方面的

13、数据挖掘主要集中在企业管理人力资源的定量分析1,比如朱近贤2采用数据挖掘技术量化决策属性的管理思想,为企业人力资源管理提供了可靠的基本数据信息和人事决策、人事管理的依据。张红艳3运用成型的数据挖掘模型来解决划分企业人才类型、预防企业人才流失以及评价绩效考核体系,并得到实证研究。随着人力资源与职位匹配的需求扩大,同时爬虫技术得到了发展,许多海量的职位数据已经变得触手可及4。近年来不少学者开始研究职位的个性化推荐。曹伶丽5运用C4.5算法进行数据挖掘,找到分类规律并通过运算把生成的决策树与分类规则表示为求职倾向矩阵。但是,此类个性化推荐并未从工作技能角度出发,而仅仅关注了求职者的一些基本信息。忽略

14、了职位的本身特性,难以对拥有某一领域工作技能的求职者进行有效匹配6。王超7对用户好友关系及职业信息进行预处理,并以此作为推荐职位的依据。徐锦阳等人8借助于贝叶斯公式对于简历中的专业信息进行行业分类,在此基础上提出改进的相似度算法,得到职位与简历之间的匹配度信息。(二)国外相关研究Chen-Fu Chien2通过数据挖掘,搭建基于决策树和关联规则的模型,将人才进行分类,并对每一类型应用关联规则挖掘其中隐含的规则,从而实现人才的挑选。国外LLC建模机构3分析了通过数据挖掘进行建模对于企业人力资源规划的重要意义,提出通过定量分析的方法来进行人力资源的管理,并举出相关公司的实例。Lori K. Lon

15、g等人4介绍了数据挖掘技术的类别和流程,分析了其在企业人力资源的应用,如人才决策、离职管理。数据挖掘技术的引入,能够大大提高数据使用者决策的正确性5。PL Roth等人6讨论了处理人力资源丢失数据的重要性,并使用均值替换等方法在应用中得到证明。J Ranjan等人7利用OLAP(在线分析处理)技术探究了数据挖掘技术有效帮助企业人力资源管理系统做出决策支持。H Jantan等人8通过数据挖掘的分类技术对人才基本信息进行分类训练并根据模型有效评估人才能力。目前,在国外,数据挖掘成功地帮助了企业有效管理人力资源9。(三)研究评述由此可见,目前国内外数据挖掘在人力资源市场的应用主要集中在防止人才流失以

16、及帮助企业管理人才,对管理方案做指导意见等方面。另外,还有少部分针对职位数据与求职者的潜在关系研究,并针对此对求职者的职位进行个性化推荐。但是此类模型没有考虑职位的工作技能等特性,仅仅能做出公司类型方面的推荐,而非具体职位方面的推荐。本文基于这些不足,引入了TF-IDF对工作技能进行特征挖掘,并结合决策树算法进一步挖掘匹配模型。三、基于TF-IDF的特征提取(一)TF-IDF理论基础单文本词频(Term Frequency, tf(t,d)) Term Frequency, Wikipedia, /wiki/Tf%E2%80%93idf:词组t在文

17、本d中出现的频次统计。传统的单文本词频统计法主要是简单加总出现的次数,但现实应用中也有改进后的几种词频统计法10:l 布尔词频:即当t出现在d中,则tft,d=1,否则tft,d=0。l 对数标度频率:tft,d=log(1+ft,d),ft,d=0, tft,d=0 (1)l 强化频率:为了防止偏向长文档中的词频,原始频率除以文档中最常出现的词语的原始频率。公式如下:ft,d=0.5+0.5·ft,dmaxft',d:t'd (2)其中,t表示最常出现的词语。TF的基本思想是一个词在文本中出现的频率高,所占权重大,就越能代表这篇文档的主题。也就是说,这个词就是这个文

18、本的特征。但是可能出现的问题是,某些毫无意义的词语,例如“了”这一类词在文本中出现的频率同样很高,却代表不了文本的主题。为了避免这样的问题,引入了逆文档频率。逆文档频率(Inverse Document Frequency,idft,D) Inverse Document Frequency, Wikipedia, /wiki/Tf%E2%80%93idf: 通过将文档总数除以包含该词的文档数得到,然后取该商的对数。idft,D=logN|d D:t d| (3)其中,N代表文档在预料库中的总数(N=|D|),displaystyle N=|D|d

19、 D:t d|代表出现了词组t 的文档总数。当文档中没有出现词组t时,容易出现分母为零的情况,因此一般情况下将分母处理为1+|d D:t d|。displaystyle |din D:tin d|逆文档频率以语料库里的多个文本为比较标准,一个词组在其他文档中出现的频率越低,那么这个词组就越能代表本文档。11如此一来,就能过滤掉类似于“了”这样的出现频次高,但实际上并不能代表文本主题本身的词。TF-IDF就是TF和IDF这两个统计数据的乘积:tfidft,d,D=tft,d·idf(t,D) (4)(二)数据爬取及预处理本部分将完成以下操作:l 数据爬取,从网页上爬取职位数据l 数据预

20、处理,清理脏数据及处理缺失数据(1)数据爬取第一步,定义数据容器。本次爬虫采用scrapy架构获取十四种职位属性。表3.0 职位数据属性及其含义序号职位名称职位标签工作年限薪水pidpositionNamepositionLablesworkYearsalary教育水平公司名称行业领域融资阶段公司规模educationcompanyShortNameindustryFieldfinanceStagecompanySize最后更新时间城市发布时间工作描述updated_atcitytimedetails第二步,定义爬虫parse方法。在Scrapy框架中,parse()是spider的一个方法,

21、在被调用时,url中生成的response对象作为唯一参数传递给该函数,该方法负责解析返回的数据,生成item类,即提取数据,并生成需要进一步处理的url中的Request对象。进入BOSS直聘网的搜索界面,任意输入搜索条件,如“Java”,观察网页源代码。图3.0 网页源代码通过观察发现,每条职位都是以div标签下的class类别属性的不同为区分,所以本文通过css选择器获取标签的内容,以职位为单位一条一条的获取数据。进一步的,对于每一个职位的单条属性,同理,将对应标签和属性下的内容提取出来并赋给预先定义好的容器,在此不再赘述。(2)数据预处理初步统计爬虫所获数据:Java (3596条)、

22、前端开发(2383条)、PHP(3578条),但其中有不完整的数据,主要丢失的是薪水、工作年限信息,Java有201条、前端开发35条、PHP187条。1 数据缺失处理对于不完整的数据,需要对其进行填补或其他处理。如果选择直接放弃不完整数据,可能掺入主观因素,从而对最后的结果造成误差影响12。在数据挖掘技术中,对于缺失值的处理多种多样,比如K最近距离邻法Altman, N. S. (1992). "An introduction to kernel and nearest-neighbor nonparametric regression". The American St

23、atistician. 46 (3): 175185.,热卡填充法Joenssen D.W., Bankhofer U. (2012) . " Hot Deck Methods for Imputing Missing Data". Perner P. (eds) Machine Learning and Data Mining in Pattern Recognition. MLDM 2012. 等,本文采用平均值填充法13,即对于数值类型的属性,用所有同类非空数据的平均值填充;对于离散型的非数值型属性,采用统计学上的众数原理,即用所有同类非空数据中出现次数最多的值填充。

24、2 薪水转换为数字薪水的原始格式为:"salary" : "5K-12K", 本文通过python取最低薪和最高薪,并计算平均值,最后将薪水数据处理成下面的格式:"salary" : "low" : 5000, "high" : 12000, "avg" : 8500.03 根据工作经验年限划分招聘等级图3.1 不同类别职位对于工作年限的要求总的来说,三种类别的工作对于工作年限的要求主要集中在1年10年之间,也就是说,对于工作经验小于1年的应届生来说,找工作会面临更大的阻力。

25、而一旦突破了最开始的一年,后期找工作将会有较之前更多的机遇。为了方便后面数据分析,基于图3.1对工作年限划分等级,将文字数据转换成用数字表示的等级。由于工作年限基本呈正态分布,所以将数据量分布多的范围划为同一级。如表3.1所示,根据工作年限的内容分为4种级别。表3.1 工作年限分级表应届生1年以内1-3年3-5年5-10年10年以上经验不限01234根据教育水平划分招聘等级 图3.2 不同类别职位对于教育水平的要求由图3.2可以看出,三种类别的工作对于教育背景的要求主要集中在本科。这与职场现状也相符合。对于开发人员来说,更重要的是实战能力,而非教育背景。其中,PHP对于教育背景的要求相对于其他

26、两者的要求更低,只有约50%的职位要求应聘者的教育背景达到本科水平。本文基于图3.2,对教育水平进行分级,将文字数据转换成数字数据,为下一步数据挖掘作铺垫。表3.2 教育水平分级表中专及以下高中大专本科硕士博士不限0123如表3.2所示,根据教育水平的内容分为以上4种级别。(三)基于TF-IDF的职位特征提取在爬取到的数据中,工作描述属性详细阐述了关于该工作的工作技能,这些工作技能或多或少反映了每一类工作的重要特征,因此有必要对工作描述文本进行数据挖掘,提取出最关键的特征,为后文的职位匹配做好铺垫。第一步,本文分析Java、前端、PHP三种类别的职位,并以此作为TF-IDF的文档分类标准。第二

27、步,将对应职位下的工作描述数据拼接,并组成文档。第三步,使用结巴分词,为了提高分词的准确性,导入用户词典,对每个文档依次进行分词。自定义用户词典使用的是职位词典,图3.3为字典部分展示:图3.3 部分用户词典第四步,去除停止词。根据工作描述的分词结果,除了常用的“的”、“了”等停止词,本文还引入了自定义的停止词:'公司', '以上', '以上学历', '至少', '代码', '以及', '实际', '根据', '能力', '经验', &

28、#39;编程', '系统', '专业', '团队', '岗位职责','技术', '岗位', '开发', '负责'第五步,特征词去重。在处理特征词的时候,第一,有的特征词虽形式不同,但是描述的却是同一个事物,比如“html”、“css+html”,对于此类标签,统一转换为“HTML/CSS”;第二,数据库划分过于细化,比如mySQL、SQL Sever、mongoDB等,这些特征词实则都是数据库。在实际求职中,即使数据库类型不匹配,但只要具备数据库基础知识,其实

29、原理是相通的,因此也可以进行职位匹配,所以这一类特征词统一转化为“数据库”;第三,有的特征词过于抽象泛化,比如“后端开发”、“前端”,这一类特征词,对于后文的职位技能匹配没有太大的参考意义,本文将舍弃;第四,统一使用lowercase函数对英文单词进行小写转换,使得数据统计更精准;第五,在Java这类职位中,特征值的权重普遍较小,经观察发现是因为不少框架如spring、mybatis被单独计算,为了让特征词更能代表工作类别,将所有出现的框架名词统一替换为“框架”。第六步,计算权重。遍历分词后的文档,根据TF-IDF算法算出分词的权重,按照权重大小降序排列,选择每类职位中排名前5的特征词。表3.

30、3 特征词提取结果表职位核心特征非核心特征前端HTML/CSS JavascriptJQuery ajaxjsonPHPPHP数据库JavascriptLinuxMVCJavaJava数据库LinuxHTML/CSS框架如表3.3所示,每一行表示的是对应职位下的特征词。特征词按照从左到右权重依次降低的顺序反映其重要程度。四、基于决策树的数据挖掘(一)C4.5算法原型C4.5是由Ross Quinlan 提出的用来生成决策树的算法 14。在每一个决策树的树结点,C4.5算法会根据计算的信息增益来选择最佳的分枝属性,使得该属性最能够将剩余数据元素最好的分入到不同子集。信息是事物运动状态或存在方式的

31、不确定性的描述15,也就是说,一条信息的信息量大小与信息的不确定性有关。不确定性函数f 应该满足两个条件:1 必须是概率 P的单调递减函数;2 两个独立符号所产生的不确定性应等于各自不确定性之和,即可加性:fP1,P2=fP1+f(P2) (5)同时满足这两个条件的函数f是对数函数,也就是说单个事件的信息量就是:I=log21p (6)信息熵(Information Entropy) Information Entropy, Wikipedia, /wiki/Entropy_(information_theory):1948年,香农提出了“信息熵”

32、的概念,香农将信息熵解释为随机变量出现的期望,并用信息熵的概念来描述信源的不确定度16:HX=EIxi=E-log2pxi=-p(xi)log2pxi (7)信息增益(Information Gain):用于描述信息熵的变化量17,在对数据进行分类时,如果能够取定一个划分属性,使得划分后的不同子集中,各自的信息熵越小越好,那么这个划分属性就是最佳的。例如,现在将D集合中的元素划分为n个子集D1,D2,Dn,其中DjD划分后的信息熵:HAX=DjDH(Dj) (8)其中,DjD表示Dj在D中所占比例, j=1,2n。信息增益指的就是划分前后信息熵的差值:GainA=HD-HA(D) (9)由此看

33、来,信息增益越大,划分后的信息熵就越小,那么划分结果就越准确。信息增益率(Information Gain Ratio):信息增益率是信息增益的标准化18。信息增益率是为了防止过分拟合的情况发生,例如不同属性值的元素被划为不同的类,这样虽然信息增益是最大的,但是划分结果过于细化。因此信息增益率修正了过分拟合的偏移,引入了分裂信息(Split Information)将信息增益标准化。分裂信息用来衡量属性分裂数据的广度和均匀度。SIAD=-DjDlog2(DjD) (10)根据属性A进行划分时,每个划分对应A 中的m个取值。由此,信息增益率为:GainRatioA=Gain(A)SI(A) (1

34、1)(二)基于决策树算法的职位匹配根据职位这一数据的特点,本文将其分出教育水平、工作年限、工作技能三个决策属性,其中,工作技能分为15种属性,这15种属性来自于上文对于各类工作描述挖掘获取到的特征集。工作技能较多,在此对工作技能数据进行泛化处理。以权重wj表示第j类职位的权重。针对三种职位,如果掌握1种特征集中的技能,权重为1,每多掌握一种技能,权重加1,以此类推。特别的,如果技能包含贡献率最大的特征词(即特征集合中权重排在第一位的特征词),权重加4。之所以只对排在第一的特征词额外增加3的权重,而排在第二第三的特征词不加额外的权重,是因为排在第一的特征词的贡献率高于排在第二第三及其以后的特征词

35、的贡献率的3倍,为了凸显其重要程度,有必要对其单独进行二次加权。由于每一类的特征集中一共有五种技能,所以w的取值为0-8。如表4.0所示,对权重进行泛化处理后,各权重值的等级转换表如下所示。表4.0 技能水平分级表权重w技能水平等级描述00不了解1-21了解基本3-52熟练6-83精通至此,本文依次讨论了决策树的决策属性及属性各自的分级和取值标准,现在,决策树具体的决策属性汇总及每列属性的取值如表4.1所示:表4.1决策属性分级汇总表教育水平E工作年限Y前端技能水平FJava技能水平JPHP技能水平P00000111112222233333图4.0为所有职位数据的薪水统计,基于此将薪水分为高、

36、低、平均三种等级,用H、A、L表示。如下图,薪水在灰色条形所指示的范围内,划为L,超过灰色但处在粉色条形内的划为A,其他的划为H。图4.0 职位薪水统计表如表4.2所示,以下为决策树的类标示属性汇总:表4.2 分类结果属性取值及其含义薪水前端推荐Java推荐PHP推荐低L是F是J是P中A否O否O否O高H数据集合里一共9557条数据,在确定了决策树的决策属性和类标志属性后,本文根据数据的不同属性,对属性值的出现次数进行统计,结果如下表:表4.3 原始数据样本统计表教育水平本科以下(不含)本科本科以上(不含) 不限LAHU3151562132753工作年限1年以内(不含)1年-10年(不含)10年

37、以上不限0123435848815619前端技能水平不了解了解基本熟练精通0123219949759431440Java技能水平不了解了解基本熟练精通0123272732344153181PHP技能水平不了解了解基本熟练精通01231358462117841794薪水HAL高中低347026763411职位类别Java前端PHPJFP359623833578如表4.3所示,需要注意的是,在进行模型训练之前,为确保模型的可靠性,本文对属性值为“不限”的数据进行特殊处理。考虑到对于求职者本身,任何维度的属性值不可能为“不限”,因此,如果对于某一职位,其工作年限或教育水平的要求为“不限”,那么在本文

38、中统一处理为相应属性所指向的最低水平。比如,如果某条数据的工作年限为不限,则认为该数据的工作年限要求为最低水平,即1年以内。(三)匹配职位决策树生成本文采用传统的做法,选取80%的数据样本用于模型训练,20%的数据样本用于模型测试。接着,将80%的数据样本带入C4.5算法 C4.5算法github开源实现,来源: 中进行训练,得到决策树:图4.1 职位匹配决策树如图4.1所示,从根节点出发,分支结点为决策属性,路径上的值代表了父节点属性的取值,叶子结点代表了不同的匹配结果。表4.3指出了这些简化字母所代表的匹配结果的具体含义。表4.3 分类结果简化表高薪Java中等薪水Java低薪Java高薪

39、前端中等薪水前端HJAJLJHFAF低薪前端高薪PHP中等薪水PHP低薪PHP无推荐LFHPAPLPO根据决策树,可以列出从根节点到叶子结点所有路径的判定规则,并以此作为匹配依据。五、实验结果分析(一)检验指标为了验证模型的可靠性并得出结论,本文需要先对模型的准确率进行分析。验证模型准确率的方法有很多,通过比较,本文最终决定选定准确率(precision)和召回率(recall)来验证实验结果。二者的值越高,则说明模型越准确。14表5.0 分类结果混淆矩阵真实情况预测结果推荐不推荐适合SRSR不适合SRSR如表5.0所示,对于求职者的真实情况,职位有“适合”与“不适合”两种情况,相当于分类问题

40、中的正例、反例;对于预测结果,职位有“推荐”和“不推荐”两种情况。在本文的分类结果中,如果推荐了某一种职位,则默认其余两种职位不推荐。则准确率P和召回率R的定义如下:P=SRSR+SR (12) R=SRSR+SR (13)F=2*P*RP+R (14)就本文而言,准确率P表示的是在所有职位中,被推荐的适合求职者的职位所占比;召回率R表示的是在适合求职者的所有职位中,被推荐的职位所占比。需要注意的是,P和R往往是一对矛盾的度量。9当P值高时,R值往往偏低;当R值高时,P值往往偏低。因为如果想让R值变高,则希望所有适合的职位被推荐出来,可以通过增加推荐职位的数量来实现,但是如果将所有职位都推荐,

41、那么P值必然会变低;反之,如果想让P值变高,则希望推荐的职位尽可能是适合的,则可以只推荐最有把握的职位,但是这样难免会降低R。(二)检验说明这里有很重要的一点需要说明。本文的模型训练采用的是职位信息数据,而本文的目的在于为求职者进行匹配,验证求职者是否与职位相匹配,所以测试的数据应当是求职者本身的数据,即其基本信息。因此,不妨将测试集中的数据(即决策树属性对应部分的数据,如工作年限与教育水平等)视为求职者本身的基本信息:如果预测结果为这条数据对应的类标志属性(即对应薪水和职位类别),则视为推荐正确;反之,如果不为类标志属性,则视为推荐错误。但是,这样做会产生一个问题:真实情况将会是所有职位都适

42、合求职者,这样分类问题中就没有反例了。所以,本文会对测试集中1/2的数据进行人工标注,即人工将其职位类别转为其他的属性值。举例来说,某职位本身是HJ,本文将其转化为其他属性值,如AP,这样一来,分类问题就产生了反例。(三)检验结果本次实验对于三类职位分别取了约20%的数据样本量(1920条数据,每类职位各640条,每640条有320条为人工标注)用于模型测试,模型的测试结果如表5.1,图5.0所示:表5.1 模型可靠性分析结果表职位类别准确率召回率F值P0.5590.2220.318J0.5920.1310.215F0.5120.3220.395图5.0 模型可靠性分析结果图初步分析,在判定工

43、作类别时其实模型较准确,模型主要是在针对薪水高低进行判断时容易出错,很难准确的判断薪水到底是属于哪一种级别。整体来说模型的准确率主要被薪水这一属性拉低。六、总结与展望根据决策树的规则与上文的数据统计分析,可以发现:1.对于求职Java、PHP、前端开发这三类工作的求职者,求职者至少需掌握核心特征词指向的核心技能(Javascript、PHP、Java)之一,对于非核心特征词指向的技能,至少掌握两项,更有可能找到对应技能下的高薪工作。2.工作年限和教育水平有互相弥补的作用。当技能水平达到“熟练”(即权重W超过3),那么“本科程度的教育水平”与“工作年限突破一年”这两个条件,满足任一都有可能找到近

44、似程度好的工作。3.工作年限的要求主要集中在1年10年之间,也就是说,一旦工作经验的积累量突破1年的瓶颈以后,将会获得比以前增长超过10倍的职业机会。4.对于IT 行业的开发类职位来说,本科的教育背景就可以达到绝大多数的要求。在达到本科教育水平的基础上,用人单位更看重的求职者对于技能的掌握程度,其次是工作年限。因此,对于求职者来说,更应该注重专业技能的磨练。5.对于本科以下的教育水平求职者,较难找到高薪工作。(以E结点为父结点分裂,路径权重等于1的结点一般终结于L类、A类工作。)6.对于Java类的工作,用人单位看中的核心技能分别为:Java、数据库、Linux、HTML/CSS、各

45、类框架;对于前端类的工作,用人单位看中的核心技能分别为:HTML/CSS、Javascript、JQuery、ajax、json;对于PHP类的工作,用人单位看中的核心技能分别为:PHP、数据库、Javascript、Linux、MVC。在大数据时代,通过数据挖掘技术,帮助求职者分析各岗位核心技能等其他属性,能够使其了解到多数用人单位更看重的指标,并为其提供努力的方向。本文利用数据挖掘技术中的TF-IDF和决策树方法,挖掘了职位数据的重要信息,并提出了职位匹配的规则。本文主要是从职位技能这一角度来进行分析,针对不同职位不同人才进行定制化的匹配,将目标职位与最适合的人选有机的进行配对,这样,从求

46、职者角度来说,一方面将有效的帮助求职者能帮助求职者找到最适合自己、最具有发展前景的职位,另一方面,能为其提供关于理想岗位所需技能特点等方面的信息,为其职业发展规划提供指导和参考;从企业角度来说,岗位与人才的合适匹配能保持企业较低的跳槽率和人员流动率,同时,如果求职者了解了职位所需人才的特点,这将提升企业招聘到对发展目标清楚的优质人才的概率。本文也存在着很多不足之处,有很多方面尚未考虑完全。对于求职者的性别、城市本文并为作出详细的划分,主要是因为职位数据本身没有性别这类属性,或者说,即使有,也是隐形的,并为通过文本表现出来。所以模型结果也只能是笼统宽泛的。另外,在下一步的研究过程中,应考虑获取更

47、多有效的数据,另外可以考虑对决策树进行后剪枝处理,以此来提高模型准确率。参考文献一、中文部分1 王勇,张蕾,常陆军,程天博. 人力资源预测定量分析方法探讨.郑州大学学报(工学版).1999 , 20 (4) :68-70.2 朱近贤.数据挖掘技术在人力资源管理中的应用研究.计算机与信息技术.2008 (10) :7-9.3 张红艳.数据挖掘技术在企业人力资源管理中应用的研究.吉林大学.2005. 4 陈宪宇.大数据时代企业相关职位设置与人才培养.经营与管理.2014 (9) :43-47.5 曹伶丽.数据挖掘在人力资源市场的应用研究.湖南大学.2016.6 刘君君,赵海,邹艳梅,康嘉. 大学生

48、职业技能评估与求职.图书情报导刊. 2008 , 18 (25) :168-169.7 王超. 基于社交关系的职位推荐系统的架构与实现.华中科技大学.2015.8 徐锦阳,张高煜,王曼曦,楼焕钰,薛伟程, 毛髌裕.招聘网站职位与简历的双向匹配相似度算法.信息技术.2016 (8) :43-46.9 周志华.机器学习.清华大学出版社.2016.二、英文部分1 Chen, Xiaofan, and F. Wang. Application of Data Mining on Enterprise Human Resource Performance Management. Interna

49、tional Conference on Information Management, 2011:151-153.2 Chen-Fu Chien.Data Mining to Improve Personnel Selection and Enhance Human Capital: A Case Study in High-technology Industry. Expert Systems with Applications. 2008, 34(1):280-290.3 The Modeling Agency, LLC.Data Mining For Better Human

50、 Resources Decisions. International Journal of Business Information.2008(5):464-481.4 Lori K. Long, Marvin D. Troutt.Data Mining for Human Resource Information Systems. Data Mining, 2003:366-381.5 David Hand,Heikki Mannila,Padhraic Smyth.Principles of Data Mining. Knowledge Engineering Review.2004, 19(2) :183-184.6 PL Roth,JE Campion,SD Jones. The Impact of Four Missing Data Techniques on Validity Estimates in Human Resource Management. Journal of Business & Psychology.1996 , 11 (1) :101-112.7 J Ranj

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论