已阅读5页,还剩37页未读, 继续免费阅读
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
word2vec 是 Google 于 2013 年开源推出的一个用于获取 word vector 的工具包,它简单、高效,因此引起了很多人的关注。由于 word2vec 的作者 Tomas Mikolov 在两篇相关的论文 3,4 中并没有谈及太多算法细节,因而在一定程度上增加了这个工具包的神秘感。一些按捺不住的人于是选择了通过解剖源代码的方式来一窥究竟。 第一次接触 word2vec 是 2013 年的 10 月份,当时读了复旦大学郑骁庆老师发表的论文7,其主要工作是将 SENNA 的那套算法(8)搬到中文场景。觉得挺有意思,于是做了一个实现(可参见20),但苦于其中字向量的训练时间太长,便选择使用 word2vec 来提供字向量,没想到中文分词效果还不错,立马对 word2vec 刮目相看了一把,好奇心也随之增长。 后来,陆陆续续看到了 word2vec 的一些具体应用,而 Tomas Mikolov 团队本身也将其推广到了句子和文档(6),因此觉得确实有必要对 word2vec 里的算法原理做个了解,以便对他们的后续研究进行追踪。于是,沉下心来,仔细读了一回代码,算是基本搞明白里面的做法了。第一个感觉就是,“明明是个很简单的浅层结构,为什么会被那么多人沸沸扬扬地说成是 Deep Learning 呢?” 解剖 word2vec 源代码的过程中,除了算法层面的收获,其实编程技巧方面的收获也颇多。既然花了功夫来读代码,还是把理解到的东西整理成文,给有需要的朋友提供点参考吧。 在整理本文的过程中, 和深度学习群的群友北流浪子(15,16)进行了多次有益的讨论,在此表示感谢。另外,也
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 旅游目的地推广推广方案
- 餐饮行业市场调研
- 机械制造行业数字化转型路径探讨
- 2023三年级英语下册 Module 2 My favourite things Unit 4 Animals in the zoo第3课时说课稿 牛津沪教版(三起)
- Module10Unit2说课稿+说课稿2025-2026学年外研版七年级英语上册
- 健康管理服务完善承诺书8篇
- Reading and Writing说课稿中职基础课-基础模块3-高教版(2021)-(英语)-52
- 3.15秦汉时期的科技与文化说课稿-2025年统编版七年级历史上册
- TCECS 1455-2023 冷库吸气式感烟火灾报警系统技术规程
- 2024-2025学年新教材高中生物 第3章 基因工程 第1节 重组DNA技术的基本工具说课稿 新人教版选择性必修3
- 装修工程 投标方案(技术方案)
- 基层卫生岗位练兵和技能竞赛试题及答案全科医疗组
- DL∕T 1844-2018 湿式静电除尘器用导电玻璃钢阳极检验规范
- 提高五金品质计划书
- 《基础工程》 课件全套 刘汉东 第1-7章 绪论;天然地基上浅基础的常规设计- 特殊土地基
- 精神病监护人责任承诺书
- 居家养老服务中心投标方案
- 乳突根治术后护理查房
- 清华大学接受国内访问学者申请表
- QC19032201 质量控制分析报告 输入功率 输入电流 功率因数试验
- 超星尔雅《葡萄酒与西方文化》期末考试答案
评论
0/150
提交评论