[全]用Python检测抄袭行为_第1页
[全]用Python检测抄袭行为_第2页
[全]用Python检测抄袭行为_第3页
[全]用Python检测抄袭行为_第4页
[全]用Python检测抄袭行为_第5页
已阅读5页,还剩3页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、用Python检测抄袭行为本教程需要在计算机上安装scikit-learn。安装pip install -Uscikit-learn怎样分析文本?如你所知,电脑只能理解0和1。首先需要将文本转换成数字再对文本数据进行计算。词嵌入将文本数据转换为数字阵列的过程通常称为词嵌入(word embedding),我们将使用sci-kit-learn内置功能来完成此任务。将文本数据转换为矢量不是随机过程,而是遵循某些算法,从而将单词表示为空间中的位置。这一点将通过使用scikit-learn内置功能来实现。怎样检测文档的相似性?这里需要使用向量、点积的基本概念来确定两个文本的相似度,也就是计算学生的文本

2、作业的向量代表之间的余弦相似度值。此外还需要学生作业中的样本文档来测试模型。文本文件必须与脚本位于同一目录中,扩展名为“.txt”。文件目录如下:一起来搭建抄袭探测器 首先载入所有必要的模块使用OS模块加载文本文件的路径,然后使用TfidfVectorizer对文本数据和余弦相似度执行词嵌入,来计算是否存在抄袭。 用列表推导式(List Comprehension)读取所有文本文件接下来使用列表推导式来加载项目目录中所有的路径文件,如下:student_files =doc for doc in os.listdir() if doc.endswith( .txt ) 使用Lambda功能来向量化并计算相似性。需要创建两个lambda函数,一个用来将文本转换成数字数组,另一个用来计算它们的相似性。 将文本数据向量化加入下列两行代码,将加载的学生文件向量化:vectors =vectorize(student_notes)s_vectors = list(zip(student_files,vectors)创造一个计算相似性的功能。下面是脚本的主要功能,负责管理计算学生之间相似度的整个过程。 最终代码完成上述所有操作后会得到

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论