CN118861522B 一种基于大模型的主观题试卷阅卷方法 （网才科技(广州)集团股份有限公司）

司房本发明提供一种基于大模型的主观题试卷于Transformer架构的阅卷评分大模型，利用其2步骤2，基于Transformer架构的阅卷评分大模型的S2，输入层：基于Transformer架构的阅卷评分大模型允许最大输入序列的长度为512，将得到的数据集dataset中固定题目所对应的答案文本数据x按顺序切分为n个长度为512的token子序列(x1,xz,...,wn)，对于每个子序列在开头添加[CLS]标记，以标;S3，词嵌入层：基于Transformer架构的阅卷评分大模型S4，位置编码层：基于Transformer架构的阅卷评分大模型在词嵌入后添加了位置编;Z=E+PE；v)w+b)w2+b2]；;3其中,wut和bout分别为softmax层的权重矩阵和偏置向量，最终输出y即为基于S10，语义匹配计算：采用基于Transformer架;;其中，x'和vf分别为答案和参考答案的第i个token对序列语义的重要程度，qi和ai分;;;;;步骤4，系统部署与优化：将训练好的基于Transformer架构的4经过规范化的答案文本全部统一转化为UTF_8编码的纯文本格式，每一份答案作为一个文根据所设置的三个维度，邀请该领域的专家对预处理后的每份答案文件进行独立评为si；;;i个注意力头的计算结果表示为：;5;5.根据权利要求1所述的一种基于大模型的主观;6.根据权利要求1所述的一种基于大模型的主观题试所述的对基于Transformer架构的阅卷评分大模型进行微调训练具体;6输入要求进行分词和切分，将处理好的数据以批次的形式输入至基于Transformer架构的S6，模型输出：基于Transformer架构的阅卷评分大模型将计算出的评分分数通过8.一种基于大模型的主观题试卷阅卷设备，其特征7[0001]本发明属于教师考试测评领域，尤其涉及一种基于大模型的主观题试卷阅卷方[0009]针对上述问题，本发明第一方面提出了一种基于大模型[0011]步骤2，基于Transformer架构的阅卷评分大模型的主观题试卷阅卷模型的建立：89的打分记为si；述步骤得到分数标签label；。[0036]基于Transformer架构的阅卷评分大模型作为一种双向的Transformer编码器模于基于Transformer架构的阅卷评分大模型精准捕捉答案与参考答案之间的语义匹配关答案数据集进行微调时，基于Transformer架构的阅卷评分大模型可以快速收敛并取得出[0038]S2，输入层：基于Transformer架构的阅卷评为512，为了适配基于Transformer架构的阅卷评分大模型的输入格式，将得到的数据集dataset中固定题目所对应的答案文本数据x按顺序切分为n个长度为512的token子序列[0048]Z=E+PE；[0051]其中，Q,k,V分别为查询(Query)序列、键(Key)序列和值(Value)序列，[0057]FNN=ReLU[max(0,MultiHead(Q,k,v)w+b1)w2+b2]；络和归一化层)，基于Transformer架构的阅卷评分大模型可以从底层捕获词汇和语法特评分大模型得到最终的上下文表示zw；[0067]"=Attention(q,c)；[0069]其中，x和vf分别为答案和参考答案的第i个token对序列语义的重要程度，qi和[0073]Q=q'i；[0080]基于前文中基于Transformer架构的阅卷评分大模型的主观题试卷阅卷模型的建；型的输入要求进行分词和切分，将处理好的数据以批次的形式输入至基于Transformer架第一方面所述的构建方法所构建的基于大模型的主观题试卷阅卷模型的计算机执行程序；分),并采用多评分者权重融合方式进行标注。每份答案需3名以上评分者从三个[0115]3）提出基于双向匹配的语义相似度计算方法，将答案和参考答案串联输入基于Transformer架构的阅卷评分大模型，利用[CLS]标记输出向量作为整个序列的语义表示，计算每个token与语义表示的注意力权重作为其重要程度，求和后即可度量答案与参考答评分大模型作为评分模型的核心，其双向Transformer结构赋予了模型捕捉上下文语义信息的能力。再结合提出的双向语义匹配计算方法,能够有效度量答案与参考答案之间的语[0128]本发明设计了一种基于大模型的主观题试卷阅卷方法。本发明的整体逻辑如图1文件进行独立评分，每份答案需要L(L>=3)个评分者分别从三个维度评分，并给出综合分述步骤得到分数标签label；。[0151]基于Transformer架构的阅卷评分大模型作为一种双向的Transformer编码器模于基于Transformer架构的阅卷评分大模型精准捕捉答案与参考答案之间的语义匹配关答案数据集进行微调时，基于Transformer架构的阅卷评分大模型可以快速收敛并取得出[0153]S2，输入层：基于Transformer架构的阅卷评为512，为了适配基于Transformer架构的阅卷评分大模型的输入格式，将得到的数据集dataset中固定题目所对应的答案文本数据x按顺序切分为n个长度为512的token子序列[0163]Z=E+PE；[0172]FNN=ReLU[max(0,MultiHead(Q,k,v)w+b1)w2+b2]；络和归一化层)，基于Transformer架构的阅卷评分大模型可以从底层捕获词汇和语法特评分大模型得到最终的上下文表示zw；[0184]"=Attention(q,c)；[0186]其中，x和vf分别为答案和参考答案的第i个token对序列语义的重要程度，qi和[0190]Q=q'i；[0197]基于前文中基于Transformer架构的阅卷评分大模型的主观题试卷阅卷模型的建；Transformer架构的阅卷评分大模型参型的输入要求进行分词和切分，将处理好的数据以批次的形式输入至基于Transformer架模型GPT_3.5、T5和ELECTRA的结果对比，评价指标采用mAP、计算量(FLOPs)和参数量mAPGPT_3.582.678.2280.074.1685.490.5算机执行程序；存储器中存储有如实施例1所述的构建方法所构建的基于大模型的主观题系结构(IndustryStandardArchitecture，ISA)总线、外部设备互连(PeripheralComponent，PCI)总线或扩展工业