CN119398162A 数据集构建方法、电子设备及存储介质 （上海处理器技术创新中心）

基于多个原始数据集和预设开源模型确定多个原始数据集对应的多个初始监督数据集和多个个待混合数据集进行合并，得到目标监督数据2获取预设开源模型和多个待求解问题类型对应的多个原基于所述多个原始数据集和所述预设开源模型确定所述多个原始数据集对应的多个初始监督数据集和所述多个原始数据集对应的和所述预设开源模型确定所述多个原始数据集对应的多分别将所述多个原始数据集对应的待求解问题输入将所述正确执行结果、所述正确执行结果对应的待求解问题和所述将所述目标问题结果与所述原始数据集的原始问题结果进行比对，基于结果比对相同的目标问题结果对应的待求解问题和结果比对相同的目标问题结果对应的问题推理路径确定所述多个原始数据集对应的多个初标问题结果对应的待求解问题和结果比对相同的目标问题结果对应的问题推理路径确定重复执行所述分别将所述多个原始数据集对应的待求解问题输入至所述预设开源模型的步骤至所述将所述目标问题结果与所述原始数据集的原始问题结果进行比对得到结问题结果对应的待求解问题和结果比对相同的目标问题结果对应的问题推理路径确定所将结果比对相同的目标问题结果对应的待求解问题与结果比对相同的目标问题结果3基于预设推理路径数量对所述去重监督数据中所述待求解问题为同类型的问题推理表示确定所述多个中间监督数据集中的多个待将所述多个中间监督数据集对应的问题词向量表示可视化至二维空间在所述数据集分布图确定分布位置不一致的中间监督数据集为所述待存储器，其上存储有用于数据集构建的程序代码，当所述程序4[0002]在大型语言模型(LargeLanguageModel，LLM)出现涌现(Emergent)能力的背景调增强开源大语言模型的能力来构建数学问题求解系统则成不考虑数据质量而直接使用或简单过滤制作的全部5应的待求解问题和结果比对相同的目标问题结果对应的问题推理路径确定多个原始数据比对相同的目标问题结果对应的问题推理路径确定多个原始数据集对应的多个初始监督开源模型的步骤至将目标问题结果与原始数据集的原始问题结果进行比对得到结果比对对相同的目标问题结果对应的问题推理路径确定多个原始数据集对应的多个初始监督数预设推理路径数量对去重监督数据中待求解问题为同类型的问题推理路径进行筛选提取，6应的待求解问题相似的问题，又可求解与原始数据集对应的待求解问题类型不同的问题，该问题求解模型对题目或者问题进行求解能够提升问题求解效率[0020]通过参考附图阅读下文的详细描述，本申请示例性实施方式的上述以及其他目7[0030]通过有监督微调增强开源大语言模型的能力来构建数学问题求解系统则成为可虑数据质量而直接使用或简单过滤制作的全[0034]在步骤S101中，获取预设开源模型和多个待求解问题类型对应的多个原始数据多个初始监督数据集和多个原始数据集对应的多个问题词向量表示。在本申请实施例中，嵌入式自然语言处理(NLP)中的一组语言建模和特征学习技术的统称，来自词汇表的单词时，预设开源模型可以采用Codellama34B模型，进而利用Codellama34B模型分别生成8而基于多个原始数据集和预设开源模型确定多个原始数据集对应的多个初始监督数据集，应的待求解问题相似的问题，又可求解与原始数据集对应的待求解问题类型不同的问题，源模型输出的结果进行处理来构建出初始监督数据集。下文将结合图2来对初始监督数据集的构建过程进行详细描述。图2示出了本申请另一些实施例的数据集构建方法的示例性[0045]在步骤S201中，分别将多个原始数据集对应的待求解问能会存在代码部分，将该代码部分进行提取后得到多个问题答案对应的多个问题结果代9际应用情况来选取合适的执行方式去执行该问题结果代码，本申请在此方面不作任何限源模型的步骤至将目标问题结果与原始数据集的原始问题结果进行比对得到结果比对相相同的目标问题结果对应的问题推理路径确定多个原始数据集对应的多个初始监督数据本申请又一些实施例的数据集构建方法的示例性流程图，图5示出了本申请实施例的数据预设推理路径数量对去重监督数据d′中待求解问题为同类型的问题推理路径进行筛选提一待求解问题类型的问题推理路径基本能够符合待求解问题的[0057]在步骤S302中，将多个中间监督数据集对应的问题词向量表示可视化至二维空distributedstochasticneighborembedding)将多个中间监督数据集对应的问题词向和TAL_SCQ5K的问题词向量表示的分布位置与其余三个GSM_Hard、SVAMP和ASDiv的分布位[0061]图4示出可以实施本申请实施例的数据集构建方法的电子设备400的硬件配置的[0062]电子设备400可以对应于具有各种处理功能的计算设备，例如，用于生成神经网预设开源模型确定多个原始数据集对应的多个初始监督数据集和多个原始数据集对应的数据集；进而基于多个问题词向量表示确定多个中间监督数据集中的多个待混合数据集；以存储电子设备400中的处理过的数据和待处理的数据。存储器420可存储处理器410已处非易失性存储器中的至少一种。非易失性存储器可以包括只读存储器(ROM)、可编程ROM记忆棒中的至少一项。[0066]综上，本说明书实施方式提供的电子设备400的存储器420和处理器410实现的具件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(ApplicationSpecific括以用于存储信息的任何方法或技术实现