数学高考机器人的实战开发

数学高考机器人的实战开发第一节

高考机器人的发展现状高考是衡量人的知识水平、理解能力、推理能力等相关智能的重要测试工具。中国正在努力抢占计算机视觉、自然语言处理和综合逻辑推理的制高点，国家863类人解题项目的要求是让机器人断网断库、小样本训练参加高考，由此来验证系统是否能自主学习复杂逻辑推理和建立数理思维，训练系统模仿人类思维能力以及举一反三的联想能力，为跨行业应用做基础技术支撑。有了这个技术沉淀，再联网联库，就会在应用上如鱼得水。成都准星云学公司研发设计的数学高考机器人AI-MATHS在2017年参加高考前共进行过大约500套高考真题的训练，参加考试的AI-Maths由11台服务器组成。在断网断题库的环境下，用时22分钟完成当天北京文科数学高考卷的解题，经过现场批阅，成绩为105分（总分150分）。稍后，AI-MATHS再次挑战解答全国二卷数学卷，用时10分钟。全卷总得分100分（总分150分）。测试结束后，该公司首席执行官林辉表示对结果留有遗憾。由于现场环境的限制，他们把答题时间控制在半小时内，如果增加到一个半小时，分数还能增加10来分。项目首席专家成都电子科技大学的符红光教授称，AI-MATHS最终目标是达到120分到130分。这次测试的结果表明，计算机解题优势是计算能力强大，缺点是思维推理的能力还较弱，亟待加强。在日本，自2011年以来“东大机器人项目”就开始攻关总分为950分的大学入学考试，但机器人连续2年的得分均低于平均分数线。在2013年它所取得的511分超出了416分的全国平均水平，有80%的机会被日本441家私立大学和33所全国性大学录取。在2016年，Torobo-kun还第一次成功通过了入学模拟考试，测试成绩表明它有80%的机会被明治大学等著名私立学校录取。之后，Torobo-kun还在东京大学入学考试的复试阶段表现良好，理科数学的偏差值获得了76.2的好成绩。第二节

机器人的解题过程与核心技术简介智能机器人的解题过程大致可以分为三个步骤。首先是识别并理解人类语言，即通过图片信息识别模块和自然语言处理模块将人类语言转换为逻辑形式语言。其次是逻辑推理与计算，利用计算机的知识库（知识图谱、知识语义网络）、推理机模拟人类处理信息的方式和策略，找出最佳解题路径。最后是用人类的语言回答问题，并给出详细的解题步骤，即将形式语言转化为自然语言。其中NLP中的场景语义分析是系统的核心问题之一。高考机器人首先需要运用图像识别模块把由图像扫描输入的图片信息转化为文字符号信息。目前市场上有众多成熟的OCR技术产品可供使用，即使是针对特别潦草的手写图片，也可以通过生物信息学技术解决。具体的解决方法是首先收集、标注大量图片，同时搭建GPU集群平台来训练深度神经网络，然后对生成模型来做进一步优化。第二步就是对每一道考题进行自然语言处理，首先是正确理解题目的意思和意图，然后把它转化成形式化的数学语言。简单来说就是已知什么求什么。第三步同时运用多功能推理机，调用系统的数学知识库和maple等计算引擎的API来解题。最后就是输出答案了，这一部分所需的技术与第一步基本相同，但可能需要借鉴一些问答系统中的对话管理方面的技巧，确保不出现答非所问的情况。另外运用作业帮、学霸君等公司的搜索题库解题，或者用经过训练的深度学习神经网络解题也都是有希望的技术路径。自动答题系统能力的提高主要取决于抽象、泛化，搜索、替代、长短时类人记忆、生成对抗网络等技术的进一步发展。如果系统能够运用所收集的海量大数据，在持续的深度学习于深度理解过程中，分析出答题思路、做题步骤、结果检查与问题点等，理解每一道题目是如何通过人类思维推理出来的，那么数学135的高分就能指日可待了。第三节

理解题目的意思和意图把用自然语言表述的数学试题转化为的数学形式化语言是关键一步。实践中可以运用encode-decode模型作为编程框架，完成编译与反编译（高考卷的输入输出）。由于机器学习问题是一个与问题域紧密相关的问题,所以不能简单照搬现有的NLP应用API,而是应该针对数学试题的语言特点生成有针对性的问题模板并在日常的学习中加以泛化与正则化。学术的说法就是把开放无限域的自然语言表达转化为有限域的特定问题。目前自然语言处理主要包括三种技术。第一种是基于规则的专家系统，第二种是基于统计的贝叶斯方法。第三种是基于神经网络的深度学习方法。这三种方法各有利弊，如果能够把这三种方法的优点结合起来，那么对于高考题目的理解就可以达到一个非常高的水平。当前不管是美国的谷歌、亚马逊、脸书还是中国的科大讯飞、百度语音，都已经在自然语言理解方面做出了非常突出的工作。高考机器人之所以在题目理解环节常常失败，个人认为主要是因为他们没有能够完成与这些最优秀人工智能公司API的赋能连接。因此，如果我们国家的学霸君还有成都准星云学公司的高考机器人能够运用上最优秀的自然语言力理解，并且对这些工具进行专业化的二次训练与开发，那么对数学题目的理解与形式化转换就应该不成问题。一个有说服力的事实是，目前中英文、中俄，中韩，中日文的机器翻译已经取得了98%的正确率，这个正确率是超过人类的翻译能力的。而不同语言之间的翻译与把自然语言翻译成形式化数学语言，在某种意义上来说是有很多相通之处的。因此借鉴以上的技术，把自然语言的高考题翻译为形式化的数学符号序列理论上来说应该是没有问题的。如果再能够运用逻辑反推或者反向传播的机器学习技术，准确率应该会更高。对自然语言处理感兴趣的朋友们可以参考一下本书的第七篇。第四节

希尔伯特计划与高考数学题的语言形式化三大数学流派包括逻辑主义、形式主义和直觉主义，形式主义的奠基人是希尔伯特，他区分了三种数学理论。一是直观的非形式化的数学理论；二是将第一种数学理论形式化，构成一个形式系统；三是描述和研究第二种数学理论的，称为元数学、证明论或元理论。他的的主要思想就是要奠定一门数学的基础，应该先用严格的数学来证明它的协调性。希尔伯特计划的数学内容就是数理逻辑中的证明论，其主要目标是为全部的数学提供一个安全的理论基础。这个基础应该包括所有数学的形式化。意思是，所有数学应该用一种统一的严格形式化的语言，并且按照一套严格的规则来使用。元数学是以形式系统为研究对象的一门新数学，它包括对形式系统的描述、定义，也包括对形式系统性质的研究。形式主义者认为数学的公理系统或逻辑的公理系统，其中基本概念都是没有意义的，其公理也只是一行行的符号，无所谓真假，只要能够证明该公理系统是相容的，不互相矛盾的，该公理系统便得承认，它便代表某一方面的真理。另外逻辑公理系统也被认为是没有内容的，不能由内容方面保证其真理性，于是便只留下“相容性”作为真理所在了。目前理论上可以运用NLP中的多项工具，把所有的高考数学题都写成计算机理解的形式化符号。最后高考题目都是有解的，所以我们就不用考虑该死的哥德尔不完备性啦。直接把数学题目中的基本概念转换为形式系统中的初始符号，命题转换为符号公式，推演规则转换为符号公式之间的变形映射关系，证明转换为符号公式的有穷序列，再利用机器学习或神经网络中训练好的各种专家系统或推理特征值编出解题步骤，然后就可以交给mathmatica等四大数学软件了。当然，如果不是要考150的话那么，这个智能系统就基本开发完毕了。怎么样？有点小激动吧！第五节

数学知识库与抽象能力的建立Aidam是学霸君自主研发的智能教育机器人，它是以深度学习、专家系统和自然语言理解为核心技术的复杂系统。这个系统的核心在于通过学习人类的解题逻辑，熟悉人类思考和学习方式，进而掌握各种解题方法。据他们统计，高考数学大概有3529个考点，为了解决这些问题，截止2017年5月，学霸君累计解决近80万套试卷、100亿道试题，答疑命中率93%。目前，学霸君已经拥有7000万道数学题目的题库系统，以及大量的学生手写和上传题目图片、各种教辅书籍中的题目库，这些构成了学霸君的智能机器人的训练数据。目前，依靠学霸君的产品端的日申请量，每天可以产生1800万张左右的题目图片上传。而其中，无论是拍照，还是学生手写题目，均可以被Aidam的图像识别系统正确识别，并记录、收集、标记。在学霸君的题库中，每一道题目均记录了其答案、解析和不同的解题方法。在此基础上，Aidam不断进行自动解题训练。“系统每天大概做40-50万道题目。”在超链路神经网络使用的时候发现，它对于记忆题目使用的步骤跟逻辑是有价值与效果的，所以开始大规模地在代数体系跟解析体系解决这个问题。“棋有棋谱、题有题路”，依靠机器学习技术，在系统层面开始有机会，像人一样将数学题目一步步推理做出来。无论这道题目是否在系统中录入过，无论它的难度系数有多高，只要在它的知识范围内，都是可以完成的。通过运用包括题库，概念实体库，定理库，可以形成一个完整且高效的知识数据库，同时整合Maple等四大数学软件，运用自动推理机进行运算，综合运用有监督学习和无监督学习来训练机器，就会形成一个更高正确率的概率分布输出。毛主席说集体的力量是无穷的，目前在研发高考机器人的过程中，最大的挑战其实来自于如何把各种异构的数据、各种形态的数据、各种解题API和解题策略套路整合到一套代码里面。第六节

推理的形式与分类推理是指依据一定的规则从已有的事实推出结论的过程，最早的推理机被用于专家系统中完成基于知识的推理任务。它是知识系统的重要组成部分，位于自动推理系统中用户和知识库之间，可以检验已有的事实和规则，并在一定的条件下加进新的事实。推理机能够自动确定推理路线，多次调用知识库中的知识，进行逻辑推理，最后得到问题的结论。一个自动推理系统的推理机包括推理机制和控制机制。推理机制的基本类型有假言推理、启发式推理、反事实推理、分解法。推理方向控制机制有前向推理、后向推理、双向推理；深度优先推理和广度优先推理。基于知识的推理所要解决的问题是如何在问题求解过程中，合理选择和运用知识，完成问题求解。知识的运用模式称为推理方式，知识的选择称之为推理控制，它直接决定着推理的效果和效率。推理控制的核心是推理控制策略。传统的形式化推理技术是以经典逻辑为基础的，其中运用谓词逻辑中由一组已知事实，根据公理系统推出某些结构的演绎过程，称为演绎推理方式。演绎推理就是根据公理系统把一个问题中包含在已知事实中的事实作为结论推导出来。演绎是人类思维的一种主要表现形式。由于严格的演绎方式不能够处理所有的问题，各种非经典逻辑推理的研究已成为人工智能的重要内容之一。非单调推理包括常识推理，它大量地依赖于默认信息，又称为默认推理。这种默认信息是指当且仅当没有事实证明S不成立时，S总是成立的。约束推理可以表示为“当且仅当没有事实证明S在更大范围内成立时，S只在指定的范围内成立”。此外，归纳推理和类比推理在人们认知世界、解决问题时也发挥着重要的作用。为了搞清一个物理系统的行为，往往不需要使用严格的定量方法，而且在许多问题环境下难以使用严格的定量方法。定性推理方法从人类的直观思维出发，它不依赖于定量数值的描述。第七节

多功能自动推理机与生成系统大飞机与航天器的设计生产都需要精密推理，进行系统验证。如今希尔伯特的形式化思想已经外化成了自动推理机，它与逻辑程序语言有一定的区别，能够处理所有的一阶逻辑，但需要控制信息来使它更具效率。自动推理机的控制信息是独立在知识库之外的，使用者可设定一个启发函数来控制搜索策略，过滤函数则可以避免浪费时间在不感兴趣的子目标上。框图系统与语意网络是以图形来表示各对象的内容和关系，由于图形比文字叙述更容易理解，更容易看清楚对象间的关系，所以它在关系的表达能力方面较强，适合用来描述物件间之关系。描述逻辑更侧重于事物的分类及其定义，它的主要推理形式有决定某一种类是否为另一种类的子集的合包含，以及决定某一物件是属于哪一个种类的分类。描述逻辑可直接对述词做运算，但是一阶逻辑则不行。它的优点是推理的时间复杂度为多项式时间，缺点是对困难的问题可能无法叙述或者需要指数级时间。具有综合分析功能的系统都具备说明‘如何’及‘为何’的能力，生成系统又叫做规则库系统，它是由一系列if<条件M>和then<动作K>的规则建立起来的。每一条规则都包括‘if’及‘then’两个部分，条件和动作的数量不限。若推理机从指定条件的if部分向then部分进行，这种方式称做前向链结法。生成系统的推论过程，可分为比对(Match)、冲突解决(Conflictresolution)、执行(Act)三个阶段。在比对的方法上，有Naive演算法中的RETE演算法，还有针对RETE改良或深入探讨的平行处理方法及线性前向链结演算法。当推理规则经比对被选出后，可能会发生冲突，此时便进入冲突解决阶段。我们可采用几种标准来排序，比如专门性、规则特性、资料特性、约束条件多寡、时间关系、类别关系等，然后挑选出最合适规则加以执行。生成式系统的优点是直观，类似于人类的思维习惯，并且其推理过程的可解释性让它成为了早期人工智能的首选。但是在知识库的实体与关系数量成指数增长的互联网时代，它的查询速度和效率就变得有些吃不消。第八节

机器学习的决策树解题思路与答案检查决策树是一种模拟人类学习行为的有效方法,它经过训练之后，看起来就像是以树状形式排列的一系列if-then语句。一旦我们有了决策树，只要沿着树的路径一直向下，正确回答每一个问题，最终就会得到答案。沿着最终的叶节点向上回溯，就会得到一个有关最终分类结果的推理过程。决策树方法的核心问题是如何在己知训练样本数据的基础上构建树的拓扑结构。ID3算法是一种用来构造决策树的贪心算法，采用自顶向下的方式贪婪搜索遍历所有可能的决策空间，学习后得到的函数被表示为一棵决策树,其本质是对一组离散的目标函数进行逼近。以此为基础,针对考试过程中的错误和问题,可以构建以信息熵为节点分裂准则,以节点数据量,信息熵贡献度,结构深度为分裂停止准则的机器学习算法。在基本学习模型的基础上,可以进一步明确决策树的剪枝和冲突消解问题。答题系统基于悲观错误修剪和最小错误修剪的决策树修剪准则设计,同时还可以扩展新的冲突消解策略。以上述工作为基础,可以讨论习题错误诊断推理机设计问题,包括特征提取、故障诊断知识库与规则库的建立,属性表、决策表的建立,决策树学习建模的问题，并对所建立的决策树模型进行测试分析。通过研究2010-2018年的高考数学试卷，在把自然语言表达的试题转化为形式化语言后，80%的题目都可以用决策树的方法来处理。由于计算机强大的计算能力和逻辑的准确性，这些题目基本上就是满分了。为了解决推理思路准确性和计算步骤优越性问题，系统还是需要加强学习才行哈。如果用概率来决定遍历的顺序，以及剪枝的决策方法，那么多练习做题的机器就会有更好的概率分布，这个是显而易见的事实。如果采用神经网络的学习方法，那么训练数据的准确性和数量也会非常重要。总而言之，由于我们已经有了阿尔法对围棋的经验，对比高考的各种计算路径空间应该是小了很多。相信只要开发者能够努力工作，收集足够多的数据，通过训练获得更好的模型参数，成功应该是一个大概率事件。第九节

自动解题系统的计算空间与可解释为了让我们对机器参加数学高考这件事的可行性有一个基本的判断，可以先对高考数学题的计算空间做一个定性的分析。据权威人士提供的数据，数学考点共有3500个。假设每个题目大的计算步骤平均有六步，那么用盲目的穷举遍历，计算量就可能是3500的六次方，约10的21次方。这个问题在目前来看计算量是很大的。但是如果我们把数学家的先验知识分类引入，就可以分为多项式化简、因式分解、集合与函数、不等式、微分求导与积分、平面几何、立体几何、解析几何等十大类。这样机器只要学习到每个考点的分类属性属于哪一类就可以把计算空间降到350的六次方。而这个学习过程应该是比较简单的一个分类器。接下来我们还可以继续用上面的方法，把以上十大类的问题继续分为十大类。比如在多项式化简中，我们可以把它分为按升幂排列，按降幂排列，合并同类项，纯自然数系数的多项式与实数系数的多项式以及带含参数系数的多项式等等。这样计算空间就可以降维到计算空间35的六次方，约10的9次方，即每一题计算搜索空间为10亿次。以目前的计算机计算能力来看，应该是可以满足的。接下来如果我们的深度神经网络用目前可以得到的一亿道习题来进行有监督的学习，那么把每一步的搜索空间控制在五个分支以内是比较有把握的。如果达到这个精度的话，那么每道题的搜索空间就可以降低为30次。这样，机器做一套试卷的计算就可以控制在1000次以内。这个降维处理的结果很可能让数学老师以及教育专家们大吃一惊吧。不过，愤怒而焦急的老师们马上就会质疑了。为什么可以这么搜索呢，给我一个解释。因为机器学到了特征和权重。这个解释显然不能让丢掉工作的老师和专家们满意，就像facebook的AI用自己的语言进行相互之间的沟通一样，最后的结局就是下架。但是这个的确是很重要的工作，我们不可能把教育下一代的重任交给一个不能交流的陌生人。笔者预测，如果投入足够的资源的话，神经网络的解题方法会比较容易解决。但他的可解释性将会耗费科学家与工程师更多的时间和精力。第十节

来自批改作业的启发机器学习可能重新定义教育的传递方式，它不仅能够提供基于个体学生行为和其他