港科大广州AI研究院

BUSINESS—

季度总结港科大广州AI研究院-方法优势与局限性未来研究方向教育与应用前景合作与开放共享伦理与安全国际交流与合作挑战与应对策略研究与教育的融合推动开放科学目录建立国际合作网络政策倡议与建议未来展望1PART1研究背景与核心问题研究背景与核心问题由港科大(广州)慕健、张奇鑫等研究人员主导，联合南洋理工大学、爱丁堡大学、香港城市大学、香港中文大学(深圳)等多所院校的国际团队合作完成研究团队构成当前大语言模型在推理过程中存在"错误传播"缺陷，即一旦某个推理环节出错，后续步骤会延续错误，导致最终答案错误事后检查需重复计算，训练时纠错成本高昂，均属被动应对核心问题传统解决方案局限2PART2技术突破：SRGen方法设计技术突破：SRGen方法设计>动态不确定性监测理论基础实现机制利用"熵"量化AI生成词汇时的不确定性，通过动态阈值系统实时识别关键"犹豫时刻"维护最近N步熵值的历史窗口，当当前熵值超过"平均值+k倍标准差"时触发反思技术突破：SRGen方法设计>自反思优化机制修正向量δ1通过优化该参数微调AI的思考方向，平衡"确定性提升"与"逻辑一致性"双重目标数学基础2采用拉格朗日乘数法，将问题转化为约束优化，权重参数λ控制对一致性的容忍度(最优值约0.05)3PART3实验验证与性能提升实验验证与性能提升测试基准AIME2024、AIME2025、HMMT2025等数学竞赛题目关键结果DeepSeek-R1-Distill-Qwen-7B模型在AIME2024上的准确率从49.3%提升至61.3%实验验证与性能提升Qwen3-32B大型模型准确率从76.7%提升至82.7%：一致性投票指标从80%提升至90%效率分析：平均每个任务触发6次自反思，计算开销增加约50%，性能提升显著4PART4方法优势与局限性方法优势与局限性>优势01021兼容性强可与SLOT等其他优化技术协同使用，在MATH500基准上结合效果提升13个百分点2通用性高适用于监督学习、强化学习、知识蒸馏等多种训练范式的模型方法优势与局限性>局限性当前验证集中于数学推理任务：其他类型推理(如常识、因果推理)需进一步研究计算开销对实时大规模处理场景仍具挑战5PART5未来研究方向未来研究方向研究多步骤回溯或外部知识辅助的高层次推理路径调整全局规划能力3开发基于注意力模式的快速触发机制或轻量级优化算法优化效率2探索在非数学推理任务中的适应性调整扩展应用领域16PART6教育与应用前景教育与应用前景智能助手：在个人学习、论文写作等场景中，SRGen方法可以帮助用户生成高质量的文本内容，提供实时的语言和逻辑指导工业应用：在金融、法律、医疗等需要高度准确性和逻辑性的行业中，SRGen方法可以作为一种智能助手，辅助人类进行复杂的推理和决策提升教育质量：SRGen方法可应用于教育领域，通过实时监测和纠正AI生成的答案，提高教育平台和作业系统的准确性和公平性自动化评估：在数学和科学考试中，SRGen方法可以作为一种自动化的评估工具，减少人为评分的主观性和误差，提高考试效率7PART7合作与开放共享合作与开放共享跨学科合作港科大广州AI研究院将与其他学院和研究机构开展合作，如与计算机科学、数学、教育学、心理学等领域的专家共同研究，推动AI技术在不同领域的应用和发展开放资源研究院将不断更新和发布SRGen方法的实现代码和训练数据集，促进学术界和工业界的交流和合作，加速研究成果的转化和应用人才培养研究院将积极参与和推动人工智能领域的教育和培训，包括举办研讨会、工作坊、暑期学校等活动，为研究人员和学生提供学习和交流的平台社会责任研究院将关注AI技术的伦理和社会影响，积极参与社会公益活动，推动AI技术的可持续发展和负责任应用8PART8伦理与安全伦理与安全数据隐私港科大广州AI研究院在研究过程中将严格遵守数据隐私和安全法规，确保使用和共享的数据仅用于研究目的，并采取适当措施保护个人隐私透明度研究院将确保研究方法和结果的可验证性和透明度，公开发布研究成果和实验数据，接受同行评审和公众监督责任与监管研究院将积极与相关监管机构合作，制定并执行适当的伦理和安全标准，确保AI技术的开发和应用符合法律和道德规范风险评估研究院将定期进行风险评估，识别和应对潜在的风险和挑战，确保研究活动不会对人类社会和环境造成负面影响9PART9国际交流与合作国际交流与合作国际交流与合作港科大广州AI研究院将积极参与国际学术会议和研讨会：与全球的AI研究机构和学者建立联系，分享研究成果和经验，共同推动AI技术的发展合作研究：与不同国家和地区的大学、研究机构和企业开展合作研究，共同解决AI技术面临的挑战和问题，推动AI技术的国际化和标准化学术交流：定期邀请国际知名学者来校进行讲座和访问，同时派遣本校研究人员到国外进行学术交流和访问，促进学术思想的碰撞和融合10PART10可持续发展与未来愿景可持续发展与未来愿景未来愿景推动创新港科大广州AI研究院将致力于推动AI技术的可持续发展，关注技术对社会、经济和环境的长期影响，推动绿色AI和可持续AI的研究和应用研究院的长期目标是成为全球AI领域的领先研究机构，培养一批具有国际视野和创新能力的高水平人才，为解决人类面临的重大挑战提供AI解决方案研究院将鼓励创新思维和创业精神，支持研究人员和学生在AI技术领域的创业活动，推动科技成果的转化和应用，为经济发展和社会进步做出贡献可持续发展11PART11与其他机构的合作与交流与其他机构的合作与交流产业合作与科技企业、研究机构和政府机构开展合作，推动AI技术的产业化应用和商业化发展，促进产业升级和经济增长政策咨询为政府提供AI技术发展的政策建议和咨询，协助制定和实施相关政策和法规，推动AI技术的健康、有序发展高校合作与国内外知名高校开展联合研究项目，共同探索AI技术的最新发展方向和挑战，促进学术交流和人才培养12PART12对社会的贡献与影响对社会的贡献与影响01030204助力决策通过提供准确、可靠的数据分析和预测，AI技术可以帮助政府和企业做出更明智的决策，提高治理和管理的效率改善生活质量AI技术可以应用于医疗、教育、交通等领域，为人们提供更便捷、更高效的服务，改善人们的生活质量提升社会效率通过开发高效的AI技术，如SRGen方法，可以提升社会各领域的效率，如自动化处理大量数据、优化决策过程等，从而节省时间和资源促进创新AI技术可以激发新的创意和想法，推动社会各领域的创新发展，为经济增长和社会进步提供新的动力13PART13挑战与应对策略挑战与应对策略技术挑战：随着AI技术的不断发展，将面临新的技术挑战，如算法的稳定性和可靠性、模型的解释性等。应对策略是持续进行技术研究和技术创新，加强与其他研究机构的合作，共同应对挑战伦理挑战：AI技术的广泛应用将引发一系列伦理问题，如隐私保护、数据安全、算法偏见等。应对策略是加强伦理审查和监管，建立伦理指导原则和规范，确保AI技术的健康发展人才短缺：随着AI技术的快速发展，对高水平人才的需求不断增加，但同时存在人才短缺的问题。应对策略是加强人才培养和引进，提供优质的培训和教育资源，吸引更多优秀人才加入AI研究领域14PART14研究与教育的融合研究与教育的融合港科大广州AI研究院将推动研究与实践的融合，为学生提供更多实践机会和项目，使他们能够在实践中深入理解AI技术，并培养其解决问题的能力融合研究与实践将AI技术与其他学科进行交叉融合，如与心理学、经济学、社会学等学科的结合，培养学生的综合素养和跨学科能力跨学科教育通过开设新的课程、举办工作坊、实验室项目等方式，创新教育模式，激发学生的学习兴趣和创造力，培养其成为具有创新思维和创业精神的AI人才创新教育模式15PART15推动开放科学推动开放科学开放数据与代码港科大广州AI研究院将推动开放科学，公开发布研究数据和代码，促进全球科研人员对AI技术的深入研究和应用13共享资源通过共享研究成果、数据集、工具和模型等资源，促进全球科研合作和交流，推动AI技术的快速发展开放论坛与研讨会定期举办开放论坛和研讨会，邀请全球的科研人员和学者参与讨论和交流，促进学术思想的碰撞和融合216PART16建立国际合作网络建立国际合作网络参与国际组织港科大广州AI研究院将积极参与国际AI组织，如国际人工智能协会(AAAI)、国际机器学习学会(ICML)等，加强与国际同行的联系和合作建立合作伙伴关系与不同国家和地区的大学、研究机构和企业建立长期合作伙伴关系，共同开展研究项目，推动AI技术的国际化和标准化推动国际交流计划设立国际交流计划，鼓励本校研究人员和学生参与国际交流活动，如访问学者、联合培养等，促进国际间的学术交流和合作17PART17社会责任与公民参与社会责任与公民参与社区服务：积极参与社区服务，如为当地企业提供技术支持和咨询服务，为社区居民提供AI技术相关的培训和指导，促进AI技术在社区的普及和应用公众教育：港科大广州AI研究院将开展公众教育活动，提高公众对AI技术的认识和理解，增强公众对AI技术的信任和接受度公民参与：鼓励公民参与AI技术的研究和应用，如开展志愿者活动、公民科学项目等，让公民在AI技术的发展中发挥更重要的作用18PART18政策倡议与建议政策倡议与建议政策支持建议政府出台相关政策，支持AI技术的研究和应用，如提供资金支持、税收优惠、人才引进等法规制定建议政府制定相关法规，规范AI技术的研发和应用，如数据保护、隐私保护、算法透明度等，确保AI技术的健康发展公众参与鼓励公众参与AI技术的研发和应用，提高公众对AI技术的认识和理解，促进社会各界的合作和交流19PAR