2024阿里神马智能对话问答

阿里神马智能对话问答的一些积累。开发的语智能助手是类似于度秘，Siri我们知识图谱的建立已经有三年的时间了，在国内也是有着top22、对话系统关于对话系统，我们都知道里面最重要的三个部分就是NLU、DM、NLG。这是一个非常是指对话理解，自然语言，DM相当于大脑，CM是上下文的管理。NLU其实就是把一个非结构的自然语言转换为结构化的可执行的函数。如果是人来处理这理，过滤掉一些废话的信息。对于NLU来说其实就是识别问题的领域以及意图，这其实是slot。关键点是我们怎么能够把这些3、DM对话管理通用性会很差。通用性是一个必须的要求，我们怎么才能做到通用性，我们用到了一个blanstek方法，上面会有一个本体的知识库，有点像知识图谱，准确的来说知识图谱是本IntentSlotDM，它首先会有很多领域，比如是开车打电话，开车听音乐的。在领域的下面又会有一些功能，类似机构或者公司的架构。其中的root就是老大，什么都能做。我DM大家认为前面就是一套规则，现在很火的是增强学习，深度学习，RNN他们之间有什么关系，这里阐述一下。在学术上，DMDSTpolicyDST是对话状态的识别，类似于NLU，但是现在加入了机器学习的方法（目前相对于传统的基于词典等方法没有明显的优势），policy方法相对比较死板，虽然可以加一些随机的路径，而Policy话有没有错误、背后的真正意思是什么和处理过后的数据？所以POMDP应用于不确定性和自动策略优化的情况。目前又推出了一个基于深度学习的增强学习的方法DRL。比如阿尔法狗，用深度学习的方法将不同的状态建模，应用不同的Policy。我们拿对话与阿尔法狗进行对比，阿尔法狗在19x19的棋盘做出那么多的决策，对于对话利用模拟器收集数据slotNLG实现方法在学术界也是热点讨论的，在工业界主要还是基于模版，因为模版有便于控基于知识图谱的问答，重点在于query结构化，准确率高但覆盖率低。第二种是高质量问queryqueryQA资源和积累才可以做的。所以整体的流程是天猫精灵日志过去，然后问题分类分为CNN闲queryquery和其他问答query。然后在经过UGC生产、外包生产和问答url挖掘最终确定高质量问答、众包审核和挖掘审权威数据之间以及答案与知识图谱之间），答案质量模型和Qt相似度模型。RNN+attentionRNN的query，然后在做一个attention。之后在算他的分数，选择出分数较高的。另外在召回段，相关包括对话理解和相关匹配；有趣：多样性、个性化和场景化；可持续包括用户画可以通过一些手段来优化，比如加一些attention，来优化他的回答。在decoder过程中决这个问题，现在通过的方法只有两种，第一个是通过seq2seq加attention的方式来优化，第二种是优化他的lossfunction。不断的优化目标函数。提升回答的多样性。现在很多是基于CAVE的方法来提升多样性和鲁棒性。当然也有很多种方法，这只是其中CHATAGG、排序触发和语料模型。CHATAGG序、对话和问答三部分，排序触发包括了基础文本，VSMBM25、翻译模型、DL生成式