2022青少年儿童心理健康领域的询问式问答系统设计方案

DesignandImplementationofQuery-basedQuestionAnsweringSystemforMentalHealthofAdolescentsandAugust,近年来，青少年儿童心理健康问题日益严重。如何给予孩子及时的关怀和较专业的初步干预变得十分重要。然而，目前各级学校专业心理辅导的人力不足，一般教师和家长又缺乏心理健康专业知识，青少年儿童也常不愿意主动公开求助。基于以上背景，本论文设计并实作了一个询问式的问答系统。系统采用自动问答和询问式问答相结合的模式，并串接在台湾用户使用频率最高的LINE平台上，希望提供家长和教师实时的在线心理问答服务，成为一项可随时使用的心理辅导资源。本系统的主要任务如下：、通过检索模块，快速锁定和用户问题相似的候选问题集，缩短问题匹配时间和问答反应时间。检索模块包括四个部分：采用jieba分词工具之搜索引擎模式搭配心理健康领域词典的方法分词、停用词过滤、近义词召回和建立倒排表；、使用BET模型对问句进行句矢量编码；、使用余弦相似度计算候选问题集和用户问题间的相似性；4、加入询问式学习机制：当系统无法确定用户问题的答案时，回传相似度前三的候选问题列表供用户点选，进行问题的二次召回；当系统无法解答用户问题时，向其他用户询问并征集答案，通过满意度统计方法筛选出最佳答案，经专家评估认可后，更新到系统问答库中，实现问答库的自动扩充和优化。 Bot LINEBot执行架 QA资料 jieba分词模 ELIZA脚 LINEBot执行架 jieba分词工 第一 绪亡资料统计暨自杀通报统计》[1]资料显示，1524105.98.80.2师，平均而言，学生需要等待一个月才可以排到谘商[3]。学校的一般教师没有1.1[6]。一级和二级的教师以及辅导室老师，为了改善学生[7]。当中，9成的青少年不会主动寻求治疗，75%的青少年也不会主动告诉老师和家在现今的互联网时代中，实时通讯软件在现代人生活中占据愈来愈重要的位置，聊天机器人的应用愈来愈广泛，是当代热门的科技话题之一。聊天机器人具备极强的实时性，人们使用它的主要原因也在于快捷、方便，可以更容易地获得帮助和信息，快速融入日常情境之中，还可以避免与真人交谈时的社交压力，不必担心自己提出的问题[10。但聊天机器人多用于商务、顾客服务、游戏、理财等领域，而在心理健康领域，中文问答聊天机器人的发展较少。本研究的目的，本研究的工作成果如下。1.整理问答知识库：收集青少年儿童心理健康领域的问答文本资料，构建聊天机器人所需的问答知识库。2.筛选候选问题集：使用jieba分词工具、停用词过滤、近义词召回和建立倒排表，快速筛选出和用户问题相似的候选集。3.改善jieba分词效果：整理心理健康领域词典，在jieba词库中加入心理健康领域词典，改善jieba对心理健康领域词汇的分词效果，提升检索模块表现4.匹配可信的最适候选问答：使用BET模型搭配余弦相似度方法，计算用户问题和候选问题集的相似度，匹配出具备一定置信度的最适配候选问题，并回传其答案。5.询问式问答学习：当检索结果没有达到一定的置信度时，回应相似度高的候选问题供用户选择。6.向同侪用户询问并征集答案，通过满意度统计方法筛选最佳答案，经专家认可后更新到问答知识库。第二 文献探问答系统是人工智能和自然语言处理领域的一个热门研究方向[11]。按知识识图谱的问答系统，以及基于大规模文档集的问答系统等。其中，FAQ问答系统的问答库是由问答对（QuestionAnswerPair，QAPair）构成的。FAQ问答系统基在于计算和排序用户问题与问答库中的问题的相似度。FAQ问答系统对比搜寻引的大规模文档集，需要去阅读大量文档，从中节选出所需答案。因此，FAQ问答正向索引是一种索引方法，它以文档id作为关键字，记录每个文档中每个词的位置。如图2.1所示，查找时会有序遍历每个文档中的词，直到找到匹配所有涵会导致检索时间很长，检索效率低。以本论文系统为例，如果每一次用户提问，都需要把用户问题与整个问答库的问题计算一遍相似度，再对相似度进行排序选出最相似的问题，会造成巨大的计算量。从用户使用体验的角度出发，也会造成问答的延时等待。当问答库的资料量越来越大的时候，这种情况会越来越严重。因此，需要设计倒排索引机制，改善计算量问题。图2.1:正向索引结 图2.2:倒排索引结倒排索引，亦称为反向索引，是检索算法中常用的重要的资料结构12]。如图2.2所示，它以词作为关键字进行索引，记录每个词出现在哪些文档中。以本论文系统为例，实际对话中，我们往往不知道问题的id，只收到用户输入的问题，这样检索的时候如果对问答库做全局扫描，遍歴每一个问题来判断是否包含用户问题中的关键词，显然时间复杂度很高，十分耗时。所以需要构建倒排索引：由用户问题当中的关键词快速地从问答库中检索到一个相对较小的问题子集作为候选问题集，保证该集合以较大的可能性包含用户问题的相似问题。换言之，即由用户问题的关键词来高效锁定问答库中可能相似问题的id。由于每个词对应的问句数量会随着问答对资料集的扩展，而产生动态的变化，所以系统需要定期维在自然语言处理领域，文本属于非结构化资料，计算机无法直接读懂和计算。因此，锁定候选问题集后，在计算用户问题与每一个候选问题的相似度之前，需要先将文本进行预处理，表示成结构化的矢量表达。文本表示的方法主要有四种：独热编码、基于加权方式的方法F、基于词矢量的算法ord2vec和预训练模型。 独热编码把每个词表示为一个长的矢量，矢量维度是词表的大小。矢量中只有代表这个词的所在维度为10，是一种离散表示。例如，抑郁[1,0,0,0,0]，焦虑[0,1,0,0,0]，自闭[0,0,1,0,0]，晚饭[0,0,0,1,0]，宠物[0,0,0,0,1]。 TF-TF-IDF[13]是一种常用于信息检索的加权技术，作为文档与用户查询之间相关程度的评级，本质上是通过统计的方法，评估一个词汇在目标文档或整个语料库中的重要程度。F是指词频，代表某一个词语wi在一个文档中出现的频率，TFi,j

widjdj的总词量。TFwidj中的重要性，词语在文档中出现的次数越IDF是指逆向文档频率，评估的是一个词语的普遍重要性。如果一个词语在IDF值来降低词语对文档的重要性。IDF计算方式如下：

=

|{j:w∈dwiwidjTFIDF值计算公式为：TFIDFi,j=TFi,j× TFIDF=<TFIDF1,TFIDF2,TFIDF3,...,TFIDFk TFIDF的计算公式可以看出，词频较大的词语，比如“的＂字在不同文档中经常出现，对区别每个文档没有太大用处，所以IDF值会让整体权值得到调IDF认为词频越小的词语就越重要，并不能很好地考虑词语重要程度和特[14]示，TFIDF只有当每个文档中的总词量足够大时，词语才会重复出现。而当系统的文档是指单个的简短问句的时候，往往达不到统计的效果，TFIDF不那么适用于短文本的表示。加之，TFIDF方法没有理解词语本身的语义，会有一定的局限 Word2vec[15Google2013年提出的一种产生词矢量的两层神CBOWSkip-gram2.3，CBOW模型通过上下文来预测当前词语，Skip-gram模型使用当前词语预测上下文。词矢量是基于神经网络的分TFIDF在语义理解上的不足。但是Word2vec的词矢量是静态的，在不同文本中的同一个词语的词矢量表BET[16]是GoogleAI研究院于2018年10月提出的一种预训练语言模型，它是在不需要标记的巨量语料上训练出一个通用的语言理解模型，首次在深层神经网络成功实行预训练双向性。给定BET模型一个句子，它可以输出一个句矢量。句矢量常被应用于语义搜索、文本聚类、文本分类领域。不同的句子输入到BET模型后，在不同的上下文情况下同一个词的词矢量表示是不同的，能够很2.3:Word2vecseq2seq模型一样，Transformer包括了编码器和解码器两个部分；不同的个输入是有先后顺序的。Transformer框架并没有考虑顺序信息，可以在输入中加入位置编码，使输入携带位置信息，因此它适用于并行化计算。Transformer本身模型的复杂程度使得它在精度和性能上都要高于RNN循环神经网络，突破了RNN模型不能平行计算的限制，解决长时依赖问题；计算两个位置间的关联的操CNN模型会随着距离增长而增长。Transformer可以产生更具有2.5，ELMo[18]RNN的语言模型，使用两个方向相反的单向长短期记忆网络LSTM作为提取器，可以解决一词多义的问题，但多层提取特征的能力有限，特征融合的能力会比BERT一体化的方式弱。GPT[19语TransformerELMo更丰富，采用单向且正向Transfomer模型，只能利用上文信息，会导致反向信息的缺失；BERT2.4:Transformer型则是使用双向Transfomer模型，能捕捉更长距离的依赖，预训练的方法相较GPT而言亦有所创新，用了MaskedLM方法来捕捉词语的表示和NextSentencePrediction方法来捕捉句子的表示。(a)(a)ELMoGPT语言模型 (c)BERT语言模型图2.5:语言模型比较SQuAD1.1中的各项衡量指标上超越优SOA结果，包括将通用语言理解评估GLUE基准提高到80.4%，提升7.6%；MultiNLI准确度达到86.7%，提升5.6，是自然语言处理发展史上具有重大开创性意义的模型成就。目前，BET在自然语言处理领域已有相当广泛的应用。在中文命名实体识别方面，王月等人[20]提出一种基于BET和注意力机制的神经网络模型，用来解决警情领域关键实体信息难以识别的问题；在短文本情感分类方面，宋明等人21]提出基于Bert和Focals的微博短文本情感分类方法，亦比对多种文本分类方法，证明基于Bert的分类方法准确率最高；在智能问答系统领域，罗玲等人[22]将BET模型应用于冬奥会知识问答领域，并对知识图谱、F和BET三种模型进行评估，证明BET模型的整体表现较优。2.6:2.6θ越小，表示两个矢量的方向越接近。矢量方向一致时，夹角为0度，余弦值达到最大为1；矢量之间夹角越大，90度时，余弦值0，两个矢量方向相反时，余弦值达到最小为-1。给定两个矢量m和n

cosθ m·

SatyaNadella便曾提出「ConversationsAsAPlatform[23]。在这个人们高度依赖实时通讯多种媒体形式和内容与用户互动，让用户得以在熟悉的平台和操作界面中，高聊天机器人研发的开发框架(Framework)便应运而生。这些开发框架会封装一些LINE、Messenger等不同平台的资料格式之转换处理工作。BotBotFramework[24]是微软帮助开发者构建、连接、发布和管理聊天机器人的平台。BotBuilderBotFrameworkSDK，支NodeC#Azure、BotFrameworkLuis.ai等微软套装BuilderBotFramework中与聊天机器人开发有关的所有微Bot设定、套件管理等任务的项目。原始码大部分botpressAGPLBottender[26是台湾优拓团队使用Node.js开发的多平台聊天机器人开源框架。Bottender支援台湾用户使用量最大的FacebookMessenger、LINE等通讯平户体验。BottenderJavaScriptES6及以上的语法每个框架各有千秋，开发者可从自身系统需求出发来考量和选择适合的框BotBuilder串接第三方语义理解服务时在语义理解算法选择及算法表JavaScriptBottenderLINEBotPython语言ELIZA[27]JosephWeizenbaum19641966年期间打造的史上第一个聊天机器人。它是基于脚本的规则来DOCTOR是一种对话引导的心CarlRogers的个人中心治疗理论（Person-CenteredTherapy）[28]。脚本的编排相当巧妙，尽管无法真正地理解语义，它通过模式匹配的方法，选择性转述或替换用户输入的话，达到了引导用户自述的目的。2.7ELIZA[29]。图2.7:与ELIZA的一则对 图2.8:ELIZA脚ELIZA[30预定义了很多模式，每个模式都有其对应的转换方法来生字继续对话，如图2.8所示，当A识别到关键字”why”，如果分解句式后发现符合”whycanti”模式，A会在五个预定义好的句式中随机挑选一个句式，并采用”whycanti”句子后面的内容代入该句式中重组，回覆给用户。这样一来，在与用户互动过程中展现出积极回应，让用户更愿意与其互动。但A不直接回答问题，更无法提供专业的建议以及进行心理辅导，换言之，它给予用户的是持续的陪伴与倾听，亦无法在与用户对话中学习新的知识，想要改变它的回应内容，须直接对脚本进行编辑。oebot31]是史丹佛大学的临床心理学家AlisonDarcy推出的心理学聊天机器人软件，其对话设计基于认知行为疗法（CognitiveBehavioralTherap，CB，该理论最初旨在治疗抑郁症，现已扩展到治疗许多心理健康问题。它透过改变非理性的认知扭曲[32，从而间接地改善情绪与行为。CBT的进行过程是现有治疗方式当中结构化程度相对较高的，因此oebot以此作为开发的起点，透过谈话去梳理人们认知。如图2.9，按照CBT的流程，oebot会先通过一系列问卷调查对用户的情绪和状态进行了解。如图2.1，oebot大多数时候是让用户点击唯一的按钮选项进行回覆，进而触发oebot的新回应，不断给出专业建议和例子供用户阅读，让CBT的流程得以继续。只有在少数时候，它会邀请用户写下自己的想法，再通过截取用户的相关表述，将其套用在预设的对话模板中，透过CBT当中的一些技巧，引导用户去审视这个想法与现实之间的关系，协助用户调整一些惯性思维。整个互动过程不是一场自然对话。如图2.oebot提供一系列心理课题，用户通过点击按钮的形式让课程内容以文字、影片等方式不断呈现，供用户Fitzpatrick[33Woebot对抑郁或焦虑患者有一定的治疗 图2.9:问卷调 图2.10:调整想误等专业的知识和建议是最受用户喜爱和在意的一点；同时，只能点击选项而不能使用文字作更贴切的自我表达是用户使用上最明显的阻碍。若不按指示回答，机器人会自说自话，使整体互动感欠佳。2.122.13，该系统是非实时对话的在线问答系统。自动问答的部分是让用户在线检索相似问题，它使用jieba分词工具对原始问题进行分词，使用TextRankWord2vec工具对中文维基百科语料库训练词WR句目前专注于青少年及儿童心理健康心理健康领域的问答系统和聊天机器人较少。可以了解到，A和oebot处理互动流程的逻辑都是背后写好的脚本。(a)心理课题 (b)疏导工具 (c)心情日志图2.11:Woebot功能页面ELIZA是通过模式匹配，重述用户的关键词，达到引导用户自述的效果，并不能解答用户心理健康领域的疑惑，亦不具备学习能力。WoebotCBT流惯，将系统串接LINE平台，提高系统的大众接受度和使用率。心理健康疾病的2.1:第三 系统流程与实LINEBot3.1，DataReportal2021[35]显示，台湾的各大通讯软件的使用状况中，LINE88%的用户比例，活跃程度远远高于FacebookMessenger。因此，考虑台湾用户的使用习惯，本论文LINE平台上，方便学生家长和老师的日常使用。3.2，用户是通过LINEAPP来发送讯息；LINELINE官方用来传递「用户」及「Bot服务器」讯息的中介服务器；Bot服务器是指用来开发LINEBotJavaScriptBottenderLINE平台HTTP请求转换为可处理的事件和情境，经逻辑运算后触发讯息回覆流程；使PythonMySQL数据QA问答资料集和对话过程中产生的对话资料。MessagingAPILINE官方定义的讯息回应标准，讯息有文字、影片、贴图、图文选单等形式。3.1:2021API运行方式的其中一种，BotWebhookURL，借助代理客户端（Proxy）LINEAPP客户端主动推送消息，而不是像传统client-server主从式架构，只有一方担任发送方。Webhook可以让用户不需要通过主动点击来BotLINEAPP的问题。整个执行LINEAPP发送讯息时，LINE平台将接收用户讯息并传递到MessagingAPILINELINE平台再传递给用户。3.2:LINEBotQA问答系统的开发是基于A问答对资料集实现的，限定域问答对资料集的构建是一项大型的工程，可以通过开源数据、自行采集甚至人工编写等方式进行。本论文人工收集并整理出胡珍玉主编的书籍《儿童青少年心理健康100问》[36]中有效的85个问答对，作为本论文系统初始的高质量问答资料集。少量的问答对难免会有无法全面覆盖到的问题。因此，本论文系统是在传统Q问答系统的基础上，着重引入一个询问式学习机制，允许用户持续地对问答对资料集进行扩充和优化。系统遇到当前未能解答的新问题，会向用户提出帮助解答疑问的请求，征集答案。系统后端也会基于“新问题所征集的答案＂的满意度调查统计数据，将最佳答案推送给专家评定后，自动对问答对资料集进行扩充和优化，使系统能够解答越来越多的用户提问。询问式学习和资料处理的流程会在后续章节详细介绍。jiebaid对应着唯一id时，就可以检索出对应的问题关键词。在上述章节id。构建方法如下：3.4:idid=[59,60,61,62,63]的候选问答资料中，直接id=[59,60,61,62,63]的候选问题进行相似度计算即可。jiebajieba库的分词分为三种模式，全模式、精确模式和搜索引擎模式。全模式将 3.5:jiebajieba3.5(a)jieba精确模式构建的倒排列表之部分数据。可以看出存在不少问题，例如：包含词语id没有idjieba分词的搜索引擎模式，对长词再次切分，3.5(b)所示，可以看到唯一的变化是jieba对“嫉妒心＂一词jieba的未登录词，决定在jieba词库中加入维基百科精神疾病列表[37]和开源心理学词库[38]jieba3.5(c)所示，加入自定义的词典后，jieba能没有遗漏地把心理领域专有词汇识别出来。可以看出，jieba虽有新词识别能力，但自行添加新词可以保证更高的分词正确率。如果jieba分词搜索引擎模式并加入自定义的词典。BERT模型搭配余弦相似度的方法实作句矢量编码与相bert_serving.clientBERTClient()函数对用户问题及其候选相似度判断模块的工作任务主要是，当系统从问答库中检索出候选问题集后，对候选问题集的相似度进行排序，并判断最大相似度是否有足够的置信度。如图3.6，相似度判断模块的判断流程分为以下三种情况：第一种情况，当最大相似度不小于0.95，本系统认为用户问题与某候选问题3.7(a)所0.50.95之间，本系统认为未能完全确定3.7(c)所示。(a)相似度高 (b)相似度中等 (c)相似度低图3.7:「相似度判断机制」在LINEAPP上的页面呈现上述流程可以看出，Bot在回应用户自主输入的问题时，对于确定的问题，Bot直接回传问答库中确定的答案；对于不确定问题，Bot回传待确认候选问题列Bot收到用户在待确LINE传过来的数据的，流程如图QA问答对更新到问答库中。Q，在用户们的历史点选记录中显示，Q与现有问答Q1、Q19都相似。其中，Q1920次，Q1被用户们点选了2QQ19Q19Bot的问答库中。BotQ，就能回应准确的答案。第一种情况，该问题在以往的用户对话数据中没有出现过。Bot第二种情况，该问题在以往的用户对话数据中出现过，但是仍然还没有答案。Bot同样会回应暂无解答的提示给用户。同时，该问题会继续处在「我想帮 3.9:统后端还未能确定这是一个好的适合的答案，还是答非所问。此时，Bot仍然会把这个尚未考究的候选答案回传给用户，并向用户弹出一个快速简洁的满意度调3.9(a)。用户若完成了满意度调查，Bot会感谢用户的反馈，如图3.9(b)；并把调查结果回传到后端，作为判断该答案是否足够好的数据。后端会定期检查这些问题的答案是否得到足够多的用户肯定。例如在一定数量的调查数据支持下，用户认为“答案有用＂的比例占了60%以上，系统就会将该问题及其答案发送给专家。该答案经过专家评估认可后，系统将该问题和答案更新到问答库中，如图3.9(c；如果后端检查发现该答案收到过多的“答案没用＂的负面反馈，就会把这个答案淘汰移除。Bot后端经过上述流程的数据处理，得以实现识别同一问题的不同问法并对问题进行二次召回、识别并记录新问题、筛选出新问题的最佳候选答案等任务，从而得到新的A问答对，扩充和优化问答库。3.133.11。青少年/该功能的流程如图3.10所示。如果用户点击「功能导览」主选单之「青少户选择常见问题类别后，Bot会回传该分类的问题列表；接着，用户可以点选欲Bot返回答案给用如图3.12，当用户点击「功能导览」主选单之「心理卫生求助信息」功能，Bot39，该网站可提供全台各县市医疗协助和心理咨询领域相关的单位信息，如单位名称、电话、地址和服务内容等。需要长期深度干预治疗和紧急求助的用户可以根据自身需求，及时联系当地县市的医院和相关单位。 图3.12:心理卫生求助信图3.13:功能导览主选 图3.14:常见问题分类子选第四 实验结果与讨使用问答知识库中初始的85个A问答对，分别对倒排索引检索和遍历检索两种方法的时间表现进行实验测试。在倒排索引检索方法上，实验将85个问句分计算候选问题集里每个问句与传入问句的相似度，找出最相似的问题。在遍历检索方法上，实验同样将85个问句分别作为传入参数，转换成句矢量后，直接与问答库中的每一个问句的句矢量做相似度的计算，找出与传入问句最相似的问题。由于传入的问句均是来自问答库，则最佳结果应为：找到的最相似问题与传入的问句是同一个语句。因此，除了计算两种方法的运算时间，在实验中亦统计了问题判断准确的数量：只有当传入问句与最相似的问句是同一语句的时候，认定系统的判断为正确；最后分别计算出两种方法的问题判断准确率。+jieba4.1jieba动、同义词库启动、分词、过滤停用词、替换同义词等步骤的时间消耗，所用的总运算时间仍明显比遍历方法减少至少74.6。因此，使用倒排索引方法在缩短问答时长上有更好的表现。检索模块使用遍历方法的结果如预期，尽管总耗时长，问题判断的正确率达到100%；使用倒排索引搭配jieba默认模式的方法，正确率可以达到94.12%，推测是因为jieba分词不够精确，所构建的倒排列表中记录的问题id不够全面有所遗漏，导致在检索模块中个别传入的问句没有召回正确的语句；使用倒排索引搭配jieba搜索引擎模式的方法，问题判断的正确率达到98.82%；使用倒排索引搭配jieba搜索引擎模式并加入心理健康领域词典的方法，运算时间上和前者相差不大，问题判断的正确率达到100%jieba搜索引擎模式并加入心理健康领域词典的方法，保证问题判断正确率的同时，也能避免运算时间过长导致问答延长的问题。QA资料集中原始的问题，人工设计两句语义相同但问法不同的相似问题，共168个句子。本实验使用168个问题测试BERT预训练模型在相似度任务上的表现：1.能否直接找出原问题；2.原问题是否出现在相似度Top3的候选问题集中等待用户点选进行二次召回。相似问题与原问题资料示例如4.1。Precision@k是搜索模型的评价指标之一，它是指检索正确的结果数量占所有k3Precision@3=0.74.1:Precision@k

TPTP@k+FP

MRR是国际上通用的搜索算法的评价指标，检索结果的好坏，与正确结果所在的位置有关。如果正确结果出现在检索结果的第一个位置，那么得到的分数是1，如果出现在第二个位置，分数是0.5，出现在第n个位置，分数是1/n。最终的分数为每个问题得分之和的平均数。可见，正确结果出现的位置越靠前，代表检索的表现越好。以本实验为例，正确结果指的是原问题，当原问题与输入问句的相似度在候选问题集中的排名越高，MRR的得分越高，检索的表现会越好。MRR的计算公式如下，其中，ranki代表问题i的检索正确结果所出现的位置。MRR=1

ni=14.285%左右的问题可以被准确检索并回传正确答案。其中，63%22%左右的问题可以在候选问题列表中通过用户点选被二次召回在第三章里，本论文介绍了系统的相