叶家杰---基于多模态的身份识别及其在仿人服务机器人上的应用

基于多模态的身份识别及其在仿人服务机器人上的应用,指导老师：管贻生教授报告人：叶家杰,广东工业大学研究生开题报告,BiomimeticandIntelligentRoboticsLab,点击添加文本,点击添加文本,点击添加文本,点击添加文本,目录,研究内容,背景、意义和现状,多模态身份识别算法,BiomimeticandIntelligentRoboticsLab,创新点,研究基础、研究计划,一、背景、意义和现状,身份识别在现实生活的主要应用集中在人机交互、安防监控和多媒体娱乐等领域，而对于多模态身份识别算法的研究，从97年开始，随着近年来机器学习、深度学习的兴起而达到高潮。本课题主要体现在人机交互领域中的应用。,BiomimeticandIntelligentRoboticsLab,一、背景、意义和现状,BiomimeticandIntelligentRoboticsLab,在传统的人机交互系统中，无法根据交互对象的身份制定交互策略,二、研究内容,BiomimeticandIntelligentRoboticsLab,基于多模态的身份识别及其在仿人机器服务机器人上的应用,为什么选这三种,自然性非接触性不被察觉性唯一性,二、研究内容,BiomimeticandIntelligentRoboticsLab,主要考虑两个问题：1.已知的身份对象：根据身份属性信息制定相应的交互策略2.未知的身份对象：使用one-shotlearning的方法解决,三、多模态身份识别算法,BiomimeticandIntelligentRoboticsLab,三种融合策略：特征层级融合底层匹配层级融合中间层决策层级融合最顶层,三、多模态身份识别算法,BiomimeticandIntelligentRoboticsLab,匹配层级融合中间层,三、多模态身份识别算法,BiomimeticandIntelligentRoboticsLab,决策层级融合最顶层,三、多模态身份识别算法,BiomimeticandIntelligentRoboticsLab,特征层级融合底层,四、创新点,BiomimeticandIntelligentRoboticsLab,在特征层级上融合了三种模态信息进行身份识别,设计了一种基于身份属性信息制定交互行为的决策生成系统,将多模态身份识别算法应用到迎宾机器人,五、研究基础,BiomimeticandIntelligentRoboticsLab,三个大点：理论及算法实现上：对于将深度学习应用于多模态信息融合的算法有一定研究，在人脸识别和物体追踪做了一些工作。数据集：2018年5月，爱奇艺科技有限公司公开了一个含有50万带有人物标签的视频数据集，可以用于多模态身份识别硬件平台：实验室团队已有一款仿人迎宾机器人,五、研究计划,BiomimeticandIntelligentRoboticsLab,1.研究计划2018.112018.12查阅收集文献资料，确定论文题目，撰写开题报告2019.012019.02构建基于双模态信息的融合算法框架，比较多种融合方法2019.032019.04优化双模态身份识别算法，进行实验验证2019.052019.06构建基于三种模态信息的融合算法框架，优化数据集2019.072019.08优化算法，采集实验数据与双模态融合算法实验结果作对比2019.092020.10构建迎宾机器人交互行为的决策生成系统并在迎宾机器人做调试2019.112020.01对决策生成系统进行优化和实验2020.022020.06撰写毕业论文，答辩2