智能座舱系统开发应用与测试 课件全套 学习任务1-8 走进智能座舱 - 智能座舱OTA与远程控制系统装调与测试_第1页
智能座舱系统开发应用与测试 课件全套 学习任务1-8 走进智能座舱 - 智能座舱OTA与远程控制系统装调与测试_第2页
智能座舱系统开发应用与测试 课件全套 学习任务1-8 走进智能座舱 - 智能座舱OTA与远程控制系统装调与测试_第3页
智能座舱系统开发应用与测试 课件全套 学习任务1-8 走进智能座舱 - 智能座舱OTA与远程控制系统装调与测试_第4页
智能座舱系统开发应用与测试 课件全套 学习任务1-8 走进智能座舱 - 智能座舱OTA与远程控制系统装调与测试_第5页
已阅读5页,还剩525页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

智能座舱系统开发应用与测试走进智能座舱01学习任务一定义·功能·架构·发展趋势·实训设备授课团队智能网联汽车技术专业教学团队职业教育智能网联汽车类专业活页式创新教材课程目录CONTENTS·02/5701走进智能座舱02语音交互系统开发与测试03人脸识别交互系统开发与测试04驾驶员监控系统开发与测试05手势交互系统开发与测试06智能座舱显示触控系统的装调与测试07智能座椅装调与测试08智能座舱OTA与远程控制系统装调与测试学习任务6·智能座舱显示触控系统的装调与测试02/57本讲内容Contents本任务的六个教学段落01任务导入任务描述·思考讨论·思政引领02任务分析育人目标·任务分解03任务资讯定义·驱动因素·发展阶段·功能·技术·架构04任务准备教学实训车·综合实训平台·安全事项05任务实施认识实训车·参数对照·认识平台·演练记录06清洁整理现场6S·任务小结·思政升华学习任务1·走进智能座舱02/54LEARNINGTASK1走进智能座舱智能座舱是整车智能化发展的核心构件之一。本任务将带你从定义、功能、技术架构到实训设备,系统认识智能座舱。子任务1智能座舱概述子任务2发展和趋势子任务3认识实训设备课程:智能座舱系统测试装调(高级)03/54一、任务导入智能座舱·第三生活空间·整车智能化核心构件任务描述如果您是新能源汽车销售的实习生,在接待客户时,如何向客户介绍新能源汽车的亮点——智能座舱?智能座舱搭载了哪些创新技术,拥有哪些功能?能给客户用车带来哪些方便?客户应该如何选择合适的智能座舱车型?任务接受·岗位角色学生担任新能源汽车销售岗位实习生,用诚信、友善的方式向客户介绍智能座舱的概念、技术及功能,增强客户对民族汽车品牌和自主研发智能座舱的了解、自豪和信任。学习任务1·走进智能座舱04/54智能座舱:从驾驶体验走向出行体验驾乘·娱乐·社交·办公·急救,让座舱成为第三生活空间智能化+网联化的车内空间基于网络互联体验的车内空间外延,实现人·路·车·云端智能交互一、任务导入·思考讨论带着问题走进智能座舱问题1智能座舱搭载了哪些创新技术?问题2智能座舱拥有哪些功能?问题3智能座舱能给客户用车带来哪些方便?问题4客户应如何选择智能座舱车型?想一想要回答以上问题,都需要学习智能座舱的基本知识。学完本任务,请你用3分钟向家人介绍:什么是智能座舱,它凭什么让汽车不再是单纯的交通工具?学习任务1·走进智能座舱05/54观察你身边的智能座舱大屏交互·语音助手·手势控制·人脸识别·HUD抬头显示一、任务导入·思政引领科技是第一生产力·民族自信爱国兴邦座舱域控制器基本被以高通为首的美国芯片巨头垄断,核心技术必须掌握在自己手中。鼓励民族汽车工业自研具有自主知识产权的座舱域控制器,落实科技兴国战略。科技自强智能座舱域控制器是智能座舱技术架构的核心。我国还处于社会主义初级阶段,需要大力引导科技创新,发展民族工业,把创新主动权牢牢握在自己手里。睁眼看世界与发达国家相比,我国在核心技术领域还有差距。要加强基础教育,实施科教兴国,培养创新精神和实践能力,提高公民科学素养,树立民族自信心和自豪感。学习任务1·走进智能座舱06/54华为鸿蒙操作系统HarmonyOS2019年8月发布,打破国外对操作系统的垄断二、任务分析·育人目标知识·技能·素养知知识目标·能简述智能座舱的发展历程、发展阶段、发展趋势及面临的挑战·能概述智能座舱在汽车中的主要功能应用及创新技术·能概述智能座舱与智能汽车的区别·能概述智能座舱技术架构的构成与核心组成模块技能目标①自主查询资料的能力

②自主分析问题、解决问题的能力素养目标①培养爱国兴邦的情怀②树立民族自信心和自豪感③培养科技是第一生产力意识④培养追求科学、睁眼看世界的全球意识学习任务1·走进智能座舱07/54二、任务分析·任务分解三个子任务·由认知到实践子任务1智能座舱概述什么是智能座舱·与智能驾驶的关系·发展驱动因素·主要功能与创新技术子任务2智能座舱的发展和趋势发展阶段·发展里程碑·技术架构演进·发展趋势与挑战子任务3认识智能座舱实训设备智能座舱教学实训车·智能座舱系统综合实训平台·安全注意事项实施路径步骤1明确任务→步骤2学习资讯→步骤3认识设备→步骤4现场演练→步骤5总结复盘以销售实习生岗位情境为主线,先建立知识框架,再走进实训室认识两大实训设备,完成从理论到现场的认知闭环。学习任务1·走进智能座舱08/54三、任务资讯八个知识板块+一个案例链接(一)智能座舱的定义什么是智能座舱·对人的智能与对车的智能·与智能驾驶的关系(二)发展的驱动因素国家战略·技术突破·市场选择·客户需求(三)发展阶段电子座舱→人机互动→第三生活空间(四)主要功能人机交互·安全监控·信息娱乐·环境感知·舒适·OTA与远程·车联网(五)创新技术人机交互·人工智能与机器学习·感知与识别·VR/AR(六)技术架构硬件与软件组成·EEA演进·域控制器CDC·操作系统·Hypervisor(七)发展趋势&(八)挑战架构升级融合·生态定义汽车·数据孤岛·安全隐患·商业模式案例链接问界M7车机生态:4S店销售对话实战学习任务1·走进智能座舱09/54(一)智能座舱的定义什么是智能座舱教

材

定

义汽车座舱即车内驾驶和乘坐的空间。智能座舱(IntelligentCabin)是指配备了智能化和网联化的座舱,是为驾乘人员提供驾乘或其他功能的全流程智能体验的车内空间,以及基于网络互联体验的车内空间外延。什么是"座舱"车内驾驶和乘坐的空间,是驾乘人员直接感知与使用的物理载体。什么是"智能"对人的智能+对车的智能,让座舱可感知、可交互、可决策、可进化。一句话理解智能座舱正逐渐从驾驶体验向出行体验转变,成为"第三生活空间"。学习任务1·走进智能座舱10/54智能座舱概念图(教材图1-1)人·路·车·云端

智能交互(一)智能座舱的"智能"体现在哪对人的智能·对车的智能(1)对人的智能通过软硬件设备和感知技术的突破简化人机交互过程。例如在AB柱及后视镜上安装摄像头,提供情绪识别、驾乘人员年龄检测、遗留物检测、安全带检测等;行驶中提供场景化服务,实现驾乘、娱乐、社交、办公甚至急救功能。(2)对车的智能智能座舱是伴随智能汽车发展而产生的,已成为整车智能化发展的核心构件之一,是汽车智能驾驶功能的延伸,与其他智能终端共同集成智能化和网联化技术,实现与人、路、车、云端智能交互,可实现机器半自主甚至自主决策。学习任务1·走进智能座舱11/54感知精细化、人性化的座舱人脸识别·手势交互·AR-HUD·多音区语音(一)智能驾驶与智能座舱的关系相辅相成·一体化大势所趋智能汽车的两大模块智能汽车包括智能驾驶和智能座舱两个模块,同属人工智能技术的分支。智能驾驶又称自动驾驶,包括辅助驾驶和无人驾驶,从0智能到无人驾驶分为

L0~L5共6个级别。如何相互成就车辆进入自动驾驶状态时,智能座舱可自动切换至娱乐或工作模式;智能座舱结合人工智能技术,通过传感器等设备可实现自动驾驶、自动制动、自动避障等功能,减轻驾驶员的压力和疲劳。趋势判断目前智能座舱和智能驾驶还处于不同的架构下,但随着人工智能技术不断进步,两者的一体化将是大势所趋。汽车制造商将把两者融合,打造更完善的智能化汽车系统,为用户提供更智能、高效的用车体验。学习任务1·走进智能座舱12/54智能座舱与智能驾驶的融合(教材图1-2)(二)智能座舱发展的驱动因素为什么会有这个"新事物"为什么会有"智能座舱"这个新事物?哪些因素在背后影响它的孕育与发展?从教材的视角看,共有国家战略、技术突破、市场选择、客户需求四大驱动因素,它们共同构成了智能座舱落地开花的基础。1国家战略角度"汽车强国"战略目标,助推智能座舱。国家出台多项扶持政策,明确安全、高效、绿色、文明的智能汽车强国目标。2技术角度技术突破助力落地开花:分布式架构升级到集中式架构和中央计算电子架构;芯片算力及域控制器快速发展。3市场角度自动驾驶难产,智能座舱先行:易落地、易呈现品牌差异、易感知,成为车企争相竞逐的焦点。4客户角度消费者需求是关键推动因素:历史痛点亟待解决,未来延伸充满想象。用户需求才是行业发展的基础。学习任务1·走进智能座舱13/54(二)国家战略:政策助推国家出台的部分鼓励政策(教材表1-1)文件名称发布部门发布时间中国智能网联汽车技术发展路线图工信部2016.01国家车联网标准体系建设指南(智能网联汽车)工信部、国家标准化管理委员会2017.12车联网产业发展行动计划工信部2018.12智能汽车创新发展战略国家发改委2020.02节能与新能源汽车技术路线图2.0工信部、中国汽车工程学会2020.10新能源汽车产业发展规划国务院办公厅2020.11关于加强智能网联汽车生产企业及产品准入管理的意见工信部2021.07车联网网络安全和数据安全标准体系建设指南工信部2022.02关于开展智能网联汽车准入和上路通行试点工作的通知工信部2023.11政策带来了什么这些政策的出台,为智能汽车的发展建立了完善的行业标准、法规和补贴政策:·促进技术规范化和标准化·推动资本积极进入·激发消费者购车需求·鼓励企业加强研发投入·推动产业升级和转型在政策、供需市场、资本、产业生态层面为智能汽车发展奠定了良好基础。学习任务1·走进智能座舱14/54(二)技术角度:突破助力落地架构升级·芯片算力(1)架构:分布式→集中式/中央计算传统分布式架构中各功能ECU各自为政:主控芯片CPU算力为对应功能专门设计,算力低下且无法协同;FlexRay、LIN和CAN低速总线传输能力弱,无法满足智能座舱高效处理数据的需求。集中式E/E架构和中央计算电子架构可降低整车成本、提高可拓展性,为OTA创造基础条件(教材图1-3)。(2)芯片算力及域控制器随EE架构升级,智能座舱域控制器成为智能座舱的"大脑"。集成功能越来越多、数据越来越复杂,座舱对算力的需求持续增长;应用生态丰富与数据安全处理也推高了算力需求。目前乘用车座舱域控制器主控SoC被高通牢牢把控,占据绝大部分市场。学习任务1·走进智能座舱15/54电子电气架构:从分布式到(准)集中式的演进座舱域控制器主控板:算力即体验(二)市场角度

与

客户角度自动驾驶难产,智能座舱先行易落地自动驾驶受政策、法规和技术成熟度制约进展缓慢;智能座舱无需遵守那样的法规限制,产业链生态成熟,研发与产业化成本和风险更低,是现阶段汽车智能化的一个重要突破点。易呈现品牌差异在关键硬件、车身设计越发同质化的背景下,智能座舱可自定义、灵活的特性更易与品牌特性结合形成差异;互联网企业也可借座舱实现弯道超车。易感知消费者对发动机、底盘、自动驾驶参数了解有限,而对显示设备、智能交互、在线导航娱乐的升级感受直接,更容易在选购过程中被打动。客户角度1·历史痛点人们已习惯智能产品和数字化的生活方式,而传统汽车座舱存在操作频繁、信息繁杂、互动性差、功能单一、人性化不足等问题,消费者需要一个智能化的汽车座舱来解决以上问题。客户角度2·未来延伸汽车不再是单纯的交通工具,而将成为新型移动智能终端、第三生活空间。例如特斯拉智能座舱的游戏功能(教材图1-4);未来消费者对座舱的智能、个性、安全、可靠、健康将提出更高期望。学习任务1·走进智能座舱16/54用户需求才是行业发展的基础(三)智能座舱发展阶段三个阶段的演进阶段1电子座舱阶段起步于车载信息娱乐系统,电子产品逐步上车,屏幕开始进入座舱。→阶段2人机互动阶段语音、触控、手势等多维交互上车,座舱开始"听懂人、看懂人"。→阶段3第三生活空间阶段与智能驾驶结合,解放驾驶员的手和大脑,成为智能移动终端。想一想现代汽车的座舱发展到了哪个阶段?你日常体验到的功能,分别对应哪个阶段的特征?学习任务1·走进智能座舱17/54智能座舱与人进行交互(教材图1-6)(三)电子座舱阶段1924→20181924车载收音机车载信息娱乐系统的起点,最早可追溯至1924年的车载收音机。2001中央显示屏入驻宝马引入中央显示屏,从此中央显示屏入驻汽车座舱。2006GPS民用化美国开放GPS民用化,基于触屏显示的导航功能成为推动座舱电子化的强劲动力。2018域方案上车伟世通和安波福两个主流的电子座舱控制域方案开始将电子座舱域推向市场。学习任务1·走进智能座舱18/54传统机械仪表:指针与物理开关时代电子化/数字化仪表:屏幕重构座舱(三)人机互动

与

第三生活空间家·工作场所·第三生活空间人机互动阶段座舱开始具备多维度的感知与交互能力:语音识别、触控大屏、手势控制、人脸识别逐步上车,智能座舱与人进行自然的交互,从"人适应车"走向"车懂人"。第三生活空间阶段智能座舱的发展趋势是与智能驾驶相结合,最终解放驾驶员的手和大脑,成为一个智能移动终端:不仅可以实现人机互动,还可以代替手机、计算机的功能,召开商务会议、开展工作,成为家、工作场所之外的第三生活空间(教材图1-7)。学习任务1·走进智能座舱19/54第三生活空间:休息、娱乐、办公皆可在座舱完成移动的智能空间:从驾驶体验走向出行体验(三)发展里程碑事件教材图1-820世纪90年代车载嵌入式电子产品种类日益增多,平台化、模块化开发的需求明显,车载操作系统得以应用。2015年安卓Auto和苹果CarPlay分别发布,实现了手机和车载系统的互联。2019年CES展多家车企、零部件供应商和科技企业发布完整智能座舱解决方案,整合人工智能、VR等前沿科技。2021年CES展宝马iDrive8加入5G技术;奔驰展示全新人机交互系统(超大曲面屏+三块OLED无缝衔接);松下发布ARHUD,将3D、人工智能驱动的关键信息投影到驾驶员视线中。学习任务1·走进智能座舱20/54(四)智能座舱的主要功能七大功能①人机交互功能智能座舱核心功能。通过语音、手势、触控等方式交互,方便操作车辆和各种功能,实现智能控制。人机交互技术也是智能座舱的核心技术。②安全监控功能监控车辆各种行驶数据(车速、转弯角度、制动情况等)以及驾驶员的疲劳程度、注意力分散、身体健康状况,及时预警提示。③信息娱乐功能提供远程办公、上网、通信、音频、视频、游戏等信息娱乐功能,让智能座舱成为第三生活空间。④环境感知功能实时感知车内外环境变化:车辆位置、续驶里程、路况、温度、湿度、气压等,以便进行实时调节和优化。⑤驾乘舒适功能提供智能香熏、智能座椅、露营超级大床等舒适性功能,使驾乘人员在使用过程中更加舒适。⑥OTA和远程控制功能OTA实现软件升级、远程监控、故障远程修复,持续开放新功能;远程控制可远程起动、开门、控制空调音响,查看实时状态与定位。⑦车联网功能在交通环境中实现路侧单元、行人、云端服务之间的信息交互和协同(教材图1-9):车云互联(含OTA与远程控制)+车际互联(C-V2X车与万物互联)。详见下页。学习任务1·走进智能座舱21/54(四)主要功能·①②③人机交互·安全监控·信息娱乐①人机交互功能语音、手势、触控多模交互。例如小鹏五音区精准控车,区分主副驾与后排的语音指令,实现"谁唤醒来执行"。②安全监控功能DMS驾驶员监控系统实时监测疲劳与分神;同时监控车速、转弯角度、制动等行驶数据,及时预警提示。③信息娱乐功能远程办公、上网、通信、音视频、游戏一应俱全,座舱成为家与办公室之外的第三生活空间。学习任务1·走进智能座舱22/54(四)主要功能·④⑤⑥环境感知·驾乘舒适·OTA与远程控制④环境感知功能实时感知车内外环境变化:车辆位置、续驶里程、路况、温度、湿度、气压等,进行实时调节和优化。⑤驾乘舒适功能智能香熏、智能座椅、露营超级大床等舒适性功能,让行驶和使用过程更舒适。⑥OTA和远程控制功能OTA实现软件升级、远程监控、故障远程修复;远程控制支持远程起动、开门、空调、音响,查看实时状态、故障诊断、定位、盗抢锁车报警。学习任务1·走进智能座舱23/54(四)主要功能·⑦车联网功能车云互联+车际互联(C-V2X)车联网通信技术(教材图1-9)在交通环境中实现路侧单元、行人、云端服务之间的信息交互与协同,是智能座舱对外互联的纽带。(1)车云互联连接车辆与云端,包含OTA与远程控制技术,实现软件升级、远程监控、故障远程修复。(2)车际互联连接车辆与周边车辆、路侧单元、行人,主要指C-V2X技术——车与万物互联(VehicletoEverything)。学习任务1·走进智能座舱24/54(五)智能座舱的创新技术四类核心技术智能座舱日新月异的发展,离不开各类创新技术的支撑。当前市面上主流应用可归纳为以下四类。1·人机交互技术智能座舱核心技术之一:语音、触控、手势识别、视觉交互,提供智能体验并促进行车安全。2·人工智能与机器学习技术学习驾乘人员偏好与习惯,提供个性化服务,实现语音助手与智能推荐。3·感知与识别技术借助传感器与摄像头,对驾乘人员与环境进行感知识别,自动调整座舱设置。4·虚拟现实与增强现实技术VR沉浸式娱乐+AR叠加现实导航,带来全新体验(教材图1-10)。学习任务1·走进智能座舱25/54(五)创新技术·①②人机交互·人工智能与机器学习①人机交互技术智能座舱核心技术之一,包括语音交互、触控交互、手势识别、视觉交互等,为驾驶员提供智能体验,并促进行车安全。②人工智能与机器学习技术座舱系统通过学习驾乘人员偏好与习惯提供个性化服务,如依据音乐喜好自动播放偏好列表;并实现语音助手与智能推荐,带来更智能的服务与建议。学习任务1·走进智能座舱26/54(五)创新技术·③④感知与识别·虚拟现实与增强现实③感知与识别技术智能座舱利用传感器与摄像头对驾乘人员和环境进行感知与识别:人脸识别自动调整座椅、音乐、温度;环境感知实时监控温湿度、光线,提供最适宜乘坐环境。④虚拟现实与增强现实技术VR抬头显示带来沉浸式娱乐(观影、游戏、虚拟旅行);AR将虚拟元素叠加到现实场景,提供更丰富的信息与导航服务(教材图1-10)。学习任务1·走进智能座舱27/54(六)智能座舱的技术架构以域控制器为中心整体定位智能座舱系统以域控制器为中心,在技术架构平台上融合座舱软硬件资源,实现人车交互与车与外界互联。各厂家方案虽有差异,但组成均包含硬件部分与软件部分。硬件部分底层硬件层(SoC、座舱域控制器、T-BOX、智能座椅等)+中间传感器层(摄像头、扬声器阵列、温度传感器等)+终端执行机构+OTA/远程通信设备。软件部分系统软件(操作系统、中间件、通信软件)+应用软件(App)。软件定义汽车时代,软件在技术架构中愈发重要。学习任务1·走进智能座舱28/54(六)技术架构·硬件部分四层结构(教材图1-11)①底层硬件层SoC、座舱域控制器、T-BOX、智能座椅等核心硬件。②中间传感器层摄像头、扬声器阵列、温度传感器等感知设备。③终端执行机构电动机、智能座椅等执行部件。④通信设备用于OTA与远程控制的通信模块。学习任务1·走进智能座舱29/54(六)技术架构·软件部分系统软件·功能软件·应用软件系统软件(基础软件)介于硬件与应用软件之间的过渡中间层:操作系统、中间件软件(Hypervisor虚拟机监视器)、通信软件等。应用软件通过操作系统调用硬件资源。功能软件位于系统软件与应用软件之间,如各类控制算法软件,用于调配座舱域控制器等系统资源,以及数据保护安全软件、通信软件。应用软件(App)面向用户的上层软件,在应用层调用系统已有接口实现功能:人机交互软件(人脸/语音/手势识别、DMS)、信息娱乐软件、各类办公软件等。软件定义汽车随着软件定义汽车时代到来,软件在智能座舱技术架构组成中越发重要,成为车企获取用户数据、流量变现的重要端口。学习任务1·走进智能座舱30/54(六)技术架构·EEA发展趋势三域融合(教材图1-12)集中式EEA按功能维度划分动力、车身、底盘、座舱、自动驾驶等域,由域控制器(DCU)统一调度ECU,提升可扩展性。自动驾驶域AD承担感知、规划、决策等智能驾驶算力。智能座舱域CD座舱域控制器CDC提供整体算力平台支持。车身控制域VD统一管理车身电器与底盘控制功能。当前已基本融合为三域,并向中央计算—区域控制阶段演进(多域融合)。学习任务1·走进智能座舱31/54车内各功能模块的ECU各自为政,其主控芯片中CPU的算力,是为对应功能专门设计,算力低下且无法协同。分布式E/E架构的核心降低整车成本,提高整车可拓展性,为整车OTA造了基础条件,非常适合智能座舱发展所需的调整和升级。智能座舱集成的功能越来越多,因此座舱对算力的需求将持续增长。域集中式架构的优势(六)技术架构·传统分布式架构向中央计算的域集中式架构转化(六)智能座舱域控制器CDC技术架构核心(教材图1-13)CDC=高算力

SoC+功能安全芯片+外围配套以一颗高算力SoC芯片为核心,辅以功能安全芯片与外围辅助配套芯片,构成完整座舱域计算单元。CPU通用逻辑运算:系统调度、外部资源访问。GPU图像3D渲染、图像拼接、运行大型3D游戏。NPU神经网络算法加速器,处理AI计算需求。外围接口支持显示屏、摄像头、音响、传声器等设备。学习任务1·走进智能座舱32/54智能座舱域控制器CDC(SmartCockpitDomainController)是在以前车载娱乐系统(IVI)的基础上整合了多个独立的控制单元(如Cluster),并集成了更多的智能化的功能(如DMS),使车内功能和用户体验变得越来越丰富。SOC是CDC最最最重要的元器件,它决定了CDC的性能和功能,还影响其可靠性、安全性和未来扩展能力。智能座舱域控制器自动驾驶域控制器及芯片(七)AI座舱与AI驾驶技术架构升级融合中央域控制器自动驾驶域控制器及芯片(七)AI座舱与AI驾驶技术架构升级融合(六)座舱操作系统·五大内核进程/内存/设备/文件管理Linux内核开源、高度可定制,AndroidAutomotive即基于Linux。QNX内核实时操作系统,高实时性与可靠性,用于安全/驾驶辅助。AUTOSAR内核开放汽车电子架构规范,统一接口实现互操作。Windows内核部分车机信息娱乐系统采用,图形与多媒体丰富。RTOS内核实时响应、高可靠,及时完成任务调度与快速响应。按改造程度,车载OS分为定制型、ROM型、超级App三类。鸿蒙由华为2019年8月发布,打破国外操作系统垄断,国产OS在座舱生态中占据一席之地。学习任务1·走进智能座舱33/54(六)操作系统·三类形态定制型·ROM型·超级App大部分主机厂车载OS基于Linux、Android定制。按对内核改造程度不同,分为以下三类①定制型OS基于Linux自主研发的独立OS:特斯拉Version、Google车载Android、华为鸿蒙、百度AliOS。②ROM型OS基于Linux/Android有限定制,不改内核:比亚迪DiLink、蔚来NIOOS、小鹏XmartOS。③超级App将手机映射至车机:苹果CarPlay、百度Carlife、华为HiCar。学习任务1·走进智能座舱34/54(六)Hypervisor虚拟机监视器VMM(教材图1-14)位于操作系统与硬件之间的代码层,将硬件平台分割成多个虚拟机,实现一台主机运行多个操作系统。Type1(裸机型)直接运行在硬件上,车用主流。QNX负责仪表、Android提供娱乐、RTOS提供实时性,多个OS共享一套车机硬件。Type2(主机型)运行在主操作系统之上,依赖宿主系统,非车用主流方案。意义:灵活分配系统资源,高效协调不同功能的通信与协作。学习任务1·走进智能座舱35/54(七)智能座舱的发展趋势两项方向座舱芯片与自动驾驶芯片从独立发展,向一体化融合演进,座舱即移动第三空间。1·架构升级融合当算力、架构、软件能力提升,整车迈入“中央计算式”,“舱驾一体”“舱行泊一体”成为架构升级融合方向,座舱芯片与自动驾驶芯片有望融合发展。2·软件定义向生态定义发展产品生态边界不断延伸,汽车摆脱驾驶与娱乐场景,进化成集家居、娱乐、工作、社交于一体的“智能移动空间”,成为真正移动第三空间。学习任务1·走进智能座舱36/54(八)智能座舱面临的挑战三大挑战1·数据的“孤岛效应”智能座舱智能化依赖海量数据训练,但车企间缺乏数据互联互通,向外界公开车辆与驾驶数据不符合行业要求,形成“孤岛效应”制约体验提升。2·信息与数据的安全隐患OTA与远程控制为用户带来便利的同时,也带来了数据安全与隐私泄露的隐患。3·商业模式的变革软件定义汽车使座舱成为获取用户数据、流量变现、OTA收费的重要端口,倒逼车企从整车销售商转向软件服务与数据流量持续收费模式。学习任务1·走进智能座舱37/54案例链接·问界M7车机生态销售情景对话鸿蒙车机生态销售顾问向客户介绍问界M7:搭载完全自主知识产权的华为鸿蒙OS,手机/车/计算机互联成“超级终端”,导航、影音、视频通话无缝流转。沉浸体验停车时手机游戏无缝投屏大屏,配合华为SOUND音响享受音乐影院;HUD抬头显示+AR实现车道级AR导航、巨幕观影、数字精灵。车机生态=智能驾驶+智能座舱两大模块经鸿蒙车载OS有机互联,座舱借助OTA与远端互联,免费升级功能包与生态应用。学习任务1·走进智能座舱38/54四、任务准备·智能座舱教学实训车基于宝骏KIWIEV改装整车说明集先进技术、安全性、环保及经济性于一体。主体为钣金材料,表面采用喷塑工艺,耐腐耐磨。主要组成(9部分)整车车身·驱动及供电系统·HUD系统·座椅系统·交互系统·多功能方向盘·中控车机·前置摄像头·阵列麦克风学习任务1·走进智能座舱39/54四、任务准备·实训车产品参数(1)整车·驱动·HUD·座椅·交互整车车身外形≥2700×1500×1400mm;轴距≥2000mm;车架:高强度铝合金/高强度钢。驱动及供电系统最高速度≥60km/h;电机功率≥30kW;续航≥250km;锂离子动力电池≥25kWh。抬头显示HUD直流电压9~36V;功耗3W;CAN500Kbps;工作温度-40~+85℃。智能座椅系统车规级座椅;主驾电动四向调节;支持上位机线控调节。交互系统摄像头获取驾驶员手部数据;支持≥10种手势控制;可自定义手势功能。学习任务1·走进智能座舱40/54四、任务准备·实训车产品参数(2)方向盘·车机·摄像头·麦克风·远程多功能方向盘车规级方向盘;多媒体调节按键;档位切换杆。中控车机处理器i7-4500U;内存8GBDDR3L;存储128G;4×USB3.0/4×USB2.0;2×RJ45千兆;6×COM;2×HDMI;自带WIFI;12V直流输入。前置摄像头30帧/秒;5V;100-120mA;1920×1080P;工作温度-40~+70℃。阵列麦克风全指向;输出阻抗≤1.5Ω;灵敏度-40dB±3dB;收音≤3m;电容;3.5mm-USB可选;线长1.5m。远程控制平板获取车辆电量与设备装调信息;平板控制车窗、雨刮等设备。学习任务1·走进智能座舱41/54四、任务准备·实训车实训功能8项编程与调试1·远程控制系统固件升级、上网测试、OTA、远程控制。2·HUD系统显示功能调试、程序迁移测试。3·人脸识别与香薰人脸识别与智能香薰编程与功能调试。4·手势识别手势识别的编程与调试。5·驾驶员监控DMSDMS驾驶员监控系统的编程与调试。6·语音交互语音控制雨刮/车窗/仿真空调/仿真香薰。7·智能座椅智能座椅系统编程、调试与测试。8·平台联动与智能座舱系统综合实训平台联动。学习任务1·走进智能座舱42/54四、任务准备·使用注意事项高压安全为重点⚠高压警示橙色线缆为高压电缆,操作前务必确认车辆断电并佩戴防护,严禁带电触碰高压部件。充电安全动力电池用220V交流电充电须≥10A(>2000W)负载,由专业电工安装并正确接地、装总开关与漏电保护;直流快充遵循充电站要求。READY未亮READY灯未亮使用12V蓄电池电,不可长时间用灯光/空调,避免耗尽;不足时先给12V蓄电池充电。READY亮起车辆进入READY状态后靠动力电池供电,可长时间使用。冬季用车低温放电性能下降(可恢复),避免急加速、长时间高速,合理用暖风并及时充电。低电量组合仪表电量条显示红色表明电量不足,尽快充电,勿耗尽后再充。学习任务1·走进智能座舱43/54四、任务准备·综合实训平台说明·结构·参数整体说明基于真实整车智能座舱系统开发,具备语音交互、手势识别、抬头显示等功能,满足竞赛人脸识别/抬头显示/手势识别/语音交互编程调试要求。结构组成示教板、工作台、中控车机、仪表显示器、中控显示器、麦克风、扬声器、工控机及配套软件。产品参数中控≥10寸1024×600触摸;仪表≥10寸1024×600非触摸;以太网/USB/蓝牙/WIFI/4G;摄像头30帧、5V、1920×1080P;扬声器≥2W、分离度≥45dB;工作温度-25~60℃。学习任务1·走进智能座舱44/54四、任务准备·平台软件四件套测试·标定·开发①智能座舱系统测试软件摄像头/麦克风/HUD/中控接口测试;触摸测试;支持语音与手势交互控制。②Vmware虚拟机支持对摄像头进行内参标定,获得参数矩阵与畸变系数。③Anaconda开源Python发行版,含conda与180+科学包,支持人脸识别与手势识别测试。④VSCode代码编辑器,用于座舱相关程序与算法的编写、调试与运行。学习任务1·走进智能座舱45/54五、任务实施·概述与流程五步认识法任务概述以小组为单位认识智能座舱教学实训车与综合实训平台,熟悉其结构组成、核心产品参数与平台软件功能,完成安全通电演练并规范填写实训记录,建立对智能座舱软硬件系统的整体认知。1认识实训车整体结构2参数对照记录核对3认识平台结构组成4软件功能测试体验5通电演练实训记录学习任务1·走进智能座舱46/54五、任务实施·步骤1认识实训车整体结构观察要点(8大组成)整车车身·驱动及供电系统·HUD抬头显示·智能座椅·交互系统·多功能方向盘·中控车机·前置摄像头与阵列麦克风。结合电路图识别各系统空间布局与走线。学习任务1·走进智能座舱47/54五、任务实施·步骤2参数对照核对与记录参数项标准值(教材/铭牌)实测记录整车外形尺寸≥2700×1500×1400mm轴距≥2000mm最高速度/电机功率≥60km/h/≥30kW续航里程/电池≥250km/锂离子≥25kWhHUD电压·接口9~36V·CAN500Kbps中控车机i7-4500U·8GB·128G前置摄像头30帧/s·5V·1920×1080P阵列麦克风收音≤3m·-40dB±3dB综合平台屏中控/仪表≥10寸1024×600学习任务1·走进智能座舱48/54五、任务实施·步骤3认识平台综合实训平台结构台体与显示示教板、工作台、中控显示器(≥10寸触摸)、仪表显示器(≥10寸非触摸)。计算与交互工控机与中控车机;麦克风阵列、扬声器(≥2W,分离度≥45dB)。通信接口以太网、USB、蓝牙/WIFI/4G,支持与实训车联动及OTA。配套软件智能座舱系统测试软件、Vmware、Anaconda、VSCode。学习任务1·走进智能座舱49/54五、任务实施·步骤4软件功能认识平台软件系统测试软件摄像头/麦克风/HUD/中控接口测试;中控触摸测试(随机方块点击10次);支持语音唤醒与手势交互控制。Vmware·Anaconda·VSCodeVmware摄像头内参标定;Anaconda人脸识别/手势识别测试;VSCode程序编写与调试。四类软件协同完成座舱功能验证。学习任务1·走进智能座舱50/54五、任务实施·步骤5通电演练安全演练与记录①通电前检查确认高压线缆已隔离、充电线路合规;READY灯未亮时仅用12V蓄电池,避免长时间耗电。②安全通电遵循操作规范进入READY状态,确认仪表与中控正常启动。③逐项测试用测试软件依次完成摄像头、麦克风、HUD、中控触摸与语音/手势交互测试。④实训记录如实填写实训记录表:参数、现象、问题与结论,养成规范作业习惯。学习任务1·走进智能座舱51/54六、清洁整理·6S管理实训现场标准化整理SEIRI区分要与不要,清除无用物品,腾出操作空间。整顿SEITON定品、定位、定量,物有所位、取用快捷。清扫SEISO清除脏污,在清扫中发现设备隐患。清洁SEIKETSU维持前3S成果,形成标准化作业。素养SHITSUKE养成习惯,自觉遵守规范与作业流程。安全SECURITY安全第一,规范用电与高压电缆防护。学习任务1·走进智能座舱52/54任务小结·八条复盘走进智能座舱1·两大模块智能座舱与智能驾驶相辅相成,共构智能汽车。2·三阶段电子座舱→人机互动→第三生活空间。3·七大功能人机交互/安全监控/信息娱乐/环境感知/驾乘舒适/OTA/车联网。4·四类创新人机交互/AI机器学习/感知识别/VR-AR。5·技术架构以域控制器为中心,含硬件+软件;EEA向多域融合演进。6·Hypervisor多OS共享硬件;华为鸿蒙异军突起,国产OS占一席。7·三大挑战数据孤岛/安全隐患/商业模式变革。8·思政升华科技强国、民族自信,掌握核心技术、自主可控。学习任务1·走进智能座舱53/54ThankYou学习任务1·走进智能座舱掌握核心技术·坚定民族自信·迈向智能移动空间学习任务1·走进智能座舱54/54智能座舱系统开发应用与测试语音交互系统开发与测试02学习任务二语音识别·NLP·语音合成·开发调试·固件烧入授课团队智能网联汽车技术专业教学团队职业教育智能网联汽车类专业活页式创新教材课程目录CONTENTS·02/5701走进智能座舱02语音交互系统开发与测试03人脸识别交互系统开发与测试04驾驶员监控系统开发与测试05手势交互系统开发与测试06智能座舱显示触控系统的装调与测试07智能座椅装调与测试08智能座舱OTA与远程控制系统装调与测试学习任务6·智能座舱显示触控系统的装调与测试02/57本讲内容Contents本任务的六个教学段落01任务导入任务描述·思考讨论·思政引领02任务分析育人目标·三子任务分解03任务资讯定义·驱动价值·流程·核心技术·优缺点·Python04任务准备安全总则·设备·工具·教学车检查·互联05任务实施子任务1开发·子任务2调试·子任务3烧入测试06清洁整理现场6S·任务小结·思政升华学习任务2·语音交互系统开发与测试02/54TASK02语音交互系统开发与测试用最自然的方式与机器对话理解ASR·NLP·TTS三大核心技术本章围绕"开发—调试—烧入测试"三个子任务展开一、任务导入任务描述工作情境某新能源汽车4S店售后服务工作中,技术人员接到一项客户改装需求:在座舱内增加语音交互控制车辆功能。作为专业的技术服务人员,你需要弄清楚语音交互系统如何开发与测试,才能把"动口不动手"的智能体验交付给客户。接听电话语音指令开关车窗座舱控制路线导航空调灯光交付目标:让驾驶员"解放双手、注意力转向路面",在行车场景下用自然语言完成座舱控制,提升安全性与便捷性。学习任务2·语音交互系统开发与测试04/54一、任务导入思考讨论面对客户的语音交互改装需求,请围绕以下问题展开讨论:01语音交互系统由哪些核心模块组成?ASR、NLU、TTS、DM各自承担什么角色?02为什么语音交互特别适合座舱场景?它在提升驾驶安全与操作便捷上有哪些价值?03如何在整车环境中完成开发、调试与测试?需要哪些工具设备、软件与操作步骤?学习任务2·语音交互系统开发与测试05/54一、任务导入思政引领科技强国·语音技术自主语音交互核心技术曾长期由国外巨头主导(Siri、Alexa、Cortana等)。以科大讯飞为代表的国产力量持续突破,已占据国内智能语音市场领先地位,并广泛应用于车载场景。引导学生树立科技自立自强意识,在开发中重视用户语音数据与隐私保护,践行"诚信、守信"的职业道德。敬业对语音交互开发中的技术难题独立思考、自主攻关友善在分组实操中协作互助,共同完成整车测试诚信真实记录测试数据,保护客户语音隐私创新在掌握标准流程基础上探索更优交互方案学习任务2·语音交互系统开发与测试06/54二、任务分析育人目标知知识目标1熟悉语音交互系统在智能座舱的应用2掌握语音交互系统的工作原理与技术3熟悉语音交互系统的开发流程技技能目标1正确使用pyaudio和wave录制音频并保存2正确使用requests向语音识别服务器提交数据3正确使用base64解析识别返回结果4能独立在整车环境中完成语音交互系统测试素素养目标1培养独立思考和自主创新能力2拓宽动手能力和实践精神3培养科学思维能力4培养团队合作精神学习任务2·语音交互系统开发与测试07/54二、任务分析三子任务分解为完成"升级座舱语音交互功能"的总任务,将其分解为三个子任务:TASK1语音交互系统的开发编写程序实现语音识别:语音数据采集与保存+语音识别API调用(base64转换)TASK2语音交互系统的调试调试教学车与台架的通信互联,验证扬声器播放与传声器音量联动TASK3语音交互系统的固件烧入和测试基于Python调用API烧入固件,整车实测刮水器/车窗/空调/香薰语音控制学习任务2·语音交互系统开发与测试08/54三、任务资讯六个知识板块(一)语音交互的定义VUI概念·车载常用语音功能·组成与唤醒(二)驱动与应用价值技术/市场/需求驱动·安全性与便捷性·行业概述(三)系统工作流程声音输入→ASR→NLU→DM→TTS的完整链路(四)语音交互核心技术ASR语音识别·NLP自然语言处理·TTS语音合成(五)语音交互优缺点六大优点·三大缺点·隐私与安全(六)基于Python的API调用Python优势·模块/库·百度语音识别API·子任务分解案例与实操子任务1开发·子任务2调试·子任务3固件烧入测试学习任务2·语音交互系统开发与测试09/54(一)语音交互的定义三、任务资讯VUI=VoiceUserInterface语音交互,指人类与设备通过自然语言进行信息传递。通俗地说,就是用开口说话这样最自然的方式给机器下达指令。车载常用语音功能包括:接听电话、开关车窗、广播音乐、路线导航、空调、灯光、车门、刮水器等语音指令。语音交互技术是人工智能技术的重要组成部分,也是智能座舱最自然的人机交互入口。图2-1语音交互的应用:用一句话替代多次手动操作,是座舱"动口不动手"体验的核心。学习任务2·语音交互系统开发与测试10/54(一)语音交互的定义车载常用语音功能在智能座舱中,语音指令可覆盖六大类用车场景:通通讯功能接听/拨打电话车车辆控制开关车窗·灯光·车门·刮水器导导航功能路线规划·目的地搜索娱娱乐功能广播音乐·媒体播放环环境控制空调·温度·风量调节个个性化唤醒词·用户画像·多模态学习任务2·语音交互系统开发与测试11/54(一)语音交互的组成ASR·NLU·NLG·TTS·DM语音交互由语音识别ASR、自然语言理解NLU、自然语言生成NLG、语音合成TTS构成。机器在生成自然语言前,需要对理解的内容进行推理与意图识别,以决定下一步操作或回复方式——这一模块称为对话管理DM(DialogueManagement,又称对话引擎CE)。ASR听NLU懂DM思考NLG答TTS说图2-2简单语音交互模型:从"声音输入"到"语音输出",五大模块串成闭环。学习任务2·语音交互系统开发与测试12/54(一)语音唤醒KWS·唤醒词什么是语音唤醒设备在节能休眠或锁屏状态下,检测到用户设定的唤醒词,即从休眠进入激活状态等待新指令。本质是小型关键词检索(KWS)。唤醒词特点多为三到四个音节、音节覆盖多、差异大,唤醒效果更稳定。主流厂商在设备端一次确认,云端二次确认。车载唤醒应用场景智能家居/可穿戴小爱同学、智能音箱、手表手机/机器人Siri、智能助理智能汽车小鹏"你好,小P"、蔚来"嗨,NOMI"车载唤醒一般通过方向盘处车辆传声器采集,单击中控屏"麦克风"图标亦可唤醒。学习任务2·语音交互系统开发与测试13/54(一)典型处理框架图2-3人机语音交互系统的典型处理框架,是"语音唤醒→识别→理解→决策→生成→合成"的完整链路:语音唤醒声音输入降噪/特征提取ASR识别NLU理解DM对话管理NLG生成TTS合成语音输出唤醒是入口、识别与理解是大脑、合成与输出是嘴巴——三者协同,才构成可对话的座舱语音系统。图2-3人机语音交互系统的典型处理框架:从声音信号到语义表示,再到语音反馈的端到端流程。学习任务2·语音交互系统开发与测试14/54(二)发展驱动因素技术·市场·需求技术驱动1机器学习、深度学习等算法持续进步2计算能力提升,复杂语音处理可在终端或云端高效完成3声学/语言模型不断迭代,识别率提高市场需求驱动1非接触经济兴起,语音作为非接触式交互广受关注2用户追求更自然、便捷、高效的交互方式3车载场景"动口不动手"需求强烈客户需求驱动1驾驶中双手被占用,语音是唯一安全入口2老人/儿童等群体对低门槛交互更友好3个性化、多语种、方言识别需求增长学习任务2·语音交互系统开发与测试15/54(二)应用价值安全性·便捷性提升驾驶安全性语音交互进入汽车领域,可解放驾驶员双手,让注意力转向路面,降低分心带来的安全风险。增强驾驶便捷性减少手动操作带来的不便与分心,导航、音乐、空调等常用功能一句话即可完成,体验更自然。语音交互让人机相距3~5m也能完成交互,在空间上比触控更灵活,是座舱"第三生活空间"的关键能力。学习任务2·语音交互系统开发与测试16/54(二)行业概述主流企业智能语音市场主流企业:科大讯飞·亚马逊Alexa·谷歌·微软小娜·苹果Siri·小米小爱同学·腾讯等国内领先无论从市占率还是综合实力,科大讯飞都占据国内语音市场领先地位,并广泛应用于车载场景。车企平台布局苹果、谷歌、亚马逊、Nuance、阿里巴巴、百度等均为智能座舱创建平台与操作系统,语音成为标配入口。2020年起全球智能语音及人工智能市场大规模扩增,语音交互正从消费电子快速渗透至智能座舱。学习任务2·语音交互系统开发与测试17/54(三)系统工作流程图2-4语音交互系统端到端工作流程(图2-4)声音输入降噪并提取有效指令语音→ASR语音转文字→NLU理解语义与意图→智能算法提取任务特征→DM对话管理决策→TTS文本转语音→语音输出播报反馈闭环关键:识别结果经自然语言理解(NLU)转化为语义表示,由对话管理(DM)调度,最终通过语音合成(TTS)把回答"说"出来。学习任务2·语音交互系统开发与测试18/54(四)语音交互核心技术三大核心技术语音识别、自然语言处理和语音合成,是语音交互技术的三个核心技术ASR语音识别听将语音信号转换为对应文本信息NLP自然语言处理懂/答理解语义并生成自然语言回复(NLU+NLG)TTS语音合成说将任意文字信息转化为相应语音朗读其中对话管理DM是对话系统的中心枢纽:基于对话历史调度人机交互,辅助理解并指导语言生成,是"思考"的中枢。学习任务2·语音交互系统开发与测试19/54(四)语音识别ASR图2-5·五大部分定义ASR(AutomaticSpeechRecognition)让机器通过识别和理解,把一段语音信号转换成对应的文本信息。系统主要包括五大部分:1信号处理2特征提取3声学模型4语言模型5字典与解码图2-5语音识别技术组成及工作流程:信号经处理与特征提取,由声学/语言模型与字典解码得到最终文本。学习任务2·语音交互系统开发与测试20/54(四)语音识别ASR工作流程·关键技术工作流程(5步)1特征提取滤波、分帧等预处理,提取分析信号2时域→频域为声学模型提供合适的特征向量3声学模型匹配计算特征向量在声学特征上的得分4语言模型计算该声音对应词组序列的概率5字典解码解码得到最可能的文本表示关键技术(图2-6)输入语音→特征提取→模型匹配→识别结果训练语音→模型训练算法→语言模型、声学模型语音识别相关技术主要包括:特征提取技术、模型匹配技术、模型训练技术

三个方面。降噪与端点检测让语音信号更真实(见子任务2调试补充图);特征提取可理解为不同发声对应的"语谱图"。学习任务2·语音交互系统开发与测试21/54(四)语音识别ASR声学模型·语言模型声学模型用于识别人发出的声音。发声基本音素状态因人而异,需尽量采集不同人、年龄、性别、口音、语速的语料,并覆盖安静、嘈杂、远距离等多种场景。针对不同语言/方言使用不同声学模型。语言模型计算自然语言句子或短语序列出现概率的数学模型。其发展先后经历:文法规则→统计→神经网络

三个阶段。模型越大识别越多,但计算量也越大,实际常限定应用域。特征提取可理解为"语谱图":每种发声对应的语谱图形状不同,是声学模型匹配的依据。学习任务2·语音交互系统开发与测试22/54(四)自然语言处理NLP图2-7·分类定义NLP(NaturalLanguageProcessing)将人的语言形式转化为机器可理解的、结构化的、完整的语义表示,让计算机能理解和生成人类语言。按终极目标分为两类:NLU自然语言理解将用户输入解析为机器内部语义表示NLG自然语言生成根据内部表示生成自然语言句子回复NLP细分领域分词/词性标注/语法分析文本分类信息检索/抽取/校对机器翻译问答系统自动摘要图文/音视频生成图2-7

NLP的分类:理解(NLU)与生成(NLG)共同支撑"听得懂、答得对"。学习任务2·语音交互系统开发与测试23/54(四)自然语言处理NLP图2-8·工作逻辑工作逻辑:将用户指令进行Domain(领域)→Intent(意图)→Slot(属性槽)三级拆分Domain领域/分类餐饮、导航、音乐…→Intent意图订座、播放、查询…→Slot属性抽取时间、人数、地点…示例:"帮我订张记香锅鱼晚上7点两个位置"→领域

餐饮;意图

订座;属性抽取:时间

晚上7点、人数2人。学习任务2·语音交互系统开发与测试24/54帮我订张记香锅鱼晚上7点两个位置领域/分类意图属性抽取餐饮餐厅定位时间:晚上7点地点:张记香锅鱼定位:两个(四)自然语言处理NLP图2-9·工作流程NLP技术一般分为四个步骤(图2-9)1分词将文章按词组分开→2词法分析词头/词根/词尾拆分,词性定性→3语法分析主语/谓语/宾语等句子元素→4语义分析选择正确词义,正确句法下表达含义四步逐级把"自然语言"翻译成"机器可计算的结构化语义",再由NLG生成回复——这是语音交互"听得懂"的关键。学习任务2·语音交互系统开发与测试25/5484(四)语音合成TTS图2-10·定义定义语音合成又称文语转换(Text-To-Speech,TTS)技术,能将任意文字信息转化为相应语音朗读出来。它位于语音交互闭环的末端:把机器"想说的话"再转换成语音,完成"说"的环节,让交互真正闭环。图2-10语音合成技术(TTS):文本→语音的桥梁,使系统具备"表达"能力。学习任务2·语音交互系统开发与测试26/54(四)语音合成TTS图2-11·工作流程语音合成技术工作流程(图2-11):获取文本→语言处理→韵律处理→声学处理→输出音频步骤

①获取输入文本→步骤

②语言处理→步骤

③韵律处理→步骤

④声学处理→步骤

⑤输出音频文件语言处理负责分词与语义、韵律处理决定停顿与语调、声学处理生成波形——三者共同决定合成语音的自然度与音质。学习任务2·语音交互系统开发与测试27/5487过程:①获取输入的文本→②语言处理→③韵律处理→④声学处理→⑤输出音频文件韵律处理声学处理语言处理(四)语音合成TTS学习任务2·语音交互系统开发与测试88方法:①波形拼接法把波形语音编码技术用于语音合成,首先选取音库中自然语言合成单元的语音波形单元,然后对这些单元进行编辑拼接、数据平滑处理,最后生成输出的语音。

优点:音质最佳,录音和合成音质差异小,正常句子的自然度也好。

缺点:非常依赖语音库的规模大小和制作质量,尺寸大,无法在嵌入式设备中应用,仍然存在拼接不连续性。(四)语音合成TTS学习任务2·语音交互系统开发与测试89方法:②参数合成法通过数学方法对已有录音进行频谱特性参数建模,构建文本序列映射到语音特征的映射关系,生成参数合成器。

优点:对数据的要求要小点。

缺点:质量比拼接法差一些。(四)语音合成TTS学习任务2·语音交互系统开发与测试(五)语音交互优点优点1-31信息传递效率高相比键盘输入,语音输入在速度与准确率上更具优势,用普通话时速度约为传统输入的3.21倍2空间便捷性与触控相比,语音交互可人机相距3~5m进行,增加交互便捷性3使用门槛低对非文字使用场景非常友好,老人、儿童及驾驶等不方便使用文字的人群均可便利使用学习任务2·语音交互系统开发与测试29/54(五)语音交互优点优点4-64学习成本低语音交互与人们平时说话一样,不需要特意学习,大大降低学习成本5传递声学信息·声纹识人通过声纹进行身份判断,下达指令的同时完成身份识别,并可判断性别、年龄层、情绪6声音传递情感语音交互可传递情感与语气,在有情感诉求的场景下是很好的选择学习任务2·语音交互系统开发与测试30/54(五)语音交互缺点缺点1-3·隐私1信息接收效率较低当信息量大、内容较长时效率降低;语音是线性的,必须听完才能理解2嘈杂环境下识别精度降低清晰识别人声困难,远场语音交互中噪声问题更突出3数据保护与隐私安全语音助手普及使隐私与安全问题更重要,需更强身份验证与隐私保护扩展阅读:语音交互发展带来用户数据隐私与保护问题,对人们提出诚实、守信的道德准则;厂商在提供便利的同时应重视保护客户数据与隐私。学习任务2·语音交互系统开发与测试31/5493计算机语言人类语言编程编程是编定程序的中文简称,就是让计算机代为解决某个问题,对某个计算体系规定一定的运算方式,使计算体系按照该计算方式运行,并最终得到相应结果的过程。学习编程是学习人类设计的计算机语言(六)为什么选择Python学习任务2·语音交互系统开发与测试94简单易学、优雅明确、开发速度快JavaCPython(六)为什么选择Python学习任务2·语音交互系统开发与测试9502跨平台兼容性强MacOSLinuxWindows(六)为什么选择Python学习任务2·语音交互系统开发与测试(六)为什么选择Python图2-14自20世纪90年代初诞生至今,Python已牢牢占据人工智能领域编程语言排名第一。其优点有:简单易学开发效率高面向对象免费开源可扩展·可嵌入面向对象:函数、模块、数字、字符串皆对象,支持继承/重载/多继承,模块化更符合人类思维方式,易维护、易复用、易扩展。图2-14

Python语言的优点:语法简单、第三方库丰富,是语音识别开发的首选语言。学习任务2·语音交互系统开发与测试32/5497丰富的库,可以帮助处理各种工作用于数据可视化Matplotlib

库OpenCV

库用于图像处理用于机器学习TensorFlow

库Scrapy

库用于数据收集(爬虫)(六)为什么选择Python学习任务2·语音交互系统开发与测试98①函数名称函数是一段可执行的代码块,用于执行特定的任务或完成特定的操作。定义函数②参数③函数体④返回值(非必要)(六)为什么选择Python学习任务2·语音交互系统开发与测试(六)模块·库标准库/第三方库模块(库)一个Python文件,定义各种功能接口;封装复杂实现细节,仅调用接口即可用几行代码完成复杂功能。标准库(自带)Python语言自带常用模块,无需安装:webbrowsertimewebbrowser打开网页/PDF;time获取系统时间戳。第三方库(安装)开发者开源、发布到PyPI,需pip安装:PyAudiowavebase64PyAudio录音;wave读写WAV;base64编码便于传输。学习任务2·语音交互系统开发与测试33/54(六)API调用步骤以百度语音识别为例API即应用程序接口,调用一般遵循以下步骤(以百度语音识别为例):1访问API提供商网站并注册账户进入百度云官网,选择"立即使用"2注册账号并登录创建对应的控制台账号3创建应用进入控制台创建语音识别应用4填写应用名称与归属如test1,应用描述"学习测试"5获取API密钥用于身份验证与用量追踪6编写用户代码指定请求地址与参数,发送HTTP请求7解析响应并处理结果解析返回JSON,提取识别结果本任务已注册好接口账号,可直接调用易飒云/百度等语音识别API。学习任务2·语音交互系统开发与测试34/54(六)库的安装与任务分解pip·三子任务第三方库安装与引用#安装(指定名称与版本号)pipinstallnumpy#在代码中引用importnumpyasnp常用第三方库无需手动下载,用pip包管理工具安装即可;注意指定正确版本号,错误版本会导致运行时报错。升级座舱语音交互→三子任务①语音交互系统的开发pyaudio/wave采集保存+语音识别API调用②语音交互系统的调试教学车与台架通信互联,验证扬声器与传声器联动③语音交互系统的固件烧入和测试烧入固件,整车实测语音控制功能学习任务2·语音交互系统开发与测试35/54102原理:利用wave,PyAudio搭建一个wav格式的简易录音机,基于语音识别API实现wav格式的音频转文本。所需模块:①PyAudio

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论