人工智能在自动驾驶决策中的应用与思考分析报告

背景分析红旗新能源HDNGCI■1.1人工智能在自动驾驶中的应用人工智能的出现，使得图像的输入与输出之间通过深度学习等方法进行特征描述，因此不再需要完全依赖人类专家设计特征，特征本身也可以跟学习器一起进行联合优化传统感知与AI感知AI感知优势关键因素人工特征设计分类器学习优势1：Vehicle逐层加工处理优势2：内置特征变换自动学习特征分类器学习Vehicle优势3：模型高度复杂即将深度学习的特殊优势，构化的图像数据进行统计和分析，依靠图像语义分割，将大量的数据抽象和形式化，通过计算机可理解的简单概念构建复杂概念，使得其在自动驾驶感知领域取得了广泛的应用、背景分析红旗新能源HDNGCI■1.2自动驾驶中的规划决策随着人工智能的发展，模型的泛化能力不断增强，特征提取不仅能够应用于感知，同样能够将类似方法应用于决策技术在复杂场景下，人工智能算法自动提取更多的特征，尽可能多的自动学习人类司机的经验，提升算法“拟人化”程度简单交互场景下的规则型决策方法复杂场景下的AI型决策方法送航驾驶员超护自动驾驶决策任务同样具有自己的特征，人工智能方法的引入对自动驾驶决策任务的提升具有潜在优势背景分析红旗新能源HDNGCI■1.3感知型AI与决策型AI的差异决策型AI感知型AI环境的“静态”表示感知，存在相对真值环境的“动态”表示交互，但动作不唯一性，是相对值由于决策的结果与环境之间存在动态交互，且不同决策下的行为表现的差异性较大，给决策型AI的工程化落地带来了困难，探索AI驱动规划决策技术是人工智能技术在自动驾驶领域的下一个重点内容二、相关探索红旗新能源HDNGCIAI决策技术的应用方向AI加“智"AI加“速"自动化标注挖据基于模块化的方法AI数据合成云端大模型训练基于端到端的方法TaCTadLarsingAI模型可通过子模块或一体化的形式部署在车端决策代码中，实现“新手司机”向“老司机”AI可以在自动驾驶数据挖掘、场景生成、仿真测试等方面实现加速，极大提升自动驾驶验证效率和效果的转变相关探索二、红旗新能源HDNGCI■2.1AI决策技术的加“智”方式基于模块化的方法基于端到端的方法自车位姿感知结果导航信息自车位姿

感知结果

导航信息自车位姿导航信息决策规划决策深度学习模型深度学习模型控制被控车辆被控车辆被控车辆易于实现安全性条件的检测运用模型强大的学习能力及对于数据的拟合能力×输出的稳定性和安全性无法保证可以与已有规则方法相结合，进行局部提升易于根据需求进行模型微调模块化限制了中间输出的模态X难以在现有方法基础上进行提升X二、相关探索红旗新能源HONDCI■2.2基于模块化的AI决策通过AI算法提高决策效率和决策性能轨迹粗解生成应急反应场景√基于强化学习，越过繁琐的决策流程，加速自动驾驶系统在紧急场景下的反应√基于机器学习，短时间内从5000余条粗解轨迹中选取出最优轨迹Wust%efcassb0g基于AI实现安全性条件的检测，增强紧急场景的反应能通过局部应用AI模型，实现轨迹粗选，提升算法运算实时性，效率提升了85%以上力相关探索红旗新能源HDNGCI■2.2基于模块化的AI决策扩展搜索空间至时间与空间一体，决策灵活度提升，但高维度空间导致搜索耗时增加以模仿学习为代表的决策AI方法通过将驾驶问题建模来学习从环境表示中给出最优的决策行为联合行为决策流程模仿学习优化决策范围联合行为决策优化·考虑动态与静态·基于模仿学习搭障碍物，通过规则方法在横纵体式坐标系下直·将最优行为决策转换为约空间建AI决策模型，利用神经网络实现决策行为的快速搜素，搜索耗构建最优化问题，求解出最优动作接搜索出最优行为决策，耗费算力序列时降低42%，类人程度显著提升■基于模块化部署决策A的优势，实现部分模块的微调，实现决策规划模块的性能提升相关探索红旗新能源HDNGCI■2.3基于端到端的AI决策以感知地图信息、障碍物历史轨迹信息、车辆运动信息作为输入，以人类驾驶数据为真值标签便用一套数据驱动的轻量生成网络帮助快速生成规划路径Tesla交互式搜素算法Comma.aiInteractionSearchFOCUSCOMPUTESOUTCOMESIraining+InfrastructureCarpemlatne(Online)运用了模型强大的学习能力及对于数据的拟合能力，利用丰富的上游信息更好的适应道路条件、

交通情况和驾驶场景二、相关探索红旗新能源HDNGCI■2.4A加速”方式使用A技术，可以在数据获取、标注、挖掘、训练等方面，有效提高模型选代效率，缩短开发周期技术应用数据驱动的自动驾驶开发流程车端平台云端平台自动化标注挖掘：A/模型自动挖掘有效数据，加速模型持续选代车端采集数据自动化标注挖掘人工标注质检和精修AI合成数据：云端模型选代仿真环境+A/合成足以乱真的数据，低成本、高效率的获取海量数据AI合成数据云端大模型云端大模型训练通过A/搜素，自动调整模型车端模型送代超参数和模型结构，减少繁项重复工作车端模型二、相关探索红旗新能源HDNGOI■2.5A加速：自动化标注挖掘依托影子模式+云端大算力模型，自动完成数据标注、清洗、挖掘，加速数据向模型能力转化技术应用应用案例自动化标注挖掘：影子模式云端大模型√云端自动标注数据，降低成本√自动挖掘有效数据，提高效率当前使用大模型自动标注自动化率可达80%~90%，大量减轻人工标注负担，且标注结果相较人工具有更好的一致性二、相关探索红旗新能源HDNGCI■2.6AI加速：AI合成数据通过仿真环境+AI合成染，源源不断的生成训练数据，有力推动模型送代升级可将场景隐式存储于神经网络，重建自动驾驶场景，模拟罕见、极端场景，支撑模型闭环验证技术应用应用案例数据获取：V短时间低成本获取海量数据√定向获取指定类型有效数据tarn参数空间分析对于自动驾驶规控而言，80%以上的数据是无效数据使用仿真环境+AI合成可以定向获取有效数据，显著加速模型送代二、相关探索红旗新能源HDNGI■2.7A加速：云端大模型训练自动驾驶规控需要面向驾驶风格需求进行设计，对应不同驾驶风格需要构建多种AI模型自适应调整模型超参数与模型结构，避免重复繁琐的调参和模型结构设计工作技术应用应用案例云端大模型训练：√自动调整模型超参数√自动调整模型结构TheVision自适应超参数调整自动网络结构搜索anicngligoreNeDandiritesNorDatasdNt.....IbarifetreM,AlpidnMAIpitha已经成为了未来的发展趋势使用AI技术学习如何进行AI模型本身的训练，目录红旗新能源HDNGI背景分析相关探素几点思考红旗新能源三、几点思考HDNGI■3.1AI在自动驾驶决策应用中的安全风险新一轮的人工智能浪潮受到了工业界以及全社会的广泛关注，随着一批人工智能的落地应用逐渐开始变成现实，安全问题也渐渐显现出来cruisePOLICEPULLOVERDRIVERLESSCARNBCdSANFRANCISCO一辆Uber自动驾驶汽车在美国亚利桑那州坦佩发生交通事故造成一名行人

，这是首起自动驾驶汽车致行人

的交通事故一辆无人驾驶出租车，！由于晚上没开大灯而被在警察走近后，这辆无人车居然突然加速“逃跑”直到远程介入后才停下来2018年3月19日，2022年4月1日，警察拦截，红旗新能源三、几点思考HDNOCI■3.1AI在自动驾驶决策应用中的安全风险人工智能算法对学习样本数据集的正确性存在严重依赖，错误的数据集将导致人工智能算法的错误输出，人工智能算法本身存在安全盲点，难以对数据集的安全性进行分析表现：错误的数据集导致错误输出局限性：安全盲点-·Q：ElizaElizansforroutocorcuttitwithearm比利时男子在与Chai应用程序上的一个Al聊天机器人交谈中，聊天机器人鼓励其通过自杀解除痛苦，该男子最后自杀身亡。-解决办法：需要推进建设人工智能数据集安全管理的相关标准、法规，并构建标准AI模型，对数据集安全性进行监督保障红旗新能源三、几点思考HDNGI■3.1AI在自动驾驶决策应用中的安全风险人工智能算法提取特征的过程是随机化的、不可控的，在不恰当的数据集上算法可能会选择错误的特征，以致使用者不能清晰理解算法的决策机理，难以解释、预测算法的行为和结果局限性：黑盒特性表现：算法输出不可解释INPUT输入OUTPUTBLACK输出BOX黑盒自动驾驶车辆经过一座无人墓地时，车主发现中控屏幕上显示出了可怕的未知“行人”。解决办法：需要构建基于AI与规则混合驱动的强化智能模型及安全大脑，实现可解释的安全兜底。红旗新能源三、几点思考HDNGCI■3.1AI在自动驾驶决策应用中的安全风险系统越复杂，就越有可能包含安全隐患，人工智能算法容易受到输入数据扰动的干扰，出现非鲁棒特征，从而导致模型给出错误的结论表现：系统输入增加扰动后输出错误局限性：

不稳定性无扰动+.007דpanda""nematode""gibbon"8.2%confidence99.3%confidence有扰动57.7%confidence对一幅“能猫”图像增加少量扰动后输入到AI算法中，AI算法将图像错解决办法：需要构建车路云协同监管系统，在大系统、大环境中对AI智能驾驶车辆进行全面监管。红旗新能源三、几点思考HDNGCI■3.2AI在自动驾驶决策应用中的231安全对策模型安全Step1Step6Step3AI标准/法规规则决策规划控制校验AI决策规划感知数据安全Step2Step4Step5安全大脑车路云数据红旗新能源三、几点思考HDNGCI■3.3模型安全策略Step1收集示教数据，训练监督策略Step2收集对比数据，训练奖励模型Step3利用强化学习针对奖励模型优化策略从数据集中采集新的调优数采集调优数据及多个模型输从调优数据集中采样据出贴签展示出期望的决策行为策略生成单个输出对输出结果从好至坏进行打10数据被用于监督学习方法对决策行为模型进行微奖助模型为输出计算出奖励值利用数据训练奖助模型利用奖动值更新策略三、点思考红旗新能源IDNCI■3.4数据安全策略需要对数据的使用权、所有权、运营权进行确权，使用数据时仍需对于敏感数据进行隐私保护，实现在充分挖掘数据使用价值的同时保障数据安全对于规划决策这种相对表达需求，需借助仿真手段构建精准评估模型，快速评估端到端决策效果，进而生成泛化海量高价值场景数据数据训练评测部署自动化标注1②泛化数据筛选！人工设计优质数据标注训练评估模型仿真部署仿真系统红旗新能源三、几点思考HDNOCI■3.5人工智能型与传统规则型任务混合建模个感知融合决策规划算法车辆控制安全仲裁GoalA快格安全仲裁模块通过规则约束交规、安全等预设限制，进而保证AI决策大数据挖摄提取（影子模式）结果的安全可行通过混合传统包含安全规则的决策算法，可以确保AI规划决策算法在行驶过程中底线安全性，从而得到一个安全等级更高的决策框架红旗新能源三、几点思考HDNGCI■3.6安全大脑理念训练奖励模型SENSE构建奖励模型最优排序数据标注：标注元根据预定义的标准对结果进行评估与排序构建训练模型：根据标注员的排序，学习模型的排序规则PLAN最优排序：对模型输出的结果，利用构建的排序模型对其进行排序奖励反馈：将排序后的结果反馈给模型，

以帮助模型改进决策策略ACT送代优化■通过不断选代训练和奖励信号的反馈，模型可以逐渐调整其决策策略，从而实现高类人性表达，为智能体研发提供基础红旗新能源三、几点思考HDNGCI■3.7车路云协同监督车路云协同监督AI智能驾驶车辆行为，形成多重穴余系统级解决方案，获取更及时、更全面外部信息，做出更合理决策不安全安全感知层·路侧和云端辅助单车感知，车辆获取全局道路交通元素实时动态信息，实现超视距感知和极自主换递已知端场景感知补足决策层·路侧边缘计算节点与城市数据中心协同决策为车端提供算力补足控制层未知·云端汇聚车端、路端实时上传的全局信息，指挥调度车辆、调控红绿灯等交通设施，提高交通效率和交通安全格时热单通过车路云方式，逐步实现远程监控一远程监督一远程调度一集群管控转变红旗新能源三、几点思考HDNGI■3.8AI系列标准与法规针对自动驾驶引入人工智能等新技术带来的新问题，ISOIAWIPAS8800等标准、法规提供解决AI相关系统数据集安全性等全生命周期问题的规范，用来解决汽车引入的AI相关算法技术的安全性结合《网络安全法》2023年4月11日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》，《数据安全法》A助《个人信息保护法》等，关注要点在于产品安全评估审查、生成式内容标识与用户数据保护等手级说明ISOIAWIPAS8800RoadVehicles

SafetyandArtificialIntelligenceStrategyandObjectives可以使用现有动能安全方法和标准，进行开发装保审的抵水Industry-specificguidanceonsafety-relatedAl/MLfunctions;A1A2B1Definesultablesafetyprinclples,methodsandevidencefuilingobjectiveswithISO26262(functionalsafety)andISO21488(safetyoftheintendedfunctionality)Harmonizeconceptsalreadydescrib