汽车行业深度报告:AI系列深度04期什么是表征_第1页
汽车行业深度报告:AI系列深度04期什么是表征_第2页
汽车行业深度报告:AI系列深度04期什么是表征_第3页
汽车行业深度报告:AI系列深度04期什么是表征_第4页
汽车行业深度报告:AI系列深度04期什么是表征_第5页
已阅读5页,还剩9页未读 继续免费阅读

付费下载

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

表征:人工智能理解世界的底层语言 4表征三层含义:数据编码、模型特征与意义问题 4数据层面:把原始输入编码成向量 4模型层面:神经网络中间层学到了什么 5哲学层面:表征能否承载真实含义 5表征演进:从人工符号到统一基础模型 6符号AI时代:人工规则构建可解释表征 6特征工程时代:专家特征支撑浅层学习 6深度学习时代:神经网络自动学习表征 7基础模型时代:统一表征支撑多任务迁移 7表征路线分歧:生成、符号、离散与世界模型 7路线一:表征中心vs生成中心 7路线二:符号表征vs分布式表征 8路线三:离散表征vs连续表征 8路线四:显式表征vs隐式表征 9核心争议:理解、坍缩与统一表征仍待验证 9表征是否等于理解 10表征坍缩问题 10表征的可辨识性 10什么是“好表征” 10多模态统一表征是否可能 10物理AI落地:自动驾驶与机器人的表征分歧 自动驾驶:端到端演进下的四类分歧 机器人:动作表征与数据来源是核心分歧 12两个领域的共性与差异 13结论:表征革命是AI范式演进的主线 13风险提示 14表1:“表征”一词的三层含义 4表2:AI表征演进的四个时代 6表3:表征中心与生成中心路线对比 8表4:四组表征路线之争一览 9表5:自动驾驶主要公司/机构的表征路线 12表6:机器人和具身智能主要公司/机构的表征路线 13表征:人工智能理解世界的底层语言表征是理解AI、RNN/TransformerAItokenpatch/tokenHintonMcClelland、Rumelhart1986AIBengioCourville2013表征三层含义:数据编码、模型特征与意义问题“表征哲学表1:“表征”一词的三层含义层面 回答问题 典型象 代表议题输入表征的选

怎样把原始输入编码成机器可算的形式神经网络内部学到了什么这些向量是否“代表”了真实含义

tokenembedding隐藏层激活、潜空间符号与意义的关系

如何影响下游性能表征的可解释性与可控性统计相关性是否等于真正理解证券研究所

《RepresentationLearning:AReviewandNewPerspectives》等其他文献,东吴数据层面:把原始输入编码成向量AI像通常先形成像素矩阵并提取边缘、纹理等特征;文本先切分为token,再映射为SMILESAI国王-+女人/Bengio模型层面:神经网络中间层学到了什么HintonSalakhutdinov2006维codesRombach哲学层面:表征能否承载真实含义“理解“统计相关并不必然等于真正理解。Searle的中文房间思想实验指出,系统即便能够Bender”表征演进:从人工符号到统一基础模型AI表2:AI表征演进的四个时代时代代表方法表征特点局限性符号AI时代,知识图谱、逻辑规无法处理模糊性与1956—1990s,则、专家系统解释不确定性特征工程时代,SIFT、HOG、TF-人工设计特征+浅依赖专家经验,迁1990s—2012,IDF、词袋层学习移性差深度学习时代,CNN、RNN、端到端自动学习连需大量标注数据,2012—2020,Transformer续表征领域专用基础模型时代,GPTCLIP统一表征空间、跨可解释性、幻觉与2020—今,大模型模态对齐对齐问题《ImageNetClassificationwithDeepConvolutionalNeuralNetworks》,《AttentionIsAllYouNeed》等其他文献符号AI时代:人工规则构建可解释表征早期AINewellSimonAIHarnad特征工程时代:专家特征支撑浅层学习SIFTHOG等方法的典任务设计的特征迁移到B深度学习时代:神经网络自动学习表征AlexNet2012Krizhevsky、SutskeverHintonAlexNetImageNet2012)。此后,CNNRNNTransformer2017Transformer基础模型时代:统一表征支撑多任务迁移CLIP”表征路线分歧:生成、符号、离散与世界模型路线一:表征中心vs生成中心表征中心路线主张先优化表征,再迁移到下游任务。对比学习通过拉近同一对象的SimCLRMoCoMAE“”GPTHo等和Rombach表3:表征中心与生成中心路线对比维度表征中心生成中心核心目标直接学习可迁移的表征建模数据分布/生成数据代表方法

CLIP、SimCLR、MoCo、MAE

GPTDDPM训练号 对比失掩重建 下一词逐去噪表征源 显式化征标 生成程涌现机制征 先优可移征 在生分中成征《LearningTransferableVisualModelsFromNaturalLanguageSupervision》,《High-ResolutionImageSynthesiswithLatentDiffusionModels》等其他文献,东吴证券研究所路线二:符号表征vs分布式表征符号路线强调知识以清晰的符号和逻辑规则表达,从而支持组合推理和可解释输出。Fodor与Pylyshyn提出系统性质疑,认为人的思维具有组合规律,若神经网络不能解释这种组合性,则其内部可能仍需要某种符号结构支撑。HintonMarcusDeepMindAlphaGeometry路线三:离散表征vs连续表征离散路线将连续信号映射为有限集合中的token。VQ-VAE先构建码本再将输入匹VQGANTransformertokenembeddingLeCuntoken在压token路线四:显式表征vs隐式表征GAIA-1DeepMindGenieOpenAISora隐式路线主张不必生成像素级画面,而是在潜空间预测未来关键状态。LeCun的Meta争论焦点在于,物理AI决策是否需要生成可见未来画面,还是只需要预测潜空间中的关键状态。表4:四组表征路线之争一览派系 显式线 隐式线 争论点表征是专门学出来学习目标之争

表征中心,CLIP、MAE,

散,分布式表征,连接

的还是生成中涌现的大模型是否涌现真范式争 符号征表征式争 离散征世界型争 显式界型

主义,连续表征,连续潜空间、JEPA,隐式潜空间世界模型

正的符号推理潜空间采用离散token还是连续表示决策是否需要先生成看得见的未来《APathTowardsAutonomousMachineIntelligence》,《NeuralDiscreteRepresentationLearning》等其他文献核心争议:理解、坍缩与统一表征仍待验证表征是否等于理解与Koller表征坍缩问题Jing、LeCunBYOLSimSiam表征的可辨识性不同训练过程、数据来源和模态是否会收敛到相似表征,是可辨识性问题的核心。该问题关系到表征是否具有客观性,以及模型学到的表示能否对应真实世界因果结构。HuhCKASchölkopf什么是“好表征”“好的表征”尚无统一定义。我们归纳出四类判据:1)任务准确率高,对应CLIPImageBind多模态统一表征是否可能CLIPImageBind论层面支持不同模态表征趋同的可能性。物理AI落地:自动驾驶与机器人的表征分歧AI自动驾驶:端到端演进下的四类分歧分歧二在于纯端到端与VLA--动作2025年多家车企转向VLA:“VLA”VLAVLA华为ADS4NWMGAIA系Cosmos表5:自动驾驶主要公司/机构的表征路线公司/构 一句说路线 表征键端到端OneModel;世模型用于云端特斯拉华为理想小鹏蔚来商汤绝影Wayve

仿真与闭环评测ADS4WEWA:云端世界引擎造数据+车端世界行为模型决策VLM→VLAtoken,NWM世界模型,100ms推演216种场景,自带闭环仿真R-UniAD:强化学习端到端+“开悟”世界模型协同GAIA

视频→控制;显式世界模型,云端,显式世界模型双端分工+MoEVLA,语言作中间表征VLA,去语言中介,显式生成式世界模型,车端推演,一段式端到端+显式世界模型显式生成式世界模型特斯拉、华为、理想、小鹏、蔚来、商汤绝影、Wayve等公司官网机器人:动作表征与数据来源是核心分歧tokenflowmatching50HzBeing-H0token;2)π0;3)GR00TN1GO-1VLAVLAFigureHelix采用慢系统理解与快系统200Hz动作输出,英伟达GR00TN1G0GO-1则在VLAMeta21XLabsMarble和DeepMindGenie2表6:机器人和具身智能主要公司/机构的表征路线公司/构 一句说路线 表征键把动切散用语模范Googleπ0PhysicalIntelligenceBeing-H0Helix英伟达GR00TN1智元GO-1V-JEPA2Meta1X/WorldLabs

式flowmatching生成连续动作,50Hz,靠真机数据从大规模人类视频预训练,人手为基础操作器双系统:VLM慢思考+扩散快思考,120Hz开放人形基础模型,VLM+扩散双系统,仿真训练LAVA隐式潜空间世界模型,零样本机器人控制显式生成式世界模型,看视频/造3D世界学任务

离散动作token连续动作,扩散/flow,人类视频+毫米级动作token快慢双系统快慢双系统+仿真隐式动作LatentAction隐式潜空间JEPA显式生成式世界模型Figure、英伟达、智元等公司官网两个领域的共性与差异token/flowAI范式演进的主线AIAI围绕表征中心与生成中心、符号与分布式、离散与连续、显式与隐式世界模

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论