人工智能行业市场前景及投资研究报告:端侧AI变革AI PC-Phone时代_第1页
人工智能行业市场前景及投资研究报告:端侧AI变革AI PC-Phone时代_第2页
人工智能行业市场前景及投资研究报告:端侧AI变革AI PC-Phone时代_第3页
人工智能行业市场前景及投资研究报告:端侧AI变革AI PC-Phone时代_第4页
人工智能行业市场前景及投资研究报告:端侧AI变革AI PC-Phone时代_第5页
已阅读5页,还剩24页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

证券研究报告

行业动态报告端侧AI变革将至,迎接AIPC/Phone时代发布日期:2023年11月7日核心观点

核心观点:端侧AI是AI发展下一阶段,其具备独立性、低时延等性能,能够完成各种AI推理任务,大模型小型化、端侧AI框架开源等为终端硬件承载AI算法提供了可能;端侧AI芯片性能提升,存储、模组等升级打通了终端硬件运行AI算法的道路。AI

PC、AI

Phone作为端侧AI的核心持续向前发展,近期英特尔、高通、联想等国内外厂商持续发布相关产品、战略规划,打造智能终端的同时也完善相关产业生态,我们看好端侧AI产业进展。

端侧AI是AI发展下一阶段,大模型轻量化等技术推进端侧AI发展。端侧AI具备安全性、独立性、低时延、高可靠性等特点,能很好地完成各种AI推理任务。目前,多个大模型均已推出“小型化”和“场景化”版本,其轻量化提供了端侧运行基础。此外,对于数据精度例如INT4、INT8的支持优化、ExecuTorch等AI框架的开源,为端侧AI进展铺平道路。

端侧AI核心在于手机和PC,AI

Phone和AI

PC将开启新时代。从今年2月份举行的世界移动通信大会,高通展示了其手机端离线运行大模型,到5月份微软开发者大会高通展示其PC运行AI大模型,再到近期英特尔、联想等发布AI

PC加速计划、发布首款AI

PC等,可以看出,国内外厂商持续发力AI

Phone和AI

PC,端侧AI将走入新的时代。

AI

PC核心升级在于芯片。AI

PC不同于传统PC的主要之处在于其SoC芯片中要有AI模块,通过AI芯片中的NPU等模块为硬件终端提供算力支撑,从而运行端侧AI大模型。过去PC芯片主要是以Intel为代表的x86架构芯片,AIPC的提出要求了SOC芯片有AI算力,在端侧AI推理能力方面,过去手机上就搭载了NPU,高通经验积累深厚,Intel的笔记本芯片则是CPU+GPU。生态上,Windows也开始全力支持ARM体系,自去年开始了多轮支持Arm架构芯片的操作系统更新,高通大概率会在PC市场上拿到部分份额。除芯片外,DRAM、计算模组等有望迎来新的升级与市场机遇。

我们看好端侧AI产业进展,尤其是AI

Phone和AI

PC领域,其已有相关产品落地,将传统PC、Phone结合上AI能力有望带动整个PC、Phone产业链复苏;通过将大模型赋能终端硬件,AI应用浪潮将有望开启。端侧AI是AI发展下一阶段•

端侧智能化的核心在于数据、底层软硬件、智能力三个方面。端侧设备搭载的传感器、芯片、算法模型赋予其数据采集、计算、分析与推理能力,使其能够在端侧完成数据处理闭环,形成感知、计算、推理三个智能力。•

当前云侧AI呈现向端侧AI的转型趋势。端侧运行具备四大优势:(1)通过终端独立运行以及云-端协同承担计算负载,可大大降低云端算力需求及能耗成本;(2)解决“弱网”“溢云”等极端场景使用难题,保证低时延、高可靠性;(3)强隐私保护性和强定制性,可生成专有用户画像;(4)具有自然语言语音交互的天然优势,可以便捷地获取图片、照片、视频、位置等信息,优化使用体验。图表:端侧AI是必然趋势图表:端侧智能化要素资料:创业邦,中信建投端侧AI在于AIPhone与AIPC•

2023年2月,在于巴塞罗那举行的世界移动通信大会(MWC)上,高通展示了全球首个在安卓手机上跑AI画图大模型的能力。高通AI

Research利用高通AI软件栈(Qualcomm

AI

Stack)执行全栈AI优化,并且首次在Android智能手机上部署Stable

Diffusion。•

首先,为了将模型从FP32压缩至INT8,该团队使用了高通AI模型增效工具包(AIMET)的训练后量化,使模型在高通专用AI硬件上高效运行,在提高性能的同时降低内存带宽消耗。在编译方面,该团队利用高通AI引擎Direct框架将神经网络映射到能够在目标硬件上高效运行的程序中。最后,高通AI引擎Direct框架基于高通Hexagon处理器的硬件架构和内存层级进行序列运算,从而提升性能并最小化内存溢出。这一全栈优化最终让Stable

Diffusion能够在智能手机上运行,在15秒内执行20步推理,生成一张512x512像素的图像。这是在智能手机上最快的推理速度,且用户文本输入完全不受限制。图表:高通在安卓手机上进行StableDiffusion演示图表:高通全栈AI优化资料:高通,中信建投端侧AI在于AIPhone与AIPC•

在微软Build2023开发者大会期间,高通展示了其最新的终端侧AI能力,包括骁龙平台上运行生成式AI以及支持在下一代Windows

11PC上开发生成式AI的工具。•

此次高通发布的重点在其骁龙8cx

Gen

3上。高通展示了集成Hexagon运算单元的骁龙8cx

Gen3在本地运行的优秀表现,并且为了进一步推动其发展,高通开放了AI引擎Direct

SDK,让任何开发者都可以充分利用该硬件进行加速。高通使用集成骁龙8cx

Gen

3的联想ThinkPad

X13s进行了相关展示。•

10月25日,高通在2023骁龙峰会上正式发布了首款基于自研CPU架构“Oryon”的PC平台方案——骁龙X

Elite,可运行包括大语言模型(LLM)在内的130亿参数大模型,进一步优化自研AI芯片业态。根据高通公布数据,骁龙X

Elite单核性能强于苹果M2

Max、英特尔i9-13980HX,能耗还更低,分别降低30%、65%。图表:在搭载高通芯片的PC上运行StableDiffusion图表:在搭载高通芯片的PC上加速图像处理资料:高通,中信建投AI+PC/Phone能大幅提升手机/电脑性能体验•

AI

Phone方面,小米14/14

Pro搭载相关大模型,无需联网,可本地端实现AI画图、智能问答、AI写作等功能,例如根据语音、文字指示生成对应文本甚至程序代码,可细化到APP定制文案;另外,也可根据用户浏览记录、工作内容生成配套的总结和推送;在美图方面,配备了AI抠图和修图技术,可自动替换背景、美化人像,并进行多APP互动;在用户进行休闲游戏体验时,可自动修改为性能模式,实时配套帧率;最后,小米14系列手机也是HyperOS系统产品,可实现与小米旗下的家居互联,自动调控小米音箱、洗衣机等。•

AI

PC方面,在2023

联想Tech

World创新科技大会中,进行了端侧大模型与云端大模型的比较。两个模型同时进行斯德哥尔摩音乐节的规划,生成速度差异不大。值得注意的是,端侧AI的规划内容更加个性化,可以将家庭地址、酒店偏好等考虑进去。图表:小米HyperOS及14系列支持大模型框架应用图表:联想PC大模型与云端大模型并列演示资料:小米,联想,中信建投AI+Phone/PC&需求回暖有望逆转行业颓势•

疫情以来,由于消费需求疲软和库存调整,全球智能手机出货量下滑,2023年前三季度为8.4亿部,仅为2022年同期的85%,但可以看出,22年年底以来,全球智能手机销量下降幅度开始缩窄,今年三季度,全球智能手机销量重回正增长;另一方面,从微软财报可以看到,其个人电脑业务,也在24财年1季度(23Q3)实现同比正增长,这也是从23财年2季度以来微软个人电脑业务重新回归正增长。•

可以看到全球手机与电脑业务有复苏迹象,预计AI+Phone/PC能进一步推动行业颓势逆转的同时也有助于带动其自身起量。图表:全球智能手机销量从21年Q3以来重回同比正增长图表:微软个人电脑业务时隔四个季度重回正增长生产力及业务流程智能云个人电脑4504003503002502001501005050%40%30%20%10%0%生产力及业务流程YoY智能云YoY个人电脑YoY3002502001501005040%30%20%10%0%15%12%11%3%2%0.3%0%-4%-9%-10%-20%-30%-10%-20%-30%-19%00资料:Wind,微软,中信建投大模型轻量化带动端侧AI发展•

模型压缩主要包括模型量化(Model

Quantization)、知识蒸馏(knowledge

distillation)、模型剪枝(Model

Pruning)、低秩适应(Low-Rank

Adaptation)、权值共享(weight

sharing)、结构搜索(architecture

search)等方式。目前,多个大模型均已推出“小型化”和“场景化”版本,其轻量化提供了端侧运行基础。例如,Google

PaLM2中包含4个大模型,按照参数规模,从小到大排列为:独角兽(Unicorn)、野牛(Bison)、水獭(Otter)和壁虎(Gecko)。其中,最轻量的“壁虎”可实现手机端运行,且速度足够快,不联网也能正常工作。•

另一方面,“小型化”大模型加速生成式AI垂直方向发展,加速大模型商业化场景落地。“小型化”大模型的优势包括:(1)可降低训练门槛,降低高算力高投入,吸引更多公司参与;(2)聚焦专业领域,利于提高数据集质量,加速生成式AI训练品质;(3)更容易将大模型与垂直行业需求结合,发挥出行业应用价值。图表:百度文心

ERNIE3.0Tinyv2压缩模式及得分比较图表:大模型小型化模型名字PaLM2小型化版本GeckoLLaMA-7BAlpaca-LORAAlbertBertTinyBertHFL/RBT3文心一言ChatGLM文心

ERNIE3.0Tinyv2ChatGLM-6BBioMedGPTBioMedGPT-1.6B资料:百度,中信建投支持INT4、INT8精度推理,端侧AI能力进一步提升•

定点表示和浮点表示是计算机中常用的数据格式。其中,定点表示中小数点位置固定不变,常用的定点表示有INT4和INT8;浮点表示中包括符号位、阶码部分、尾数部分。符号位决定数值正负,阶码部分决定数值表示范围,尾数部分决定数值表示精FP64(双精度)、FP32

(单精度)、FP16(半精度)的数值表示范围和表示精度依次下降,运算效率依次提升。•

端侧AI使用INT整数精度进行推理,能够有效提升能效和AI推理速度。高通产品管理副总裁Asghar曾表示如果将32位浮点模型转化为INT4整数模型,端侧AI能效将提升64倍。为满足端侧AI的计算需求,业内已有产品支持AI模型以INT精度推理,例如高通人工智能引擎AI

Engine支持INT8的数据格式。图表:

不同应用场景的常见数据格式图表:不同数据格式的构成和用途数据格式构成用途FP641位符号、11位指

常用于对精度要求高的科学计算科学计算:FP64、FP32数、52位尾数FP32TF32FP16BF16INT81位符号、8位指数、23位尾数深度学习模型训练的常见格式运算效率逐渐提升数值精度逐渐提升1位符号、8位指数、10位尾数替代FP32数据格式实现深度学习和HPC计算加速AI推理:AI训练:FP321位符号、5位指数、10位尾数深度学习越来越偏向使用FP16FP16FP8INT8TF32FP161位符号、8位指数、7位尾数提升AI模型的推理速度和部署灵活性8个bit表示一个

INT8精度相对较低,常用于数字

AI模型的端侧推理资料:英伟达,量子位,中信建投PyTorch开源ExecuTorch,相关AI框架已支持端侧运行•

在2023年PyTorch大会上,Meta

AI与PyTorch基金会合作的ExecuTorch模型被宣布可在边缘和移动设备上实现AI推理。随着ExecuTorch的开源,AI应用程序将可实现本地运行,无需连接到服务器或云。ExecuTorch可被理解成PyTorch平台,提供基础设施来运行PyTorch程序,实现从AR/VR可穿戴设备到标准的iOS和Android设备的移动部署。•

ExecuTorch有三大优势:(1)可移植性,能够在移动和嵌入式设备上运行;(2)提高开发人员的工作效率。开发人员能够使用相同的工具链和SDK,从而提高生产力;(3)高性能体验。轻量级运行配合充分利用CPU、NPU和DSP等硬件功能,为最终用户提供了无缝和高性能的体验。•

目前,Meta已将其用于最新一代的雷朋智能眼镜,成为Quest

3VR头显的组成部分。这一变化也预示将PyTorch引入了手机和可穿戴设备等边缘计算平台,进一步迈入设备AI推理新时代。图表:ExecuTorch开源AI推理解决方案图表:Meta将ExecuTorch模型应用于Quest3头显资料:PyTorch,venturebeat,中信建投ARM全球/中国生态未来展望•

PC端Arm生态构建、性能满足要求:1)软件生态构建:解决了之前应用程序稀缺的问题,最新windows11

Arm支持64位版本;2)满足性能要求:苹果笔记本已经证明Arm

芯片在PC上的实力;3)高通与windows

Arm版本深度合作。•

Arm

PC优势:更低的功耗、跨终端协同,微软Arm转型旨在使Windows可以跨平台;图表:PC芯片关键因素PC芯片关键因素能不能用好不好用AI计算能力

性能及软件生态

性价比、时延、功耗图表:苹果历史上的三次电脑架构迁移1994年2005年2020年摩托罗拉68000架构PowerPCIntelX86ArmIntel处理器的能耗显著低于IBM的PowerPC对Intel产品研发进度和质量不满,1983年,采用摩托罗拉的Macintosh1990年代,采用Power

PC的苹果Mac

G52005年,采用Intel的苹果Macbook2020年,采用AppleSilicon的苹果电脑资料:苹果,中信建投AIPC/Phone主要在于AI芯片升级•

AI

PC/Phone相对于原有PC/Phone来说,主要是其搭载了相关的AI芯片。云端在深度学习的训练阶段需要极大的数据量和大运算量,为满足运算需求,云端AI芯片采用“CPU+加速芯片”的异构计算模式。不同于数据中心GPU,手机/电脑端芯片主要要求其体积小、功耗低等特点,往往是采用ASIC技术路线的芯片,这种芯片为专用目的设计,面向特定用户需求定制,在大规模量产的情况下具备体积更小、功耗更低等优点。•

手机AI芯片主要由“CPU+GPU+NPU”构成,通过集成多个模块,做到提升芯片性能的同时能支持相关AI应用算法。例如,以高通AI芯片为例,硬件方面HEXAGON向量处理器可以运行涉及向量数学的应用;ADRENO

GPU运行对浮点精度有要求的应用;KRYO

CPU支持相对较少向量处理、非规则性数据结构和/或复杂流程控制的应用。图表:云端AI芯片和端侧AI芯片技术路线对比图表:高通Hexagon处理器及其功能示意图灵活性成本编程语言/架构功耗主要应用场景定制化程度通用性主要优点主要缺点CUDA、OpenCL等峰值计算能

效率不高,不力强,产品

可编辑,功耗云端训练,云端推理GPU好高低大小成熟高前期投入成本高,不可编辑,

终端推平均性能很强,功耗很低,体积小ASIC定制化不好/研发时间长,技术风险大理资料:高通,量子位,中信建投整合NPU的AIPC芯片正持续发布•

近年来,多家芯片制造商积极整合NPU到其处理器中,以加速AI任务的执行。最早发力的苹果在其M1和M2芯片中成功整合了NPU,其中M2

Ultra处理器可提供高达31.6

TOPS的算力。同使用OpenAI

Whisper语音转录small模型,M2

MacBook可在数分钟内完成工作,而搭载Intel

Core

i5的MacBook则需2小时。在处理生成式AI工作负载的性能方面,苹果Arm处理器比一般x86处理器表现更好。•

当前AMD和Intel两大x86处理器制造商也陆续推出内建NPU的处理器。今年上半年AMD发布Ryzen

7040系列处理器,采用XDNA技术,整合NPU,提供10

TOPS的AI算力,适用于语音辨识和影像处理等AI任务;今年9月,英特尔发布Meteor

Lake的移动PC处理器Core

Ultra,具备低功耗和高性能特性,同时是首款内建NPU可加速AI推理的AI应用处理器,也是英特尔首款专注于AI

PC体验的处理器产品。图表:苹果M3系列芯片架构和能效双重提升图表:Intel首款集成式NPU芯片示意图资料:Intel,苹果,中信建投DRAM存储也是升级要素之一•

生成式AI模型植入到端侧设备中运行一个很重要指标是平均数据速率,这需要消耗大量内存计算,对于终端设备的DRAM等内存硬件设备要求较高。例如,70亿参数规模的LLaMA模型,其FP16版本大小为14GB,而移动设备仅有不到10GB内存,因此通过训练时间优化(如稀疏化、量化或权重聚类)来压缩相关模型才能使其运行在移动设备中,而衡量其性能指标的平均数据速率提升,涉及到DRAM到SRAM等一系列读取的过程。•

Snorkel与斯坦福大学曾提出FlashAttention,通过优化DRAM等内存使用策略,相较于传统的Pytorch而言,模型效果有明显提升。因此,未来若要在手机、PC端运行成百上千亿参数量的大模型,DRAM等存储升级必不可少。图表:手机与PC合计占DRAM终端产品份额近一半图表:通过对DRAM/HBM等内存使用策略改进能很好提升模型性能YoY各产品的份额占比PC3.7%17.2%6.2%12.4%37.0%36.9%5.2%ServerMobileGraphicsConsumer202320227.7%16.1%8.5%PC19.1%22.7%15.3%18.7%18.6%13.2%34.9%38.5%5.3%ServerMobileGraphicsConsumer8.1%资料:Snorkel,Trendforce,中信建投模组厂商积极与芯片厂商合作推出相关AI模组•

端侧AI的发展本质上是终端设备的AI化,终端智能化水平的同时,对其相关算力模组要求有更进一步要求。国内主流物联网模组厂商均开始大力布局AI、算力模组领域,在安防、机器人、工业质检等领域,结合高通相应芯片,开发适配智能模组;在笔电领域,中科创达基于骁龙7c+Gen

3芯片开发用于笔电的智能模组,目前已被广泛用于笔电、PC、工业电脑等领域。•

在未来,预计模组将更多以算力模组的形态呈现。模组将不仅仅是硬件设备的一部分,更是提供强大计算能力的关键组件。算力模组将进一步提升模组的价值量,使得模组在终端设备中的地位更加重要。图表:中科创达基于骁龙7c+Gen3芯片开发的用于笔电的智能模组图表:部分物联网模组厂商布局AI、算力模组领域厂商边缘AI布局公司带算力的模组主要产品形态是SoC智能模组,已经推出基于高通QCS8250芯片平台的高算力AI模组SCA825-W,可全面提供高达15TOPS的算力支持;FM1605G模组与广和通

安提国际AI边缘计算平台AN810-XNX成功联调。公司算力模组目前在支付和车载领域应用比较多,在其他的行业拓展包括各类带边缘算力终端设备、机器人、IPC安防、工业检测和控制等行业。公司在高算力模组领域建立了完善的产品线,可为不同类型边缘计算场景提供相匹美格智能

配的算力。公司的智能模组和算力模组产品中集成了AI处理器芯片,相关产品对应的AI算力覆盖从1.4TOPS到近30TOPS范围,可为各类智能化场景提供AI算力支撑。公司在智能模组、AI算力模组等领域均在做持续性投入。5G、AI等领域的智能化方向不可阻挡,未来公司的这些产品线的前期投入都将带来持续性的业绩贡献。移远通信资料:中科创达,广和通,美格智能,移远通信,中信建投AI

PC的本质是本地端和云端混合协作•

AI

PC本质是云端与本地端协作,利用云端的大数据处理能力丰富本地端的PC使用场景,依托云端算力来提升本地性能平衡。联想CEO认为AI

PC是能够创建本地知识库,运行个人大模型,支持人工智能计算,运用自然交互的更强大、更具备创造能力的智能生产力工具。AI

PC最重要特点使用本地知识库,保护用户隐私的同时满足用户个性化需求。•

AIPC预计在提升PC性能的同时,带动PC相关销量。

AI

PC将成为终端、边缘计算和云技术的颠覆性混合体。图表:AIPC本质是混合协作图表:AIPC演进趋势传统PC基础SmartPC优化AIPC智能学习功能优化特地场景优化功能丰富NLP/CV等基础计算数据处理和计算功能效率低下需要多软硬件配合中本地特定场景优化高云端协同操作复杂需一定基础特定场景操作简化,要求较低简易化操作界面门槛低易用性应用场景基础办公/数据处理特定场景预测分析学习式智能分析预测成本低高中资料:群智咨询,中信建投2024或成AIPC元年:AIPC将逐步替代传统PC•

伴随AIPC逐渐出货且PC换机周期已至,2024或成AI

PC元年。图表:相关厂商AIPC展望品牌AIPC展望预测到2027年,AIPC出货量将达到1.5亿套,市场渗透率达到未来AIPC将显著提高生产力。下半年推出带有Copilot的新版Windows,将加速构建支持AI的PC。AIPC需要搭载更强的CPU,更大的内存和更好的显示器等AI是重塑

PC的巨大机遇,并将成为2024年及以后PC发展的重要驱动力。本地运行AI应用能实现更低的延迟和更强的隐私保护戴尔惠普79%,并逐步取代传统PC。•

当前,各大主要PC厂商都对AIPC业态进行展望,AI

PC将成PC行业拐点成为共识。戴尔将推出带有Copilot的新版Windows,联想首批搭载英特尔Meteor

Lake芯片的AI

PC也已推出。业界将逐步追加AI

PC领域投资,重塑PC生产力。联想首批搭载英特尔MeteorLake芯片的AI

PC于2023年秋季推出,AIPC将成为PC行业的拐点。

联想

PC端还需解决算力和储存等问题,真正意义上无需联网即可实现推理的AIPC将在2024年推出。未来3年将向AI领域追加约70亿元投资,其中很大一部分将会放在AIPC领域中联想正与英伟达,AMD和英特尔紧密合作,积极推动AIPC发展。AIPC在硬件层面与华硕

传统PC的最大不同是集成了

IPU和VPU等AI加速单元。预计2024年三季度AIPC相关产品将趋于成熟,将给用户带来生产力和娱乐的全新体验图表:AIPC出货量及市场渗透率预测图表:AIPC占PC市场比重预测AI

PC出货量(百万套)AI

PC市场渗透率16014012010080150200%180%160%140%120%100%80%1105379%6060%56%4040%1328%2020%07%2024F00%2023F2025F2026F2027F资料:群智咨询,Canalys,中信建投2024或成AIPC元年:AIPC将逐步替代传统PC•

10月19日,英特尔宣布启动AIPC加速计划,该加速计划旨在为相关软硬件供应商提供英特尔的资源,共同推动AIPC产品、方案落地,具体而言,通过利用Intel

Core

Ultra处理器的技术和兼容硬件,围绕相关资源,实现AI和机器学习(ML)应用性能最大化,进而催生全新的使用案例,推动AIPC解决方案连接到更广泛的PC产业。•

英特尔预计其将于包括Adobe在内的100家独立软件供应商进行合作,发展300多项AI加速功能,计划将在音频效果、内容创建、游戏、安全、直播、视频协作等方面继续强化PC体验。据计划目标,其将在2025年前为超过100万台PC带来人工智能(AI)特性。图表:英特尔发布AIPC加速计划图表:英特尔AIPC启动计划以酷睿Ultra为起点资料:Intel,中信建投ARM架构PC芯片成为AIPC芯片争夺制高点•

在AI大模型时代,ARM架构有望替代X86架构芯片成为PC芯片主流。AI大模型对计算能力的需求不断增长。ARM架构PC芯片以其高效能、低功耗的特点,相对适合AI计算任务。苹果基于ARM研发的M系列PC芯片,因其出色的性能而广受消费者好评;高通厚积薄发XElite芯片,有望带来Windows

ARM时代;据报道,英伟达和AMD也在研发基于Arm架构的PC芯片,预计最早将于2025年发售。•

以往ARM

PC芯片在windows领域并未引起变革的主要原因在于生态未完善,但随着高通发布骁龙7c、8c和8cx三代PC芯片,相关生态已逐渐完善,高通发布的X

Elite芯片,直接基于ARM指令集进行设计,性能取得大幅提升,ARM架构PC芯片有望实现突破。图表:全球笔记本电脑芯片出货量市场份额图表:全球Arm笔记本出货量增速英特尔

AMD

arm30%100%2.710.71912.817.61524%1890%80%70%60%50%40%30%20%10%0%21.415.125%20%15%10%5%23%23.21619.325.314.416.715.510%9%787%707068676361602%0%20222023202420252026202720202021202220232024202520262027资料:Counterpoint,中信建投英特尔、AMD、苹果、高通混战,AI

PC芯片市场格局有望重塑•

AMD继于今年第二季推出Phoenixe平台的Ryzen

7040系列处理器后,也预告将于下一代8050系列进一步增强AI功能;英特尔则在将Movidius

VPU导入其Meteor

Lake平台的处理器,接续推出的Arrow

Lake和Lunar

Lake平台,都宣示了英特尔加大对AI处理器投入的决心;高通也于10月25日的2023骁龙峰会上正式发布了首款基于自研CPU架构“Oryon”的PC平台方案——骁龙X

Elite,可运行包括大语言模型(LLM)在内的130亿参数大模型,进一步优化自研AI芯片业态。苹果也于10月30日发布

M3、M3Pro

M3Max

系列芯片,为首批采用业界领先

3

纳米工艺打造的个人电脑芯片,可将更多晶体管封装于更小的芯片空间中,实现速度和能效的双重提升。图表:AIPC芯片处于混战局面图表:半导体芯片厂商对AIPC布局公司产品发布时间说明英特尔MeteorLake9月19日轻薄笔电,可执行边缘AI运算强化AI能力,可总结电子邮件、撰写简易文稿、协助生成图像等高通苹果AMDSnapdragonXElite10月25日10月30日最快Q4最高阶系列Ultra设置32核心,具备独立执行小模型运算能力M3Phoenix1&2面向AIPC资料:高通,微软,Intel,苹果,AMD,中信建投高通发布XElite,于PC芯片市场意义重大•

10月25日,高通在骁龙峰会上发布骁龙X

Elite,其为Oryon

CPU和Adreno

GPU等组成的4nm

ARM架构的PC

SoC。•

与其竞争对手相比,该芯片能提供高达两倍的CPU和GPU性能,且功耗更低,单线程能力强于英特尔的X86芯片i9-13980HX和苹果的ARM芯片M2

Max,AI引擎能提供高达75TOPS的AI算力。骁龙XElite专为AI打造。XElite能够支持在终端运行130亿参数大模型,面向70亿参数大语言模型每秒生成30个token,能够很好处理邮件总结、文本编写、图像生成、图像生成等任务,变革用户与PC交互。OEM厂商预计将于2024年中推出搭载骁龙X

Elite的PC。图表:高通骁龙XElite平台详细参数图表:高通骁龙XElite性能有明显提升资料:高通,中信建投高通XElite芯片自研CPU架构•

高通大部分芯片直接从ARM购买IP,以此为基础进行相应修改,例如Kryo芯片以及骁龙芯片。为了进一步提升芯片性能并抢占市场份额,高通开始转向直接基于ARM指令集设计芯片,开发定制内核。•

NUVIA核心人员具有丰富的芯片设计经验,致力于提供行业领先的高性能、低功耗SoC产品。NUVIA创始人Gerard

Williams

III、Manu

Gulati、John

Bruno均在AMD和苹果公司从事多年芯片设计工作,具有丰富的芯片设计经验。NUVIA基于ARM

v9构建的CPUPhoenix,相对于其他x86、ARM架构产品具备性能、功耗优势。在功耗与其他ARM架构功耗相同或为其他x86架构功耗的1/3时,Phoenix架构的峰值性能提升在50%至100%左右。•

高通收购NUVIA后,将开发基于ARM指令集的新一代CPU。下一代CPU最初将适配于Windows

PC,之后会拓展至旗舰智能手机、汽车、数据中心、元宇宙等多个领域,在高性能和低功耗SoC领域处于领先地位。图表:Phoenix

Geekbench

5测试结果图表:NUVIA创始人情况曾就职于TI、ARM。2010-2019年任苹果首席CPU架构师,主持研

A7-A13处

MacM1

Pro、M1Max。曾

AMD、

2009-2017任苹果首席SoC架构师,指曾就职于ATI、AMD。2012-2017年任苹果系统架构师,打造基于ARM的移动芯导多款iPhone及iPad

SoC设计。

片。2017-2019年任谷歌系统架构师。2017-2019任谷歌首席SoC架构师。资料:高通,中信建投谷歌、小米等厂商持续推出AI手机•

10月4日,谷歌发布Pixel8

/

Pro系列,搭载了Tensor

G3和Titan

M2安全芯片。Tensor

G3

AI芯片可运行更复杂的机器学习模型,强化了Pixel8

/

Pro系列的AI增强功能,使虚拟助理说话更自然,并有拦截骚扰电话、转录语音和紧急服务功能。Pixel8Pro号称是第一款直接在设备上运行谷歌AI模型的手机,其计算量是Pixel

7上最大ML模型的150倍。•

10月26日,小米14系列发布,其首发搭载高通最新一代移动芯片骁龙8

Gen3,能效比提升显著,AI性能提升98%。通过本地端运行大模型,提升了隐私性,并实现AI妙画、AI搜图、AI写真和

AI扩图等一系列功能。其中,AI写真功能可通过对多张照片的学习,创作出全新的照片作品;在14系列的WPS上,也支持输入主题一键生成PPT演示文稿,也能进一步细化调节,例如更改主题风格、单页美化、更改字体、更改配色、生成演讲稿等等,解决了用户使用PPT制作难度大、耗时长的办公难题。图表:谷歌Pixel8Pro图表:小米14系列资料:谷歌,小米,中信建投AIPhone芯片主要由高通主导•

高通是全球移动设备及其他无线产品基础技术、产品开发的领导者,2021年后,高通向AIoT领域布局,公司将以智能手机中积累的连接、终端侧智能和高性能低功耗计算等技术领先优势,围绕手机、汽车、IoT三大“智能网联边缘”场景持续扩展“统一的技术路线图”,发展混合AI。在手机方面,高通公司以近半的市场份额保持AI智能手机处理器出货量领导地位,远超苹果和联发科等其他公司。•

高通骁龙8

gen3在手机芯片性能比较方面超越了苹果A17

Pro,其是高通首款专为生成式人工智能而精心设计的移动平台。该处理器最大的升级在AI引擎,可以在设备上运行生成式AI模型,上市初期即支持20多种AI模型;主打各种

AI相机功能,例如从图像和视频中删除对象、创建假背景、增强照片的某些部分、实时拍摄

HDR

照片、创建同时使用前摄和后摄拍摄的Vlogger视图模式。图表:以骁龙865为基准的手机/平板性能综合对比图表:高通骁龙8Gen3综合参数A16骁龙8Gen28Gen2领先版A17Pro骁龙8Gen3M1iPadProM2iPadPro050100150200250300350资料:高通,IT之家,中信建投除了AI手机外,手机厂商也在持续发力AI大模型•

国内AI厂商也持续发力AI大模型。小米自研图文大模型预训练语言模型MiLM-6B,参数规模为64亿,并在C-Eval和CMMLU基准评测中都取得了出色的成绩;vivo自研vivoLM,分成十亿(1B/7B)、百亿(66B)和千亿(130B/175B)三个级别。其中,7B的版本是vivoLM

将对外开放的版本,目前在C-Eval总榜单位列第一,在SuperCLUE榜单位列国内第一;Oppo大模型AndesGPT位列榜单第四;在8月的开发者大会上,宣布将盘古大模型引入鸿蒙,智慧助手小艺将接入AI大模型能力,为HarmonyOS带来更智慧的体验;在10月24-26日的高通骁龙峰会上,荣耀也宣布其

Magic6

将搭载全新骁龙

8

Gen3移动平台,并应用自研70亿参数端侧AI大模型,未来还将进一步发力。图表:Vivo、OPPO研发大模型登上C-Eval总榜单图表:Vivo登上SuperCLUE总榜单SubmissionDateSocialScienceOPEN多轮开放问题OPT三大能力客观题#01ModelvivoLMQwenCreatorvivoAccessPrivatePrivateAvg86.185.7Avg(Hard)

STEMHumanities

Others排名模型机构总分使用---GPT4OpenAIAnthropicOpenAI87.0872.4671.1288.0775.1173.1285.668.4868.13APIAPIAPI2023/10/3065.271.980.481.689.792.890.68788.885.2Claude2GPT3.5AlibabaCloud2023/10/29

23CW-MLMCloudWalk

Private2023/10/202023/9/288358.659.374.873.391.586.785.77987.586.9vivoLMvivo70.7466.7876.67申请AndesGPT-7BOPPOPrivate79.9

Moonshot月之暗面百度70.4269.2666.0261.8177.0380.44网页文心一言4.0API深圳云天算云天书

法技术有限

Private公司42023/8/3177.155.270.48878.677.9

SenseChat

3.0商汤科技科大讯飞69.2563.9963.1659.2678.3971.08APIAPI7讯飞星火V3.0567GalaxyZuoyebang

Private快手

Private小i机器人

Private2023/8/232023/9/152023/10/2773.773.773.260.54671.462.968.78671.679.47568.879.668.8KwaiYii-66B云雀大模型(豆包)82.784.9658字节跳动清华&智谱百川智能64.3965.9362.759.1158.5357.7772.377.0270.09网页APIHZ6056.7ChatGLM2-ProUniGPT2.0

Unisound((山海)

云知声)89WebWebWeb2023/10/132023/9/42023/9/472.971.871.655.260.357.967.670.668.582.281.372.37175.965.8

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论