AI大模型行业专题报告AI大模型企业是如何炼成的

AI大模型行业专题报告AI大模型企业是如何炼成的（报告出品方/作者：华泰证券，黄乐平、权鹤阳、陈钰）海外大模型：科技巨头独立自主研发，积极主动联盟AI初创公司如何形成“数据-模型-应用领域”的飞轮就是AI大模型企业成功关键我们表示AI大模型就是一个资本密集，人才密集和数据密集的产业，如何形成“数据-模型应用领域”的飞轮，就是大模型企业成功的关键。我们看到海外企业中，谷歌&OpenAI、谷歌已经逐步形成AI大模型的飞轮。当前，国内百度、阿里、商汤、华为等积极主动重新加入，行业呈现“百模大战”的竞争格局，是否能形成飞轮就是最后获得胜利的关键。谷歌&OpenAI领先，谷歌冲上，Meta防御性开源，英伟达转型算力云服务我们通过对海外基础大模型训练企业进行了深度评析。谷歌和OpenAI就是目前大模型技术水平、产品化落地最为前沿的领军者，其对摈弃式技术创新的持续资金投入就是当前领先的深层原因。谷歌技术储备丰厚，自建好业务生态宽阔并且就是AI落地的潜在场景，但管理上未形成合力，目前正在产品化、生态化快速冲上。英伟达就是AI芯片领军者，CUDA框架构筑了其它芯片公司难以逾越的护城河，目前正在从硬件向算力云服务、MaaS的商业模式转型。Meta在产品化上进展缓慢，挑选出模型开源的防御性策略，以应付OpenAI、谷歌等竞争对手的强势闭源模型。AWS作为领先的云服务厂商，超级计算机技术布局领先，但是在AI大模型竞争上的应付稍显露出迟缓。科技巨头正通过其云计算部门，积极主动寻求与AI初创公司的合作Al行业步入大模型主导的时代，大模型的训练和推理小说对大量、可靠的计算资源和存储空间明确提出建议。具备云计算资源的科技巨头和研发大模型的AI初创公司积极主动寻求共赢合作，这种合作模式相近云服务市场的代理人模式。一方面，科技巨头通常以投资或全面全面收购的方式，挑选出一个或多个AI初创公司作为合作伙伴，将大模型能力资源整合至自身产品中，以抢占市场布局大模型主导的AI市场；同时，通过云计算平台提供更多更多大模型能力（MaaS），在云计算竞争中保持市场份额甚至突围。另一方面，作为缴纳换，AI初创公司将获得源于科技巨头的资金、彪悍云计算资源和基础设施的大力支持回去大力大力推进大模型训练；同时也将更多的客户和AI应用领域场景，不仅能以以获取海量意见反馈数据回去优化模型，也不易并使AI技术商业化以平添盈利。因此，这种合作模式或许将导致AI市场结构与云服务市场相近的高度集中的结构。微软为OpenAI打造超级算力集群，并获得其技术的独家授权。据微软2020年披露，微软与OpenAI达成独家合作伙伴关系，并为OpenAI专属打造拥有超过28.5万张CPU、1万张GPU、网络连接能力为400Gb/s的AI超级计算机，用以支持OpenAI的大模型训练。微软则将旗下多种产品与OpenAI技术集成，例如搭载GPT-4的新版Bing搜索引擎和Microsoft365Copilot。微软还推出了AzureOpenAI服务，使得企业客户可以在云平台上直接调用OpenAI模型，通过云平台实现了大模型资源的按需分放。谷歌联手Anthropic，期望在生成式AI掀起的浪潮中巩固自身地位。2023年2月，谷歌向AI初创公司Anthropic投资了近4亿美元，持有后者约10%股份。双方签订了一份大型云合同，谷歌云将为Anthropic提供大规模TPU和GPU加速支持，且将在谷歌云上部署其类ChtaGPT的聊天机器人产品Claude。亚马逊云科技（AWS）面世“中立”的直销平台AmazonBedrock，并使企业级客户能快速、安全和高性价比地调用多种大模型构筑自己的程序。区别于谷歌和谷歌已发布面向大众的产品，AWS对准的就是企业客户，并且期望作为一个“中立”的生成式AI大模型直销平台，不倚赖任何一家AI初创公司。利用Bedrock，企业级客户能通过API调用源于相同提供更多更多商的AI模型，比如说AI21Labs的Jurassic-2、Anthropic的Claude、StabilityAI的StableDiffusion以及AWS自研模型Titan。此外，任何客户数据都无法被用做训练底层模型。OpenAI：全球领先的AI初创企业发展历程：从非营利开端至向营利性全面转型OpenAI就是美国一家人工智能（ArtificialIntelligence，AI）研究实验室，由非营利非政府OpenAI和其营利非政府子公司OpenAILP所共同共同组成，公司致力于构筑安全的通用型人工智能（ArtificialGeneralIntelligence，AGI）以造福人类。非营利开端：硅谷小牛云集，创建非营利非政府以促进AI发展。非盈利性的AI项目OpenAI于2015年正式宣布正式宣布正式宣布正式宣布启动，由许多硅谷小牛共同创建，比如说硅谷创业孵化器YCombinatorCEO的SamAltman、GoogleBrain的IlyaSutskever、时任互联网缴交处理平台StripeCTO的GregBrockman以及特斯拉的CEOElonMusk等，许多创始人都曾就是被誉为“深度学学教父”GeoffreyHinton教授的学生。公司把生成式进度表训练模型（GenerativePre-trainedTransformer，GPT）证实为主要研究方向，先后面世并开源进度表训练NLP模型GPT-1，以及采用迁址自学技术、能同时同时实现多个NLP任务的GPT-2。向营利性转型：与谷歌深度读取，面世席卷生成式AI浪潮的ChatGPT。2018年，由于ElonMusk担任CEO的Tesla等公司也在研发AI技术，为避免潜在的利益冲突，ElonMusk退任OpenAI董事会席位。为提振大模型训练的高算力和资金市场需求，同年，非常非常有限营利公司OpenAILP成立。2019年，OpenAILP拒绝接受谷歌10亿美元投资，与其达成一致一致独家合作伙伴关系。在彪悍算力和充足资金的助力下，OpenAI沿着GPT路线持续发力，2020年面世巍然存大样本形式化能力的GPT-3，2022年面世重新加入命令自学（InstructionLearning）和人工反馈的强化自学（ReinforcementLearningfromHumanFeedback，RLHF）的InstructGPT，并于2022年发布产品化的ChatGPT，席卷了一股席卷全球的生成式AI浪潮。全面转型：大力大力推进商业化步伐，构筑生态圈。2023年1月，谷歌正式宣布正式宣布与OpenAI长期合作伙相随关系步入第三阶段，将稳步向OpenAI投资数十亿美元，并快速产品与技术的资源整合。2023年3月，OpenAI发布工程化的多模态GPT-4，并与各个领域的软件积极开展合作；同月，OpenAI发布ChatGPTPlugins（ChatGPT插件集），将GPT大模型能力与面向用户的第三方应用领域程序可视化，应用领域空间想象力宽阔.团队：年长、背景豪华且高度著眼技术OpenAI有着一支高人才密度、高效率的“特种兵”创始人团队。首席执行官后任携手创始人SamAltman，曾任硅谷创业孵化器YCombinator的CEO，于2015年带领创建了OpenAI，致力于构筑安全且人类级别AI，就是一位有着卓越的商业头脑和战略思维的领导者。总裁兼携手创始人GregBrockman，曾任互联网缴交处理平台Stripe的CTO，在OpenAI曾用九个月时间从“零”开起至变成一名1顶上10的AI工程师，就是技术产品化的第一诱因。首席科学家后任携手创始人IlyaSutskever，曾供职于GoogleBrain，参与了深度自学框架TensorFlow、生成式对付网络（GAN）和序列至序列（Seq2Seq）模型的研究，在OpenAI领导了GPT-1/2/3、DALLE以及ChatGPT等模型的研发。谷歌的AI研究实验室（MicrosoftResearchAI）就是大力大力推进AI研究的主力团队。实验室于2017年成立，隶属于于微软研究院，汇集了源于心智、自学、推理小说和自然语言处理等多个AI研究子领域的顶尖科学家，旨在将相同学科融合出以大力大力推进AGI技术研发。ChatGPT团队由一群年长、背景豪华、经验丰富且高度著眼技术研发的人员共同共同组成。AMiner与智谱研究发布的报告说明，团队规模虽严重不足百人（共87人），但有着以下显著特征：1）平均年龄32岁，“90后”就是主力军；2）学术能力和业界经验均著重，其中存10人源于谷歌；3）技术人员近九成，高度著眼技术研发；4）LLM领域的经验丰富，1/4团队成员曾参与Codex项目。算力：彪悍的算力提振GPT转化成大模型创造力大模型的训练和推理小说对算力消耗明确提出高建议，AI超级算力集群有力推动GPT系列发展。2020年，谷歌为OpenAI专属打造出具备多于28.5万张CPU、1万张GPU的AI超级排序机，通过Azure云平台给与其算力大力支持，并保证该部分算力无法被Azure其他服务占用，为OpenAI的大模型训练布局彪悍且有效率的计算资源和基础设施。此外，芯片龙头企业NVIDIA也与OpenAI保持密切合作，供应最一流的GPU以大力支持GPT系列模型的快速排序，比如说2021年OpenAI将NVIDIA全球首款DGXAI超级计算机用以训练GPT-3.5。谷歌正在自研AI芯片，首要目标就是为OpenAI提供更多更多网络资源。2023年4月，据TheInformation报导，谷歌正在秘密研发自己的AI芯片，代号雅典娜（Athena）。雅典娜芯片由台积电代工，采用5nm一流制程，首个目标就是为OpenAI提供更多更多网络资源引擎，以替代高昂的英伟达A100/H100，节省成本。谷歌从2019年就已经已经开始研发这款芯片，目前已在测试阶段。模型：秉承GPT技术路径，持续积极探索生成式AI潜力OpenAI从18年至一直沿着GPT路线持续发力，通过GPT1/2/3/3.5/4等模型不断地进行技术积极探索。在模型架构上，GPT就是侧重于分解成的单向模型。模型的基础架构就是Transformer的解码器，解码器的第一个自注意力层重新加入了遮挡机制，并使句子的未来信息被隐藏，由于就可以通过自学当前和历史的文本信息，回去对下一个字进行预测，因此属于单向的生成式模型。分解成式模型较之心智式模型通常具有更高的灵活性和较弱的形式化能力，在应用领域时极具通用性。不断扩大数据量和弁数量进一步提高模型的整体整体表现。GPT系列模型结构秉承了不断堆叠Transformer的思想，通过不断提升训练语料的规模、网络的参数数量回去顺利完成GPT系列的运算更新。InstructGPT非常大地提升了通用型AI系统与人类意图的对齐能力。InstructGPT基于GPT-3的架构，引入了命令自学（InstructionLearning）回去并使AI系统更遵守人类指令，减少产生有害或错误内容的可能性；同时，引入人类意见反馈的强化自学（ReinforcementLearningwithHumanFeedback，RLHF）训练机制，通过强化自学范式并使生成式AI生产量的内容更符合人类意图。多模态能力和预测开拓工具并使GPT-4与万物可视化。2023年3月，OpenAI发布GPT-4，模型大力支持文本和图像输入的多模态能力，应用领域空间想象力非常小，料重塑从浏览器至文档智能等的软件可视化。同时，OpenAI面世具备预测扩展性的深度自学堆栈，用极小算力成本就能可靠预测GPT-4在下游纵向领域应用领域的性能，并使小成本广为试用变成可能将将。在挑选出合适的大模型后，模型微调并使通用型基础模型在细分领域的整体整体表现进一步提高。应用领域：以产品为导向形成数据飞轮，逐步构筑生态圈推动技术商业化，形成模型调用、用户数据意见反馈和模型运算的负反馈循环。OpenAI始终以产品为导向，积极主动面世产品以快速以以获取用户，从而赢得用户意见反馈数据回去训练出更好的模型。2020年，OpenAI在发布GPT-3后快速对外开放商用API服务，并使下游客户通过API调用模型能力。在ChatGPT的训练过程中，则带进用户数据意见反馈：1）采用GPT-3API以以获取的真实用户命令微调基础模型；2）引入RLHF训练机制，采用人工标注的数据，通过人类的意见反馈进行强化自学，针对性地进行模型优化。这并使ChatGPT在多个自然语言任务比如文书文学创作、代码生成与修正、多轮对话等中展示出距强于GPT-3的优秀能力，并使有害和不真实输出存效减少。技术与产品的资源整合进一步推动数据飞轮的运转。当前，谷歌将把OpenAI的技术与旗下各应用领域生态的产品资源整合，涵盖企业级云计算、办公、底层代码生成和娱乐可视化等各个应用层面。GPT-4已经已经开始构筑生态圈，与各个领域的软件积极开展合作。BeMyEyes就是一款帮助全世界的盲人以及低视力人群的产品，通过GPT-4的视觉输入功能，BeMyEyes能够大幅度提高VirtualVolunteer对图片的心智程度。语言自学软件Duolingo面世GPT-4驱动的DuolingoMax，能够辅助用户定义答案高下，以及押解用户进行角色扮演式地练。随着AI工具在C端的渗透率逐步提高，各行业生态中的数据意见反馈越来越多样和非常大，进一步推动数据飞轮的快速运转。谷歌：LLM领域的奠基者发展历程：从AI技术研发的领军者至产业化进程的推动者谷歌联手AI初创企业DeepMind，率先展开AI领域的技术布局。2014年，谷歌收购AI初创公司DeepMind。DeepMind持续探索模拟、生物科研、游戏操作、对话聊天等领域的高性能算法，代表产品包括打败世界围棋冠军的AIphaGo、精准预测蛋白质结构的AIphaFold、战胜电竞职业玩家的AIphaStar、智能聊天机器人Sparrow等。在LLM领域，谷歌是新技术研发的领军者和奠基者。2015年，谷歌开源了深度学习框架TensorFlow，其具备灵活、可扩展且易于部署等优势，成为应用最广泛的深度学习框架之一，尤其在工业应用处于领先地位。2017年，谷歌发布NLP领域的里程碑——Transformer，它首次引入注意力机制，使得模型能更好地处理长文本和复杂的语言结构，大幅提高NLP任务的准确度和效率，为后来所有大语言模型奠定基础架构。2018年，谷歌发布3.4亿参数的大规模预训练模型BERT，在理解复杂的语言结构和语义中表现优秀，在多项NLP任务上的效果都远远超过了传统的浅层架构，宣告NLP范式转变为大规模预训练模型的方法。谷歌加快生成式AI产业布局。OpenAI于2022年底推出的ChatGPT掀起了席卷全球的生成式AI浪潮，使得GPT能力在各个行业和领域不断拓展，并对谷歌AI领先地位构成挑战。作为应对，谷歌于2023年2月宣布通过投资联手AI初创公司Anthropic，将在谷歌云上部署ChatGPT的有力竞品Claude，并于同月推出自研的基于1270亿参数大模型LaMDA的聊天机器人Bard。团队：GoogleDeepMind汇集谷歌AI领域人才经过两轮人才资源整合，当前谷歌主要AI研发团队拆分为GoogleDeepMind。为2023年2月，谷歌旗下著眼LLM领域的“蓝移团队”（BlueshiftTeam）正式宣布正式宣布重新加入DeepMind，以共同提升LLM技术的能力。4月，谷歌正式宣布正式宣布正式宣布正式宣布将谷歌“大脑”和DeepMind两大团队拆分，共同共同组成“GoogleDeepMind”部门。GoogleDeepMind部门首席执行官将由DeepMind携手创始人后任首席执行官DemisHass担任；原谷歌大脑团队负责人JeffDean调任谷歌首席科学家，领导谷歌AI有关的最为关键和战略性的技术项目，其中首要项目就是系列多模态AI模型。AI领域的世界级人才与计算能力、基础设施和资源的汇集，将显著大力大力推进谷歌在AI方面积极探索的进展。算力：TPU系列芯片和新一代超级计算机提振AI大模型训练和技术创新TPU（TensorProcessingUnit）就是谷歌专门为高效率排序和快速神经网络训练和推理小说过程而设计的专用芯片（Application-SpecificIntegratedCircuit，ASIC）。2016年，谷歌发布第一代TPU，变成AlphaGo背后的算力。与GPU较之，TPU采用高精度排序，在几乎不影响深度自学处理效果的前提下大幅增加了功耗、大力大力推进运算速度。最新一代的TPUv4发布于2021年，在相似规模的系统训练中，TPUv4比A100排序速度慢1.15-1.67倍、功耗低1.33-1.93倍。TPUv4卓越的性能、可伸缩性和灵活性并使其变成大力支持LaMDA、MUM、PaLM等大规模语言模型的主力产品。谷歌面世新一代超级计算机A3VirtualMachines，为大型语言模型技术创新提供更多更多动力。谷歌于2023年5月的I/O大会发布A3超级计算机，其采用第4代英特尔至强可以开拓处理器、2TBDDR5-4800内存以及8张英伟达H100。此外，A3就是首个使用谷歌订做设计的200GbpsIPU的GPU实例，GPU间的数据传输绕过CPU主机，通过与其他虚拟机网络和数据流量分拆的USB传输，网络带宽较之A2增加10倍，具有低延后和高带宽稳定性。A3超级排序机专门设计用做训练和服务对计算资源建议极高的AI大模型，这些模型将推动当今生成式AI和大型语言模型的技术创新进展.框架：领先的自研深度自学平台TensorFlow2015年，谷歌开源了深度自学框架TensorFlow，其就是当前AI领域主流开发工具之一。TensorFlow采用排序图回去则则表示神经网络排序过程和数据流动，从而同时同时实现高效率的循序数据处理和运算，尤其在大规模分布式训练方面具有优势。TensorFlow还提供更多更多了广为的工具和API，可以用做各种类型的深度自学应用领域，比如说计算机视觉、自然语言处理和语音识别等领域。此外，TensorFlow具有较好的可移植性，能够在多种硬件设备和操作系统上运转。目前，TensorFlow生态系统健全，为研发人员提供更多更多了从模型构筑至部署和运营管理的全套工具链，就是深度自学领域应用领域最广为的框架之一，特别在工业级领域应用领域处于领先地位。模型：各技术路线的模型储备多样，多模态大模型同时同时实现人机交互领域突破谷歌在AI各技术路线上积累了多样的模型储备。从基础架构的角度，其技术路线主要可以分为三个方向：1）基于Transformer氢铵编码器（Encoder-only）：与单向分解成的GPT模型相同，氢铵编码器模型就是侧重于心智的双向模型，通过并行计算和多头注意力层回去自学单词之间的相关性，同时同时实现上下文心智。主要模型涵盖语言模型BERT、LaMDA、PaLM、基于LaMDA的对话模型Bard以及多模态视觉语言模型PaLM-E。2）基于Transformer氢铵解码器（Decoder-only）：氢铵解码器就是单向分解成模型，主要用做句子分解成。主要模型涵盖谷歌的语言模型FLAN、DeepMind的语言模型Gopher。3）基于Transformer统一架构（Encoder-Decoder）：统一模型框架能兼容以上两类模型的心智和分解成的下游任务。主要模型涵盖语言模型T5、对话模型Sparrow。多模态视觉语言大模型PaLM-E同时同时实现人机交互领域的关键性脱胎换骨。2023年3月，谷歌发布5620亿参数的多模态视觉语言模型PaLM-E，就是PaLM-540B语言模型与ViT-22B视觉模型的融合。与传统的语言模型较之，PaLM-E具有更高的效率和灵活性，可以根据输入的为丛藓科扭口藓杂度和任务的市场需求动态地转化成相同的模块。同时，PaLM-E可以通过文本、图像和视频等多种类型的输入回去心智和掌控机器人等实体化系统，从而同时同时实现解构的能力。PaLM-E的发布代表着人机交互领域的一次关键性脱胎换骨，在工业、商业、办公等领域的机器人应用领域上有着奋身大的想象力。最新的大语言模型PaLM2在多语言能力、代码能力和逻辑能力上赢得明显提高。谷歌于2023年5月的I/O大会发布PaLM2，模型基于2022年10月明确提出的AI崭新架构Pathways，并基于TPUv4和JAX框架训练。在语言能力上，PaLM2的训练数据多于100种语言，能心智、译者和分解成更准确和多样化的文本；同时，PaLM2在20种编程语言上进行训练以提升代码能力。在逻辑能力上，PaLM2在推理小说、数学任务测试中显著优于PaLM，并与GPT-4相当。此外，谷歌在PaLM2的基础上还训练了用做编程和调试的专业模型Codey，安全科学知识模型Sec-PaLM以及医学知识模型Med-PaLM2。模型压缩技术将快速AI技术与智能终端的融合。PaLM2主要囊括4种规格（Gecko、Otter、Bison和Unicorn），其中体积最重的Gecko可以在手机上运转，每秒可以处理20个Token，大约相等于16或17个单词。模型压缩技术或将变成同时同时实现AI大模型在边/端的部署的核心技之术，快速AI技术与智能终端融合。应用领域：积极主动布局生成式AI应用领域以迎接挑战谷歌在过去更侧重于刊载论文，没有能够及时将成果产品化。谷歌在各种路线上发布了很多模型，论文成果多样，但均未能踏入象牙塔落地；同时，旗下DeepMind研发的基础语言模型Gopher、Chinchilla和对话模型Sparrow也尚未产品化。积极主动布局生成式AI领域应用领域以迎接挑战。谷歌于2023年2月发布基于1370亿参数大模型LaMDA的AI聊天机器人Bard。相较于ChatGPT，Bard的优势就是：1）能够利用回去自互联网的信息提供更多更多最新、高质量的回复；2）瞬间分解成文本块；3）得出结论的答案囊括三个相同的版本或草稿，用户可以切换其中任何一个答案。此外，谷歌在4月发布了Bard的更新版本，升级了数学与逻辑能力。2023年5月I/O大会，谷歌展现出了Bard大力支持的文字、代码、图像分解成与理解能力，并重点特别强调了Bard与谷歌应用领域，以及外部其他应用领域的协同能力。此外，谷歌通过投资联手AI初创公司Anthropic，投注ChatGPT的有力竞品Claude。面向开发者，谷歌对外开放PaLM的API，并发布工具MakerSuite，帮助开发者们快速构筑生成式AI应用领域。PaLMAPI将为开发者提供更多更多面向对轮可视化而优化的模型，比如内容分解成与对话；也能为开发者提供更多更多全文、分类等多种任务的通用型模型。工具MakerSuite则能帮助开发者快速、随心所欲地构筑和调整自定义模型，在浏览器中就能快速测试和运算调整后的模型。PaLM2生态圈强于25种功能和产品的升级，涵盖办公套件、聊天机器人以及企业级AI平台。在PaLM2的朝拜下，Workspace面世的AIGC工具包DuetAI，其中囊括GoogleDocs和Gmail中的智能文学创作工具、GoogleSlides中的文本分解成图像、演讲备注以及GoogleMeet的会议全文分解成等功能。改良版Bard不仅将大力支持图文多模态，还将互连网络以实时网页搜索；同时，大量Bard+tools的女团将面世，Bard料深度融合至Google所提供更多更多的旧有工科散囊。ToB应用领域方面，VertexAI子集了谷歌研发的基础模型，用户可以按仍须调用模型并对模型的参数权重进行微调；此外，VertexAI还能够根据内部数据建立企业版本的搜索引擎。英伟达：AI时代的芯片领路者发展历程：英伟达的二十年光辉史英伟达成立于1993年，就是全球最轻的GPU供应商，也就是AI时代的芯片领路者。上市初期公司主要高度高度关注PC图形业务，与PC出货量具备高度相关性，主要以OEM的销售模式。后Chinian随着智能手机、平板电脑等消费电子的应用领域出现，公司灵敏捕捉到终端市场需求的变化，将业务战略重点向高端游戏显示卡市场过渡阶段。按照过往经验，英伟达基本每1-2年更新一次游戏GPU架构，凭借彪悍的性能和生态优势快速提升在全球单一制GPU市场市占率，近几年均保持在70%以上的份额。步入2018年数字货币价格大幅下跌，数据中心已经已经开始承包公司崭新增长点，2020年该业务营收增长速度多于120%。此外，我们看到英伟达持续以CUDA为核心构筑护城河，融合CPU+GPU+DPU三大硬件，形成统一的生态闭环，且在各细分领域形成全套解然方案.第一阶段：从图形芯片至游戏显示卡，证实主流赛道形成均衡现金流持续推动业务升级，战略核心搬迁至高端游戏卡领域。在GPU面世初期，以OEM形式订货换购显示卡就是公司关键的总收入来源之一，市场终端应用领域以PC居多，笔记本及平板的普及度尚高，英伟达的产品与PC备货存较低程度的读取。随着半导体行业发展，终端应用领域趋向多元化，PC市场热度从2012年至已经已经开始出现明显下降。此外，随着集成显卡性能的提升，单一制桌面显示卡备货情况也已经已经开始出现衰退。在此市场环境下，英伟达将战略核心搬迁至高端游戏卡领域。在2010-2015年在全球PC市场逐步倒退的情况下，英伟达游戏显示卡出货量5年同时同时实现9%的年无机快速增长，销售均价/总收入分别呈现11%/21%的年无机快速增长。2019年公司游戏业务已经为其贡献了过半营收，而OEM/IP业务收入占比下降至仅6%。第二阶段：构筑通用型排序生态，数据中心业务同时同时实现爆发式快速增长面世革命性架构CUDA，步入发展高速期。2006年英伟达研发出了为并使GPU排序变得通用化的CUDA（ComputeUnifiedDeviceArchitecture）技术，运用GPU并行处理能力回去应付繁琐的排序，次年公司就在图形市场赢得脱胎换骨式快速增长，同时TeslaGPU的面世并使英英特尔成功步入通用型排序时代。经过二十多年的发展，公司已形成涵盖：正视PC和笔记本的GeForce系列，正视工作站的Quadro系列，正视超大型排序的Tesla系列和正视移动处理器的Tegra系列。第三阶段：AI朝拜下，游戏、数据中心、自动驾驶三驾马车助力公司跨入千亿美金市场英伟达经过前期的路径挑选出已经逐步精确了三条主要赛道，同时在人工智能飞速运算的情况下，从元宇宙平台构筑至协助内容创作至AI时代的“台积电”定位，精准把握住每次技术变革：1）游戏方面：英伟达紧邻彪悍的GPU实力不断在游戏行业进行技术创新，面世DLSS、光线追踪等技术提高游戏体验，并进一步推动云端游戏业务发展。23年由于PC端的备货减少短期内影响了游戏业务快速增长，但未来5年游戏业务CAGR仍料达致10%。2）数据中心方面：除了训练/推理小说芯片性能更新，英伟达更侧重于AI超级计算机的打造出和对整个服务器产业链生态圈。其在GTC2023面世的NVIDIADGX超级计算机，将变成大语言模型同时同时实现突破背后的引擎。3）自动驾驶方面，英伟达在硬件上面世了自动驾驶汽车的平台DRIVEHyperion、算力少于每秒254TOPS的系统级芯片DRIVEOrinSoC、新一代集中式车载排序平台DRIVEThor。22年秋季GTC大会公布的中央排序引擎DriveThor芯片由GraceCPU、HopperGPU和下一代GPU共同共同组成,可以提供更多更多2000TOPS算力，预计将在25年搭载于极氪。软件方面则面世了操作系统DRIVEOS、AI辅助驾车平台DRIVEChauffeur、可实现对话式AI等智能服务的DRIVEConcierge等。过去5年汽车业务CAGR为10%，仅占FY23总收入的3%，但未回去可以随着产品逐渐落地而稳步提升。黄仁勋在22年9月的Computex大会上预计未来6年，将能够创造110亿美元营收价值。团队：灵魂人物引导产业变革，数次全面全面收购完善业务版图灵魂人物带领数次决策，英伟达引导产业变革。英伟达由黄仁勋与ChrisMalachowsky、CurtisPriem于1993年4月共同创立，创业初期英伟达仅就是数十家GPU制造商中的一员，但凭借黄仁勋非凡的体会和魄力，从1999年大规模裁员后发布世界首款GPU拿下大客户谷歌，至2006年面世CUDA技术，至2012年正式宣布正式宣布排序卡与游戏卡分拆变成与AMD竞争转折点，英伟达助推了显示卡行业的每一次关键性变革，变成占据单一制显示卡80%以上份额的奋头。英伟达不断通过全面全面收购完善业务版图。英伟达早期的竞争对手3dfx在2000年被英伟达全面全面收购，3dfx就是20世纪90年代显示卡芯片的市场领导者，主营业务涵盖显示卡以及3D芯片，在2000年时因为在一场与NVIDIA的官司中胜诉而被NVIDIA仅仅以7000万美元和100万美元的股票全面全面收购，并在2002年年底宣告破产。另一具有代表性的案例就是最后以监管问题失利收场的2020英伟达全面全面收购ARM事件，如若达成一致一致或将阻断ARMCPU的非常大生态系统，由此也可以看出英伟达利用全面全面收购不断扩大商业版图，营造完善生态的动机。商业模式：深度读取台积电走OEM模式，轻装上阵著重研发资金投入深度读取台积电，外包生产环节轻资产著眼研发。1998年，公司于台积电正式宣布正式宣布建立策略联盟伙伴关系。从一已经已经开始，黄仁勋就致力于并使英伟达变成一家并并无晶圆厂的芯片公司，通过将生产芯片费用外包以增加资本支出。OEM模式虽然而令投资者担忧生产外包的风险，但另一面英伟达将腾出的资金用做研发，逐渐建立至了高技术壁垒。自上市以来，英伟达研发投入绝对值基本呈现持续增长，单季度研发费用率平均值强于20%，2022年公司研发资金投入少于73亿美元。公司研发资金投入基本上全部用做GPU产品，长期研发资金投入与积累也并使公司产品技术壁垒及竞争力以期充份提升。拓展云服务商业模式，将与企业、云厂商同时同时实现互惠互利共赢。在硬件生产的基础上，英伟达将近期还面世了NVIDIAAIFoundations，定位为“超级计算机云服务+模型代工厂”，用做企业构筑自定义语言模型和生成式AI。NVIDIAAIFoundations涵盖语言、视觉和生物学模型构筑服务，分别名为Nemo、Picasso和BioNemo，使用企业专有数据进行训练，用做处理特的定领域的任务。我们表示超级计算机云服务+模型代工厂的商业模式就是英伟达作为芯片送去水人在大模型时代的商业模式自然延伸。硬件运算：训练/推理小说芯片性能参数持续领先劲敌芯片性能优势优于竞争对手，在推理小说芯片方面将稳步不断扩大优势。英伟达通常1-2年左右更崭新一次架构，2015年以来经历了Pascal、Volta、Turing、Ampere和Hopper时期，其新制程也从16nm快速大力大力推进至7nm和4nm，预计下一代Blackwell架构GPU将沿用与台积电合作使用3nm工艺。为了快速在混合精度排序、光线追踪领域的发展，英伟达在Volta架二重引入TensorCore回去快速AI处理，而在Turing架构上重新加入RTCore回去同时同时实现光线追踪的混合图形。从性能对照来看，英伟达在22年初面世的H100在AI性能方面速度比A100提升9倍，在大型语言模型上推理小说速度高30倍，在部分性能上优于21年12月AMD面世的高端GPUMI250，在训练芯片具备较强的话语权。而在推理小说方面，尽管算力建议比训练端的更高，市场需求更大也更为细分，英伟达正视的竞争更激烈，但公司的推理小说两端解决方案更具备通用性、低延时、低功耗，我们表示训练端的成功料在推理小说端的沿用。软件：CUDA构筑完善生态，CUDA-XAI结构打响非常小差距CUDA就是一种将GPU作为数据并行计算设备的软硬件体系，不仍须利用图形学API，而就是采用了比较容易掌控的类C语言进行研发，开发人员能够利用熟悉的C语言比较稳定地从CPU过渡到GPU编程。与以往的GPU较之，大力支持CUDA的GPU在架构上有了显著的改进：1）采用了统一处理架构，可以更加有效地利用过去原产在顶点着色器和像素着色器的计算资源；2）引入了片内共享存储器。两项改进并使CUDA架构更加适用于于于通用排序，加之2008年后苹果、AMD、和IBM面世的OpenCL开源标准，GPGPU在通用型排序领域快速发展。英伟达在CUDA（循序编程模型）上的战略眼光及持续秉承，就是如今形成软硬件子集生态的最核心壁垒：1）难于编程与性能提升：CUDA囊括CUDA指令集架构（ISA）以及GPU内部的并行计算引擎，采用通用型并行计算架构，并使GPU能够解决繁琐排序问题，二者较AMD推行的通用型OpenCL平台而言，并行计算能力可以提高10-200倍左右；2）不断丰富的生态系统：英伟达通过十余年运算拓展已形成多样的函数库、API指令、工具链、应用程序等，对开发者友好程度更高。在CUDA基础上英伟达进一步面世CUDA-XAI软件快速库，提供更多更多对深度自学、机器学习和高性能排序的优化功能，进一步打响与竞争对手在AI时代的差距。应用领域：以Omniverse为核心，大力大力推进工业/设计/医疗/零售/自动驾驶等多行业生态英伟达一直就是行业技术创新的引导者，从2021年已经已经开始公司GTC大会整体框架更新为以底层技术上紧紧围绕元宇宙进行的大量软件新技术布局。Omniverse作为公司创建AI系统的数字孪生的虚拟世界的基础平台，利用MDL、Phys与RTX等技术，以柔和的建模及数字工业化手段将AI创作生态圈至实际应用领域中，比如用做构筑医疗设备的AI排序平台ClaraHoloscan、为机器人研发和AI打造出的快速平台Isaac、自动驾驶汽车(AV)的端的至端的模组化研发平台和参考架构DRIVEHyperion等。除Omniverse外，英伟达还在生物医疗、光刻、量子排序、物流等众多领域与客户展开合作、建立单一制快速库，帮助客户同时同时实现高效率研发。未来我们知道为软件和应用领域生态将变成排序芯片的竞争关键，而英伟达在纵向行业领域的布局为其构筑了难以突破的竞争壁垒。Meta：AI和元宇宙双轮并驱型发展历程：全球最轻社交媒体巨头亲吻元宇宙和AIGCMeta就是全球社交网络龙头企业。2004年MarkZuckerberg创立Facebook，2021年公司改名为MetaPlatforms，挑意Metaverse(元宇宙)，突显了公司在虚拟世界中工作和娱乐的愿景。Meta主要经营社交网络服务、虚拟现实、元宇宙等产品，旗下具备Facebook、Instagram和WhatsApp等社交软件。在大模型领域，Meta奋起直追开源多个大模型。2017年，公司开源了深度自学框架PyTorch，就是深度自学领域最常用的框架之一。2023年2月，Meta面世针对研究社区的大型语言模型LLaMA，在分解成文本、对话、总结书面材料、证明数学定理或预测蛋白质结构等更繁琐的任务方面存非常小的前景。4月，Meta发布机器视觉领域首个用做图像分割的通用型大模型SAM和其训练数据集SegmentAnything1-Billion，将自然语言处理领域prompt范式延展至CV领域，为CV领域平添革命性技术突破。5月，Meta发布大规模多语言语音MMS项目，将彻底改变语音技术，大力支持1,107种语言的语音转至文字和文字转至语音以及多于4,000种语言的语言识别。同月，Meta发布650亿参数语言模型LIMA，无须RLHF就能对齐，在人类评估结果中甚至可以与GPT-4、Bard和DaVinci003相媲美。团队：AI人才汇聚，旨在创建AIGC顶级产品团队Meta具备一支经验丰富的核心团队。创始人、董事长后任首席执行官MarkZuckerberg，曾就读于哈佛大学，2004年创立了Facebook。首席运营官JavierOlivan，所抱持斯坦福大学工商管理硕士学位和纳瓦拉大学电气和工业工程硕士学位，在重新加入公司之前曾担任西门子移动的产品经理。首席技术官AndrewBosworth，毕业于哈佛大学，曾任谷歌Visio研发人员，2017年创建了公司的AR/VR非政府，领导公司发展AR，VR，AI和消费者硬件等。MetaAl就是Meta旗下的人工智能实验室。2013年，深度自学教授和图灵奖获得者YannLeCun创建FAIR，其最初目标就是研究数据科学、机器学习和人工智能。2014年，统计学先驱VladimirVapnik重新加入FAIR。2018年，IBM大数据集团前首席技术官JrmePesenti担任FAIR总裁一职。2021年，FAIR更名为MetaAl。2022年，MetaAI在两周内预测了6亿个潜在蛋白质的3D形状。2023年，Zuckerberg正式宣布正式宣布将成立著眼AIGC的顶级产品团队，由负责管理AI和机器学习的副总裁AhmadAl-Dahle领导，队内总计数十名成员，汇聚了过去分散在公司各地团队的AI人才。算力：具备全球最快AI超级计算机AIRSC，面世自研AI芯片MTIAAIRSC就是“全球最快AI超级计算机”之一。AIRSC（AIResearchSuperCluster）就是Meta用做训练人工智能模型的AI超级计算机。2017年，公司设计自研第一代算力设施，在单个集群中具备2.2万个英伟达V100TensorCoreGPU，每天可以继续执行35,000个训练任务。2020年，公司同意快速算力快速增长的最佳方式就是从头开始设计全新排序基础架构，以利用代莱GPU和网络结构技术。公司希望崭新AI超级计算机能够在1EB字节大的数据集上训练具有多于一万亿个参数的模型，仅从规模来看，这相等于36,000年时长的高清晰度视频。2023年5月，Meta正式宣布正式宣布已经顺利完成了RSC的第二阶段扩建，并使其变成世界上最快的AI超级计算机之一，其混合精度排序性能相符5exaflops。Meta面世自研AI芯片MTIA，入场大模型军备竞赛。2020年，Meta设计了第一代MTIA芯片，采用7纳米工艺，可以从其内部128MB内存扩展到高少于128GB，并且在Meta成立一千的基准测试中，它处理了低等和中等复杂度的AI模型，效率比GPU高。2023年5月，Meta首次面世AI订做芯片——MTIA（MetaTrainingandInferenceAccelerator），就是快速AI训练和推理小说工作功率的芯片“家族”的一部分。MTIA就是一种ASIC，一种将相同电路组再分在一块板上的芯片，允许对其进行编程以并行执行一项或多项任务。MTIA采用开源芯片架构RISC-V，它的功耗仅有25瓦，距低于英伟达等主流芯片厂商的产品功耗。框架：PyTorch——深度自学领域最畅销的框架之一PyTorch就是Facebook于2017年面世的一个基于Python的开源深度自学框架，具有有效率性、易用性和高性能，就是深度自学领域最畅销的框架之一，在GitHub勒鲁瓦县强于66,500颗星。在ML领域的主要会议上提交工作成果的研究人员中，多于80%使用了PyTorch框架。PyTorch大力支持在GPU上进行高速排序，在训练时具备更快的速度和更好的性能，从而能大规模提高研究效率。PyTorch已变成亚马逊网络服务、谷歌Azure和OpenAI等众多公司和研究机构构筑AI研究和产品的基础。2022年，公司正式宣布正式宣布发布PyTorch2.0，它提供更多更多了二者同的eagermode和用户体验，同时通过pile增加了一个编程模式，在训练和发推理过程中可以对模型进行快速，从而提供更多更多更佳的性能和对动态形状和分布式的大力支持。模型：布局生成式AI，开源语言、视觉等大模型语言大模型#1：LLAMA百亿参数模型在大多数基准上比不上GPT-3。2023年2月，Meta面世了LLaMA（通用型语言大模型），目前提供更多更多7B、13B、33B、65B四种参数规模，都至太太少经过1Ttoken的训练：1）LLaMA体量小、使用成本低且效果不好：Meta则则表示，LLaMA-13B在多数基准测试下（比如常识推理、TKT问答、文学创作心智、仇恨性等）优于GPT-3（175B），且可以在单块V100GPU上运转；LLaMA-65B与目前LLM中最差的Chinchilla-70B和PaLM-540B旗鼓相当；2）LaMA对非商用研究用例开源：LLaMA不谢泽生商用目的，免费可以可供给研究人员，目前Meta在GitHub上提供更多更多了精简版LLaMA。基于LLaMa衍生出多个开源模型，比如说斯坦福的Alpaca、伯克利的Vicuna、Kaola和ColossalChat，以及哈工大基于中文医学知识的华驼。加州大学伯克利分校计算机科学教导授IonStoica则则表示，免费的人工智能模型现在在性能上与谷歌和OpenAI的专有模型“相当相符”，大多数软件开发商最终都会挑选出使用免费模型。语言大模型#2：LIMA无须RLHF就能对齐，相媲美GPT-4。2023年5月，Meta发布650亿参数语言模型LIMA，仅在1,000个精心挑选出的样本上微调LLaMa-65B且无须RLHF，就同时同时实现了与GPT-4和Bard相媲美的性能。GPT-4背后的分解成领域训练崭新范式RLHF依赖于大量的人工标注和评估，MetaAI等机构的研究者明确提出“表面对齐假说”，则表示大型语言模型中几乎所有的科学知识都就是在进度表训练期间自学的，并且想并使模型产生高质量的输出只仍须部分必要的指令ext3数据，这将有助于大型语言模型增加训练成本。语音大模型#1：MMS模型可以识别1100+语言，旨在保护世界语种的多样性。2023年5月，Meta面世大规模多语言语音项目MMS（MassivelyMultilingualSpeech）。现有的语音识别模型仅全面全面覆盖约100种语言，仅为地球上未明的7,000多种语言的小部分，MMS使用wav2vec2.0的自监督自学，大力支持1,107种语言的语音转至文字和文字转至语音以及多于4,000种语言的语言识别。MMS用圣经训练，与OpenAIWhisper较之，使用MMS数据训练的模型中支持11倍以上的语言，且在54种语言上的平均值错误率仅为一半。CV大模型#1：SAM模型可以“分割一切”，CV领域迎接GPT-3时刻。2023年4月，Meta面世首个可以“任一图像分割”的基础模型——SAM（SegmentAnythingModel），它具有强大的一键抠图功能，能从照片或视频中对任一对象同时同时实现一键分割，且能够零样本迁址至其他任务，为CV领域关上了新的篇章。Meta还发布了有史以来最轻的分割数据集SegmentAnything1-Billion(SA-1B)，具备多于11亿个分割掩码，掩码具有高质量和多样性。CV大模型#2：DINOv2视觉大模型完全自监督，无须微调。2021年4月，Meta官方了DINO算法，通过自监督自学，DINO可以从大量未标注的图像中提取视觉特征，这些特征对于各种下游计算机视觉任务非常有价值，比如说图像分类、物体检测和语义分割。2023年4月，Meta开源DINOv2版本，相比较完备的DINO模型，DINOv2能够对视频进行处理，分解成比完备DINO方法更高质量的分割结果。模型除了具备图像的识别、分类、分割处理等图像特征提取功能外，还具有语义分割，完善了以期搜图功能。多模态模型#1：ImageBind用图像对齐六模态，旨在同时同时实现感官大一统。2023年5月，Meta开源ImageBind崭新模型，就是一个像人类一样融合相同感官的新AI模型，能够同时从文本、图像/视频、音频、深度（3D）、热能（红外电磁辐射）和惯性测量单元（IMU）等六种相同的模态中自学。ImageBind可以使用文本、音频和图像的女团回去追踪照片、视频、音频文件或文本消息。ImageBind用做多样的多媒体追踪、虚拟现实甚至机器人技术，可以和Meta内部的虚拟现实、混合现实和元宇宙等技术相结合AWS：全球卓越的云服务平台发力AIGC市场发展历程：全球领先的云服务平台强势入局AIGCAWS就是亚马逊专门负责管理云计算的子公司。亚马逊成立于1994年，就是目前全球最轻的可视化网线上零售商之一。AWS（AmazonWebServices）于2016年正式宣布正式宣布面世，就是亚马逊公司旗下的子公司，向个人、企业和政府提供更多更多按仍须即为用云计算平台以及应用领域程序接口，并按照使用量计费。2002年7月，亚马逊的“AWebServices”上线了首款Web衣务。2006年3月，AWS面世了AmazonS3云存储，随后于2006年8月面世了EC2。AWS四项技术创新助力AIGC发展。2023年4月，AWS正式宣布正式宣布入局AIGC，面世自建好基础模型Titan和AIGC服务Bedrock，以及AI编程助手AmazonCodeWhisperer，并正式宣布正式宣布基为于自研推理小说和训练AI芯片的最新实例AmazonEC2Trn1n和AmazonEC2Inf2正式宣布正式宣布需以。算力：提供更多更多最为具备成本效益的生成式Al云基础设施Inferentia就是ML/DL推理小说（Inference）加速器。2018年11月，AWS发布首款云端AI芯片Inferentia，旨在以极低成本交货高量、低延后推理小说性能。2021年1月，AWS发推出基于AWSInferentia加速器的AmazonEC2Inf1实例，与当前一代基于GPU的AmazonEC2实例较之，量最高可以提高2.3倍，每次推理小说的成本增加多达70%。2023年4月，AWS面世配备AmazonInferentia2芯片的AmazonEC2Inf2实例。与第一代AWSInferentia较之，Inferentia2的量提高了4倍，延后高至前者的1/10.Trainium就是ML/DL训练（Training）加速器。2020年12月，AWS发布第二款订做的机器自学芯片AWSTrainium，大力支持TensorFlow、PyTorch和MXNet等框架。2022年10月，AWS面世AmazonEC2Trn1，基于Trainium的EC2Trn1实例与基于GPU的同类实基准较之，可以节省高少于50%的训练成本。2023年4月，AWS面世配备AWSTrainium的AmazonEC2Trn1n实例，较之于Trn1网络带宽提升了1倍，从之前的800GB左右提升至1.6TB，旨在为大型的网络密集型的模型训练回去使用。框架：一站式机器学习平台AmazonSageMaker助力AIGC2017年，AWS面世AmazonSageMaker，就是一项完全直销的服务，可以通过完全直销的基础设施、工具和工作流程为任何用例准备工作工作数据并构筑、训练和部署机器学习（ML）模型。它大力支持MXNet、TensorFlow、PyTorch等多种深度自学框架，同时提供更多更多了许多其他工具和功能。2022年，AWS与Al绘画独角兽StabilityAl正式宣布正式宣布共同共同组成联盟，变成StabilityAI构筑和训练AI内容分解成模型的“宠儿云合作伙伴”。在IDC2022年发布的《2022年亚太地区（不不不含日本）AI生命周期软件工具和平台供应商评估》中，AWS凭借AmazonSageMaker强大、多样且有效率的功能和广为的交货能力及对开源项目的持续贡献，荣获AI生命周期软件领导者。模型：面世Titan大模型及中立直销平台Bedrock2023年4月，AWS面世的自研语言大模型Titan。Titan系列模型分为两种，一种就是用做内孟分解成的文本模型Titantext，可以继续执行诸如撰写博客文章和电子邮件、总结文档和从数据库中提取信息等任务。另一种就是可以创建矢量嵌入的嵌入模型TitanEmbeddings，能将文本输入（字词、短语甚至就是大篇幅文章）翻译成囊括语义的数字抒写的大语言模型。中立直销平台AmazonBedrock并使AIGC变得普惠。2023年4月，AWS面世AmazonBedrock，并使企业级客户能快速、安全和高性价比地调用多种大模型构筑自己的程序。区别于谷歌和谷歌已发布面向大众的产品，AWS对准的就是企业客户，并且期望作为一个“中立”的生成式AI大模型直销平台，不倚赖任何一家AI初创公司。利用Bedrock，企业级客户能通过API调用源于相同提供商的AI模型，比如说AI21Labs的Jurassic-2、Anthropic的Claude、StabilityAI的StableDiffusion以及AWS自研模型Titan。产品：免费向个人对外开放AI编程助手AmazonCodeWispererAI编程助手AmazonCodeWhisperer提高开发者效率。2022年，AWS面世AmazonCodeWhisperer预览版，这就是一款AI编程助手，通过内嵌的基础模型，可以根据开发者用自然语言描述的注释和内置研发环境（IDE）中的既有代码实时分解成代码建议，从而提升开发者的生产效率。2023年4月，AWS将AmazonCodeWhisperer面向个人开发者免费对外开放，在适用于于Python、Java、JavaScript、TypeScript和C#之外，新增大力支持Go、Kotlin、Rust、PHP和SQL等十种研发语言。开发者可以通过在VSCode、IntelliJIDEA、AmazonCloud9等内置研发环境中的AmazonToolkit插件访华CodeWhisperer。Anthropic：OpenAI前核心成员创建的人工智能安全与研究公司由OpenAI的前核心成员创立，愿景就是构筑可靠、可以定义和可以操控的AI系统Anthropic就是一家人工智能安全与研究公司，由OpenAI的前核心成员创立，愿景就是构筑可以靠、可以定义和可以操控的AI系统。在OpenAI拒绝接受谷歌投资并变为盈利模式后，团队在人工智能研发的道路上产生了分歧，时任研究副总裁的DarioAmodei和其他数十位OpenAI核心成员挑选出请辞，其中囊括8位GPT系列作者，并于2021年创立Anthropic，研究目标为AI安全与大模型。公司期望能摈弃现有的深度自学范式，通过构筑可以解释性人工智能模型（InterpretableAI），解决神经网络的黑匣子问题。Anthropic前期以科研为战略重点，研究AI模型的安全问题Anthropic创立之初著重于科研，成立以来已经刊载了15篇论文，研究方向涵盖自然语言、人类意见反馈、关于意图和结果间偏差的对齐问题、可以解释性、社会影响等方面。2022年12月，Anthropic明确提出构筑ConstitutionalAI的方法，即为为人类不再手工为每个有害输出打标签，而是为AI选取一套行为规范或原则，模型产生无毒性偏好的数据集，并且能够利用AI监督AI进行快速复原。ConstitutionalAI的明确提出并使更精确、更自动化地掌控AI的犯罪行为变成可能将将，增加AI模型产生有害内容的风险。大力大力推进商业化脚步，面世ChatGPT的有力劲敌ClaudeAnthropic于1Q23正式宣布正式宣布快速商业化。公司面世以ConstitutionalAI为基础构筑的聊天机器人Claude，与ChatGPT构成竟争夺战。Claude囊括两个产品类型：1）ClaudeInstant：针对低延后、高量用例进行了优化；2）Claude-v1：在繁琐推理小说的任务上整体整体表现更优。Claude当前已具备十余家合作伙伴，共同积极探索在生产力、对话、医疗、客户成功、HR和教育等领域的应用领域。Anthropic快速融资以提振AI模型训练和部署LLM的训练和部署仍须消耗大量的资金和计算资源，Anthropic今年预计花费10亿美元训练和部署大模型，两年后更是仍须30-50亿美元的资金。2023年以来，Anthropic已经开回受了3轮源于Google、SparkCapital和SalesforceVentures的投资，目前估值约50亿美元。公司已把Claude内置至把Slack平台中，并且将使用Google提供更多更多的云服务。国内大模型：互联网巨头和未有充份积累的初创公司百度：昆仑芯+飞桨平台+文心大模型，构筑广泛应用端的生态百度就是当前唯一一家在芯片层、框架层、模型层和应用层都存领先产品布局的企业，四层架构相互协同优化，可以显著地降本增效。在芯片层，百度昆仑芯科技已同时同时实现两代通用型AI芯片“昆仑”的量产及应用领域，为大模型落地提供更多更多彪悍算力大力支持。在框架层，“飞桨”就是国内首个独立自主研发的产业级深度自学平台，集基础模型库、端的至端的研发套件和工具组件于一体，有效率大力支持文心大模型高效率、均衡训练。在模型层，“文心大模型”涵盖基础大模型、任务大模型、行业大模型三级体系，全面满足用户产业应用领域市场需求。在应用层，文心已大规模应用于百度自营业务的各类产品，并通过企业级平台“文心千帆”进一步推动生态构筑。团队：百度CTO王海峰领衔，技术小牛带队百度CTO王海峰作为领头人推动百度的AI技术战略发展和生态构筑。王海峰曾供职于微软，先后策划Bing语义追踪、谷歌小冰等项目；其于2010年重新加入百度，并在2018年累升任百度CTO，曾面世百度大脑、百度小度等一系列产品。其他带队的高管还包括百度集团副总裁兼深度自学技术及应用领域国家工程研究中心副主任吴甜、百度技术委员会主席吴华等。吴甜于2006年重新加入百度，目前负责管理百度AI技术平台和智能云AI产品，领衔研发为文心大模型提供更多更多提振的飞桨深度自学平台。吴华曾在百度带领团队出世界首个互联网NMT（神经网络机器翻译）系统，目前主要带领NLP大模型的技术大力大力推进。算力：两代自研通用型AI芯片“昆仑”大力支持大模型落地百度旗下的芯片公司昆仑芯科技已同时同时实现两代通用型AI芯片产品的量产及落地应用领域。昆仑芯1代AI芯片于2020年量产，就是国内唯一一款经历过互联网大规模核心算法考验的云端AI芯片，当前已被广为部署在互联网、工业生产、智慧城市、智慧交通、科研等领域。昆仑芯2代AI芯片于2021年8月量产发布，就是国内首款采用GDDR6显示卡的通用型AI芯片，较之昆仑芯1代AI芯片性能提升2-3倍，且在通用性、易用性方面也存显著进一步进一步增强。目前，昆仑芯已在百度搜找寻等业务场景落地，也为大模型训练提供更多更多底层算力提振。百度之外，昆仑芯还可以为客户提供更多更多大模型订做服务，凭借彪悍算力为大模型落地提供更多更多全系列流程大力支持.框架：产业级深度自学平台“飞桨”为大模型构筑提供更多更多有力提振我国首个独立自主研发、功能丰富、开源对外开放的产业级深度自学平台飞桨（PaddlePaddle）就是百度大模型背后的有力提振。飞桨以百度多年的深度自学技术研究和业务应用领域为基础，集深度自学核心训练和推理小说框架、基础模型库、端的至端的研发套件和多样的工具组件于一体，有效率大力支持文心大模型高效率、均衡训练。截至目前，飞桨已和22家国内外硬件厂商顺利完成了强于过30种芯片的内置和携手优化，国产芯片内置第一。文心大模型：“基础+任务+行业”大模型三层体系全面满足用户产业应用领域市场需求百度文心大模型体系构筑了文心大模型、工具与平台两层体系。在模型层，文心大模型纸盒内加基础大模型、任务大模型、行业大模型三级体系，打造出大模型总量将近40个，全面满足用户产业应用领域市场需求，涵盖电力、燃气、金融、航天等领域。基础大模型针对特定任务进度表训练构筑任务大模型，任务大模型融合纵向领域数据和科学知识进一步形成行业大模型，行业大模型则在应用领域场景的数据生态圈基础大模型优化。在工具与平台层，大模型研发套件、文心API以及提供更多更多全系列流程开箱即为用大模型能力的EasyDL和BML研发平台，帮助全方位增加应用领域门槛。应用领域：大模型生态逐步构筑，推动AI落地产业文心大模型是目前国内预训练大模型应用端生态最好的大模型之一。在百度自有业务中，文心已大规模应用于百度内部的各类产品，包含百度搜索、度小满金融、小度智能屏、百度地图等。例如，度小满的智能征信中台将文心ERNIE大模型应用在征信报告的解读上，能够将报告解读出40万维的风险变量，以更好地识别小微企业主的信贷风险。在百度业务之外，文心大模型联合国网、浦发、中国航天、人民网等企业推出了11个行业大模型，让大模型加速推动行业的智能化转型升级。例如，根据文心大模型官网，与深圳燃气联合建立的深圳燃气百度文心大模型，在工业巡检、环境巡检场景下，准确率和召回率分别平均提升2.5%和4.5%，且所需标注数据相比传统模型下降90%，泛化能力大幅提升。阿里巴巴：通义大模型构筑大一统模型，所有产品将互连通义千问阿里达摩院：孕育出阿里巴巴人工智能的技术沃土阿里达摩院于2017年成立，在NLP自然语言处理等前沿科研领域持续布局，于2019年启动大模型研发，先后公布多个版本大模型和“通义”大模型系列。2023年2月，达摩院将注册资本从1000万元增加至3亿元，新增投资将用做持续布局AI底层技术。阿里达摩院的大模型主力团队由兼具AI领域的学术能力和项目经验的能力者带领。模型主力团队的“一号位”就是周靖人，曾在谷歌任首席科学家，带领必应追踪基础设施团队和大数据部门；于2016年重新加入阿里，曾任阿里云首席科学家，现调任阿里达摩院副院长后任阿里云智能CTO。三大主力团队就是“语言技术实验室”、“视觉智能实验室”以及“智能排序实验室”，分别以NLP、CV、计算能力为目标。三个团队的领导者均就是背景豪华、兼具学术能力和项目经验的能力者。NLP团队的黄非，曾供职于IBM、Facebook，在阿里领导AliNLP的基础技术研发和业务落地；CV团队的赵德丽，曾供职于小米、谷歌亚洲研究院；智能计称得上实验室的张波，曾负责管理多模态模型M6、M6-OFA及有关AIaaS服务项目。算力：自研芯片含光800和射雕710提供更多更多高性价比算力大力支持阿里巴巴自研芯片含光800和射雕710共同为AI大模型提供更多更多网络资源大力支持。达摩院于2018年成立了平头哥半导体有限公司，以大力大力推进云端一体化的芯片布局。含光800就是一款于2019年面世的专门为分布式计算和AI任务设计的芯片，比当时业界最差的AI芯片性能高4倍。射雕710就是中国首个云上大规模应用领域的自研CPU，当前已在阿里云数据中心大规模部署，并以云的形式服务阿里巴巴和多家互联网科技公司，将算力性价比提升强于30%、单位算力功耗增加60%。此外，阿里云于2022年云栖大会上还发布了云基础设施处理器（CIPU），CIPU较之CPU性能更高、更均衡，将算力载运能力提升至崭新水平