版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
Part
01
人工智能的概念与界定Part
02
人工智能的技术演进与趋势Part
03
ChatGPT带来的变革趋势Part
04
AIGC风口下的投资机会P02P06P26P41目
录现在一说起人工智能的起源,公认是1956年的达特茅斯会议。殊不知还有个前戏,1955年,美国西部计算机联合大会(Western
Joint
Computer
Conference)在洛杉矶召开,会中还套了个小会:学习机讨论会(Session
on
LearningMachine)。讨论会的参加者中有两个人参加了第二年的达特茅斯会议,他们是塞弗里奇(Oliver
Selfridge)和纽厄尔(Allen
Newell)。塞弗里奇发表了一篇模式识别的文章,而纽厄尔则探讨了计算机下棋,他们分别代表两派观点。讨论会的主持人是神经网络的鼻祖之一皮茨(Walter
Pitts),他最后总结时说:“(一派人)企图模拟神经系统,而纽厄尔则企图模拟心智(mind)……但殊途同归。”这预示了人工智能随后几十年关于“结构与功能”两个阶级、两条路线的斗争。——尼克《人工智能简史》曾经,建制派被看作“唯一的主导力量”,“逻辑驱动”的人工智能曾主宰数十年。彼时,人们相信依据逻辑的程序是简单的,为了抵达智能,科学家们为每个不同问题编写不同程序,纷纷变成“劳动密集型”工种。但人们低估了现实世界的复杂度,问题越大,程序越复杂,逐渐错误百出、频频崩溃,使这条路进展缓慢;另一派“野路子”便是深度学习。作为跨学科产物,深度学习不追求解释和逻辑,以神经网络开启了“暴力美学”大门——计算机从数据中学习、进化,让人工智能变成“数据密集型”学科,最终从应用表现中大幅胜出,主宰当今人工智能世界。——《甲小姐对话特伦斯:进化比你聪明》1.1
人工智能源起三大学派:路线相爱相杀,理念相辅相成,一斗六十年符号主义(Symbolism
)联结主义(Connectionism)行为主义(Actionism)••又称:逻辑主义、心理学派或计算机学派。原理:物理符号系统
(即符号操作系统)
假设和有限合理性原理。••又称:仿生学派或生理学派。••••又称:进化主义或控制论学派。原理:神经网络及神经网络间的连接机制与学习算法。原理:控制论及感知—动作型控制系统。起源:源于控制论。•••起源:源于数理逻辑/逻辑推理。••起源:源于仿生学,特别是人脑模型的研究。学派代表:麦克洛奇、皮茨、
霍普菲尔德、鲁梅尔哈特等。学派代表作:布鲁克斯的六足行走机器人,一个基于感知-动作模式的模拟昆虫行为的控制系统。主张:从还原论的立场出发放弃对意识的研究,专注于人和动物等有机体行为的研究。学派代表:纽厄尔、西蒙和尼尔逊等。主张:将符号作为人工智能的基本元素,人工智能的运行建立在由符号构成的数理逻辑之上。••主张:试图使机器模拟大脑,通过建立一个类似于人脑中神经元的模拟节点网络来处理信号。1.2
人工智能的六大学科人工智能主要包括六大学科,当下业界讨论往往聚焦机器学习这一学科p
机器学习之所以如此火爆,是因为它是一种可以让计算机自动学习和改进的技术。p
与传统的程序设计方法不同,机器学习允许计算机从数据中学习规律和模式,并在未知数据上进行预测和决策。这使得机器学习在各种领域都具有广泛应用前景,包括自然语言处理、计算机视觉、机器人技术、金融、医疗、电子商务等等。机器学习火热背后的原因:自然语言理解与交流计算机视觉认知与推理机器人学博弈与伦理机器学习•数据量的爆炸式增长:随着数字化时代的到来,人类生产的数据量正在呈指数级增长,这些数据中蕴含着很多宝贵的信息,而机器学习可以通过对这些数据的分析和学习,发现其中的规律和模式,并将其应用于各种领域。暂且把模式识别、图像处理等问题归入其中暂且把语音识别、合成归入其中,包括对话包含各种物理和社会常识机械、控制、设计、运动规划、任务规划等多代理人agents的交互、对抗与合作,机器人与社会融合等议题各种统计的建模、分析工具和计算的方法•••计算能力的提高:随着计算机硬件和软件技术的不断发展,计算能力越来越强,能够处理大规模的数据和复杂的算法,这使得机器学习变得更加高效和实用。感知、认知、决策感知、认知、决策、学习、执行认知、决策感知、认知、决策、学习、执行和社会协作能力人类情感、伦理与道德观念感知、认知、决策、学习、执行和社会协作能力开源框架的出现:出现了许多优秀的机器学习框架,如TensorFlow、PyTorch等,它们不仅提供了丰富的工具和算法,而且是免费开源的,使得机器学习技术更加普及和易用。商业应用的需求:机器学习技术在商业应用中也有广泛的应用,如推荐系统、广告投放、欺诈检测等等,这些应用在商业领域中起着至关重要的作用,推动了机器学习技术的快速发展。六大学科是七种能力的排列组合:①感知、②认知、③决策、④学习、⑤执行、⑥社会协作能力(人机交互),⑦符合人类情感、伦理与道德观念1.3
人工智能的七种能力AI七大关键能力在进化中逐步扩展累积,逐步“解放大脑”p
人工智能的出现,意味着具有自主的感知、认知、决策、学习、执行、社会协作能力,符合人类情感、伦理与道德观念的智能机器逐步浮现,成为帮助人类提高生产能力和效率的新型工具。p
与人类几千年来创造出来的各种“解放四肢”的工具和机器不同,其是一类逐步“解放大脑”的工具。图:不同时期AI侧重能力进化路线七大能力之间存在阶段性侧重和先后关系,但同时也是相互关联、相互作用的,不断地相互影响和改进。AI能力•••感知是智能机器获取外界信息的基础。智能机器需要通过传感器、摄像头等设备收集、处理、分析环境中的信息,以便更好地理解周围的环境和物体。情感伦理+情感?社会协作当下+认知和决策能力是智能机器进行智能处理和决策的基础。通过分析、理解和推理数据和信息,智能机器可以更好地判断和决策,以便更好地执行任务。社会协作(交互)执行学习决策+执行学习能力是智能机器不断优化和改进的基础。通过不断地从数据和经验中学习,智能机器可以自我改进和适应,更好地适应不同的环境和任务。+认知+学习决策••执行能力是智能机器实现任务的基础。智能机器通过控制执行机器人等设备完成任务。认知感知社会协作能力是智能机器与人类和其他机器进行合作的基础。智能机器需要通过自然语言处理和其他技术,与人类进行交互和合作,以便更好地实现任务。+感知时间1956197419801987199520132020202120222023
2025备注:此处的认知属于狭义的认知,更偏向于判断和推理。Part
01
人工智能的概念与界定Part
02
人工智能的技术演进与趋势Part
03
ChatGPT带来的变革趋势Part
04
AIGC风口下的投资机会P02P06P26P41目
录2.1
AI技术的演进历程AI技术演进已经历四个阶段,如今正向全AI能力覆盖方面演进p
人工智能从出现到现在已经历四个阶段,第一个阶段的AI是以逻辑推理为主,AI能力以聚焦决策和认知为主;第二个阶段的AI则是注重以概率统计的建模、学习和计算为主,AI能力开始聚焦感知、认知和决策;第三个阶段的AI聚焦学习环节,注重大模型的建设,AI能力覆盖学习和执行;第四个阶段则聚焦执行与社会协作环节,开始注重人机交互协作,注重人类对人工智能的反馈训练,当下正处于此阶段。p
短期的未来,AI会携带多种能力走向千行百业;长期的未来,仍有很多待解问题,比如:是否会产生情感?图:AI能力进化路线下的技术演进路径AI能力以概率统计的建模、学习和计算为主,聚焦感知、认知、决策聚焦学习环节,大模型聚焦执行与社会协作环节逻辑推理为主,聚焦决策、认知能力产生情感?情感伦理?社会协作ChatGPT执行学习决策GPT3Transformer分解为五大学科深度学习神经网络机器学习逻辑推理认知感知时间195619741980198719952013202020212022202320252.2
AI技术宏观演进趋势:合久必分、分久必合从到分科再到归一,呈现多模态多学科融合归一趋势p
纵观人工智能技术发展的70年历程,AI技术宏观趋势呈现出由唯一走向分化,然后再走向归一的趋势。p
在人工智能发展的前30年,人工智能技术是出于一个
状态,并未形成完整的学科和研究领域,从80年代末开始逐步分化形成五大研究领域,但随着技术的发展,从2013年开始各大学科又开始逐步融合,未来将实现多模态融合和多学科融合归一的趋势。图:AI能力进化路线下的技术演进路径AI能力分化为五大学科五大学科归一状态情感伦理?社会协作ChatGPT执行学习决策机器人学机器学习GPT3Transformer深度学习神经网络机器学习逻辑推理认知科学认知感知自然语言理解计算机视觉时间195619741980198719952013202020212022202320252.2
AI技术宏观演进趋势:范式变迁当下数据、算力、范式一路向“大”,未来不一定p
人工智能研究构架在1987-2020年之间的主导逻辑是大数据、小算力、专用决策范式。GPT-3的出现改变了这一切,让大数据、大算力和通用范式成为典型模式。p
值得关注:未来人工智能研究的认知构架是否会往大数据、小算力、通用小范式方向转变?图:AI能力的进化路线AI能力逻辑推理为主大数据+小算力+专用范式大数据+大算力+通用范式大数据+小算力+通用小范式情感伦理?社会协作ChatGPT执行学习决策机器人学机器学习GPT3Transformer深度学习神经网络机器学习逻辑推理认知科学认知感知自然语言理解计算机视觉时间195619741980198719952013202020212022202320252.2
AI技术宏观演进趋势:大模型一定越大越好吗?Yes
and
No:AI预训练模型规模呈指数级速度增长,未来或将触达规模法则上限AI预训练模型参数规模呈现指数级速度增长,未来仍面临规模法则规模法则图:AI预训练模型的参数规模呈现走势•圣塔菲研究所前所长Geoffrey
West在科普书《规模》中揭示了规模法则(scaling
law)。在West眼中,有一种不变的标准可以衡量看似毫无关联的世间万物——无论是生物体的体重与寿命,还是互联网的增长与链接,XXX万亿?100万亿?30万亿?甚至是企业的生长与衰败,都遵循规模法则。规模法则关心复杂系统的特性如何随着系统大小变化而变化。15万亿?规模法则:上限在哪里?阿里新M610万亿•以规模法则的视角看待ChatGPT背后的大模型,一个自然问题是:模型一定是越大越好吗?如果数据量足够大、算力足够充沛,是否AI的效果会持续上扬?新版BERT4810亿GPT-31750亿Facebook94亿•--面对这个问题,业界多方的答案是Yes
and
No:持Yes观点人认为,现在的“大”仍不足够大GPT-215亿BERT-Large3.4亿GPT-11.17亿2018年6月
2018年10月
2019年2月
2019年7月
2020年6月
2021年12月
2023年2月2025年2030年2035年2040年2050年2055年2060年持No观点人认为,大模型虽好,但其性能有一个上限,虽然这个上限尚不明确2.2
AI技术宏观演进趋势:通用人工智能七大AI能力的融合正在推动AI逼近人工智能的重要目标之一:通用人工智能p
通用人工智慧(Artificial
General
Intelligence)或强人工智慧(Strong
AI)是具备与人类同等智慧、或超越人类的人工智慧,能表现正常人类所具有的所有智能行为。p
通用人工智能是人工智能的重要目标之一,但不一定是AI的终极目标。例如,某些研究人员认为,人工智能的终极目标应该是创造具有意识和主观体验的人工智能系统,而不仅仅是模拟人类的认知和行为。因此,人工智能的终极目标可能会随着科技和人类认知的发展而不断改变和进化。图:AI能力进化曲线•决策式AI是基于规则、知识或经验,通过对输入数据进行分析和推理,从而做出决策或推荐的人工智能系统。这种AI通常用于专业领域,例如医学、金融、法律等,其目的是为了支持决策过程和提高决策效率。AI综合能力侧重决策式AI侧重生成式AI侧重通用型AI情感伦理•••生成式AI是基于机器学习或深度学习等技术,从大量数据中学习并生成新的数据或内容的人工智能系统。这种AI通常用于自然语言处理、图像处理、音频处理等领域,其目的是为了生成高质量的内容和实现自动化创作。社会协作通用型AI是指具有类似人类智能的广泛能力的人工智能系统,可以像人类一样进行感知、推理、学习、决策、规划等多种任务,能够在不同的领域和情境中灵活地应对和适应。这种AI是人工智能的终极目标之一,目前还没有实现。执行学习决策认知感知三种人工智能系统之间存在重叠和互补。例如,在决策过程中,决策式AI可以提供基于规则和知识的决策支持,生成式AI可以提供基于数据的决策参考,通用型AI可以综合考虑多种因素做出更为智能的决策。19562013202020232030?时间2.2
AI技术宏观演进趋势:通用人工智能七大AI能力的融合正在推动AI逼近人工智能的重要目标之一:通用人工智能p
ChatGPT是一种通用性很强的大型语言模型,它被训练用于多种自然语言处理任务,例如文本生成、文本分类、语言翻译、问答等。p
虽然ChatGPT在很多自然语言处理任务上表现出了惊人的能力和表现,但严格意义上讲,它并不是一个通用人工智能系统。p
但由于其效果足够“像人”,
ChatGPT成为很多人心中通用人工智能的雏形。图:AI能力进化曲线AI综合能力决策式AI生成式AI通用型AI情感伦理••ChatGPT属于生成式AI。ChatGPT是一种基于自然语言处理技术的生成式AI模型,能够生成类似于人类对话的文本输出。它使用了大规模的预训练语言模型,能够自动地从输入的文本中学习语言模式和上下文信息,然后基于这些信息生成新的文本。因此,它被广泛应用于对话系统、聊天机器人、智能客服等领域。生成式AI又可称为AIGC(AI-Generated
Content
人工智能生成内容)。社会协作执行学习•决策认知感知19562013202020232030?时间2.3
AIGC:集合三要素、发展三阶段AIGC在当下的火热来自三要素逐步走向成熟,推动行业进入应用落地阶段数据层面大数据语料库高精度训练集标注训练投喂计算任务算法层面核心技术突破算力层面硬件算力多模态认知计算本地化数据数据巨量化•AIGC的本质是内容与场景,其发展需要AI与后端基建,算法、算据和算力三要素耦合共振。AIGC的三大发展阶段是:•实时算力智能交互−模型赋智阶段(从现实生成数字):AIGC利用AI技术构建模拟现实世界的数字孪生模型;认知交互阶段(从数字生成数字):AI能够学习并创作更丰富的内容;感知+交互AIGC云计算数字孪生虚拟现实认知交互力−−算法跨模态融合算力内容创造力空间赋能阶段(从数字生成现实):AIGC基于物联网,多模态技术获取多维信息,实现更加智能全息立体应用场景边缘计算的人与机器互动。2.4
AIGC技术架构体系AIGC技术架构体系的变迁p
在百度李彦宏发布的内部信中提到,人类进入人工智能时代,IT技术的技术栈发生了根本性的变化。过去基本分为三层:芯片层,操作系统层和应用层。现在可以分为四层:芯片层、框架层、模型层和应用层。p
甲子光年智库认为当下的技术全栈仍然不能满足ChatGPT推动下的新一代人工智能浪潮,未来的AI技术全栈将呈现新的技术架构体系。过去AI技术全栈当下AI技术全栈未来AI技术全栈应用层应用层应用层算法层中间层基础层/模型层平台层模型层框架层芯片层操作系统层芯片层算力层2.4
AIGC技术架构体系在大模型与应用层之间需要一个中间层:向下对接大模型能力,向上提供个性化服务p
未来,基础大模型将会逐步走向统一,形成寡头格局,开发人员将基于这些基础模型研发AI应用。p
大模型的商业模式是MaaS(Model
as
a
Service):某家公司/某主体/某联合体开发出一个大型语言模型,然后开放API供他人使用。p
甲子光年智库认为,未来在基础模型和具体AI应用研发之间会形成中间层:出现一批专门负责调整大型模型以适应具体应用需求的初创企业。图:AIGC算法层技术架构拆解微模型:个性化模型应用层零售聊天机器人••微数据:追求数据专业度和个性化需求小算力:算力需求小,边缘算力即可满足XXXXX场景1多样化、个性化、场景化的应用落地场景X••低投入:训练成本投入较少教育数字人多样化:满足千行百业需求,多样化、场景化、定制化场景2场景2中小模型:专用模型中间层零售医疗…••小数据:不追求数据规模,而追求数据深度和专业度中算力:算力需求中等,不依赖超算能力向应用层提供专业、垂直的训练模型向基础层调用大模型能力,并反哺预训练模型医疗金融金融教育……NLPCV…••低投入:训练成本投入较少低能耗:能源消耗较少教育…制造………大模型:通用模型基础层••大数据:数据规模大,追求广度大算力:算力需求高大基础模型服务MaaS服务模式多模态NLPCV…••高投入:高成本投入,训练成本高高能耗:高能源消耗2.4
AIGC技术架构体系AIGC技术架构分为算力层、平台层和算法层,算法层又分为基础、中间、应用三层p
甲子光年智库认为,AIGC将形成类似云计算的生态结构:只有足够“包罗万象”,才能支撑前端足够的“奇形怪状”。图:AIGC技术架构体系应用层中间层智能客服聊天机器人数字人元宇宙教育搜索引擎……算法层金融+文本医疗+图像航天+3D零售+多模态…………基础层NLP大模型CV大模型音/视频大模型多模态大模型数据标注平台层算力层模型生产训练平台数据平台数据采集数据清洗数据合成数据鉴真AI芯片及处理器AIDC智算中心AI传感器只有足够“包罗万象”,才能支撑前端足够的“奇形怪状”。2.5
AIGC驱动力与制动力三要素外,核心制约来自成本问题、数据质量问题、知识产权问题、能耗问题、安全问题重要的市场驱动力AIGC发展驱动力与制动力•
政策高质多生模产态算等法顶尖人才的坚持与信仰•
资金智算中心的算力支撑量数据的积累与应用•
人才充足的资金支撑发展驱动力︑•
算力技预术训成练熟模融型合•
数据政策鼓励•
算法技术︑影响发展的制动力•
算力不足算力不足数据质量预训练投入成本过高知识产权的挑战安全与伦理道德的挑战能源消耗的挑战发展制动力•
数据质量•
投入成本高•
知识产权归属•
能源消耗大•
安全与伦理2.6
ChatGPT在AI技术演进历程中的地位ChatGPT的出现代表AI技术的第三次范式升级:从大模型走向AGI图:ChatGPT的技术演化路径与历史地位范式转换3.0:技术水从大模型走向AGI应用竞争阶段(全面应用)范式转换2.0:从深度学习到大模型的转换平技术发展阶段(少量应用)范式转换1.0:从逻辑推理向概率统计的转换ChatGPTGPT1GPT2BARTGPT3InstructGPT科技研究阶段T5M2m-100BigBirdTransformer神经网络BERTRoBERTaXLMALBERTELECTRA机器学习逻辑推理时间195019802006201720182019202020222023••基于手写规则处理少量数据•可找到一些函数与参数分类数据••像人脑一样学习根据大量数据分类学习一个复杂的参数集合••优化人脑学习过程关注重点而非全部••使用海量学习数据不需要提前进行标记和分类•人类对结果的反馈成为学习过程的一部分••能否打破人脑结构限制?有无可能生成情感?2.7
ChatGPT
vs
Bert胜负未分,但“先发优势”之于AI有着值得注意的重要性p
先发优势意味着数据采集的时间窗口,形成“社会性实验”。p
先发优势也意味着用户的容错心理——对“第一个吃螃蟹的”有错误层面的包容性,对第二个就不一定了。基于Transformer模型的预训练语言模型BERTChatGPT遮盖单词上下文信息文本表示下一个文本结构、语言规律预训练目标应用场景预测方式上下文单词或字符下一句预测自然语言处理领域的广泛应用生成式任务文本分类命名实体识别关系抽取句子相似度计算对话生成文本生成机器翻译基于句子级别的特征提取基于单词或字符级别的自回归模型整个句子固定长度的向量表示上下文单词或字符大型模型标准版(BERT-Large)最大的ChatGPT-3模型模型大小训练数据包含3.4亿个参数包含1750亿个参数更广泛的文本数据收集通用的网络文本数据网页维基百科新闻2.8
来龙:ChatGPT如何演化而来?“暴力美学”:超大规模及足够多样性的数据、超大规模的模型、充分的训练过程p
ChatGPT背后的GPT系列体现了LLM应该往何处去的发展理念。p
很多人开始相信,揭开AGI的真正钥匙正在于:超大规模及足够多样性的数据、超大规模的模型、充分的训练过程。这条道路看似朴素,却足以让AI表现出智能“涌现”的能力,未来也许会持续带来意想不到的惊喜和惊吓。这种思想简言之就是将“参数至上和数据至上”的思想发挥到极致,从细分技术“分而治之”到“大一统、端到端”,从理论洁癖走向暴力美学。195019802006201720202022……基于规则机器学习神经网络TransformerGPT3ChatGPT???••手写规则处理少量数据•可找到一些函数与参数分类数据••像人脑一样学习根据大量数据分类学习一个复杂的参数集合••优化人脑学习过程关注重点而非全部••使用海量学习数据不需要提前进行标记和分类•人类对结果的反馈成为学习过程的一部分••能否打破人脑结构限制?有无可能生成情感?大模型的竞争力:大数据、大算力和强算法。2.8
来龙:ChatGPT如何演化而来?AI算法演化之路:火爆的算法在经典算法之上优化而来双向编码表示(BERT)OpenAIp
各算法并非割裂关系,有多条谱系传承甚至跨代遗传。p
微软阵营体现后发优势。代表具有里程碑的关键创新代表相关算法开创者所在公司或阵营卷积神经网络(CNN)生成预训练变压器(GPT)OpenAIYanLeCun&福岛邦彦受限玻尔兹曼机(RBM)PaulSmolensky深度玻尔兹曼机(DBM)HintonAttention
&TransformerchatGPT(GPT3.5)openAIGPT3openAIGoogle图像生成相关语言生成相关递归神经网络(RNN)长短期记忆(LSTM)生成对抗网络(GAN)GoodfellowMT-NLG多层感知机(MLP)Hochreiter&JuergenSchmidhube伊辛&楞次&甘利俊一&JuergenSchmidhube微软&英伟达AlphaFold2Hinton&Sejnowski深度强化学习(DQN)Deepmind(GOOG)蒙特卡洛树搜索(MCTS)BruceAbramson何信明等注意力机制(Attention)Deepmind(GOOG)AlphaFold非线性激活残差网络Deepmind(ResNet)RNN改进何信明等反向传播(BP)概率模型高维词向量AlexNet
&DropoutWerbos&HintonYoshuaBengioHintonHinton1900年-1980年1980年-1990年1990年-2000年2000年-2010年2010-2020年2020年-至今2.8
来龙:ChatGPT如何演化而来?ChatGPT的训练过程与提升表现图1:ChatGPT的提升表现图2:ChatGPT的训练过程分为三个阶段采用PPO强化学习算法针对奖励模型来优化策略•••••数据集中随机抽取问题使用PPO模型生成回答RM模型给出质量分数基于质量分数优化PPO模型参数循环迭代出新模型第三阶段强化学习优化模型效果远超预期常识知识处理能力,心智达到人类9(深度),基本达到人类水准•••••数据集中随机抽取问题生成多个不同的回答收集比较数据并训练奖励模型岁孩童水平第二阶段训练奖励模型(RM)标注答案排名顺序排序结果数据来训练奖励模型RM模型给出高质量回答的分数伦理及避坑,展现••••数据集中随机抽取问题生成多个不同的回答标注高质量答案收集演示数据并训练有监督具有通用人工智能(广度)的雏形较高的语义理解能力第一阶段训练监督策略模型高情商,敢于承认无知,承认错误策略用标注好的数据来微调模型2.8
来龙:ChatGPT如何演化而来?初代ChatGPT的训练存在六大方面的局限性图:ChatGPT训练的局限性数据的实时性和有效性缺乏深度推理能力ChatGPT缺乏深度推理能力,例如不能完成高难度数学题。因为缺乏和结构化数据的有效对接,所以目前ChatGPT会出现数据缺失和实时性错误。深度领域知识处理有问题缺乏深层语义理解能力ChatGPT训练局限性
ChatGPT可理解部分浅层语义,但缺乏深目前ChatGPT在常识知识方面非常强大,但对领域内专业知识处理仍存在问题。层(如模型论层)语义理解能力。跨模态能力不足需要大算力支持其训练和部署ChatGPT需要大量语料数据训练模型,在应用时仍然需要大算力的服务器支持当前ChatGPT主要生成文本,不包括图像和视频在内的其他模态。2.9
去脉:ChatGPT将走向何方?ChatGPT未来的改进方向:多模态、少人化、小型化、进化力减少人类反馈强化深层语义理解能力ChatGPT的小型化CAI(ConstitutionalAI)的排序过程使用模型(而非人类)对所有生成的输出结果提供一个初始排序结果。计算机学家Stephen
Wolfram为这一问题提出了解决方案。Stephen
Wolfram创造了的Wolfram语有三类模型压缩(modelcompression)可以降低模型的大小和成本。言和计算知识搜索引擎Wolfram|Alpha,其后台通过Mathematica实现。•
量化(quantization),即降低单个权重的数值表示的精度。比如Tansformer从FP32降到INT8对其精度影响不大。•
剪枝(pruning),即删除网络元素,包括从单个权重(非结构化剪枝)到更高粒度的组件如权重矩阵的通道。这种方法在视觉和较小规模的语言模型中有效。•
稀疏化。例如奥地利科学技术研究所(ISTA)提出的SparseGPT(/pdf/2301.0077)可以将GPT系列模型单次剪枝到50%的稀疏性,而无需任何重新训练。对GPT-175B模型,只需要使用单个GPU在几个小时内就能实现这种剪枝。多模态模型发展模型实时持续学习进化能力•
文本到文本的AIGC•
文本到图像的AIGC•
文本到3D的AIGC•
图像到图像的AIGC•
音频相关的AIGCPart
01
人工智能的概念与界定Part
02
人工智能的技术演进与趋势Part
03
ChatGPT带来的变革趋势Part
04
AIGC风口下的投资机会P02P06P26P41目
录3.1
ChatGPT有多火?“有意瞄准,无意击发”自11月30日发布后,ChatGPT仅用2月便积累1亿用户数量ChatGPT关键字搜索兴趣变化(单位:百万人)ChatGPT用户数量增速惊人1009080706050403020100消费级应用1亿用户达成时长(月)ChatGPTTikTok29InstagramPinterest304155617078SpotifyTelegramUber2022/11/302022/12/142022/12/282023/1/112023/1/25GoogleTransaltechatgpt搜索人数7日均线3.2
深远意义:人类文明生产力跃迁以ChatGPT为代表的AIGC工具的出现,标志着人类生产效率出现了第二次脑力效率飞跃生产效率的提升脑力创意脑力生产效率的二次飞跃内容再加工者AIGC?脑力辅助脑力生产效率的提升内容生产者云、网、端、芯、链PC/软件机械体力效率的提升体力输出者体力农具+牛石器原始时代农业时代工业时代信息时代数字时代数智时代宙线:时间(人类文明进化历程)3.2
深远意义:互联网走出强弩之末对传统内容生成模式的颠覆与重塑,解放内容生产者,让其有更多精力进行二次深加工Web1.0Web2.0Web3.0互联网时代内容生产形式角色转换•
PGC•
UGC•
AIGC•
内容消费者•
初次内容生产者•
二次内容加工者初次内容核心环节演进用户设备AIGC生产内容用户/专业人士二次加工初次内容生产数量多、质量有限、无法自动化内容多样化内容生产数量多、质量提升大、自动化生成平台平台模糊推送主动检索精准推送用户用户3.2
深远意义:人与内容的关系发生根本性变革AIGC加速元宇宙世界的内容构建,推动人与内容关系发生根本性变革Web1.0Web2.0Web3.0互联网时代体验水平交互模式内容传输内容生产形式角色转换•
个体体验•
复合体验•
沉浸体验•
单向交互•
单向信息输出•
PGC•
双向交互•
沉浸、聚联•
双向信息交互•
UGC•
信息聚联与价值共享•
AIGC•
内容消费者•
初次内容生产者•
二次内容加工者AI技术进程内容载体•
决策式AI•
决策式AI•
生成式AI•
元宇宙•
文字、图片、视频•
文字、图片、视频3.3
AIGC的应用领域多模态✖多场景,逐渐融入千行百业医疗场景Ø通过仿真医疗数据训练医疗诊断模型Ø利用合成的基因组数据进行医学研究自动驾驶场景Ø应用于仿真引擎模拟驾驶场景Game
AlØAIBotØØNPC逻辑及剧情生成数字资产生成文本生成图像、视频、文本间跨模态生成ØØ结构化写作:新闻播报非结构化写作:剧情续写辅助性写作:帮助润色Ø文字生成图像ØØØ文字生成演示视频文字生成创意视频图像/视频到文本:视觉问答系统ØAIGCØØ闲聊机器人文本交互游戏图像生成零售场景ØØØ图像编辑工具:去除水印创意图像生成:生成画作功能性图像生成:生成海报Ø通过3D模拟创建合成数据集,助力无人零售视频生成Ø视频属性编辑:删除特定主体虚拟人生成ØØ视频自动剪辑视频部分编辑:视频换脸等音频生成策略生成ØØØ语音克隆文本生成特定语音乐曲/歌曲生成数字内容构建合成数据助推银行和投资场景Ø应用于欺诈检测、交易预测、风险因素建模工业场景Ø创建了虚拟工厂,在模拟平台上使用多种工具进行合作3.4
AIGC的技术应用趋势OpenAI的产品矩阵可以洞悉未来一些方向:多模态+安全p
从OpenAI产品矩阵可以看出其已经布局文本、图片、语音等多模态产品,未来将逐步探索多模态的融合。p
未来文本、图片、语音、代码等场景将逐步走向成熟,将助推技术向多模态融合发展。生成式AI技术的成熟应用进程时间表OpenAI的产品矩阵大模型成熟难度:初级尝试接近成熟成熟应用领域类型文本领域2020年之前2020年2022年2023年?2025年?约2030年产品产品说明类型诈骗垃圾信息识别翻译垂直领域的文案撰写实现可精调(论文等)基础文案撰写初稿更长的文本二稿终稿,水平高于人类平均值终稿,水平高于专业写手对话模式的AI交互模型,具备回答一系列问题、承认错误、质疑不正确的前提和拒绝不适当的请求等功能。基础问答回应ChatGPT文本根据文本生成终版应用程序,比全职开发者水平更高更长的代码更精确的表达支持更多语种领域更垂直根据文本生成初版应用程序是一个新的人工智能系统,可以根据自然语言的描述创建逼真的图像和艺术。例如左图通过宇航员、骑马和写实风格生成的图片代码领域图像领域单行代码补足多行代码生成DALL·E2Whisper图片艺术图标摄影终稿,水平高于专职艺术家、设计师等模仿(产品设计、建筑等)终稿(产品设计、建筑等)是一种自然语言处理的神经网络模型,是一种自动语音识别系统。并且支持多种语言的转录及翻译成为英语。语音安全AI版Roblox可依个人梦想定制的游戏与电影该项研究专注于训练AI系统,不断提升Alignment
实用性、仿真性和安全性,进一步探索和开发AI系统在人类反馈中学习的方法。视频/3D/游戏领域视频和3D文件的基础版/初稿二稿3.4
AIGC的技术应用趋势多模态融合的五大方向路径路径1:文本到文本AIGC路径5:图像到图像AIGC我怎么能去超市?由PreferredNetworks推出的Crypko可以创作上半身动漫形象。ChatGPT是由OpenAI基于GPT-3.5开发的大型语言模型聊天机器人AIGC直走,然后向左转。•从草稿中创作图像•修复损坏的图像请给我画一张显示道路的地图AIGC五大技术应用方向AIGCAIGC请给我画一幅f非常愤怒的小鸟路径3:文本到3DAIGCAIGC让这个机器人来模仿我的语气吧MurfAI推出的人类语音生成器可以在几分钟内发出录音室质量的声音创作一些音乐请为我生成一个使用笔记本电脑的3D机器人谷歌推出的DreamFusion可以根据给定的文本创建3D模型AIGCAIGC由谷歌推出的Imagen,是一个文本到图像的扩散模型,具有前所未有的摄影现实感程度和深刻的语言理解水平AIGC路径4:音频相关AIGC路径2:文本到图像AIGC3.5
经典场景:数字人与营销数字化AIGC的内容生成打通了营销数字化的最后一个环节p
在营销数字化核心流程中,内容自动化生成环节在过去是缺失状态,因此无法构成闭环,但随着AIGC的应用,将助推营销数字化实现业务闭环。图:营销数字化核心流程产品用户使用场景营销数字化核心流程闭环营销复盘再推荐销售达成过去缺失环节••目标客户定位:通过客群分析实现目标客户识别;成效分析个性推荐全渠道营销推广营销数字化核心流程客户需求分析:基于客户需求进行市场研判,培育线索智能分群;Χ内容自动化生成个性方案设计客户互动分析客户识别客户•个性方案设计:基于分群进行个性化方案设计,设置自动化营销流程;客户需求分析••内容自动化生成:基于个性化方案自动生成营销物料内容;目标客户定位全渠道营销推广:全渠道触达与互动,推送个性化方案和客户认知购买过程内容;引流分配互动营销运营管理成效分析未知接触了解购买复购••销售达成:客户意向预测与销售意向的达成;营销复盘再推荐:事后的营销全场景可视化报表复盘与再推荐方案生成。厂商产品功能3.5
经典场景:数字人与营销数字化AIGC与数字人的结合,推动数字人实现文本、语音、动画、音频等多模态交互p
虚拟人系统框架一般情况下由人物形象、语音生成、动画生成、音视频合成显示、交互五个核心模块构成虚拟人构建的“五横体系”。p
交互模块为可扩展项,依据是否具有交互模块可讲虚拟人分为交互型虚拟人和非交互型虚拟人,其交互型虚拟人依据其驱动方式的不同,又可分为智能驱动型虚拟人和真人驱动型虚拟人。p
其中虚拟人制作过程中核心关键技术应关注:建模、驱动、渲染和人工智能。其决定了虚拟人的外在形象的美观度、动作的流畅度以及交互的自然度及虚拟人的智能程度。图1:虚拟人技术框架图2:非交互类虚拟人系统运作流程图3:智能驱动型虚拟人系统运作流程2D数字人3D数字人识别感知智能分析与决策人物语音生成人物形象人物生成人物表达合成显示无人物建模绑定等动画生成模块语言生成模块五横体系人物语音生成语音生成、动画生成(驱动、渲染)等终端显示技术音视频合成显示音视频合成显示文本终端用户文本终端用户音视频合成显示模块通用框架人物动画生成人物动画生成识别感知分析决策语音语义识别、人脸识别、动作识别等知识库、对话管理等交互模块数字化人物形象TTSA人物模型3.5
经典场景:数字人与营销数字化大厂拥有创新营销「生态+技术+流量」的完备实力,赋能品牌高效链接用户人→数字人资产→数字资产空间→虚拟空间百度数字人:1+2+3+X虚拟数字人生态体系基于百度区块链开发平台打造数字藏品元宇宙基础设施一站式平台两大核心资产三大应用合作授权品牌营销服务场景度晓晓、希加加生态能力AI智能极限观感
多端兼容永久复用品牌数字资产品牌营销赋能品牌“虚拟”用户管理百度智能云曦灵平台—四大AI引擎为依托国内首款独立元宇宙APP自研开放的数字资产可信登记平台人像驱动引擎智能对话引擎语音交互引擎智能推荐引擎唇形驱动表情驱动肢体驱动手势感知任务对话预置技术智能问答开放域对话全双工AST变声器内容与产品推荐数字艺术品交易平台丰富活动场景个性化TTS定制唤醒词素材库星际口袋、D+商城、小度寻宇会议会展、文博文旅文创、试乘试驾、个人空间…AI能力百度大脑百度文心大模型PLATOAI面部驱动AI口型驱动AI变声器AI跳舞AI唱歌AI任意换妆换装高精度数字人实时直播
Plato
AI实时语言互动流量资源百度多端优势产品矩阵,打造10亿+移动用户规模的“超级流量”6.28亿月活用户量8亿1.1亿1300亿8000万全域DAU3000万家庭渗透网盘积累用户全域DAU日均位置服务请求3.6
甲子探索场景:AIGC与新一代智库的结合对研究流程的重塑,实现预研环节内容重构与效率提升p
经甲子光年智库测算,借助AIGC相关工具,在研究分析的每一个环节,都可以实现40%以上效率提升。关键流程AIGC对研究项目全流程的重塑角色>是采购问卷发布和回收合作伙伴确认是否需要采购否A5数据清洗A8报告确认A9研究报告A10发布后研究项目流程A1预研工作A2项目启动A3深度访谈A4问卷调研A7报告撰写研究人员与优化发布再开发A6数据分析前期预研,完成资料收集与结构化文档整理协助生成发布文稿,提高文稿撰写效率协助分析师收集客户资料协助分析师进行访谈问卷设计协助分析师进行调研问卷设计协助开展报告观点提炼报告查错优化改进建议AIGC3.6
甲子探索场景:AIGC与新一代智库的结合搭建基于AIGC的新一代智库产品架构体系,甲子光年已经具备一定基础图:基于AIGC的新一代智库产品架构体系研究项目全流程的重塑应用层中间层前期预研调研执行统计分析报告撰写发布推广……甲子光年具备环节科技行业模型知识图谱人脉模型能力模型行业数据定义赛道研究模型数据云计算人工智能企业机构模型……算法层指标体系产业图谱评估模型问卷模型元宇宙……政府高校基础层NLP大模型CV大模型多模态大模型……甲子光年待加强的环节平台层算力层模型生产训练平台数据平台数据采集数据清洗数据注入数据存储数据分析公有云基础设施AIDC智算中心3.6
甲子探索场景:AIGC与新一代智库的结合甲子光年构建的甲子大脑数据平台体系,为打造基于AIGC的新一代智库产品提供基座图:甲子大脑业务闭环赋能甲子光年各业务开展源数据政府数据采集、汇总、输入甲子大脑数据湖各业务线数据调取与使用官方智库公域数据科研协会FA行业数据财务数据定义赛道核心观点数据图表评估体系研究模型……数据库知识库智库媒体行业定义赛道企业库机构库数据数据指标体系产业图谱企业数据产品库案例库公司三方数据产品介绍…活动人脉库能力库咨询公司调研机构商学院……专家观点研究模型数据模型企业机构评估模型问卷模型政府高校峰会活动解决方案媒体输入端输出端智库甲子光年私域数据商学院•经过数据分析师对数据进行结构化、标准化处理,再经过战略分析师对观点的归纳总结,最终形成结构化数据和观点进行输出FA……各业务线实际使用数据过程中又会产生新数据,再次注入甲子大脑Part
01
人工智能的概念与界定Part
02
人工智能的技术演进与趋势Part
03
ChatGPT带来的变革趋势Part
04
AIGC风口下的投资机会P02P06P26P41目
录4.1
基于技术架构的产业现状分布从技术架构下的产业分布来看,算力层和中间层企业将更有机会p
当下一级市场中AIGC企业按技术架构下的产业链分布来看,84%布局算法层,11%处于算力层,只有5%布局平台层,算法层竞争度高,算力层竞争度小。算法层中又以基础层和应用层企业居多,中间层企业较少,中间层企业未来机会空间较大。算法层企业较多,算力层企业较少算法层中的中间层企业较少图1:一级市场AIGC企业按产业链分布情况图2:一级市场AIGC企业按细分产业链分布情况应用层中间层基础层平台层算力层39%15%30%5%中间层企业少,未来机会空间大。算法层84%算法层竞争度高,算力层竞争度小。
算力层11%平台层5%11%4.1
基于技术架构的产业现状分布中间层的AIGC在内容生成、推荐引擎、机器学习应用、知识图谱、机器翻译等领域布局少p
从现有中间层的AIGC企业分布情况来看,企业布局主要聚焦智能机器人、计算机视觉应用、智能交互、机器人操作系统、chatBOT等方向,反而在内容生成、推荐引擎、机器学习应用、知识图谱、机器翻译等领域布局较少,这些中间层领域具有投资价值。图:一级市场AIGC技术架构中处于中间层的企业分布情况1%100%3%4%4%4%6%7%9%10%52%chatBOT智能机器人
计算机视觉应用智能交互机器人操作系统机器翻译知识图谱机器学习应用推荐引擎内容生成整体4.2
基于技术架构的产业链投资价值环节甲子光年智库认为,算力层和中间层企业具有投资价值应用层中间层智能客服聊天机器人数字人元宇宙教育搜索引擎……投资价值环节••蓝海市场,成长空间大孵化成本低算法层平台层文本+金融图像+医疗视频/音频+教育多模态+营销……••进入壁垒:专业性壁垒、深度壁垒先发优势:先训练、先迭代,具有一定容错率,发布时会有社会效应基础层NLP大模型CV大模型多模态大模型……模型生产训练平台数据平台数据采集数据清洗数据标注数据合成数据溯源投资价值环节••需求持续释放,成长空间大政策鼓励扶持,具有战略价值•••相比于大模型投入成本低专业性壁垒高先发优势:先发布属于填补空白,突破卡,社会效应高4.3
基于技术架构的各环节投入回报情况的分析从投入成本和回报情况来看,中间层和应用层的投入成本低,商业回报较好图:“甲子微笑曲线”技术-商业投入回报模型AIGC不同技术架构下的投资孵化成本投入对比商业回报平台层:数据平台AI芯片(28纳米)预训练大模型应用层中间层0.50.613.5100投入成本(亿元)4.4
算力层的投资机会与代表企业AIGC对算力的需求指数级增长,算力供需已经失衡,需求拉动下算力层将有较大空间预训练模型数据规模继续呈指数级增长算力增长滞后于数据增速导致算力供需失衡•模型规模指数增长:2019年,OpenAI耗资1200万美金研发GPT-3模型,建立了2600P的基础算力,相比其2018年6月推出的GPT模型,数据规模增长了500倍。如果使用单块NVIDIA
V100
GPU,则其完成GPT-3当前•供需失衡:近10年来,全球算力的增长明显滞后于数据的增长。从2012年开始,全球人工智能训练所用的计算量呈现指数增长,平均每3.43个月便会翻一倍,计算量扩大了30万倍,远超过算力增长速度。能实现的训练规模,需要长达355年之久。计算曲线HPE分析AI预训练模型规模呈现指数级速度增长44Datal
数据规模和模型复杂31.6度增速远超算力增速。GPT-3ꢃꢄ335ꢂꢁ2TB66ꢂꢁ800GBl
没有强大算力,数字经济将失去核心支撑。15.8Compute7.9l
新计算产业,成为中国数字经济发展的必由之路、重中之重。3ꢂꢁ160GB200ꢀ
ꢁ40GB50ꢀ
,16GB4.41.83ꢀ
,4GB0.306'0.808'10'12'14'16'18'20'2018年6月
2018年10月
2019年2月2019年7月
2019年10月
2020年6月4.4
算力层的投资机会与代表企业高效实现机器学习算法的计算硬件p
狭义的AI
芯片指针对人工智能算法做了特殊加速设计的芯片,目前来讲,由于深度学习算法在人工智能领域认可度及应用程度不断上升,AI芯片一般指针对大量数据进行数据训练(training)与推断(inference)设计的芯片。p
GPU,FPGA及ASIC是目前最常用的三类AI芯片的技术架构。分类典型特征图形处理器(Graphicsprocessingunit),在计算方面具有高效的并行性。用于图像处理的GPU芯片因海量数据并行运算能力,被最先引入深度学习。功耗比较低。GPU现场可编程门阵列(Fieldprogrammablegatearray),是一种集成大量基本门电路及存储器的芯片,最大特点为可编程。具有能耗优势明显、低延时和高吞吐的特性。FPGA针对机器学习算法专用集成电路(Applicationspecificintegratedcircuit,特定应用集成电路),是专用定制芯片,为实现特定要求而定制的芯片。除不能扩展应用以外,在功耗、可靠性、体积方面都有优势。ASIC类脑芯片“类脑芯片”是指参考人脑神经元结构和人脑感知认知方式来设计的芯片。目前仍然处于探索阶段。针对类脑人工智能算法*本次报告不作讨论4.4
算力层的投资机会与代表企业云端芯片侧重训练,边缘+终端层芯片侧重推理,这两类芯片均具有较高成长空间p
AI芯片根据所在服务器在网络中的位置可以分为云端AI芯片,边缘及终端AI芯片。p
AI芯片根据实践中的目标不同,可大致分为两类:1)训练AI芯片:指用于构建神经网络等模型;2)推理AI芯片:利用模型进行推理预测。p
边缘层计算能力的提升推动云-边-端的协同,使得更多行业的人工智能应用场景得以实现,推动AI芯片行业的发展。图:云-边-端协同示意图••云端主要承载云端训练和云端推理的任务具体涉及智能数据分析、模型训练任务和部分对传输带宽要求不高的推理任务SaaS
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 快递安检机操作安全规程
- 2026年农业种植技术员实操技能考核试卷及答案
- CRRT局部枸橼酸抗凝突发低钙急救共识
- 湿式除尘器安全操作规程
- PCB开料岗位技能考核试题(含详细答案)
- 职业性哮喘脱离接触后随访规范共识
- 2026年安全环保知识竞赛考试试题(附答案)
- 2026年广播电视播音员主持人资格(广播电视基础知识)自测试题及答案
- 全员安全生产责任清单落地方案
- NSATP网络安全从业人员能力测评模拟试题(含详细答案解析)
- TCECS 1273-2023 冶炼渣骨料应用技术规程
- 二年级数学应用题题型及解答技巧
- 隧道开挖清包工合同协议
- 摩托三力测试试题及答案
- 第四十课-椭圆及其标准方程省公开课金奖全国赛课一等奖微课获奖课件
- 卡通小学生校园用电安全教育作品
- 中医中药辨识
- 我国牛病流行的现状及对策
- ifix培训教程课件
- 《新课程学习辅导》历史九下 统编版 答案
- 马克思主义经典著作选读智慧树知到课后章节答案2023年下四川大学
评论
0/150
提交评论