版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
生成式AI导论人工智能产业发展现状与展望图灵新智算人工智能投研院系列培训课程INTELLIGENTCOMPUTINGFORBETTER
FUTURE智算未来服务亚太1n人工智能产业的发展历程过去的AI和今天的AI有什么不一样?n行业发展现状与案例介绍AI能做什么?
现在发展到什么阶段?n当前行业面临的挑战和机会还有机会吗?
最新的方向n关于AI的未来展望讲座内容和定位n生成式人工智能(
Generative
AI)
原理简介魔术背后的手法之前不需要上过任何AI相关课程
、不需要会写程序就能基本理解生成式AI的原理。快速了解技术趋势和产业发展内幕生成式人工智能(
Generative
AI
)原理简介生成式人工智能(Generative
AI)机器学习(Machine
Learning)深度学习(Deep
Learning)Transformer
大语言模型(LLM)自监督学习预训练监督学习增强学习提词工程(Prompt)向量数据库RAGFine-Tune思维链(
COT)....19世纪的一位法国艺术家Jean-Marc
Côté所描绘出对100年后(西元2000年)的未来世界想像人工智能(目标)让机器展现
「智慧」
(而不是完成某项工作) 人工智能(
Artificial
Intelligence,
AI
)生成式人工智能(
Generative
AI
):机器产生复杂有结构的物件文章
影像
语音由文字构成由像素构成由取样点构成用中文字組成100
字的文章有多少的可能性?假设中文常用字为1000个,
1000
x
1000
x
1000
x
1000……=
10103
(宇宙中的原子总数估计10的80次方)从近乎无穷的可能中找出适当的组合生成式人工智能(
Generative
AI
):机器产生复杂有结构的物件
写一篇100字的文章,标题为《想象力的价值》
Hamlet生成式人工智能(
Generative
AI
):机器产生复杂有结构的物件分类(Classification):
从有限的选项中做选择(不是生成式人工智能)。...人脸识别
、
图像识别
、视频分析
、基于知识库的问答机器人
...垃圾邮件监测猫狗分类人工智能(目标)生成式人工智能(目标之一)文字
影像
声音“更接近于人的思维与表达
”生成式人工智能(
Generative
AI
)机器学习
≈机器自动从资料中找到一个函数(Machine
Learning)参数(Parameter)有一个函数
y
=
f(x)=ax+b
假设输入
x
=
1,
输出y
=
?假設輸入
x=
4,
輸出y
=
5假設輸入
x=
2,
輸出答案
a
=
3,
b
=
-7初中的时候你用人力算出参数,
机器学习则是自动找出参数的方法請找出
a
b
:y
=
-1输入:输出:
猫输入:输出:输入:输出:输入:输出:
猫训练,
training
(学习,
learning)几万个参数有一个函数
猫
or
狗
=f
(
)
=
…a
…
b
…c
…d
…e
…f
…g
…a=
1.3,
b=−7.2,
c=
0.4,
…假设要做一个机器,能分辨猫和狗通过机器学习可以把几万个参数找出来!模型
(Model)狗狗假设要做一个机器,能分辨猫和狗测试,
testing
(推理,
inference)深度学习(Deep
Learning)是一种机器学习技术类神经网络
(Neural
Network)
CNN,
RNN几万个参数
a=
1.3,
b=−7.2,
c=
0.4,
…猫
or
狗
=f
(模型
(Model)深度学习(更厉害的手段)生成式人工智能生成式人工智能(目标之一)机器学习(手段)人工智能(目标)人工智能(目标)机器学习(手段)深度学习(更厉害的手段)生成式人工智能目前的生成式人工智能大多数由深度学习实现生成式人工智能数十亿到上百亿的参数模型(Model)模型框架类神经网络的一种ChatGPT也是个函数AI绘图也是个函数(
Stable
Diffusion,
Midjourney,
DALL
·E
)上亿的参数彩色卡通猫月夜下的黑猫奔跑的猫室内的波斯猫海滨的黑狗花丛中的狗模型
(Model)AI的模糊与精准:函数的过拟合问题
字
...字字字图片复杂的物件一篇文章由文字构成生成策略AutoregressiveGeneration依据某种特定的顺序生成较小的单位由像素构成生成式AI能产生在训练时从来没有看到过的东西输入:
什么是人工智能?输入:
说个跟人工智能有关的故事输入:
写一首诗输入:
人工智能的英文翻译....输出:
人工智能就是
…
…输出:
很久很久以前
…
…输出:
床前明月光
…
…输出:
Artificial
Intelligence
(AI)....输入文字:写一篇100字的文章,
标题为《想象力的价值》训练数据测试时创造出了全新的文章...上亿的参数人工智能(目标)机器学习(手段)深度学习(更厉害的手段)生成式人工智能生成式人工智能大语言模型(
LLM)G:
Generative
生成P:
Pre-trained
预训练T:
Transformer•由OpenAI开发,2.0→3.0→3.5→4.0→...•
Bard(Gemini),
Anthropic
Claude,
Mata
Llama
也是类似技术•国内:
智谱
、
文心一言
、
通义千文
、
百川
、Mini
Max
、
Kimi....ChatGPT北京大→互联
→大模型是很重要的技术
....,所以必须引起重视
→
ChatGPT
学
ChatGPT
网
ChatGPT
[END]ChatGPT真正做的事情
—
文字接龙语言模型深圳最高的山是哪座?
→
ChatGPT
深圳最高的山是哪座?
梧
→
ChatGPT
深圳最高的山是哪座?
梧桐→ChatGPT
深圳最高的山是哪座?
梧桐山→ChatGPT
ChatGPT真正做的事情
—
文字接龙
语言模型梧
桐
山[END]答案ChatGPT真正做的事情
—
文字接龙ChatGPT50%几率学可以选择的符号(Token)北京大→学
哥掷骰子Token:词元,最小语义单位Token是离散文本符号的连续的数学表示,
以便于在向量空间中进行相似性搜索和比较为什么英文的Token
不是单词?因为英文单词无法穷举。不同语言模型的Token
通常不会相同大型语→大型语言
→大型语言模型是很重要的技术....,所以必须引起重视
→ChatGPT真正做的事情
—
文字接龙ChatGPTChatGPTChatGPT每次答案都可能不同...ChatGPT真正做的事情
—
文字接龙这就是为什么ChatGPT有时候会
一本正经的胡说ChatGPT真正做的事情
—
文字接龙上下文人
→人工
→人工智能技术正在飞速发展
→语言模型怎么学习文字接龙?任何文本句子都可以是教材!比如一句话:
“人工智能技术正在飞速发展
”ChatGPTChatGPTChatGPT...语言模型怎么学习文字接龙?任何文本句子都可以是教材!互联网上有无穷无尽的文句——用来做预训练(Pre-train)2018
GPT1:参
数:117M数
据:1G2019
GPT2:参
数:1.5B数
据:40G2020
GPT3:参
数:175B数
据:580G(相当于阅读哈利波特全集
30
万遍)20222020ChatGPT之前的GPT模型研究者们一度认为当模型参数量超过某个量级时,会出现一些突然出现的新能力
。然而,这种现象随后被质疑与度量的选择有关
。唐老师进一步分析了能力涌现曲线与模型训练损失的关系,指出涌现能力实际上与模型损失的关联更为直接。大力出奇迹:“智能涌现”/blog/better-language-models/GPT2模型的能力与参数量及训练量有关后天努力数据质量训练方法训练数据数量参数量先天资质但是...GPT3
175B只从互联网学习的问题预训练(自监督式学习)世界第一高峰是监督式学习深圳最高的山是哪座?继续学习微调(finetune)ChatGPTGPT3.5的改进:监督学习通过互联网学习GPT「梧桐山」梧桐山喜马拉雅山基础模型世界第一高峰是监督式学习深圳最高的山是那座?增强式学习(ReinforcementLearning,
RL)请帮我写个好笑的故事GPTChatGPTCh
tGPT喜马拉雅山「梧桐山」……通过互联网学习
辛苦省力预训练对齐……a训练GPT的GPT:instructGPT关于文字生成图片
、视频
、以及SORA文生图:扩散模型扩散模型还原图像的过程Sora:结合Transformer架构的扩散模型如何把噪声还原成图像?提示:
生成一个笑脸的简笔画生成式AI已经努力向人类“对齐”Alignment人类如何向生成式AI“对齐”?提词工程(Prompt
engineering)人类如何与生成式AI对齐微调(Fine-Tune)增强检索(RAG)提词(
Prompt
)工程鼓励ChatGPT想一想鼓励ChatGPT想一想情绪勒索也有用?所谓的咒语,就是引导人工智能一步一步思考GPT4(
工具使用
)ChatGPT的上传文档(
知识库功能
)RAGRetrieval-Augmented
Generation增强检索生成,
是让大模型能快速获得最新知识的方法之一。向量数据库猫猫的二维向量空间苹果多维向量空间向量数据库的查询方式:不精确,但很合理如
何
评
价
OpenAI的
CEO
突
然
被
解
职
,3天
后
又
被公司重新请回
,上
上
演
了
现
实
中
的“权
力
游戏
”这件事
?对
不
起
,我
不
清
楚
...Chunk1:Sam
Altman
被
解
职
,硅
谷
上
演“甄嬛传
”...Chunk2:Sam
Altman
回
归
OpenAI,董
事
会
集
体
辞
职
...Chunk3:OpenAI闹
剧
收
场
,谁
是
赢
家
谁
是
输
家
?...RAG增强检索
优化模型输出...暴
露
了
OpenAI内
部
关于公司未来发展方向的重大分歧
,所有的反转反
映
了
OpenAI内
部
的
激烈
权
力
斗
争
...请基于以下信息回答如
何
评
价
OpenAI...:Chunk1:Chunk2:Chunk3:模型微调(
Fine-Tune
):改变模型原有的参数(
权重
)只调整输出全量微调叠加权重Fine-Tune适用的场景微调永久改变了模型训练出来的参数,适合:
补全某个领域的知识短板,
纠正原来的结果偏差。不适合:
变化快
、
需要实时得到的知识。不适合:
和通用大模型原有能力重合的训练
。(会导致过拟合)文字接龙的极限?与人类思维方式的比较773字40个成语滕
王
阁序王
勃30字AI产业是如何发展到今天的?生成式AI和之前的AI有何不同?产业现状如何?还有机会吗?最新的技术发展趋势,
以及生成式AI在企业如何落地应用?人工智能在50年代就已经具备雏形FrankRosenBlatt“感知器
”马克一号1960~1980年的人工智能:符号AI哈弗大学Marvin
Minsky
1956年提出人工智能概念计算机学习符号人类给予指令1980年:Hinton的波兹曼机重启神经网络技术Geoffrey
Hinton波兹曼机1980年代的自动驾驶研究卡内基梅隆大学符号指令AI无法取得突破1980年代的自动驾驶研究史上第一台自动驾驶车:
Alvinn,
时速60英里1990年代
神经网络的复兴法国科学家杨立昆,
贝尔实验室卷积神经网络(
CNN)
的提出者福岛邦彦影像识别系统:
2周训练后可辨识手写字迹(美国银行在90年代用这套系统处理了10%的支票签名)赛诺夫斯基Terry
Sej
nowski合成声音机器:
NetTalk1990年代
神经网络的复兴2009~2014
神经网络AI的崛起Hinton的神经网络训练方式用于微软的语音识别(解决从背景杂音中辨识人声的问题)英伟达的GPU用于AI计算2010年
谷歌开始大规模使用神经网络用16000颗芯片训练视频识别AI数据来源:
youtube斯坦佛大学教授吴恩达“猫咪论文”2011年Hinton接手Google人工智能实验室2012年人才大战:
、微软
、
百度4400万美元deepmind2014年Google收购DeepMind2014年竞购DeepMind:
、Google(6.5亿$)20142014FaceBook(
Meta
)与百度20122014~2017:神经网络AI超越人类马斯克:
DeepMind的发展让人担心2014/11超智慧AI将会毁灭人类?尼克.
伯斯特隆姆特斯拉在AI上的持续投入10万卡
H100训练集群DeepMind研发的AI战胜人类2016年AlphaGo4:1战胜李世石2017年AlphaGo3:0
战胜柯洁AI史上的神奇瞬间AI在自学习中发现了击败人类的招数1/10000的概率2016年后美国AI人才流出渐进式生成对抗网络ProGAN中国政府从2016年开始大力扶持AI:第一轮AI产业浪潮计算机视觉
(computer
vision)2017~2022:神经网络算法的极限AI的短板:算法偏见AI的短板:检测错误2019年新西兰清真寺枪击案基于标注的瓶颈ML小模型时代的难点解决特定领域的特定问题•
任务开发成本高
、
时间周期长•
相同任务的微小需求变化,
需要30%-70%的重新开发成本,
无法产品化•
模型开发和维护成本高•
高水平算法研究员稀缺S
li
L
能用扩大规模解决的问题,
就不要开发新的算法;
如ca
ng
aw——
果要搞新的算法,
就是为了更好的扩大规模!大模型时代使用AI方式的演变行业发展现状全球AI投资规模变化趋势全球AI市场规模数据:5年预测n
预计人工智能市场规模将从2023年到2030年增长近20倍,超过2万亿美元。n
复合年增长率(
CAGR)
为38.
1%n
到2025年,将有多达9700万人从事人工智能领域的工作。n
预计到2030年
,人工智能将为美国国内生产总值(
GDP)
带来显著的21%的净增长。n
人工智能有望创造9700万个就业岗位,并到2030年为经济贡献15.7万亿美元。https://bluetree.digital/ai-industry-growth-metrics/2023年开始的AI发展由算力驱动“后摩尔定律时代”的新算力增长模式未来计算性能的增长机会主要来自技术堆栈上层:软件
、
算法和硬件架构。新算力的增长路径不再是芯片工艺的竞赛,
而是基础设施
、
算力产品
、
定制架构的系统化工程。随着半导体光刻技术路线图的结束,
所有通过半导体小型化工艺进一步提高性能的方法将在大约
2025
年结束。Figure
from
Kunle
Olukotun,
Lance
Hammond,
Herb
Sutter,
Mark
Horowitz
and
extended
by
John
Shalf.CREDIT:
N.CARY/SCIENCE96行业影响:过去50年的科技组件未来50年的科技组件Coat
ue:生成式AI是迄今为止最大的一波科技浪潮2015~2020s云与Saas2022~2027
生成式AI2010s
移动互联网2000s互联网00一切才刚刚开始一切才刚刚开始加速计算在AI领域1000倍以上的性能提升lTransformer架构缓解了深度学习训练过程的内存墙问题,但在推理阶段仍面临此挑战。lLLM推理时使用的autoregressive
decoding要求在预测每个token之前都需要加载所有模型权重。l例如,
Llama
3.1400B模型在生成每个token时都需要从内存中加载4000亿个权重。因内存墙的存在,Token生成能力
≠
FLOPS。Theturning
point
is
a
batch
size
of:•113for
M
I250•
492for
M
I300X•
567for
H100Single
Stream
memorywall:
•
Mi250:200tokens/sec,
•
Mi300:331tokens/sec,
•
H100:209tokens/sec现有智算集群架构具有100倍以上的性能优化空间“连接与调度
”的优化空间远远大于芯片本身跨服务器连接带宽速度落后160倍板外通讯芯片级主板级目前被证明可行的AI算力建设模式:根据LLM大模型的技术路线高度定制,灵活组合AI
软硬一体工程IB/Ethernet机外互联NVLink/PCIE板上互联处理计算单元分配芯片关于AI算力基础设施的误区应用模型集群整机芯片n
非标准化n
技术迭代n算力与通讯相互制约AI基础设施的定制化、工程化决定了AI算力不适用传统基建的“先修路盖房子
”的规模化模式。Scale
outScale
up分而治之软件算法集中行业龙头:英伟达的算力帝国当前AI行业面临的挑战DeepSeek带来的机会核心逻辑芯片$
200HBM内存芯片$
1500CoWos封装$
700
其他物料$
500合计
$
3000英伟达市值超过3万亿美元,
AI芯片产品营收超千亿美元英伟达GPU的超高利润率H100
官方售价$35000
实际拿货$45000~$50000毛利率超过90%
!•
头部芯片企业侵蚀大部分行业利润•NV24Q1$148亿利润•
OpenAI
24年化营收
$40亿•
红衫资本:生成式AI需要产生$6000亿收入才能抵消投入成本当前产业环境的现实情况市场的真正需求商业模式挑战AI芯片大模型•
更强大的基础模型•
解决模型的幻觉和随机性•
符合主流技术路线•
降低“用模型
”的成本•
灵活的技术路线•
控制成本扩张•
高额折旧vs技术迭代•
设备利用率vs
价格•
客户需求的持续性•
国资保值增值要求•
融资还款压力•
方案合规性不确定性降低成本资金确定性AI应用算力租赁整机盈亏线算力服务市场正在发生预期中的变化模型预训练厂商数量缩减闲置算力资源涌向市场推理与微调需求快速增长算力补贴成为常态(国内)超大规模公司大规模智算中小规模智算月租价¥6.2万~
7.3万20232024大型行业科技企业应用•
研发投入5000万到5亿;•
H100/H200训练微调,
H20/A100推理•
模型更新迭代周期长成本高(按季度微调)•
推理成本高昂(每用户成本250元/月)大参数模型应用的高门槛一梯队1000B级别二梯队110B~405B级别三梯队34B~72B级别四梯队7B~13B
级别【开源】千问27B/13BYi-9B/百川7B/13B/GLM6B/9B【仅云端】GPT4o/Claude
3
Opus千问MAX/Kimi【部分开源】Llama3.1/Yi-Large/Mistral8x22MoE/GLM
130B/qWen
110B【大部分开源】Llama34B/72B千问272B/Yi-34BH100/H200/B200,数十亿美金投入4090/L20/L40,极度压缩成本,模型能力不足大部分产生运营现金流项目,
中小AI企业标杆性项目,
龙头科技企业自用用户体验当前的局限知识的Embedding
、连通与权重:
大力出奇迹,
上限是数据集对模型的SFT和RLHF
主要是教模型识别正确和不正确输出的模式,
并未明确地教它们定义正确的基本规则
。Chatbots,Al
with
conversational
language聊天机器人,
能对话的AIReasoners,
human-level
problemsolving推理系统,
具备人类水平的问题解决能力Agents,systems
that
can
take
actions智能体,
能够采取行动的系统Innovators,Althatcanaid
in
invention人工智能驱动的创新Organizations,Al
that
can
do
the
work
of
an
organization能够完成组织工作的AI组织/系统Level
1Level
2Level
3Level4Level
5PreTrain
-预训练范式Agent
-
智能体范式PostTrain&Inference
-后训练与推理范式机会方向:通往AGI的5级范式
Stages
ofArtificial
Intelligence......AI对应人类的两种思维模式全面
、大幅度超越了所有前代模型!•
AIME
2024(美国高中数学邀请赛,
相当于中国高中数学联赛,数学奥赛筛选赛)
:
o3得分96.7%,
仅错1题;•Frontier
Math
基准测试:
o3创下新纪录,
解决了25.2%的问
题,
而其他模型均未超过2%;•
SWE-Bench编程测试:
比o1领先22.8%;•Codeforces编程竞赛:
elo分高达2727;
OpenAI
首席科学家的得分也只有2665;•GPQA
Diamond
基准测试(
Graduate-Level
Google-ProofQ&A
Benchmark,
生物
、物理
、化学等领域的测试题)
:
o3
得分未
87.7%,
远超人类专家;•
ARC-AGI
基准测试:
o3在低算力能力下的得分是o1的3倍还
多,
超87%;2024年12月发布的OpenAI
O3有多强?O3在ARC-AGI测试中的得分OpenAI
O3已验证新范式的有效性O3解决了知识模型范式/LLM的根本局限:
无法重组知识
、无法创造新知识,
只有静态的知识记忆-提取-组合l把人类所有的知识压缩到一个万亿参数级别的
模型里面
。(
见过已知的所有)l拥有千万维度的语义空间,理解概念关联性。l能够理解人类的语言(语言也是知识的一种)
。l任何问题都能在已存在的语义空间里面提取出
相关的知识;l组合-提炼成人类语言后给予输出,顺序生成。l通过思维链(树)处理没有见过的问题。l面向没有见过的问题创造新的解法。l解决方案/算法的搜索和执行;l新算法的合成,新知创造;认知(处理没有见过的问题)推理(多种可能性中选最优)ChatGPT4OOpenAIO3无法胜任复杂任务语言模型随机幻觉基于思考模式基于样本n谜题
、数学证明n复杂的决策问题n开放式答案n需要显式的多步骤思考
1+1
=
?简单问题
知识性回答
即时响应类的推理模型的适用场景DeepSeek的意义:顶级模型免费了(
开源
)基础模型V3
推理模型R1DeepSeek显性输出推理过程相比之下,OpenAI隐藏推理过程DeepSeek的500万美金训练成本是怎么回事?nOpenAI
、Meta官方从来没有公布过GPT-4
、GPT-4o
、Llama
3.1的训练成本nDeepSeek只公布了基座模型V3的训练成本,并没有公布推理模型R1的训练成本n557.6万美元的训练成本并不包括前期研究以及关于架构
、算法或数据的消融实验所产生的成本n
从V3开始通过GRPO
RL和CoT训练,
让模型生成600K高质量推理数据
。n
用600K(推理)
+200K(非推理)
数据重新从
V3
Base
Model训练R1
。n
DeepSeek
R1是先学会了推理规则,
再匹配人类喜好(语言一致性
、格式
、安全等)
。n
R1Zero是一个完全不依赖SFT的版本,
创建了领域特定语言(
DSL)
。DeepSeek
R1的完整训练过程12MoE架构:任务的分流,更细的分工通过MOE架构显著减少了推理的计算量DeepSeek的训练并没有绕开CUDA,也并没有创造新的方法PTX
GRPOvalue
model(价值模型)
,显著降低了推理时的内存占用和时间开销
。为模型输出提供更精准的评估
,不仅衡量答案的绝对质量,还通过相对比较(与其他回答的对比)来更全面地定位其优劣。GRPO通过优化PPO算法,解决了计算优势值时需要同时依赖奖励模型(
reward
model)和价值模型(
value
model)
的问题,成功移除了核心机制(猜测):n强化微调(后训练阶段):基础模型会在推理时
,生成成百
上千个可能的解决方案/CoT,沿着思维链推理
,尝试多种解决方案,最终得出一个正确答案;n用一个验证模型(
verfier
model),检查复核这些答案,评分,检查计算或推理错误;给予奖励或惩罚。n从预测下一个Token,到预测下一个解法/解决方案
/CoT/thinkingsteps(一系列token,组合成的
solution)。R1/O1:ChatGPT
+
AlphaGoAlphaGo的强化学习原理格式激励问:
2x-1
=
4-3x,x
=
?答:加1分答:x
=
1——
零分问:
2x-1
=
4-3x,x
=
?答:x
=
1
——加1分答:x
=
2
——
零分强化学习(
RL
)中的激励模型准确度激励n
General
Reasoning
and
Knowledge
(50%)n
Mathematical
Reasoning
(25%)n
Code
Generation
(25%)Standardized:All
models
are
evaluated
under
identicalconditionswith
consistent
prompting
strategies,temperature
settings,
and
evaluation
criteria.Unbiased:We
employ
evaluationtechniquesthat
avoidunfairly
penalizing
modelsfor
answersthat
correctlyfollow
the
instructions
in
our
prompts.This
includes
using
clearprompts,
robust
answer
extraction
methods,
andflexibleanswervalidationto
accommodatevalidvariations
in
model
outputs.Zero-Shot
Instruction
Prompted:We
evaluate
using
clearinstructionswithout
examples
or
demonstrations,testingmodels'
abilitytofollow
directionswithoutfew-shot
learning.This
approach
alignswith
modern
instruction-tuned
and
chat
style
models.Transparent:Wefully
disclose
our
methodology,
including
prompttemplates,
evaluation
criteria,
and
limitations.模型能力排名:R1处于第一梯队Level
1预训练图灵一体化算力网GPU.TR
NGT
智算生态COT后训练与推理Agent系统构建巨大的产业机会:从训练到推理的整体方案支撑TR
NGT整套私有化部署环境Agent框架与推理系统AgentNexus™&
InferencePoD™基础设施技术平台EvoCompute™高性价比推理方案Level
2Level
3企业如何用大模型部分行业案例介绍配置“用模型
”的能力是AI时代的核心竞争力!流程优化分析决策运营管理市场营销客户服务外部大模型内部知识图谱办公
设计企业私有本地化的大模型企业大模型管理中枢发现自动化理解总结生成编程业务数据外部数据技术文档日常文档知识库代码报表日志企业大模型能力进化路径 对外提供行业大模型服务 使用互联网上的大模型服务本地化的大模型企业专属大模型本地化的大模型大模型时代的企业核心能力,
是
“用模型
”的能力模型调优本地知识库本地知识库本地知识库AI智能体外部调用AI智能体提词工程提词工程外部调用提词工程管理管理办公业务办公办公业务业务管理用精用好用上行业应用案例利用生成式人工智能改善工艺流程,
提升整体效率,
降低成本行业应用案例
成立2年,
估值15亿美金合同AI审核自动协议起草规划能力转诊建议
同理心案例:问诊环节的AI
智能体诊断效果评估病人的信心AI扮演问诊不断调优问题发现开放与诚恳诊断准确率141行业应用案例n
心理健康技术公司
Grow
Therapy—估值14亿美元grow
therapy请帮我制作一份报告
,总结过去12个月内访问过我们度假酒店的客户的概况。我希望报告包括以下内容:-
新客户与老客户及其人
口统计摘要-
顾客来自哪里以及停留
时间-
客户类型及其访问原因微软Power
BI客户重复到访的主要驱动力是什么?大模型算力如何选型?从使用场景的效果计量将大参数模型加载到多张显卡的显存,并且保持这些显存之间高效的数据交换。总算力FLOPS/总通讯带宽/MFU
.在一定的并发下
,保障特定模型推理输出Token的延迟(TTFT)
、速率(TPOT)这两个核心指标。显存容量芯片算力卡间速率显存容量多机组网显存带宽预训练场景推理场景对应不同的组合H20推理DeepSeek
R1性能分析关于AI的未来展望AI对电力的需求(
电力和DC资源的挑战
)当前要实现工业经济到数字经济的大跨越
、大提升,
初步答案是“数据
、算法和算力的基础设施化
”。这当中最为重要的就是算力的基础设施化。国家发改委:算力基础设施化农业经济数字经济工业经济•
通用算力•
智算算力•
超算算力算力国家发改委:数字新基建的逻辑•
公共数据•
企业数据•
个人数据数据全国一体化算力网(从“东数西算
”工程开始起步
)全国一体化数联网(从“数据20条
”开始起步)•
数据应用类算法•
算力调度类算法•
加密算法算法统一大电网中
国我国电网均实行统一规划
、统一调度
、统一管理
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 全球贸易摩擦下带槽六角螺钉跨境产能布局的风险对冲策略研究
- 不同铁源基材对炒锅导热均匀性及菜品感官品质的量化评价
- AI驱动磨矿过程数字孪生对项目投资回报率的非线性影响
- 304与410不锈钢基材在高端光身刀叉市场的消费认知偏差研究
- 2026年湖南铁道职业技术学院高职单招笔试语文试题库含答案解析3套试卷
- 2026年湖南机电职业技术学院高职单招笔试综合素质试题库含答案解析3套试卷
- 2026年湖南信息职业技术学院高职单招笔试化学试题库含答案解析2套试卷
- 2026年湖北住院医师-湖北住院医师神经外科历年参考题库含答案解析
- 2026年淮南职业技术学院高职单招笔试职业技能测验试题库含答案解析3套试卷
- 2026年浙江金融职业学院高职单招笔试职业适应性测验试题库含答案解析3套试卷
- 从大模型到Agent:AI+金融进入智能体时代
- 《自我管理(第三版)》中职全套教学课件
- 环境工程造价课件
- 高考生物真题分项汇编 专题21 基因工程-:五年(2019-2023)高考生物真题分项汇编(全国)(原卷版)
- 2025年中储粮集团北京分公司招聘(99人)笔试参考题库附带答案详解
- 石材地面铺贴施工专项方案
- 会议室简易改造合同样本
- (高清版)DZT 0079-2015 固体矿产勘查地质资料综合整理综合研究技术要求
- 2023年广西钦州市残疾人康复中心招聘工作人员4人笔试《行政职业能力测验》模拟试卷(答案详解版)
- 初高中-化学衔接(共75张PPT)
- 甘蔗糖厂制炼一碳饱充罐技术改造
评论
0/150
提交评论