版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
图表索引图1:AI芯片存量大模参量对图 4图2:务内不储介间据取程意图 5图3:HBM和HBF对比 6图4:HBF存栈图 6图5:环技9表1:伟达AI片HBM配置 5表2:同型AI大对于存数基软的要求 7表3:对储质的数库品表 8一、HBF技术发展下数据基础软件的机会和挑战(一)HBF有望成为满足AI大模型内存容量要求的最佳方案随着模型参数量和上下文长度的增加,其在推理过程中对于内存容量的要求也在不AI芯HBM为主的AI图1:AI芯片内存容量与大模型参数量的对图 表1:不同模型的参数模以及上下文长度模型总参数量上下文长度Llama4Behemoth2T256KLlama4Maverick400B1MLlama4Scout109B10MKimiK21T128KKimiK2Thinking1T256KGrok41.7T256KMiniMaxM2229B205KGLM-4.6355B200KQwen3-235B-A22B-Thinking-2507235B256KDeepSeek-V3.2685B128KLinkedin Linkedin,HuggingFaceAI官网,广发证券发展研究中心HBMSKHynix9.6Gb/s1.23TB/sHynix的HBM3EDRAM2436GBBlackwellUltra8HBM3E288GBTB/sHBMDRAM2KBMAI表1:英伟达AI芯片HBM配置芯片型号HBM型号HBM颗数容量(GB)带宽(TB/s)A100SXM80GBHBM25802H100SXM80GBHBM35803.35H200HBM3E61414.8BlackwellHBM3E81928BlackwellUltraHBM3E82888英伟达官网HBMSSDHBMAI10月,SandiskSN861NVMeSSD16TBGPU+HBM直连闪存的方式。但由PCIeGPUPCIe7.0512GPUHBMGPU+HBM图2:服务器内部不同存储介质间数据读取流程示意图英伟达官网HBF有望成为满足AI大模型内存容量要求的最佳方案。2025年8月,Sandisk公司宣布与SKHynix合作开发能够满足AI大模型推理场景的新型存储产品HBF(HighBandwidthSandisk与3DNANDBiCS(比特成本可扩展)和CBA晶圆键合工艺实现与GPU的高速互联。HBFHBM的8-16望将GPU4TB。根据Sandisk公司投资者交流纪要,HBF闪存的第一批样品预计在2026年下半年交付,首款集成HBF的AI推理硬件预计在2027年年初推出。HBF的内存容量和传输速率都很好的满足了AI大模型在推理阶段对于内存容量的要求,其推出后有望在推理任务中实现大规模应用。图3:HBM和HBF架构对比Sandisk官网HBF的发展仍需克服部分技术挑战,具体而言:SandiskHBF85图4:HBF内存堆栈结构图Sandisk官网(二)HBF的技术成熟有望推动相关数据基础软件的应用不同类型的大模型对于内存的要求不同。tokens表2:不同类型AI大模型对于内存和数据基础软件的要求模型类型模型参数量上下文长度推理任务对于内存的要求大语言模型行业领先大语言模型的参数量普遍在万亿级别。主流大语言模型的上下文长度突破10万token;行业领先的大模型上下文长度可达千万级。需要较大内存容量,尤其在长上下文场景中。强图片生成类大模型模型参数量普遍在百亿级别,整体规模偏小。上下文长度较短,普遍集中在几百到上千token。24GB片分辨率不会降低。弱视频生成类大模型模型参数量跨度较大,多数常规文生视频模型参数量低于千亿级顶尖大语言模型,但头部型号已能比肩甚至超越不少中高参数大语言模型,整体参数量天花板正逐步向大语言模型靠拢。上下文长度聚焦文本指令和视频帧转化,整体较短,且容量需分摊给多模态数据。对内存容量要求较高,以保障生成视频的时间长度和画面的连贯性强具有数据库技术基础的公司具有开发基于HBF的数据基础软件的潜力。相较于传统数据库需要通过磁盘再读写内存上的数据,国内外较多公司开发了可以直接读写闪存和内存等存储介质上的数据库产品。在针对存储介质优化的数据基础软件领域,相关产品开发厂商既包括华为、阿里等大型科技公司,也包括星环科技、PingCAPHBF存储介质开发数据基础软件的潜力。由于华为、阿里等公司自研的AI大的数据处理需求,其或自研数据基础软件用于其AIAIMiniMax等表3:针对存储介质优化的数据库产品列表开发公司数据库产品产品性能星环科技ArgoDBArgoDB作为分布式分析型数据库,从底层为适应闪存而设计了精巧的存储结构和高效的算法,可以替代Hadoop+MPP混合架构,满足企业对大数据平台的各种复杂诉求,比如离线批处理数据仓库、实时数据分析平台、OLAP数据库、全文检索数据库等。SAPHANA①内存优先+I/O(NSE)规模数据集。PingCAPTiDB①同时支持在线事务处理与在线分析处理的融合型分布式数据库产品,具备水平扩容或者缩容、金融级高可用、实时HTAP、云原生的分布式数据库、兼容MySQL5.7协议和MySQL生态等重要特性;②TiDB目标是为用户提供一站式OLTP、OLAP、HTAP解决方案,适合高可用、强一致要求较高、数据规模较大等各种应用场景。华为GaussDB①基于分布式统一架构底层,中间为每个DB特有的数据结构,最外层是各个生态的接口,体现了多模的设计理念;②全栈产品支持SQL+NoSQL数据库引擎,安全可靠,从数据的在线迁移到应用的结构转换迁移较为顺畅;③GTM-Lite技术打破传统分布式性能瓶颈,计算与存储可自由水平扩展,支持1000+节点的扩展能力;④分布式优化器+Numa-Aware技术加持,提供极致的性能。支持PB级海量存储,阿里云AnalyticDBAnalyticDB采用存储计算分离+多副本架构,支持最大5000节点规模的弹性扩容,对复杂SQL查询速度比传统的关系型数据库快10倍以上。AnalyticDB高度兼容MySQL、PostgreSQL,Oracle应用,迁移成本低,可对万亿级别的数据进行实时的多维度分析透视,具有高性能、简单易用、高性价比、高可用性等优势。巨杉SequoiaDB①分布式存储引擎支持完整ACID,具备弹性扩展、高并发和高可用特性,支持MySQL、PostgreSQL和SparkSQL等多种SQL访问形式,同时支持MongoDB引擎;②适用于核心交易、数据中台、内容管理等应用场景。中兴通讯GoldenDB①采用无共享架构,为用户提供了高可用、高可靠、可扩展的大数据+分布式数据库解决方案;②满足OLTP类应用,同时兼顾OLAP数据处理要求,提供统一的基础数据服务平台;③针对银行OLTP业务,该产品提供高扩展性、高可靠、资源调度灵活的数据库服务,支持金融行业已有业务升级及创新业务快速部署的需求。各公司官网市场处于早期发展阶段,基于HBF的数据基础软件的市场规模短期内难以确定。不同存储介质的存储容量和传输速率不同,相应的数据基础软件的读写特点也会不同。当前,由于HBF相关产品尚未推出,基于HBF的数据基础软件的用户采购意愿、价值量和市场规模难以确定。但根据产业规律,我们判断基于HBF的数据基础软件的价值量或与其数据处理规模以及可应用的场景相关。若HBF在AI推理任务中大规模使用,相关数据基础软件产品有望受益于推理任务中数据处理需求量的增长。HBF的技术成熟有望推动相关数据基础软件的应用。星环科技的分布式数据库ArgoDBHBFAI推理任图5:星环科技TranswarpArgoDB
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2026国网天津市电力公司高校毕业生招聘56人(第二批)考试备考试题及答案解析
- 2026中电金信数字科技集团股份有限公司招聘初级咨询顾问4人考试备考试题及答案解析
- 2026辽宁朝阳市凌源市教育局直属学校赴高校招聘教师35人考试备考试题及答案解析
- 外科护理心理干预课件
- 2026“职选济宁 携手共赢”山东融汇物产集团权属企业社会招聘17人笔试备考试题及答案解析
- 产科护理中的护理创新实践
- 护理创新:提升护理团队专业能力
- 2026恒丰银行深圳分行社会招聘笔试参考题库及答案解析
- 2026云南师范大学招聘博士人员149人考试备考题库及答案解析
- 2026四川遂宁市河东新区管理委员会选聘新区国有企业高级管理人员1人考试备考试题及答案解析
- 危险物品运输合同范本2025年
- 《MATLAB编程及应用》全套教学课件
- 2024天融信日志收集与分析系统部署操作手册
- GB 44495-2024汽车整车信息安全技术要求
- DL-T5492-2014电力工程遥感调查技术规程
- 期货入门基础知识【期货新手基础入门】
- 孕妇孕期心理健康指导健康宣教
- 第一章 组织工程学-概述
- 211和985工程大学简介PPT
- 初中数学:《二次根式》大单元教学设计
- 分清轻重缓急
评论
0/150
提交评论