袋鼠云数栈V7.0正式发布:打造企业级多模态数据智能中台_第1页
袋鼠云数栈V7.0正式发布:打造企业级多模态数据智能中台_第2页
袋鼠云数栈V7.0正式发布:打造企业级多模态数据智能中台_第3页
袋鼠云数栈V7.0正式发布:打造企业级多模态数据智能中台_第4页
袋鼠云数栈V7.0正式发布:打造企业级多模态数据智能中台_第5页
已阅读5页,还剩15页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

背景政策风向标:数据要素-可信空间-高质量数据集

2025年+

《高质量数据集建设指南》启动高质量数据集建设工作

,覆盖科学

、教育

、金融

医疗等重点领域,推动公共数据资源向高质量语料库

、行业数据集转化

已建成高质量数据

集超

10万个

,数据规模超890PB。

2024年《

可信数据空间发展行动计划(

24-28年)

》针对

可信数据空间

”这一新型数据基础设施进行前瞻性布局

,理念正式上升为国家数据要素流通的核心战略方向

2023年《“数据要素×”三年行动计划(24—26年)

》国家发展和改革委员会发布

旨在充分发挥数据要素的放大

、叠加

、倍增作用

,推动大数据在各行业的深度应用

2022年

要素市场化配置综合改革试点总体方案》提及拓展规范化数据开发利用场景

,推动人工智能

区块链

、车联网

、物联网等领域数据采集标准化

,为大数据和人工智能的融合发展提供政策支持。AI:

从技术能力跃迁到产业落地

大模型与Agent正在重构企业生产力

,进入“用AI解决实际业务问题

的深水区。Data:

从基础设施建设到高质量数据集

、数据可信空间升级

,数据已经明确成为驱动AI规模化生产级落地的核心燃料与安全底座。时代趋势:

Data+AI双轮驱动高速发展数据孤岛严重多源异构难统一高质量数据供给不足AI训练面临“缺粮

”结构化与非结构化数据计算存储与应用彼此割裂

,跨系统打通与

融合成本极高数据清洗与标注流程复杂

,缺乏标准化

自动化的数据集构建生产流程治理合规能力弱数据资产“不敢用”平台架构未与时俱进无法适配AI新需求数据安全保障缺失

、隐私保护与全链路合规审计基础能力薄弱

数据权限放收两难数据开发需要学习多种语言

,全流程依赖人工操作

,上手门槛高

,开发效率低支撑模型训练推理的底层数据还远远没有达到AI-Ready的状态流程灵活

、不容易标准化、容错率低但业务价值大的场景AI应用效果并不好现实困境:AI

demo很亮眼

,放到实际业务用不起来whywhathow4231•

不同类型数据分散存储

比如结构化数据存在关系型数据库

,非结构化存储在文件服务器/对象存储中•

不同数据的采集也需要用不同的工具

,尤其非结构化数据的分散度更高•

不同类型的数据需要不同的开发平台

比如结构化数据用离线实时开发平台

,非结构化数据用算法开发平台

,数据彼此难互通•

非结构化数据开发需要专门的算法人员,上手门槛高•

因结构化/非结构化数据开发平台独立

,元数据的管理往往也是相互独立

,如要统一管理需要用数据门户平台从各个开发平台进行采集•

因多平台权限管理不统一导致的数据安全问题频发

多模态数据统一开发数据采存不统一

数据开发不统一

元数据管理不统一

多模态数据统一采存

多模态元数据统一管理•

多模态元数据统一管理:结构化/非结构化元数据统一管理

、搜索

、进行基于业务主题的数据制品创建

、数据安全管控•

实现所有模态数据统一在一个平台内融合开发•

同时支持高代码与低代码的开发方式

,满足不同经验开发人员的需求•结构化/半结构化/非结构化数据统一通过一个平台进行采集和存储

,解决更大范围的数据孤岛问题破局之道:解决数据问题需要下一代数据中台多模态数据中台传统数据中台数栈7.0产品架构及核心能力大数据开发与治理平台•

覆盖结构化数据•实现采集

、存储

、清洗

、加工

、元数据管理•支持cpu调度

,解决结构化数据打通

、数据标准建立

、数据质量校验、元数据资产化管理•主要面向传统数仓

、结构化大数据平台建设7.0多模态数据智能平台•覆盖结构化+半结构化+

非结构化全域数据•统一采

、存

、算

、管

、用:

文本/

图片

/音频

/视频

/文档等•支持CPU+GPU混合调度

、多模态融合开发•可面向多模态高质量数据集建设

、模型训练所需多模态数据

、AI应用、

Data+AI一体化数栈7.0:全新升级的多模态数据智能中台计算引擎Doris/StarRocks计算资源调度YARN/KubernetesGPU元数据管理Elasticsearch数据存储模型MinIO

S3应用/Agent高质量数据集可信数据空间模型训练知识问答智能问数智能客服科研助手投资顾问助手多模态数据结构化数据RDBMPPHadoop半结构化数据JSON日志网页非结构化数据文档图片视频数据服务数据资产检索统一元数据数据标准数据模型数据血缘数据治理数据质量数据安全多模态数据融合处理数据清洗/过滤/聚合文档分段/去重图片过滤/OCR

视频压缩/特征提取

算子编排离线开发指标归因分析数栈7.0:基于多模态数据的采存算管一体化

实现数据的AI-Ready算力引擎层数据资产层数据开发层基础智能Python/RayHive/Spark数据应用数据集成实时开发异常排查智能取数数据RAGMySQL标签指标OLAPHDFSFlinkMPPCPUAPI集群配置•集群组件一站式配置:仅需4步

20分钟即可完成一个集群的结构化/非结构化存储

、调度和计算组件配置。•计算资源可视化灵活管控:根据业务规划快速弹性扩缩容

、使用情况可视化监控

、按业务需求实现租户/项目层资源隔离存储组件产品核心能力1——多模态计算存储底座对接YARN/

Kubernetes计算组件调度组件PythonSparkMinIODorisHDFSFlinkRay......MinIO元数据库向量/全文检索数据库离线

/实时同步本地上传元数据向量化文件拆分文件解析元数据构建产品核心能力2——多模态数据集成数据源数据类型自动处理数据采集DorisOSSMySQLElasticSearchHDFS数据存储数据存储对象存储文件系统MySQL

Oracle网页

IoT跨平台交互层API接口数据转换

中间件额外成本

:数据转换延迟

、接口维护复杂度一个业务流程即可完整搭建从数据集成到数据分层开发的高清全景图,无论是正向的开发还是逆向的问题追溯都能得到一站式全链路的效率提升结构化数据和非结构化数据分平台开发

,全模态的数据融合需要多处跨平台交互

,效率低且不易排查问题产品核心能力3—低代码全景式多模态数据开发用户界面算法平台

NLP工具

业务逻辑模块非结构化数据开发体系结构化数据开发体系数据库、

ETL工具业务应用层数据传输接口调用接口调用非结构化数据开发算子参数配置算子库•

算子框架:

Daft

Data-juicer•

算子类型:

文档

图片

、音频

、视频•

处理类型:

过滤

映射

、去重

、选择

分组

、聚合

、解析结构化数据开发•

SQL类型:

SparkSQL

Doris、MySQL

、StarRocks

、Oceanbase等16种类型•

算子数量:

50+•AI算力:

可配置算子所需的离线和在线模型•

拓展能力:

可上传自研算子产品核心能力3——低代码全景式多模态数据开发元数据预览数据编目打标版本管理元数据/全文/向量化综合多模态搜索数据集管理数据血缘解析和向量化元数据统一存储产品核心能力4——多模态元数据管理和检索租户层数据/资源隔离•测试生产环境隔离•租户层集群共享

,元数据和计算资源隔离•用户角色可在不同项目灵活配置数据安全管控•多模态数据统一权限策略管控

,控管对象和权限粒度灵活•数据分级自定义

、和脱敏方式多选择

、生命周期兼顾安全和性能关键操作审批&审计•关键操作可开启审批

审批中心内置多环节审批流程•全平台全量操作审计

,细到执行了什么SQL

、获取到什么数据均一键溯源产品核心能力5——数据

、资源

、操作全方位安全能力产品操作copilot平台产品使用/操作流程答疑数据治理Agent血缘分析/自动生成质量规则数据分析Agent基于NL的数据搜索问答/指标归因数据开发Agent数据同步任务生成/报错分析修改企业知识库知识库库表元数据信息

,血缘信息

产品使用帮助文档财务知识库

、行业知识库

、法务知识库产品核心能力6——提效40%的灵瞳智能体灵瞳智能体ceep

seekLLM产品文档元数据库产品国际化底座•中英文一键切换

,操作逻辑

、术语体系对齐海外用户习惯•

海外主流计算存储底座适配

,包括AWS•

全球多区域合规交付垂直场景解决方案•

针对Web3客户的链上+链下多源数据处理需求

,提供从数据接入

、解析到关联分析的一站式方案

,帮助客户实现链上资产风控、用户行为分析与合规审计标杆客户落地案例•新加坡

:web3巨头数据平台迁移•

中国香港:

高校数据中台和资产门户•立陶宛:

制造业多模态数据存算管•沙特:

中东政企数字化

,本地云部署产品核心能力7——出海解决方案成功落地从中国方案到全球落地

,数栈用统一的多模态数据底座

,服务不同地区

、不同行业的客户需求客户案例•全域多模态数据安全接入:统一对接银行

、保险

、证券

、政务

、征信及中小微企业

,覆盖结构化

、半结构化与图像/语音/视频/文档等多模态数据

,实现原始数据不出域

、特征可流通.•

可信流通体系全域构建:基于DID身份认证

、数字合约

、建立数据权属

、使用

、计费

、审计全流程可信机制。多模态融合处理:采用

MPC、联邦学习

、TEE等技术

,支撑多模态数据跨机构联合建模与安全计算。•监管闭环与业务价值双提升:构建全链路监管审计体系

,支撑普惠授信

、联合风控

、智能监管等场景。建设方案指标改造前

(仅结构化)改造后(多模态+

可信空间)提升幅度普惠金融授信覆盖率65%92%+27pt反欺诈识别准确率88%97.5%+9.5pt中小企业获贷率18%48%+30pt多模态数据复用率5%82%+77pt客户身份核验效率人工

3分钟

/

次自动

10秒

/次-94%联合建模数据维度120+

结构化字段120+结构化+

50+

多模态特征翻倍年新增普惠授信规模120亿元205亿元+40.6%•某省金融监管局牵头

,联合8家银行

、5家保险

、3家券商

、征信

/政务共

19家机构

,建设区域金融数据可信空间

,解决数据可用不可见问题

、实现数据可控可计量

、可溯可审计

,服务20万+市场主体

,支撑普惠金融

、联合风控

、监管数字化。•

跨机构数据不敢共享:

隐私泄露

、合规风险高•

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论