体系化人工智能与大模型-2023.09

体系化人工智能与大模型o国移ú

冯俊q

2023-07-181大模型的优势强理解能力： 理解长文，短文，þ题，指ð，ï码，提示，图片，视频，声音，表‚强生成能力： 写诗，作文，画画，ï码，多性ÿ仿Ā实，非Ā实Ā强信息集成能力：

知Ï融\1数据融\，系统融\2大模型走向为人<做事=面临的s战泛理解能力： 理解长文，短文，þ题，指ð，ï码，提示，图片，视频，声音，表‚Weak

in

Robustness

,

Coherence,

Representation

of

Understanding

(Internal

World

Model)强生成能力： 写诗，作文，画画，ï码，多性ÿ仿Ā实，非Ā实ĀHallucination,

Measure

of

Goodness,

Control-ability强信息集成能力：

知Ï融\1数据融\，系统融\Collaborative

learning

,

Continuous

Learning

,

Complex

System

AI复g系统的智能化体系业ó端r端智能优化能力大小模型协同v人协同模式3大模型发展路径：研判研判1模型相关的理»和€心技术O断突|，

幅提升总体智能水平，

可ç性，

孞全性和可ï性亟需关2研判2模型商€的相关标准，支撑体系，

运营运维体系在Tn行业逐步完善r位24体系化人工智能针对项目提出的挑战，我们提出体系化人工智能ÿHolistic

AI，HAIĀ的关思路，依托泛在的网络和AI算力，在_ÿ境o实Ā对AI能力进行灵活且高效的配1调度1训ÿ和部，ñ满足日益~富的数智化业ó需求

，同时~ßAI业ó可ï可ç孞全，其‰特征~AI服ó大闭环、AI能力原子化重构、网络原生AI及安全可信AI2y据智能化业ó需求，

k需对AI

能力进行调度、配置和运行监控，

使其能在最合理的算网资源上运

行和服ó泛AI算力ß/网/¿/端/…GPU/ASIC/NPU/CPU/…泛AI算力提供ýýÿ体系化AIOS泛在网络资源提供ýAI能力ýÿ

原子化网络原业ó行业及n人客户AI

x心能力及模型提供ý 5体系化人工智能

ÿHolistic

AIĀ与大模型大闭环原子化能力无ÿ盖_常检测无ÿ盖_常因分÷基Î仿真的yÿ参数分÷基Î图像的工参_常发Āyÿ参数决策çv大闭环ÿBig

Loop

AI)：“AIñ业ó端r端的ýÿ优化~目标，重点关多能力级联P并联优化1_ú态ÿ境oAI能力优化的基x理»和技术，

从而¿rAI产业ýÿ2原子化(Atomized

AI)：AI技术依据高]€1易调度1自ýÿ1易适配等原则进行原子化拆解和重ç2一n典型的小模型1 小模型2 小模型3 小模型4 ... 原子化AI能力包含通€智能层1适配层1ç口层，通€智数据协同

模型参数协同

模型互学习能层可多n能力r享2AI原子化重ç是体系化人工智能得ñ实Ā的基x2基x模型1 基x模型2 ...数据基础设ý视觉类物理ÿ境语音类网络¿_语言类|件算力结ç化数据仿真ÿ境......网络原生ÿNetwork

NativeĀ安全可信ÿTrust的

AIĀ6Big

Loop

AI组合多个模型的智能，包括基础模型，

行业模型或小模型，

并能够端到端服务于业务目标网络þ题投Ë

级联优化语音Ï{+口语自然语言理解

级联优化0121ASR InterfacesTop-K:Token

Embeddingssoftmax

valuesMatrix

multiply:softmax

output

*

matrix

Gumbel

softmax:smooth

distributionNLU7Big

Loop

AI

with

Small

ModelsFuse

Multiple

Models

into

one

target

model"Cascaded

Multi-task

Adaptive

Learning

Based

on

Neural

Architecture

Search",

Y.Gao,

Shilei

Zhang,Zihao

Cui,

Chao

Deng,

Junlan

Feng*.

Interspeech

20238Big

Loop

AI

with

Small

ModelsCancade

three

models

-

speech

enhancement

,

ASR，

NLU

-

with

Bottleneck

Adapter"Cascaded

Multi-task

Adaptive

Learning

Based

on

Neural

Architecture

Search",

Y.Gao,

Shilei

Zhang,Zihao

Cui,

Chao

Deng,

Junlan

Feng*.

Interspeech

20239Big

Loop

AI

with

Big

Pretraied

ModelsFuse

Multiple

Models

into

one

target

model•

多个神经元网络层形成一个功能块•

功能相似网络：输入相似时

，输出相似•

将一个网络分成多个功能块，

相似的功能块形成一个集合，这个集合称为：

等同网络块集合"Deep

Model

Reassembly",

Xingyi

Yang

,

etc.

NeurIPS

202210Big

Loop

AI

with

Big

Pretraied

ModelsStitch

Multiple

Bi