信息技术与人工智能通识 课件 任务7.4 大模型

主讲：余飞跃任务7.4大模型一、大模型的定义目录二、人工智能与大模型的关系三、大模型的特点四、大模型分类五、主流大模型介绍一、大模型的定义1.大模型的定义与特征大模型全称大规模预训练模型，基于深度学习架构，经海量数据预训练而成，参数规模大、泛化能力强。其“大”体现在两方面：参数规模达数十亿甚至万亿级，远超传统深度学习模型；训练数据覆盖多模态，数据量达TB至PB级。一、大模型的定义2.大模型与大语言模型的关系大语言模型是大模型最关键的子集，专门处理自然语言任务，核心是“大”与“语言”。早期两者概念基本等同，如今大模型是涵盖性术语，处理文本用“大语言模型”，涵盖多模态则用“大模型”，前者是后者的起源与核心。1.大模型是人工智能技术发展的重要推动力二、人工智能与大模型的关系AI发展的重要推动力AI在NLP、图像识别等领域更精准高效，能自动提取文本语义、完成分类与问答，且随数据和算力提升，处理能力持续升级，助力AI应对复杂挑战。二、人工智能与大模型的关系为提升AI系统性能，研究者不断扩大模型规模，比如Transformer架构大模型，在NLP领域实现突破性进展，大幅提升AI的语义理解与决策准确性，就像大模型是AI革命的“内燃机”，驱动全行业变革。2.人工智能的发展推动大模型的发展三、大模型的特点大模型七大显著特点大规模参数量，数十亿至上千亿参数能捕捉复杂模式与深层规律，提升表达和泛化能力基于多层神经网络架构，通过Transformer、CNN实现数据多层次抽象变换，筑牢性能基础具备涌现能力与强泛化性，能适配未训练过的任务支持多任务与迁移学习，微调少量参数即可适配新任务，节省成本三、大模型的特点大模型七大显著特点部分模型可自我校正迭代，通过反馈优化性能对算力资源需求极高，也推动了硬件与分布式框架发展同时伴随伦理与社会问题讨论，需重视隐私与公平性1、按模态能力分类四、大模型分类单模态和多模态单模态仅处理一种数据类型；多模态可协同处理文本、图像、音频等多种类型，适配更复杂的场景需求。2.按技术架构分类四、大模型分类主流是Transformer架构大模型，凭借自注意力机制捕捉长距离依赖，GPT、ViT等均基于此架构；少数基于CNN、RNN改进，但性能受限，仅适用于特定小规模场景。四、大模型分类3.按部署方式分类云端和边缘端大模型云端部署在服务器，服务稳定可迭代，但依赖网络且有隐私风险；边缘端部署在终端设备，经压缩处理，响应快且隐私安全，不过性能较弱、更新难度大。四、大模型分类4.按应用领域分类通用和专用大模型通用大模型覆盖多领域，适配文本生成、通用问答等任务，是发展主流；专用大模型针对医疗、法律等领域微调，专业准确性更强，适配垂直场景需求。五、主流大模型介绍0201由OpenAI研发，参数规模持续扩大，GPT-4具备多模态能力，适配创作、编程等场景。GPT系列LLaMA系列适配中文场景，融合中文知识，赋能办公与创作。文心一言是开源代表，多参数版本降低使用门槛，衍生模型应用广泛。031.语言大模型五、主流大模型介绍2.视觉大模型ViT系列首次将Transformer用于视觉任务，分割图像块编码，泛化能力优于传统CNN。CLIP实现文本与图像跨模态对齐，支持零样本图像分类，为多模态模型奠定基础。五、主流大模型介绍0201可处理文本与图像，能分析图表、转换手写笔记。GPT-4VGemini融合产业数据，在商业场景具备独特优势。通义千问多模态版原生多模态模型，