人工智能大语言模型应用教程 课件 模块1 大语言模型概述

人工智能大语言模型应用教程模块1大语言模型概述学习

目标理解大语言模型的基本概念；了解大语言模型的应用场景；了解大语言模型的发展历程；掌握开源大模型的本地部署与应用的安装、微调、量化、开发等主要操作的概念；熟悉大语言模型的CUDA、PyTorc

h、Anaconda和Transformers等常用组件的功能；认识大语言模型对社会发展的影响，培养对技术的兴趣和对社会的责任感；自主查阅相关资料，提升信息检索能力；树立安全意识，培养遵守法律意识，通过合法途径获取应用和数据。1.2大语言模型概述基本情况应用场景发展历程主要操作常用组件1.31.41.51.11.1基本情况大语言模型在文本生成、智能语音应用、图像生成与识别、视频生成等领域发挥越来越重要的作用，与多模态模型、AIAgent等技术一起推动着人工智能技术的发展和应用，成为当今人工智能领域的热门研究方向，在实际应用中具有广泛的用途。大语言模型可以用于自动文本生成，如文章写作、诗歌创作、程序补全等大语言模型还可以应用于智能对话系统，与用户进行自然对话交流，如应用到医疗、金融、教育等领域的问答、咨询和分析等场景中大语言模型还可以用于信息检索、情感分析、文本分类等任务随着技术的发展，大语言模型已超越了文生文的单一领域应用，逐步应用到文生图、图生图、文生视频等多种模态场景中。大语言模型处于高速发展期，以OpenAI的GPT系列模型为主要代表，目前最新的模型是GPT4-o3，在编码、数学以及ARC-AGI基准测试方面依然处于业界领先地位，其下一代模型GPT5仍然在训练中。其他厂商的产品也在迅速跟进，如Meta的LLama3.3、Anthropic的Claude3.5、Google的Gemma2等，也都表现出良好的推理效果国内如百度文心一言、阿里通义千问、智谱GLM、华为盘古、讯飞星火等，发展也非常迅速，被广泛应用到各个专业领域，如教学、医药、会计、农业等。1.2应用场景1.3发展历程发展历程发展历程统计语言模型神经网络语言模型Seq2Seq模型Transformer模型GPT系列模型单击添加标题单击添加标题1.4主要操作大语言模型的主要操作使用部署微调量化应用大语言模型应用领域程序开发工业设计文案撰写搜索增强商业化的大语言模型开源的大语言模型使用常用大语言模型中小规模的大语言模型部署中小规模的大语言模型可以部署到消费级显卡和中低端的推理卡环境工业设计转化为Huggingface格式，由Huggingface开发的Transformers库加载、推理、微调部署Huggingface.co网站托管预训练模型通过大规模的文本语料库进行自监督学习，从而学习到语言的结构和规律，形成预训练模型。模型根据特定任务的数据集进行有监督学习，提高在该任务上的性能表现，以适应具体的应用场景。微调微调

将大型语言模型中的参数表示为低精度的形式，以减少模型的存储空间和计算需求，同时保持模型的性能，使其在较低算力的GPU或CPU上进行推理，甚至可在移动设备或边缘设备上运行。量化Chat方式

聊天翻译语音图片视频等应用多模态应用检索知识库1.5常用组件并行计算平台和编程模型NVIDIA公司开发，于2005年首次发布使用C语言编写并行代码将GPU作为计算设备，编写的高性能计算应用程序可以在GPU上运行提供了一个CUDAClibrary，用于在C语言中使用CUDA编程模型具有广泛的兼容性，可运行在Windows、Linux和macOS等操作系统上CUDAPyTorch灵活性和易用性,已经成为深度学习领域中的一个流行工具,并被广泛应用于学术研究和工业应用中。支持动态计算图,这意味着用户可以在运行时动态构建和修改计算图,从而更灵活地进行模型设计和调试。0304提供了丰富的工具和库,包括张量计算、自动微分、神经网络模块等,使得用户可以轻松地进行模型训练、推理和部署。Facebook开源的一个机器学习库,主要用于深度学习任务,具有灵活的设计和易用的接口,使得用户可以快速构建和训练神经网络模型0102PyTorchAnaconda存在的问题Python环境包括了Python发行版和大语言模型依赖的第三方库,模型不同,对Python发行版的版本要求不同,依赖库更是千差万别,直接在操作系统上同时运行两个及以上的模型比较困难运行环境隔离——AnacondaPython的发行版,提供一系列用于科学计算的库内置了一个用于Python环境隔离的虚拟化环境,以一种统一的方式来安装和管理Python库。实现Python运行环境的虚拟化隔离,在一个操作系统里为不同模型建立不同的命名空间,形成相互隔离的Python发行版和依赖库。Transformers提供一个统一的接口来访问和使用各种预训练的Transformer模型NLP领域最受欢迎和广泛使用的库之一,为研究者和开发者提供了丰富的资源和工具,帮助他们构建和训练高性能的NLP模型。基于PyTorch的开源机器学习库,由Huggingface开发提供了各种