人工智能应用通识教程 课件 -第三次课 大模型基础

1第一章：AI大模型原理与应用大模型基础目录大模型基本介绍大模型本地部署第1部分：

大模型基本介绍大模型的定义和概念大模型通常指的是具有海量的参数（>1B）和复杂的架构，用于深度学习任务的人工智能模型。大模型具有更好的学习能力和泛化能力，可以通过预训练或其他方式在大型数据集上进行学习，再通过微调高效地处理计算机视觉、自然语言处理等复杂任务。大模型的基本原理大模型主要基于深度学习和Transformer架构，其核心是通过海量数据和庞大参数规模，学习语言的统计规律与语义表示。Transformer利用自注意力机制（Self-Attention）捕捉输入序列的全局依赖关系，通过多层编码器-解码器结构（或仅编码器/解码器）逐层提取特征。预训练阶段采用无监督学习（如掩码语言建模或下一词预测），从文本中学习通用语言知识；微调阶段通过少量标注数据适配具体任务。视频链接：【Transformer是什么？】

/video/BV1G4iMBeEWH/?spm_id_from=333.337.search-card.all.click语言翻译应用示例Transformer架构旨在用于语言翻译，由两部分组成：一个是编码器（理解文本语义，文本→数字），用于处理输入文本并生成文本嵌入（把每个单词映射为固定维度的向量）；另一个是解码器（生成目标语言文本，数字→文本），使用这些文本嵌入逐词生成翻译后的文本。右图展示的是翻译过程的最后阶段，此时解码器根据原始输入文本（“Thisisanexample”）和部分翻译的句子（“Dasistein”），生成最后一个词（“Beispiel”）以完成翻译。构建大语言模型的三个主要阶段构建大语言模型的3个主要阶段：实现模型架构和准备数据（第一阶段）、预训练大语言模型以获得基础模型（第二阶段）、以及微调基础模型以得到个人助手或文本分类器（第三阶段）。第2部分：

大模型本地部署实验环境准备本地部署大模型的实验环境要求：硬件需求磁盘空间：要求不少于8GB内存和30GB剩余磁盘空间软件环境操作系统：Windows10及以上python版本：3.11模型版本：DeepSeek-R1:1.5BOllama安装与使用（Windows）步骤①:下载访问Ollama官网/下载安装包。Ollama安装与使用（Windows）步骤②：安装方式1：双击OllamaSetup.exe安装包文件完成安装。方式2：打开cmd命令行工具窗口，切换到ollama目录，安装ollama程序到指定目录。参考指令：cdollama目录

OllamaSetup.exe/DIR="D:\Ollama"Ollama安装与使用（Windows）步骤③：验证安装打开cmd命令行工具窗口，输入指令ollama-v验证是否安装成功。Ollama安装与使用（Windows）步骤④：模型下载与使用通过Ollama官网或命令行下载DeepSeekR1模型，根据电脑配置选择合适版本，使用命令行启动模型并进行问答测试。参考指令：ollamarundeepseek-r1:1.5bollamapull/unsloth/DeepSeek-R1-Distill-Qwen-1.5B-GGUFollamapull/featherless-ai-quants/ystemsrx-Qwen2.5-Sex-GGUFTips:ollamarun（下载+运行）

ollamapull（下载）补充点：如何修改ollama模型存放路径1、通过环境变量设置右键「此电脑」→「属性」→「高级系统设置」→「环境变量」在「系统变量」中点击「新建」：变量名：OLLAMA_MODELS变量值：自定义路径（如D:\AI\Ollama）逐级点击「确定」保存设置2、创建目标文件夹（如D:\AI\Ollama）3、关闭ollama程序，重新打开powershell,运行指令$env:OLLAMA_MODELS看是否生效Tips：若在安装Ollama前或首次下载模型前已执行上述相关操作，下载的模型文件将存储至指定路径，否则请继续执行后续操作。补充点：如何修改ollama模型存放路径4、将.ollama文件夹重命名为.ollamabak进行备份5、运行指令ollamarundeepseek-r1:1.5b或ollamapulldeepseek-r1:1.5b，当程序开始下载模型的时候按Ctrl+C终止6、删除目标文件夹（如D:\AI\Ollama）中出现的blobs文件夹和manifests文件夹7、将~.\ollamabak\models目录下面的blobs和manifests文件夹拷贝到目标文件夹（如D:\AI\Ollama）OllamaPython使用Ollama提供了PythonSDK，可以让我们能够在Python环境中与本地运行的模型进行交互。通过Ollama的PythonSDK能够轻松地将自然语言处理任务集成到Python项目中，执行各种操作，如文本生成、对话生成、模型管理等，且不需要手动调用命令行。教程链接：【OllamaPython使用】

/ollama/ollama-python-sdk.html安装PythonSDK：pipinstallollama启动本地服务：ollamaserve(注意一点关闭命令行窗口即表示服务关闭)若不清楚模型名称：ollamalist使用Ollama的PythonSDK进行推理知识回顾：Anaconda使用技巧Anaconda的一大优势是虚拟环境管理。虚拟环境使不同项目的依赖保持隔离，是专业开发的必备实践。创建虚拟环境指令：condacreate-n环境名称python=版本号

包名1包名2例1：创建一个数据分析环境

condacreate-ndata_analysispython=3.10numpypandasmatplotlibjupyter例2：创建一个深度学习环境

condacreate-ndeep_learningpython=3.9torchtorchvision知识回顾：Anaconda使用技巧环境管理常用指令激活环境condaactivate环境名称退出当前环境

condadeactivate列出所有环境

condaenvlist删除环境condaremove-n环境名称--all克隆环境condacreate-n新环境名--clone原环境名导出环境配置

condaenvexport>environment.yml从配置文件创建环境

condaenvcreate-fenvironment.yml知识回顾：Anaconda使用技巧Anaconda默认的包源在国外，下载速度通常较慢。配置国内镜像源可以显著提升安装速度。添加清华源指令：临时加速（一次性使用）condainstall包名-c/anaconda/pkgs/m