DeepSeek本地部署再也不怕服务器崩了_第1页
DeepSeek本地部署再也不怕服务器崩了_第2页
DeepSeek本地部署再也不怕服务器崩了_第3页
DeepSeek本地部署再也不怕服务器崩了_第4页
DeepSeek本地部署再也不怕服务器崩了_第5页
已阅读5页,还剩13页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

DeepSeek本地部署,再也不怕服务器崩最近国产大模型DeepSeek非常火,但由于访问人数过多经常频繁出现反应迟缓甚至是宕机的情况。但万幸的是,DeepSeek是一个开源模型,我们可以通过本地部署在自己的终端上随时使用,而且部署到本地后无需联网即可直接使用。一:安装Ollama如果想要在本地运行DeepSeek需要用到Ollama这个工具,这是一个开源的本地大模型运行工具。我们可以访问/进入Ollama官网下载Ollama,下载时有三个系统的安装包可选择,这里只需要选择下载我们电脑对应的操作系统版本即可,这里我选择的是Windows版本。Ollama安装包下载完成后直接双击安装即可,安装速度还是比较快的。Ollama安装完成后需要打开电脑的CMD,也就是命令提示符,只需要在电脑下方的搜索框中输入cmd即可打开。打开后在命令提示符窗口中输入ollamahelp并按回车键,这个操作是为了验证这个软件是否安装成功,如果没有报错的话则表示这个软件安装成功。二:下载部署Deepseek模型回到/网址中,在网页上方搜索框中输入Deepseek-r1,这个Deepseek-r1就是我们需要本地部署的一个模型。点击Deepseek-r1后会进入详情界面,里面有多个参数规模可供选择,从1.5b到671b都有。需注意的是,这里我们需要根据自己电脑的硬件配置来选择模型大小,下面是一个模型大小配置参考表格,大家可根据自己的电脑配置来自行选择,当然了,部署的本地模型越大,使用的深度求索效果就越好。选择好模型规模后,复制右边的一个命令。命令复制完成后回到命令提示符窗口,将刚刚复制的命令粘贴到命令提示符窗口中并按回车键即可下载模型。模型下载完成后,我们就直接可以在命令提示符面板中使用它了。以后如果我们需要再次使用Deepseek这个模型的话,我们可以直接打开命令提示符窗口,只需要再次在命令符提示窗口中输入上面复制的指令即可。三:可视化图文交互界面Chatbox虽然我们可以在本地正常使用Deepseek这个模型了,但是这个AI工具的面板是非常简陋的,很多人使用不习惯,这时我们就可以通过Chatbox这个可视化图文交互界面来使用它。点击https://chatboxai.app/zh进入Chatbox官网,Chatbox虽然有本地客户端,但我们也可以直接使用网页版。进入Chatbox网页版本后点击使用自己的APIKey或本地模型。点击后会进入模型提供方选择界面,这里选择OllamaAPI。这里需要注意的是,为了能够Ollama能远程链接,这里我们最好看一下Chatbox提供的教程,根据这个教程操作一下。这个教程还是非常简单的,如果是Windows操作系统则只需要配置一下环境变量即可,配置完环境变量后需重启一下Ollama程序。重启Ollama程序后,我们需要将Chatbox设置界面关闭并重新打开,重新打开Chatbox设置界面后即可选择Deepseek模型了,选择后Deepseek模型后点击保存即可。接下来只需要在Chatbox中新建对话即可使用Deepseek模型了,以下图为例,上方是它的思考过程,下方是它给出的答

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论