微信扫一扫 分享朋友圈

已有 266 人浏览分享

deepseek    超简单的DeepSeek本地部署方法

2025-2-3 01:53:01266 0

下载安装大模型运行工具


首先下载名为gtp4all的一款大模型运行工具,用来运行我们的deepseek大模型
下载地址:https://www.nomic.ai/gpt4all
deepseek-超简单的DeepSeek本地部署方法(1)

下载后只需要点击下一步,选择要安装的磁盘即可。
deepseek-超简单的DeepSeek本地部署方法(2)

打开大模型运行工具


打开chat.exe如果桌面没有,那就在安装目录的 bin/chat.exe 打开,协议选否就可以。
deepseek-超简单的DeepSeek本地部署方法(3)

界面介绍


deepseek-超简单的DeepSeek本地部署方法(4)

安装deepseek大模型


deepseek-超简单的DeepSeek本地部署方法(5)

选择适合你的大模型


选择适合你的大模型,下载渠道有两个,第一个是这个工具本身他们平台就有,鼠标往下滚就可以找到,如果找不到了可以通过第二个hugface搜索
deepseek-超简单的DeepSeek本地部署方法(6)
选择大模型根据你的硬盘大小和显存大小来选择,如果你不知道你能装多大的模型它会提示,如下图,14B装不了
deepseek-超简单的DeepSeek本地部署方法(7)

开始使用本地大模型


返回首页,点击开始聊天

deepseek-超简单的DeepSeek本地部署方法(8)
在上方选择我们已经安装的deepseek大模型,下方输入开始使用。至此本地部署,离线大模型完成。deepseek-超简单的DeepSeek本地部署方法(9)
deepseek-超简单的DeepSeek本地部署方法(10)

搭建知识库



1.在电脑上建立一个文件夹
deepseek-超简单的DeepSeek本地部署方法(11)

2.在文件夹里面导入你的知识文件
deepseek-超简单的DeepSeek本地部署方法(12)

这个是我临时随便写,为了测试,准备完成后
deepseek-超简单的DeepSeek本地部署方法(13)


3.知识库配置
deepseek-超简单的DeepSeek本地部署方法(14)

输入名称以及选择刚刚我们准备的文件夹
deepseek-超简单的DeepSeek本地部署方法(15)

点击创建它会把你的知识文件进行向量化处理,已方便deepseek快速理解,向量化结束后,会显示在这里。
然后我们需要重启下这个工具,以便大模型成功读取。
deepseek-超简单的DeepSeek本地部署方法(16)

使用知识库


回到会话当中,点击右上角本地文档,然后勾选刚刚创建的知识库
deepseek-超简单的DeepSeek本地部署方法(17)

测试问题,这里我问了一下佟小飞是谁,输出成功。
deepseek-超简单的DeepSeek本地部署方法(18)

本地大模型deepseek,API调用



  • 联系我们
  • 邮箱:1992608358#qq.com(请把#改成@)
  • 微信:leileiseo
  • QQ客服 1992608358
  • 工作时间:周一至周五(早上9点至下午5点)
  • 微信公众平台

  • 扫描访问手机版

QQ|NIUBOYI ( 京ICP备17025393号 )|网站地图

GMT+8, 2025-5-2 23:02 , Processed in 0.116627 second(s), 39 queries .

POWERED BY NIUBOYIAI! 主理人:NIUBOYIAI  点亮哥

Copyright © 2001-2020, NIUBOYI AI.