NIUBOYI»Home › › deepseek › 中文 | English
微信扫一扫 分享朋友圈

已有 1243 人浏览分享

deepseek    Super simple method for local DeepSeek deployment

2025-2-3 01:53:011243 0
[baike]下载安装大模型运行工具[/baike]
首先下载名为gtp4all的一款大模型运行工具,用来运行我们的deepseek大模型
下载地址:https://www.nomic.ai/gpt4all
下载.png

下载后只需要点击下一步,选择要安装的磁盘即可。
下载 (1).png
[baike]打开大模型运行工具[/baike]
打开chat.exe如果桌面没有,那就在安装目录的 bin/chat.exe 打开,协议选否就可以。
下载 (2).png
[baike]界面介绍[/baike]
下载 (3).png
[baike]安装deepseek大模型[/baike]
下载 (4).png
[baike]选择适合你的大模型[/baike]
选择适合你的大模型,下载渠道有两个,第一个是这个工具本身他们平台就有,鼠标往下滚就可以找到,如果找不到了可以通过第二个hugface搜索
下载 (5).png
选择大模型根据你的硬盘大小和显存大小来选择,如果你不知道你能装多大的模型它会提示,如下图,14B装不了
下载 (6).png
[baike]开始使用本地大模型[/baike]
返回首页,点击开始聊天

下载 (8).png
在上方选择我们已经安装的deepseek大模型,下方输入开始使用。至此本地部署,离线大模型完成。
下载 (9).png

[baike]搭建知识库[/baike]

1.在电脑上建立一个文件夹
微信截图_20250203031529.png

2.在文件夹里面导入你的知识文件
微信截图_20250203031548.png

这个是我临时随便写,为了测试,准备完成后
微信截图_20250203031618.png


3.知识库配置
微信图片_20250203032145.png

输入名称以及选择刚刚我们准备的文件夹
微信截图_20250203032401.png

点击创建它会把你的知识文件进行向量化处理,已方便deepseek快速理解,向量化结束后,会显示在这里。
然后我们需要重启下这个工具,以便大模型成功读取。
微信截图_20250203032450.png

[baike]使用知识库[/baike]
回到会话当中,点击右上角本地文档,然后勾选刚刚创建的知识库
123.png

测试问题,这里我问了一下佟小飞是谁,输出成功。
40.png

[baike]本地大模型deepseek,API调用[/baike]

  • WeChat Official Account

  • Scan to Visit Mobile Site

QQ|NIUBOYI ( 京ICP备17025393号 )|网站地图

GMT+8, 2026-10-30 19:46 , Processed in 0.591914 second(s), 40 queries .

POWERED BY NIUBOYIAI! 主理人:NIUBOYIAI  点亮哥

Copyright © 2001-2020, NIUBOYI AI.