Skip to content

uyez/DeepSeek

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

19 Commits
 
 

Repository files navigation

DeepSeek linux服务器部署教程,支持 DeepSeek-R1 671b linux远程部署,deepseek 本地部署硬件配置要求

支持Linux服务器 DeepSeek 本地部署,也支持远程linux服务器部署 DeepSeek。
视频教程:https://youtu.be/L5T7N9LFjro

准备工作:

1、VPS服务器:点击查看>>
2、搭建工具:点击下载>>备用下载>>

一、开始部署:

1、更新VPS服务器

apt-get update -y

2、下载 Ollama

curl -fsSL https://ollama.com/install.sh | sh

3、下载 DeepSeek-R1模型,点击下载>>

二、放行端口:

ufw allow 11434
ufw status

三、设置环境变量:

1、编辑 ollama.service

vim /etc/systemd/system/ollama.service

2、在 [Service] 部分,Environment下面添加:

Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"

3、保存并退出
按【ESC】键,再输入“:wq”保存退出

4、重新加载 systemd 并重启 Ollama:

systemctl daemon-reload
systemctl restart ollama

查看 Ollama 运行状态:

systemctl status ollama
按【q】退出

查看显存占用:

nvidia-smi
apt-get install nvtop -y
nvtop

四、安装客户端使用 DeepSeek :

安装 Chatbox AI 点击查看>>
支持在 Windows, macOS, iOS, Android, Linux 使用。




DeepSeek 本地部署硬件配置要求:

模型版本 模型大小 CPU 显卡 显存 内存
1.5B 1.1GB 普通四核或六核处理器 要求很低 2-4 GB 8GB RAM
7B 4.7GB 6核或8核处理器 NVIDIA 3060 或更强的显卡 8-10 GB 16GB RAM
8B 4.9GB 6核或8核处理器 NVIDIA 4070 或更强的显卡 10-16 GB 32GB RAM
14B 9GB 8核以上处理器 NVIDIA 4080 或更强的显卡 16-24 GB 32GB RAM
32B 20GB 8核以上处理器 NVIDIA 4090 或更强的显卡 24-48 GB 64GB RAM
70B 43GB 12核以上处理器 NVIDIA A100 64 GB+ 128GB RAM
671B 404GB 高性能、多核CPU,服务器配置 NVIDIA A100*6张或更多显卡 480GB+ 256GB+ RAM
仅供参考

 

模型版本 模型大小 CPU
1.5B 1.1GB M1/M2 芯片(8GB 统一内存或以上)
7B 4.7GB M2/M3/M4 芯片(16GB 统一内存或以上)
8B 4.9GB M2/M3/M4 芯片(16GB 统一内存或以上)
14B 9GB M4/M4 Pro 芯片(24GB 统一内存或以上)
32B 20GB M4/M4 Pro/M2 Max/M2 Ultra 芯片(64GB 统一内存或以上)
70B 43GB M4 Max/M2 Ultra 芯片(96GB 统一内存或以上)
仅供参考

About

deepseek linux服务器部署教程,deepseek r1 671b linux部署

Topics

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published