支持Linux服务器 DeepSeek 本地部署,也支持远程linux服务器部署 DeepSeek。
视频教程:https://youtu.be/L5T7N9LFjro
1、VPS服务器:点击查看>>
2、搭建工具:点击下载>> ,备用下载>>
1、更新VPS服务器
apt-get update -y
2、下载 Ollama
curl -fsSL https://ollama.com/install.sh | sh
3、下载 DeepSeek-R1模型,点击下载>>
ufw allow 11434
ufw status
1、编辑 ollama.service
vim /etc/systemd/system/ollama.service
2、在 [Service] 部分,Environment下面添加:
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
3、保存并退出
按【ESC】键,再输入“:wq”保存退出
4、重新加载 systemd 并重启 Ollama:
systemctl daemon-reload
systemctl restart ollama
systemctl status ollama
按【q】退出
nvidia-smi
apt-get install nvtop -y
nvtop
安装 Chatbox AI 点击查看>>
支持在 Windows, macOS, iOS, Android, Linux 使用。
| 模型版本 | 模型大小 | CPU | 显卡 | 显存 | 内存 |
|---|---|---|---|---|---|
| 1.5B | 1.1GB | 普通四核或六核处理器 | 要求很低 | 2-4 GB | 8GB RAM |
| 7B | 4.7GB | 6核或8核处理器 | NVIDIA 3060 或更强的显卡 | 8-10 GB | 16GB RAM |
| 8B | 4.9GB | 6核或8核处理器 | NVIDIA 4070 或更强的显卡 | 10-16 GB | 32GB RAM |
| 14B | 9GB | 8核以上处理器 | NVIDIA 4080 或更强的显卡 | 16-24 GB | 32GB RAM |
| 32B | 20GB | 8核以上处理器 | NVIDIA 4090 或更强的显卡 | 24-48 GB | 64GB RAM |
| 70B | 43GB | 12核以上处理器 | NVIDIA A100 | 64 GB+ | 128GB RAM |
| 671B | 404GB | 高性能、多核CPU,服务器配置 | NVIDIA A100*6张或更多显卡 | 480GB+ | 256GB+ RAM |
| 仅供参考 | |||||
| 模型版本 | 模型大小 | CPU |
|---|---|---|
| 1.5B | 1.1GB | M1/M2 芯片(8GB 统一内存或以上) |
| 7B | 4.7GB | M2/M3/M4 芯片(16GB 统一内存或以上) |
| 8B | 4.9GB | M2/M3/M4 芯片(16GB 统一内存或以上) |
| 14B | 9GB | M4/M4 Pro 芯片(24GB 统一内存或以上) |
| 32B | 20GB | M4/M4 Pro/M2 Max/M2 Ultra 芯片(64GB 统一内存或以上) |
| 70B | 43GB | M4 Max/M2 Ultra 芯片(96GB 统一内存或以上) |
| 仅供参考 | ||