DeepSeek-R1 满血版模型!671b 本地/云端部署,跟官方一样高级聪明!

DeepSeek-R1 虽然有1.5b、7b、8b、14b、32b等,但是这些都是量化版,非满血版,真正和官方一样的满血版只有一个,那就是未量化的 671b DeepSeek-R1 大模型!是目前最强最聪明的一个开源模型。

图片[1]-DeepSeek-R1 满血版模型!671b 本地/云端部署,跟官方一样高级聪明!-柚子博客

DeepSeek-R1 满血开源版下载: 【点击前往

本地部署的最低硬件要求:

CPU:32核Intel Xeon或AMD EPYC
内存:512GB RAM
GPU:4块NVIDIA A100(80GB显存)
硬盘:2TB NVMe SSD
网络:10Gbps带宽

本地安装满血版 Deepseek R1 模型步骤:

1、安装 Ollama 【点击前往 】

2、下载并部署 671b Deepseek R1 模型:

ollama run deepseek-r1:671b

3、UI 调用模型 【点击安装 

如何卸载已安装过的模型?

ollama list  # 查询已安装的模型ollama rm 模型名称  # 卸载并删除模型

云端部署 deepseek-r1-671b 命令:

curl -fsSL https://ollama.com/install.sh | shollama create deepseek-r1-671b --model deepseek/deepseek-r1-671b

然后通过Open-WebUI 来调用deepseek-r1-671b 模型,安装命令如下:

docker run -d -p 8082:8080 -v open-webui:/app/backend/data --name Open-WebUI --restart always ghcr.io/open-webui/open-webui:main

然后访问 http:// 服务器IP:8082,打开后在 Open-WebUI “Models” 设置中,添加 deepseek-r1,即可使用!

© 版权声明
THE END
喜欢就支持一下吧
点赞49 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容