deepseek-r1安装

宋旭晟

感谢分享

yjj008818

最近到处都挺火，无处不在，普及得非常到位

boy2008xp

离线使用，这个不错的，就是电脑跑不动的

p93506

我还是习惯用豆包

思の凡

JARK006 发表于 2025-1-28 15:16
如果显卡一般，也可以参考我这种方法跑蒸馏版CPU版，蹦字较慢：

1. 去 https://github.com/ggerganov/llam ...

请问 deepseek-r1-distill-qwen-32b-q4_k_m.gguf  如何下载下来？

达芬奇密码

deepseek火啦 支持made in China

JARK006

思の凡 发表于 2025-2-6 12:49
请问 deepseek-r1-distill-qwen-32b-q4_k_m.gguf  如何下载下来？

直接给你网址吧，32B / 14B / 1.5B按自己电脑配置选，需要魔法上网 ：

1. https://huggingface.co/bartowski/DeepSeek-R1-Distill-Qwen-32B-GGUF/tree/main
   
2. 
   
3. https://huggingface.co/bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF/tree/main
   
4. 
   
5. https://huggingface.co/bartowski/DeepSeek-R1-Distill-Qwen-1.5B-GGUF/tree/main

复制代码

hardkin

看看第三步是啥

tedhaoyang

谢谢，试试看

yxamos

deepseek最近哪儿都是啊

yxamos

围观，看潮人们先玩

glta

ollama-webui run 32b

william0320

感谢楼主分享，学习了。

helppcbeta

这么方便上手

绝体绝命幻影

可以调用npu嘛

lza200708

glta 发表于 2025-1-28 20:22
無須頂級顯示卡,有8gb記憶體顯示卡都可以.

这个是什么配置下的，速度多少tokens/s

jxliudh

感谢大佬

陈伟飞

昨晚换32大模型，出字好慢，最后换成14B。运行32大模型  GPU基本不动，32g内存使用70%，cup也是70%，只能换成14B

yepulu

支持国产大模型，

glta

lza200708 发表于 2025-2-14 14:46
这个是什么配置下的，速度多少tokens/s

cpu 12600kf 32gb ram msi 3060 8gb,run deepseek 32b 比較慢,几多tokens/s無研究,純粹試玩下.