全球主机交流论坛

标题: deepseek r1部署需要什么配置 [打印本页]

作者: cpa 时间: 2025-2-4 11:36
提示: 作者被禁止或删除内容自动屏蔽

作者: BwGoat 时间: 2025-2-4 11:39
但凡去百度bing搜一下就一大堆教程。模型有很多种，都是蒸馏过的。原版1个多t。

作者: idcidcddd2024 时间: 2025-2-4 11:42
键盘的g坏了还是o坏了还是l坏了还是e坏了还是y坏了还是u坏了还是t坏了还是b坏了

作者: qqlikeho 时间: 2025-2-4 11:51
本帖最后由 qqlikeho 于 2025-2-4 11:57 编辑

完整的761b有400g，需要800-1T左右的混合内存。
目前有人用amd搞定大概4token/s，成本8000u，可以满足个人需求。不过随着上下文的变多会降速。
可以在观望下amd那边，统一内存可以在未来低成本的实现更好的xiaoneng

作者: 四叶草 时间: 2025-2-4 12:28
网上租H100
671b完整模型
半个小时就部署好了

作者: 老狼 时间: 2025-2-4 13:09
本帖最后由老狼于 2025-2-4 13:15 编辑

8b本地4G显存部署成功

作者: iiii.im 时间: 2025-2-4 13:10
独服可以部署8b，很慢而且也很傻

14b也可以但是太慢了

作者: hbsx 时间: 2025-2-5 10:20
最低也得3060的显卡吧，再低没啥意思了

作者: xocus 时间: 2025-2-5 10:34
7B的上下文乱来

欢迎光临全球主机交流论坛 (https://hostloc.gdisk.cf/)