如何评估私有化部署DeepSeek大模型的硬件要求

人工智能
私有化DeepSeek-V3和DeepSeek-R1满血版本,如何评估响应性能、并发和硬件配置之间的关系
您需要先 登录 才能评论/回答

全部评论(2)
deepseek官方可以查阅硬件要求,使用大模型与训练大模型又是另外一会事情,如果你是想满血版训练的话,是个人的话做梦是可以的,口袋鼓鼓的就没有买不到的A100。个人看还是从实际出发,量力而行。

2025-04-19 16:31:31
671b貌似要640g的显存(AI回答)。而且英伟达的卡,也不知道还能不能买到。
新人报道,我的回答难免有不足之处,还望各位经验丰富的大佬不吝赐教,多加指点。

2025-02-28 16:42:27