讨论广场 问答详情
如何评估私有化部署DeepSeek大模型的硬件要求
cm8421 2025-02-21 15:23:05
1134 评论 分享
人工智能

私有化DeepSeek-V3和DeepSeek-R1满血版本,如何评估响应性能、并发和硬件配置之间的关系

1134 评论 分享
写回答
全部评论(2)

deepseek官方可以查阅硬件要求,使用大模型与训练大模型又是另外一会事情,如果你是想满血版训练的话,是个人的话做梦是可以的,口袋鼓鼓的就没有买不到的A100。个人看还是从实际出发,量力而行。

2025-04-19 16:31:31
1 楼

671b貌似要640g的显存(AI回答)。而且英伟达的卡,也不知道还能不能买到。

新人报道,我的回答难免有不足之处,还望各位经验丰富的大佬不吝赐教,多加指点。

2025-02-28 16:42:27