Qwen2的各模型性能、占用显存和推理速度比较（摘自官方文档）

性能

在这里插入图片描述

推理速度（从大到小）

72B

在这里插入图片描述
在这里插入图片描述

57B-A14B

在这里插入图片描述

7B

在这里插入图片描述

在这里插入图片描述

1.5B

在这里插入图片描述

在这里插入图片描述

0.5B

在这里插入图片描述
在这里插入图片描述

# python # 人工智能 # pytorch
Logo
欢迎加入ModelScope魔搭中文开源社区

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！

更多推荐

cover

Qwen2-VL：发票数据提取、视频聊天和使用 PDF 的多模态 RAG 的实践指南

avatar ModelScope魔搭社区
cover

HelloMeme:充分利用 SD1.5 基模的理解能力，实现表情与姿态的迁移

avatar ModelScope魔搭社区
cover

AI赋能大学计划·大模型技术与应用实战学生训练营——湖南大学站圆满结营

avatar ModelScope魔搭社区