单卡可推理CodeFuse-CodeLlama-34B 4bits量化版本魔搭开源！

导读 继2023-09-11 CodeFuse-CodeLlama-34B发布，HumanEval pass@1指标达到74.4%(贪婪解码), 为当前开源SOTA。最近，CodeFuse-CodeLlama-34B 4bits量化版本发布，CodeFuse-CodeLlama-34B-4bits是CodeFuse-CodeLlama-34B模型的4bits量化版本，后者是通过QLoRA对基座

社区供稿 | 姜子牙大模型开源代码大模型Ziya-Coding-34B-v1.0 再创榜单新高，魔搭开源可体验！

元象开源70 亿参数通用大模型 XVERSE-7B，全开源、免费可商用，魔搭最佳实践来啦！

导读 元象推出 70亿参数通用大模型 XVERSE-7B 底座与对话版，保持高性能、全开源、免费可商用，让海量中小企业和 AI 开发者能以低成本用上高性能大模型，并在魔搭社区开源，共同推动中国大模型生态建设。 与 8 月开源的 XVERSE-13B 相比，7B 版本主打“小而美”：它支持在单张消费级显卡部署运行，推理量化后最低只需 6GB 显存，大幅降低开发门槛和推理成本；继续保持高性能，在