智谱AI数学课代表MathGLM魔搭首发，社区体验推理教程来啦！

魔搭ModelScope社区

142人浏览 · 2023-09-25 17:35:00

魔搭ModelScope社区 · 2023-09-25 17:35:00 发布

导读

刚刚，GLM家族又发布了一个新成员数学模型 MathGLM ，以提升大语言模型的数学推理能力。它可以在不使用计算器工具的情况下，高效执行复杂算术运算，解答中文数学应用题，已经在魔搭社区全球首发开源啦！

老规矩，还是最新鲜的社区体验、推理实践教程跟上，快一起来看看 MathGLM 这个理科生的表现吧~

环境配置与安装

使用步骤

本文主要演示的模型为MathGLM模型，在ModelScope的免费Notebook的环境（这里以PAI-DSW为例）的配置下运行（显卡类型为A10, 显存24G）：

服务器连接与环境准备

1、进入ModelScope首页：modelscope.cn，进入我的Notebook

2、选择GPU环境，进入PAI-DSW在线开发环境

3、新建Notebook

4. 安装相关的python包

pip install SwissArmyTransformer==0.2.*

创空间体验

创空间体验链接（点击文末阅读原文直达）：

https://www.modelscope.cn/studios/ZhipuAI/MathGLM-demo/summary

MathGLM 旨在增强大模型在数学推理上的性能，主要关注在精确计算算术运算（基础算术运算和复杂混合运算）和提升模型的中文数学解决能力，接下来，我们就重点考察一下这两部分的能力：

先看算术能力

高位数加减乘除

解方程

算术基础还是很扎实的，再看看生活中的数学理解及应用题解题情况

算价格

分苹果余数问题

浓度计算类

模型链接及下载

MathGLM 模型现已在ModelScope社区开源：

https://modelscope.cn/models/ZhipuAI/MathGLM/summary

社区支持直接下载模型的repo：


from modelscope import snapshot_download, Model, pipeline, Tasks

model_dir = snapshot_download('ZhipuAI/MathGLM', revision='v1.0.0')

模型推理

推理代码：

方法1：使用model推理


from modelscope import snapshot_download, Model, pipeline, Tasks

model_dir = snapshot_download('ZhipuAI/MathGLM', revision='v1.0.0')
model = Model.from_pretrained(model_dir)
query = '鸡和兔在一个笼子里，共有35个头，94只脚，那么鸡有多少只？'
response = model(query)
print(response)

# x=35-((94-35*2)/(4-2))=35-((94-70)/(4-2))=35-(24/(4-2))=35-(24/2)=35-12=23

方法2：使用pipeline推理


from modelscope import snapshot_download, Model, pipeline, Tasks

model_dir = snapshot_download('ZhipuAI/MathGLM', revision='v1.0.0')
pipe = pipeline(task=Tasks.text_generation, model=model_dir)
query = '10*9*8=?'
response = pipe(query)
print(response)

# x=10*9*8=90*8=720

资源消耗：