01.功能(优势)简介

ModelScope 社区基于优秀的开源可视化AI应用编排工具 Langflow 搭建了创空间,以方便社区开发者基于社区开源模型及免费魔搭 API-Inference,快速创建Agent应用、RAG应用并将其部署为API服务。

  • 云端开箱即用,无需在本地安装相关依赖
  • 基于免费魔搭API-Inference,可自由使用相关开源模型编排工作流
  • 编排好的工作流可基于创空间免费算力托管为API调用,并被进一步集成开发

02.应用效果

简单编排Qwen2.5-VL-72B-Instruct

市场研究Agent

学术研究Agent

 

03.使用流程

1、从公开Langflow创空间复制

说明:部署在创空间的Langflow应用暂未支持区分用户账号登录,因此当 Langflow 创空间设置为公开时,任何可见用户都拥有当前 Langflow 创空间包括读、写操作在内的全部权限,请务必复制为非公开创空间后使用。

确认创建:点击复制创空间按钮后,稍等片刻即可完成您的专属 Langflow 创空间创建。

 

然后就可以愉快地开启可视化应用编排之旅。

2、快速开始 Langflow:编排 Memory Chatbot

本部分简要概述使用 Langflow 编排工作流的主要流程,以便 ModelScope 社区用户基于社区资源完成应用搭建。详细使用说明,可前往 Langflow 官方文档了解。 文档:https://docs.langflow.org

主要步骤如下:

  • 点击“+New Flow”创建新的工作流
  • 您可以从“All Template”里找到 Memory Chatbot 模板或直接点击 “+Blank Flow” 从空白画布开始。

从模板开始创建

 

  • 选择模板:从“All Template”里找到 Memory Chatbot 模板,点击后即可完成新建。

 

  • 配置模型节点:在 ModelScope 节点Model Name属性中选择合适的模型,并完成 ModelScope 访问令牌配置。您可以前往“ModelScope主页-访问令牌”页面获取 SDK 访问令牌。

     

此时,即可运行工作流应用。

Memory Chatbot模板

从空白画布开始创建

  • 添加ModelScope节点:在左侧边栏组件栏,找到Models列表中的ModelScope节点,添加到画布后配置 ModelName 为列表中任一模型,并从“ModelScope主页-访问令牌”页面获取SDK访问令牌配置到节点中

 

  • 添加Chat Input节点:将输出Message锚点连接至ModelScope节点的Input锚点

 

  • 添加Chat Output节点:将ModelScope节点的输出 Text 锚点连接至 Chat Output 节点的 Text 锚点

 

至此,我们已经获得一个简单的对话式Chatbot,但只是简单的输入输出,而不具备维护对话上下文窗口的能力。接下来,我们将为Chatbot添加记忆(Memory)。

 

  • 添加Prompt节点:从Prompts列表中,选择Prompt节点;点击节点上的“Template”配置节点的模板。输入:

 

You are a helpful assistant that answer questions. Use markdown to format your answer, properly embedding images and urls. History: {memory}

其中,新增变量可以用花括号"{ }"包括变量名完成新建。保存Template字段后,可以注意到Prompt节点多了Memory参数的输入锚点。

 

  • 添加Message History节点:在Helpers列表中,选择Message History节点,将其Text输出锚点连接至Prompt节点的memory输入锚点。

  • 执行与测试:工作流构建完成时,建议点击Chat Ouput节点的执行按钮或直接通过Playground完成测试。

至此,我们完成了简单且具备对话上下文记忆的Chatbot Agent创建。其中保存默认上下文条数为100条,您也可以将鼠标移到Message History节点上,点击其上出现的控制栏中“Controls”字段,对Message History保留的上下文条数(Number of Messages)进行调整。

3、快速开始 Langflow:编排简单Agent

主要步骤如下:

  • 点击“+New Flow”创建新的工作流。
  • 您可以从“All Template”里找到Simple Agent模板或直接点击“+Blank Flow”从空白画布开始。

从模板开始创建

  • 选择模板:从“All Template”里找到 Simple Agent 模板,点击后即可完成新建。
  • 配置 Agent 节点:当需要将模型配置为 ModelScope 时,您需要将Agent节点的 Model Provider设置为ModelScope,并从列表中为目标任务选择合适的模型,配置好访问令牌及Agent Instructions指令。

此时,即可运行工作流应用。

Simple Agent 模板

从空白画布开始创建

  • 添加Agent节点:在组件栏中找到Agents列表,选择添加Agent节点。

     

  • 配置 Agent 节点:当需要将模型配置为 ModelScope 时,您需要将Agent节点的 Model Provider设置为ModelScope,并从列表中为目标任务择合适的模型,配置好访问令牌。
  • 编写Agent Instructions:在Agent节点中,编写给Agent的 Instructions指令,即系统提示词。

You are a helpful assistant that can use tools to answer questions and perform tasks. Use markdown to format your answer, properly embedding images and urls.

  • 添加 Chat Input 及 Chat Output节点,并连好线 Chat Input(Messages) -> Agent(Input) -> Agent(Response) -> Chat Output(Text)。

至此,我们获得一个最简单的Agent。接下来,我们为 Agent 添加一些可供调用的简单工具。

 

  • 添加 URL 节点:使 Agent 获得根据 URL 解析网页的能力
  • 在组件栏的Data列表中,找到URL节点并添加;
  • 打开Tool Mode开关;
  • 将 Toolset连接至 Agent 节点的 tools 锚点。

 

 

  • 添加 Calculator 节点:使 Agent 获得使用外部计算器工具处理用户输入中计算任务的能力
  • 在组件栏的Tools列表中,找到 Calculator节点并添加;
  • 将 Tool 锚点连接至 Agent 节点的 tools 锚点。

  • 执行与测试:工作流构建完成时,建议点击Chat Ouput节点的执行按钮或直接通过Playground完成测试。

至此,我们获得了一个具备调用 URL 解析工具、Calculator 计算工具的简单 Agent。当然,您也可以从 Tools列表中找到其他合适的工具节点,升级 Agent 使用外部工具的能力。

以上简单介绍了使用 Langflow 快速创建 Memory Chatbot 及 简单 Agent 应用。如果需要了解更多 Langflow 能力,可以在 Langlfow模板商店中浏览其他模板,或者前往Langflow 官方文档了解。

文档:https://docs.langflow.org

4、工作流效果体验

编排好工作流后,您有Playground和API两种方式可以体验工作流应用。

在 Playground 中,您可以可视化地与 Agent 对话,并收到 Agent 的回复结果:

您也可以点击 API 查看调用工作流API的示例,参考指引补充填写 ModelScope SDK Token 后可以成功调用API:

5、将Playground发布为衍生创空间

为了方便用户进一步将自己开发好的工作流发布成创空间应用,我们提供了一键发布功能。

工作流编排

编排后通过 Playground 测试

点击右上角“Publish”按钮,即可开始发布Playground为独立创空间,详细步骤如下:

 

  • 在工作流画布中点击“Publish”按钮
  • 编辑英文名称及其他设置项
  • 复制创空间并等待构建与发布完成

点击 Publish

 

编辑英文名称及其他设置项

复制创空间,并等待构建与发布完成

 

完成发布后,即可体验该创空间,并将创空间链接分享给其他用户体验

 

6、小结与讨论

 

  • Langflow提供了丰富的外部工具及知识库、向量数据库能力,特别适合构建RAG及Agentic应用,但对多模态任务工作流的支持不足。

 

  • 最新 1.2.0 版本Langflow支持作为MCP Client调用外部MCP Server工具,同时也支持将Langflow工作流作为MCP Server被其他Client调用,魔搭创空间将在后续的工作中予以更新。

点此链接阅读原文,直达创建你的专属agent~

Langflow应用编排(可用免费魔搭API-Inference)

Logo

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!

更多推荐