讨论广场
全部
讨论
问答
发布
问答
大模型的下载多个文件需要拼合使用吗？
2025-06-04 09:17:59
有模型下载后是分段的，如*001到007 这类模型下载后需要拼接使用吗？还是在COMFYUI 或ollAMA中可以直接调用？如果需要拼合，麻烦大神指导下用什么工具或命令，谢谢！
21
写回答
问答
创空间如何启动vllm server
2025-05-20 09:12:43
目前是直接call魔搭的api，但是想演示大模型中对敏感词的处理，所以想私有化启vllm，然后创空间调用，怎样可以实现呢， 目前想了两个方式，一个是subprocess一个是os，
问答
猿急送上兼职项目沟通障碍，平台无响应怎么办？
2025-03-19 11:27:14
各位大佬，想请问下，我在猿急送上接单。代码已经交付，但是和甲方存在一些沟通障碍，但是平台无响应该怎么办。微信电话都打了，平台完全不响应，已经快三个星期了。难道我就拿不到我熬夜赚的钱了吗
问答
想入手一台mac mini运行大模型
2025-03-04 22:11:11
想入手一台mac mini运行大模型，用作分析财务报表之类的，请问买什么配置，跑什么参数的模型呢？
2501_91717229 2025-04-17 21:32:06
2501_91717229 2025-04-17 21:32:06
问答
如何评估私有化部署DeepSeek大模型的硬件要求
2025-02-21 15:23:05
私有化DeepSeek-V3和DeepSeek-R1满血版本，如何评估响应性能、并发和硬件配置之间的关系
ruanjb123456 2025-04-19 16:31:31
ruanjb123456 2025-04-19 16:31:31
问答
notebook运行代码报错no healthy upstream
2025-02-18 10:09:00
通过notebook，加载模型，之后运行，老是不稳定，时常页面报错：no healthy upstream
真亦天 2025-02-28 16:51:29
真亦天 2025-02-28 16:51:29
讨论
建议魔塔的创空间提供一个功能，隐藏用户的api_key信息
2025-02-14 14:41:20
用户在创空间提交gradio/streamlit应用的时候，有一种情况可能不是克隆modelscope的模型文件提供推理，而是直接用自己的api_key，调用modelscope上已有的推理接口，这样就不用申请gpu资源了。但是这样其他人在进入空间文件的时候是能够看到app.py中的明文api_key的。我觉得至少，可以提供一个方法，用户在自己的创空间中使用这个方法可以获取自己的modelscop
程序猿暴打攻城狮 2025-05-20 09:13:36
程序猿暴打攻城狮 2025-05-20 09:13:36
问答
小白求助，PAI-DSW可以扩容吗，100g不够啊。还有如何下载modelscope模型文件夹下的某一个模型。
2025-02-06 23:00:08
比如我只想下载HunyuanVideo_repackaged的llava_llama3_fp16.safetensors应该如何操作呢？ modelscope download --model Comfy-Org/HunyuanVideo_repackaged llava_llama3_fp16.safetensors --local_dir /mnt/workspace/comfyui/mode
讨论
关于特殊标记在大模型微调中产生的影响的疑问
2024-11-20 16:43:13
求教 special token 在 LLM 训练中发挥的作用？以 Qwen2-VL 为例： 在 Qwen2-VL 的tokenizer.json文件中存在着诸如以下展示的 <|box_start|>、<|box_end|>为了下游任务中指定的 special token： ... { "id": 151648, "content":
查看更多