登录社区云,与社区用户共同成长
邀请您加入社区
目前是直接call魔搭的api,但是想演示大模型中对敏感词的处理,所以想私有化启vllm,然后创空间调用,怎样可以实现呢,
目前想了两个方式,一个是subprocess一个是os,