vllm 部署的 glm4 能使用 tool call 吗?
#84
by
hiert
- opened
vllm 部署的 glm4 能使用 tool call 吗?当前只看到 qwen 2.5 有 tool call 的功能
同问,在另一个帖子看到说有支持vllm的方案,但是我没有搜到
vLLM支持的是chat,不是FC
vllm 部署的 glm4 能使用 tool call 吗?当前只看到 qwen 2.5 有 tool call 的功能
同问,在另一个帖子看到说有支持vllm的方案,但是我没有搜到
vLLM支持的是chat,不是FC