vllm

• 人工智能

  vllm让LLM的本地推理速度坐上火箭！| 以Qwen1.5-14B为例

  在上一篇文章中，我们讲解了如何将本地部署的Qwen1.5-14B模型导入FastGPT，感兴趣的可以查阅《Windows+WSL+Docker Desktop+FastGPT+m3…

  朋远方

  2024年3月19日

  039.4K0

• 2 / 2
• 1
• 2