SGLang

• 人工智能

  在Ubuntu服务器4x2080ti(22G)上部署QwQ-32B + SGLang教程

  在上一篇文章中，我们谈到了如何用vLLM推理框架来运行QwQ-32B模型，想了解详情的可以参考《在Ubuntu服务器4x2080ti(22G)上部署QwQ-32B + vLLM教程…

  朋远方

  2025年3月13日

  00180