Qwen3.6-27b
-
Ubuntu22.04+4x2080Ti22G+vLLM+Qwen3.6-27B-AWQ-INT4 部署教程
本文记录了一次在 Ubuntu 22.04 环境下，使用 4 张 RTX 2080Ti 22G 显卡 部署 vLLM 推理服务 并运行 Qwen3.6-27B-AWQ-INT4 模…
本文记录了一次在 Ubuntu 22.04 环境下，使用 4 张 RTX 2080Ti 22G 显卡 部署 vLLM 推理服务 并运行 Qwen3.6-27B-AWQ-INT4 模…
