大模型
-
在Ubuntu服务器4x2080ti(22G)上部署QwQ-32B + vLLM教程
QwQ 是 Qwen 级数的推理模型。与传统的指令调优模型相比,能够思考和推理的 QwQ 可以在下游任务中实现显着增强的性能,尤其是难题。QwQ-32B 是中型推理模型,能够实现与…
-
DeepSeek模型和硬件配置对照表
PCIe、NVLink、NVSwitch技术对比 特性 PCIe NVLink NVSwitch 主要用途 通用互联接口,连接 GPU、CPU、SSD 等设备 NVIDIA GPU…
-
Stable Diffusion 模型的秘密
本节课,我们将一起来认识和深入了解stable diffusion中的checkpoint(大模型) 认识大模型 我们首先来看一组对比图,这些图片是我用同样的提示词和同样的参数设置…