显存

• 人工智能

  怎样根据模型参数量计算推理时需要的显存？

  随着开源大模型雨后春笋一样的发布，怎样根据模型的参数量来计算所需要的显存成了很多小伙伴关心的话题！我们今天就一起来了解下这个知识！ 假如有一个块3090 24G的显卡，我比较关心的…

  朋远方

  2024年4月6日

  015.2K0