免费开源的Meta LlaMA 2大语言模型本地搭建教程

可能你不知道什么是AI大语言模型,但是你一定知道ChatGPT,没错ChatGPT就是一个优秀的AI大语言模型!但是ChatGPT的大语言模型并不是开源的,使用ChatGPT对很多人来说还是有一定的门槛的!那有有没有开源的可以免费使用的甚至可以部署在本地的AI大语言模型呢?答案是有的!

今天我们介绍的这个“Meta LlaMA 2大语言模型”就是一个免费开源而且非常强大的可以本地部署的AI大语言模型!这个AI大语言模型由大名鼎鼎的Meta公司推出,没错,meta就是我们耳熟能详的Facebook改名之后的公司!

“Meta LlaMA 2大语言模型”不仅免费开源,还可以用来做微调,甚至做商用都完全没有问题!这格局比起OpenAI来是不是一下子就打开了?!

目前,Meta推出了7B(70亿参数)、13B(130亿参数)和70B(700亿参数)三个不同规则的大模型,理论上来说模型越大精度越高,但是运行所耗的GPU资源也越多!一般情况下,建议使用13B的模型就足够精确了!

当然“Meta LlaMA 2”开源模型比起ChatGPT来训练的参数方面还是有差距的,我们可以对比一下:

ChatGPT3.5训练参数:175B(1750亿参数)

ChatGPT4.0训练参数:1.76T=1760B(17600亿参数)

免费开源的Meta LlaMA 2大语言模型本地搭建教程

原创文章,作者:朋远方,如若转载,请注明出处:https://caovan.com/mianfeikaiyuandemeta-llama-2dayuyanmoxingbendedajianjiaocheng/.html

(6)
打赏 微信扫一扫 微信扫一扫
朋远方的头像朋远方
上一篇 2023年9月12日 上午10:47
下一篇 2023年9月15日 下午6:21

相关推荐

发表回复

登录后才能评论

评论列表(3条)

  • zhuorson 2023年9月29日 下午11:25

    博主你好,根据你在博文以及B站中的视频,登录https://github.com/oobabooga/text-generation-webui/后,Release下面没有install文件了。这是什么情况,我想安装linux版本的,怎么办?翻白眼

    • 朋远方的头像
      朋远方 2023年9月29日 下午11:30

      @zhuorsonlinux是运行start_linux.sh这个文件进行安装的吧?

    • zhuorson 2023年9月30日 下午11:13

      @朋远方我学习用的是云服务,都是Linux的服务器。但我对Linux也不是很熟悉,不确定Linux的安装文件是什么