免费开源的Meta LlaMA 2大语言模型本地搭建教程

Meta LlaMA 2本地安装使用步骤

安装oobabooga的Text generation web UI界面

Text generation web UI界面有点类似于stable diffusion webui界面,事实上它开发的初衷也是打造文本生成领域的stable diffusion webui;

github主页地址:https://github.com/oobabooga/text-generation-webui

windows版:https://pan.quark.cn/s/260d74cf4a70

Mac版:https://pan.quark.cn/s/c14ae28d501a

(以windows版本的安装为例)下载下来之后是一个压缩包,解压之后得到一个文件夹,双击文件夹中的“start_windows.bat”文件开始安装,会自动下载所需的文件,这个时间会比较长,具体时间取决于你当地的网络情况!

并且,由于很多文件都是从外网下载的,一定要开启全局科学上网,否则下载中途会出错!

免费开源的Meta LlaMA 2大语言模型本地搭建教程

免费开源的Meta LlaMA 2大语言模型本地搭建教程

过程中会让我们选择显卡的类型,像我的显卡是Nvidia的3090,我就输入A

免费开源的Meta LlaMA 2大语言模型本地搭建教程

需要注意的是,windows不支持AMD显卡,如果你是windows系统,并且是AMD显卡,请选择 D,即使用CPU;如果你是苹果电脑,选择C;

然后就是漫长的等待时间,坦白讲,我在深圳,用了大概1个多小时的时间才全部安装完成!

未包含模型的项目体积和包含模型的项目体积对比

可见该AI大模型项目的体积也是相当的庞大的,相比较于家用电脑其他程序而言;

原创文章,作者:朋远方,如若转载,请注明出处:https://caovan.com/mianfeikaiyuandemeta-llama-2dayuyanmoxingbendedajianjiaocheng/.html

(6)
打赏 微信扫一扫 微信扫一扫
朋远方的头像朋远方
上一篇 2023年9月12日 上午10:47
下一篇 2023年9月15日 下午6:21

相关推荐

发表回复

登录后才能评论

评论列表(3条)

  • zhuorson的头像
    zhuorson 2023年9月29日 下午11:25

    博主你好,根据你在博文以及B站中的视频,登录https://github.com/oobabooga/text-generation-webui/后,Release下面没有install文件了。这是什么情况,我想安装linux版本的,怎么办?翻白眼

    • 朋远方的头像
      朋远方 2023年9月29日 下午11:30

      @zhuorsonlinux是运行start_linux.sh这个文件进行安装的吧?

    • zhuorson的头像
      zhuorson 2023年9月30日 下午11:13

      @朋远方我学习用的是云服务,都是Linux的服务器。但我对Linux也不是很熟悉,不确定Linux的安装文件是什么