Meta LlaMA 2本地安装使用步骤
安装oobabooga的Text generation web UI界面
Text generation web UI界面有点类似于stable diffusion webui界面,事实上它开发的初衷也是打造文本生成领域的stable diffusion webui;
github主页地址:https://github.com/oobabooga/text-generation-webui
windows版:https://pan.quark.cn/s/260d74cf4a70
Mac版:https://pan.quark.cn/s/c14ae28d501a
(以windows版本的安装为例)下载下来之后是一个压缩包,解压之后得到一个文件夹,双击文件夹中的“start_windows.bat”文件开始安装,会自动下载所需的文件,这个时间会比较长,具体时间取决于你当地的网络情况!
并且,由于很多文件都是从外网下载的,一定要开启全局科学上网,否则下载中途会出错!
过程中会让我们选择显卡的类型,像我的显卡是Nvidia的3090,我就输入A
需要注意的是,windows不支持AMD显卡,如果你是windows系统,并且是AMD显卡,请选择 D,即使用CPU;如果你是苹果电脑,选择C;
然后就是漫长的等待时间,坦白讲,我在深圳,用了大概1个多小时的时间才全部安装完成!
未包含模型的项目体积和包含模型的项目体积对比
可见该AI大模型项目的体积也是相当的庞大的,相比较于家用电脑其他程序而言;
原创文章,作者:朋远方,如若转载,请注明出处:https://caovan.com/mianfeikaiyuandemeta-llama-2dayuyanmoxingbendedajianjiaocheng/.html
Comments(3)
博主你好,根据你在博文以及B站中的视频,登录https://github.com/oobabooga/text-generation-webui/后,Release下面没有install文件了。这是什么情况,我想安装linux版本的,怎么办?
@zhuorson:linux是运行start_linux.sh这个文件进行安装的吧?
@朋远方:我学习用的是云服务,都是Linux的服务器。但我对Linux也不是很熟悉,不确定Linux的安装文件是什么