手动安装text generation webui的步骤

该方法需要提前安装好conda和git，具体方法请参考“VideoReTalking对嘴型AI工具windows本地部署教程”这篇文章中关于conda和git的安装方法，这里不再重复记录！

本人的电脑操作系统是windows10，显卡是Nvidia的3090显卡，如果你的操作系统和显卡不同（显卡只要是NVida的理论上都一样）

安装步骤

创建和激活虚拟空间

首先点击电脑左下角的“运行”按钮，输入“cmd”打开一个命令窗口，输入如下的命令创建一个新的conda虚拟空间：

conda create -n textgen python=3.10.9

然后激活该虚拟空间

conda activate textgen

安装pytorch

我的电脑显卡是NVIDIA的显卡，因此我运行下面的命令安装pytorch：

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117

如果你的电脑不是NVIDIA显卡，可以运行下面的命令用CPU来运行程序：

pip3 install torch torchvision torchaudio

安装xformers

运行下面的命令安装xformers

pip install xformers

克隆主程序到本地文件夹

这一步有很多的方法，你可以在想安装该程序的文件夹空白处点击鼠标右键，选择“Git Bash Here”，然后在命令窗口输入如下的命令：

git clone https://github.com/oobabooga/text-generation-webui

也可以直接从github项目主页https://github.com/oobabooga/text-generation-webui点击绿色按钮code下拉菜单，选择“Download ZIP”，然后将该压缩包解压到你想安装该程序的文件夹中；

安装项目依赖

不管用那种方式，只要将项目文件拷贝到了本地即可，现在我们进入到项目的根目录，在文件夹的路径输入“cmd”，输入如下的命令重新进入到虚拟空间：

call conda activate textgen

输入如下的命令安装项目的依赖：

pip install -r requirements.txt

如果没有NVIDIA显卡的同学，这一步你就需要运行下面的命令替代上面的命令：

pip install -r requirements_nocuda.txt

运行程序

重要提示：运行text generation webui必须关闭所有的科学上网！！！

重要提示：运行text generation webui必须关闭所有的科学上网！！！

重要提示：运行text generation webui必须关闭所有的科学上网！！！

正常运行

上面的项目依赖安装完成之后，你就可以启动webui页面了，具体操作步骤如下：

记得每次需要运行server.py文件都需要进入到虚拟环境中，即在根目录文件夹路径中输入“cmd”，然后输入如下的命令：

conda activate textgen

然后在命令窗口运行下面的代码：

python server.py

当命令窗口出现“Running on local URL: http://127.0.0.1:7860”字样的时候，你打开浏览器输入

http://localhost:7860/?__theme=dark

这时候你就可以看到text generation webui的页面了！

便捷运行

为了省去每次都要手动输入代码的麻烦，我对server.py文件做了一些修改，并且制作了一个“启动TextGEN服务.bat”批处理文件，将“server.py”文件替换掉根目录下原“server.py”文件，并且将“启动TextGEN服务.bat”文件也放在项目的根目录，以后每次启动webui的时候只需要双击“启动TextGEN服务.bat”文件即可！它不但可以让你省去手动输入代码的麻烦，还可以在启动webui之后自动打开浏览器的webui窗口！你也可以将“启动TextGEN服务.bat”右键发送快捷方式到桌面，这样你每次启动程序都不需要打开文件夹了！

如果需要的话，你可以点击下载下面的两个文件

点击下载：server.py

点击下载：启动TextGEN服务.bat