下载启动chatglm3的api服务
下载文件和模型
我们需要将chatglm3的程序文件和模型文件下载到本地
程序文件下载地址:链接:https://pan.baidu.com/s/187aXivoRh4s7djFGrBVSEg?pwd=p7kp
模型文件下载地址:
1、官方地址:https://huggingface.co/THUDM/chatglm3-6b-32k/tree/main
2、百度网盘地址:链接:https://pan.baidu.com/s/1veySqGNSvj-7rnF9BYpW0Q?pwd=rnml
模型文件将整个文件夹下载!程序文件下载后解压!
修改bat文件中的模型路径
1、程序文件解压之后,用鼠标右键点击“02启动api.bat”文件,选择“编辑”,用记事本打开该文件!
2、复制刚刚下载的模型文件夹的路径;
3、将复制的路径替换掉原文件中的模型路径;
修改好bat文件之后,保存!
运行bat文件启动api服务
双击刚刚修改的“02启动api.bat”文件,即可自动加载chatglm3模型,并且启动api服务!

记得这个cmd窗口全程不要关闭!!!!
原创文章,作者:朋远方,如若转载,请注明出处:https://caovan.com/windowswsldocker-desktopfastgptm3eoneapichatglm3bushubendeaizhishiku/.html


微信扫一扫