Windows+WSL+Docker Desktop+FastGPT+m3e+oneapi+ChatGLM3部署本地AI知识库

下载启动chatglm3的api服务

下载文件和模型

我们需要将chatglm3的程序文件和模型文件下载到本地

程序文件下载地址:链接:https://pan.baidu.com/s/187aXivoRh4s7djFGrBVSEg?pwd=p7kp

模型文件下载地址:

1、官方地址:https://huggingface.co/THUDM/chatglm3-6b-32k/tree/main

2、百度网盘地址:链接:https://pan.baidu.com/s/1veySqGNSvj-7rnF9BYpW0Q?pwd=rnml

模型文件将整个文件夹下载!程序文件下载后解压!

修改bat文件中的模型路径

1、程序文件解压之后,用鼠标右键点击“02启动api.bat”文件,选择“编辑”,用记事本打开该文件!

2、复制刚刚下载的模型文件夹的路径;

3、将复制的路径替换掉原文件中的模型路径;

修改好bat文件之后,保存!

运行bat文件启动api服务

双击刚刚修改的“02启动api.bat”文件,即可自动加载chatglm3模型,并且启动api服务!

 

Windows+WSL+Docker Desktop+FastGPT+m3e+oneapi+ChatGLM3部署本地AI知识库

记得这个cmd窗口全程不要关闭!!!!

原创文章,作者:朋远方,如若转载,请注明出处:https://caovan.com/windowswsldocker-desktopfastgptm3eoneapichatglm3bushubendeaizhishiku/.html

(0)
打赏 微信扫一扫 微信扫一扫
朋远方的头像朋远方
上一篇 2024年3月11日 下午7:05
下一篇 2024年3月19日 上午2:09

相关推荐

发表回复

登录后才能评论