Windows+WSL+Docker Desktop+FastGPT+m3e+oneapi+ChatGLM3部署本地AI知识库

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!简而言之,FastGPT可以支持用户上传自己的个性化的资料,提供给AI模型学习,然后AI可以根据学习的内容来更精准地回答用户的问题!

在线体验地址:https://fastgpt.in

本文要介绍的是在windows本地部署的流程和注意事项

Windows+WSL+Docker Desktop+FastGPT+m3e+oneapi+ChatGLM3部署本地AI知识库

由于FastGPT的最佳运行环境是在Linux,因此第一步我们需要在windows上面搭建一个Linux的环境!微软官方提供了一个简单的方案,那就是安装wsl来实现!

安装wsl

1、鼠标右键点击开始按钮,选择“Windows PowerShell(管理员)”选项,用管理员的方式打开powershell;

2、在powershell输入如下的命令:

wsl --install -d Ubuntu

这条命令会让系统将ubuntu系统安装到你的windows电脑中,由于我已经安装过了,所以显示ubuntu已经安装!

安装Docker Desktop

可以直接下载安装文件进行安装,文件下载地址:https://www.docker.com/products/docker-desktop/

Windows+WSL+Docker Desktop+FastGPT+m3e+oneapi+ChatGLM3部署本地AI知识库

在下拉选框中选择windows的安装文件下载,下载完成之后双击安装即可!

检查是否安装成功可以打开一个cmd窗口,或者powershell窗口,输入“docker –version”,如果可以正常显示docker的版本信息,则说明安装已经成功!

Windows+WSL+Docker Desktop+FastGPT+m3e+oneapi+ChatGLM3部署本地AI知识库

docker默认是安装在C盘中,docker运行时下载的程序镜像文件也是保存在C盘! 在windows10下docker下载的镜像文件默认保存在“C:\Users\用户名\AppData\Local\Docker\wsl”文件夹中;

Windows+WSL+Docker Desktop+FastGPT+m3e+oneapi+ChatGLM3部署本地AI知识库

如果你需要在docker中运行的程序较多的话,一定要保证C盘有充足的磁盘空间!也可以通过Docker Desktop经常将docker中没用的镜像文件及时删除!

Windows+WSL+Docker Desktop+FastGPT+m3e+oneapi+ChatGLM3部署本地AI知识库

当然,你也可以通过cmd命令来删除指定的文件

删除停止的容器

docker container prune

删除未被任何容器引用的镜像

docker image prune -a

删除未使用的网络

docker network prune

删除未使用的卷

docker volume prune

一键清除所有未使用的对象(包括镜像、容器、卷和网络):

docker system prune -a

原创文章,作者:朋远方,如若转载,请注明出处:https://caovan.com/windowswsldocker-desktopfastgptm3eoneapichatglm3bushubendeaizhishiku/.html

(0)
打赏 微信扫一扫 微信扫一扫
朋远方的头像朋远方
上一篇 2024年3月11日 下午7:05
下一篇 2024年3月19日 上午2:09

相关推荐

发表回复

登录后才能评论