Ubuntu

交换空间的作用 交换空间（Swap Space） 是Linux系统（包括Ubuntu）中用于扩展物理内存（RAM）的一种机制。它的核心作用是在物理内存不足时，将部分内存数据临时转移…

在上一篇文章中，我们谈到了如何用vLLM推理框架来运行QwQ-32B模型，想了解详情的可以参考《在Ubuntu服务器4x2080ti(22G)上部署QwQ-32B + vLLM教程…

QwQ 是 Qwen 级数的推理模型。与传统的指令调优模型相比，能够思考和推理的 QwQ 可以在下游任务中实现显着增强的性能，尤其是难题。QwQ-32B 是中型推理模型，能够实现与…

open-webUI 是一款类似于chatgpt的webui程序, 可以私有化模型本地部署，可以实现 多模态AI聊天 ， AI 翻译 ， AI搜索，语音转文本， 文本转语音， 文生…

Xorbits Inference（Xinference）是一个性能强大且功能全面的分布式推理框架。可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。通过 Xo…

相比较MaxKB而言，RAGFlow的部署过程可谓是复杂得多！如果你图简单地话，可以直接移步到《Ubuntu服务器MaxKB的部署流程》这篇文章！ 升级和安装相关的依赖 操作系统更…

MaxKB = Max Knowledge Base，是一款基于大语言模型和 RAG 的开源知识库问答系统，广泛应用于智能客服、企业内部知识库、学术研究与教育等场景。 本教程以Ub…

列出所有本地镜像 首先，查看当前系统中所有已下载的Docker镜像： docker images 输出示例： REPOSITORY TAG IMAGE ID CREATED SIZ…

Ubuntu安装docker 在Ubuntu服务器上安装Docker的步骤如下： 更新系统包 在安装新的软件之前，建议更新现有的软件包： sudo apt update sudo …

随着人工智能的发展，模型文件越来越大，通过git命令下载大文件很容易发生中断导致文件损坏的情况，这时候有人会想到用wget命令来单独下载几个G的大文件，wget命令确实是一种比较好…