学习笔记
-
Ubuntu系统下如何查看服务器PCIe信息
PCIe插槽是服务器中非常重要的一个东西,尤其是GPU服务器,PCIe插槽的级别直接决定了服务器整体的性能,那么如何在Ubuntu系统下查看PCIe的详细信息呢? 命令 dmide…
-
Ubuntu服务器如何查看冗余电源信息
要查看服务器的冗余电源信息,可以使用以下方法 命令 dmidecode – 查看电源信息(需要root权限) sudo dmidecode -t 39 命令解读 这个命…
-
Ubuntu安装 phpmyadmin + Nginx
更新系统包 首先,确保系统的包管理器和已安装的软件包是最新的: sudo apt update && sudo apt upgrade 安装Nginx 如果你还没有…
-
Ubuntu22.04安装NVIDIA驱动+cuda
更新系统 首先运行下面的两行命令,对系统进行更新 sudo apt update sudo apt upgrade 安装NVIDIA驱动 查找可用的驱动版本 运行下面的命令查找可用…
-
通过nvidia-smi命令和nvcc –version命令查看到的cuda版本为什么不一致?
你通过nvidia-smi命令查看到的CUDA版本和通过nvcc –version查看到的CUDA版本不一致,这是因为nvidia-smi显示的是GPU驱动程序所支持的…
-
Ubuntu服务器安装MySQL并且指定数据库保存路径
安装MySQL步骤 更新到最新版本 sudo apt update 安装mysql-server sudo apt-get install mysql-server MySQL相关…
-
在Ubuntu22.04.4安装gcc-12
Ubuntu22.04.4默认的gcc版本是gcc-11,但是在安装很多程序的时候(比如在安装NVIDIA官方驱动的时候)会报错, ERROR:An error occurred …
-
Ubuntu硬盘分区、挂载、修改用户权限
使用命令查看硬盘情况 sudo fdisk -l 可以看到这里有个未分区的4T硬盘 如:sdb 这样的是硬盘 sdb1 sdb2 这样的是分区,现在还没分区 分区 sudo par…
-
GPTQ、GGUF、AWQ 大语言模型量化方法对比(转载)
在本文中,我们将探讨几种(量化)的方式,除此以外,还会介绍分片及不同的保存和压缩策略。 说明:每次加载LLM示例后,建议清除缓存,以防止出现OutOfMemory错误。 del m…
-
一篇文章讲清楚”人工智能”和”大语言模型”的前世今生
本文将为您梳理人工智能和大语言模型发展的历史脉络,让您从对人工智能和大型语言模型一无所知,到对这些革命性技术的工作原理有一个坚实的基础。 在过去的一年里,人工智能彻底改变了世界,像…