为了便于日常管理，我们可以为常用的命令创建快捷方式，分为如下两个步骤
在主文件夹创建.sh文件
分别新建下面三个.sh文件（可以通过vim来创建，也可以通过nano来创建，或者任何其他的文本编辑器来创建皆可！）
show-GPU.sh
#!/bin/bash conda deactivate nvidia-smi --loop=1
vllm_server.sh
#!/bin/bash source ~/miniconda3/etc/profile.d/conda.sh conda activate vllm python3 -m vllm.entrypoints.openai.api_server --model /media/arthur/新加卷/LLM/Qwen1.5-32B-Chat-AWQ --served-model Qwen1.5-32B-Chat-AWQ --dtype float16 --tensor-parallel-size 4 --quantization awq --trust-remote-code --gpu-memory-utilization 0.98 --host=0.0.0.0 --port=8001 --max-model-len 32000 --max-num-seqs
one-api_server.sh
#!/bin/bash ./one-api
这三个文件放在主文件夹中！
然后运行如下的命令，将这三个文件的权限修改为可执行！
chmod +x show-GPU.sh chmod +x vllm_server.sh chmod +x one-api_server.sh
在桌面创建.desktop文件
分别新建下面三个.desktop文件
show-GPU.desktop
[Desktop Entry] Version=1.0 Name=show GPUs information Comment=Run the show GPU script Exec=/home/arthur/show-GPU.sh Icon=utilities-terminal Terminal=true Type=Application
vllm_server.desktop
[Desktop Entry] Version=1.0 Name=VLLM Server Comment=Run the VLLM Server script Exec=/home/arthur/vllm-server.sh Icon=utilities-terminal Terminal=true Type=Application
one-api_server.desktop
[Desktop Entry] Version=1.0 Name=one-api Server Comment=Run the one-api Server script Exec=/home/arthur/one-api_server.sh Icon=utilities-terminal Terminal=true Type=Application
同样要给这三个文件有可执行的权限
chmod +x ~/桌面/show-GPU.desktop chmod +x ~/桌面/vllm_server.desktop chmod +x ~/桌面/one-api_server.desktop
然后分别在桌面找到这三个图标，点击鼠标右键，选择“允许运行”
这样，我们就可以通过双击这些快捷方式来启动我们需要的命令组了！
原创文章，作者：朋远方，如若转载，请注明出处：https://caovan.com/ubuntufuwuqichuangjianchangyongminglingzukuaijiefangshi/.html
微信扫一扫 