关于lora训练的一切，常见问题及报错

部分网络搜集和自己的经验，有说错的地方请指正，会不断修正，解决方法不一定对每个人有效，仅供参考，介于目前lora训练教程都是各执一词，说法很多，让人迷惑，此篇仅供参考。

安装问题：

训练lora时无法使用本地模型或者即使下载了默认1.5模型依然无法训练的问题解决办法。

成因：可能是因为训练脚本需要链接抱脸网huggingface导致

删除sd缓存目录：C:\Users\Administrator\.cache（注意这里的名称\Administrator是你自己电脑的用户名）

再次训练时会重新下载模型，需要注意的是缓存文件夹中tmp开头的文件是下载失败的文件可以删除，无法断点续传可以删除

2.添加系统变量

在系统搜索里搜索系统变量，进入环境变量设置，新建系统变量

HTTPS_PROXY

http://127.0.0.1:7890

Windows环境变量添加后需要重启生效，此方法解决了无法使用本地模型训练的问题

需要注意的是端口7890，查看方法是打开clash魔法，主页右上角查看，如果不一样要改成你那边的端口，我这边是7890所以这样填写。（训练时需要打开魔法，如提示433报错，同样打开sd时也需要打开魔法，否则会报错。但是仅仅只需要打开时使用，打开之后可关闭魔法）

关于选择什么底模进行训练：

在我十几次的模型训练中一直使用默认1.5模型，好处是泛用性高，缺点是不那么像。

因为很多大模型都有混合一些权重可能会导致微调的lora缺乏泛用性，所以，目前我认为使用默认1.5模型属于一个局部中等的解法，不是最优解，但可以用。

loss=nan

意思是Not a number，非数值的意思，并不是有些人说的爆显存。此错误一般跟训练参数有关，有一开始训练报错，和训练中途报错。都可以通过调整训练参数或数据集来解决。

解决方法：调整数据集，删除一些图片，调整参数，换优化器，学习率等。

cmd=cmd

常见错误，具体原因不明，因为有很多原因可以导致，可通过以下方法尝试解决。

解决方法：1.更换底模，很多自己下载的模型不能用于训练，建议使用1.5的模型。

2.更换优化器

3.不使用8bit

4.此错误可能跟显存无关，因为动不动就看到有人啥错误就说爆显存，特此强调一下，无语……

训练画风是否需要打tag

答案是需要，因为很多视频都说训练画风可以不打tag，但实际体验下来，不打tag会出现lora没效果的情况和其它问题，所以不管你训练什么，都要打tag。

关于打标的一些说法

tag就是用于学习的内容，这张图片的内容会固定在这些标签上。之所以要删除类似 blue eyes这样的标签，是为了防止将基础模型中的blue eyes引导到你的lora上，从而导致过拟合。因此1girl要保留是为了将girl的触发引导到你的lora上。同样的道理，你也可以设置一个非常不常用的触发词，在使用该触发词的时候会调用基本模型不存在的，而lora中存在的内容。

比如训练的能天使头上有光环。如果文本有光环的tag那么之后用lora必须要在tag写了光环，能天使头上才会有光环。把文本里面光环去掉后，lora出来的能天使就默认有光环了。

打标可以辅助ai学习，所以去掉需要学习的元素标签有利有弊。
那阿米驴举例，你用

驴耳朵标签可能最后炼出来的lora阿米驴不会提现驴耳朵的特征。
这是因为打了标所以ai没学吗？其实不是这样。
实际上是因为打了标，ai学习的是在原有驴耳朵的基础上对驴耳朵的改动。
打标的泛化能力是必然强于非打标的。

作为最早碰lora的（我就练光头强的），我表示打标对我只是提升训练泛化的工具，剩下的都靠改参数，以及一些技巧（我可以相对自由地控制拟合度）达标我只是clip加统一激活词

案例：关于角色lora删除tag和不删除tag的对比

（此lora案例仅供学习参考，非商用）

训练设定集，原始图像
训练集图片
v1 版本，没有删除角色标志tag的结果，例如发色，服饰，眼睛等
删除了关于角色特征的tag的结果，v2版本
总结：实践得知，无论是否删除角色标志性tag，lora模型都可以还原角色的特征，但似乎删除角色标志性tag的情况下，lora效果更好，更稳定。

在图1中，出现了两张脚部的结果，这是因为训练集中有脚部的特写，但是关键词并没有描述脚部。在图2中就没有出现类似情况。在图2的训练中我使用了一张设定集的正则。

在调用描述词还原度测试上，可看以下结果

3\4侧面tag调取测试

v2版本
v1版本
可以看到，没有删除tag的v1版本，在调取关键词测试中表现依然糟糕，出现了腿部特写，这并不是我们想要的。

我们可以认为，删除tag的表现效果更好，无论是因为什么原因，所以我们需要在训练角色的时候删除一些tag来达到模型的好用。