你好，我使用Yi-6b在你的数据集进行pretrain训练，1个epoch。训练到1/3左右指标在55%+，有提升。但训练到50%左右指标掉到了40%。表现上看可能是过拟合了。但我看你用rwkv训练指标有明显提升，百思不得其解。想问一下你训练时是否掺了其他通用pretrain数据？另外请问你的learning rate是多少？
我在训练中也出现了先升高再降低，我也认为目前设计的这个指标不是太靠谱。目前这个数字最大的价值在于评估一个模型是不是nsfw(比如低于40分就显然不是)。我在准备第二版测试集，尝试区分出不同模型的能力。
· Sign up or log in to comment
