use_peft: true
lora_r1: null
lora_r2: null
lora_r: null
lora_relative_r: null
lora_target_modules: all
train_embeddings: false
use_rslora: True
use_loraplus: false
loraplus_lr_ratio: 16
lora_alpha: 64