qlora_config.json

{
  "lora_rank": 8,
  "lora_alpha": 16,
  "lora_dropout": 0.05,
  "quant_bits": 4
}