LYMQY/UCI_sft_3000

Credit Default Prediction SFT Dataset (Chinese)

首个面向中文信用违约预测的 SFT 微调数据集，将结构化信贷表格数据序列化为自然语言对话，适配 DeepSeek-R1 等 Reasoning 模型。

Overview

本数据集基于 UCI Default of Credit Card Clients Dataset（台湾信用卡违约数据，30,000 条记录，2005年）构建，将原始结构化特征转化为中文自然语言 Prompt，并搭配带推理链的 Response，形成完整的 Supervised Fine-Tuning（SFT） 训练数据。

Key Features

• Tabular-to-Text 序列化：23 维结构化特征 → 中文自然语言描述，保留语义完整性
• Chain-of-Thought Response：每条 Response 包含多维度信用分析推理过程，而非简单分类标签
• ChatML 对话格式：system / user / assistant 三轮对话，兼容 Unsloth / TRL / LLaMA-Factory / Axolotl 等主流微调框架
• 类别平衡：违约与未违约各 50%，消除类别不平衡对模型训练的影响
• 即用型：无需额外预处理，加载后可直接用于 SFT 训练

Dataset Structure

Fields

字段	类型	说明
conversations	list[dict]	ChatML 格式对话（含 system / user / assistant）
label	int	原始标签（0 = 未违约，1 = 违约）

Splits

划分	样本数	违约比例	用途
train	3,000	50%	SFT 微调训练
test	1,000	50%	模型评估

Conversation Format

{
  "conversations": [
    {
      "role": "system",
      "content": "你是一位专业的信用风险评估专家。你的任务是根据客户的信用卡使用信息，分析其信用风险并判断下个月是否会违约。请先进行分析推理，最后给出明确的判断结果：违约 或 未违约。"
    },
    {
      "role": "user",
      "content": "请根据以下信用卡客户信息，判断该客户下个月是否会违约。\n\n【客户信息】\n- 信用额度: 20000元\n- 性别: 女\n- 教育程度: 大学\n- 婚姻状况: 已婚\n- 年龄: 24岁\n- 最近6个月还款状态(从近到远): 延迟2个月, 正常还款, ...\n- 最近6个月账单金额(从近到远): 3913元, 3102元, ...\n- 最近6个月还款金额(从近到远): 0元, 689元, ...\n\n请分析该客户的信用风险，并给出判断结果。"
    },
    {
      "role": "assistant",
      "content": "让我分析该客户的信用状况：\n\n1. 还款行为分析：该客户存在延迟还款记录，还款纪律不佳。\n2. 负债分析：账单金额相对信用额度20000元，负债率偏高。\n3. 还款能力：实际还款金额与账单金额相比存在较大缺口。\n\n综合以上因素，该客户信用风险较高。\n\n【判断结果】违约"
    }
  ],
  "label": 1
}

Serialized Features

原始 UCI 数据集的以下特征被序列化为自然语言：

类别	特征	序列化方式
基础属性	LIMIT_BAL	数值 + "元"
基础属性	SEX	男 / 女
基础属性	EDUCATION	研究生 / 大学 / 高中 / 其他
基础属性	MARRIAGE	已婚 / 单身 / 其他
基础属性	AGE	数值 + "岁"
还款行为	PAY_0 ~ PAY_6	正常还款 / 延迟N个月
账单信息	BILL_AMT1 ~ BILL_AMT6	数值 + "元"
还款信息	PAY_AMT1 ~ PAY_AMT6	数值 + "元"

Model Evaluation

基于本数据集对 unsloth/DeepSeek-R1-Distill-Llama-8B 进行 LoRA 微调后的评估结果：

Training Configuration

参数	值
Base Model	unsloth/DeepSeek-R1-Distill-Llama-8B
Method	QLoRA (4-bit)
LoRA Rank	16
Target Modules	q/k/v/o/gate/up/down_proj
Batch Size (effective)	8 (2 × 4 grad accum)
Learning Rate	2e-4
Epochs	3
Scheduler	Cosine
Hardware	Google Colab T4 (16GB)

Performance Comparison (Test Set, n=200)

Model	Accuracy	Precision	Recall	F1-Score
DeepSeek-R1-8B (SFT)	0.7150	0.7792	0.6000	0.6780
DeepSeek-R1-8B (Zero-Shot)	0.5000	0.5000	1.0000	0.6667
GBM Baseline (GradientBoosting)	0.7250	0.7528	0.6700	0.7090

Key Findings

1. SFT 微调 vs Zero-Shot：微调后 Accuracy 从 50.0% 提升至 71.5%（+21.5pp），模型学会了区分违约与未违约客户，而非一律预测为同一类别
2. SFT 微调 vs GBM：F1-Score 差距为 3.1pp（0.678 vs 0.709），LLM 在 Precision 上更优（0.779 vs 0.753），但 Recall 不及 GBM（0.600 vs 0.670）
3. 解析成功率：微调后模型输出格式规范，100% 可成功解析出判断结果
4. 可解释性优势：LLM 输出包含完整的推理过程，相比 GBM + SHAP 的后验归因，提供了更贴近业务逻辑的过程级解释

Analysis

维度	GBM	LLM (SFT)
数值敏感性	强（直接分裂点优化）	较弱（token 化损失精度）
可解释性	SHAP 后验归因	过程级推理链
部署成本	低（CPU 可运行）	高（需 GPU 推理）
监管合规	需额外工具解释	自带决策理由

Quick Start

Load Dataset

from datasets import load_dataset

dataset = load_dataset("LYMQY/UCI_sft_3000")
print(f"Train: {len(dataset['train'])}, Test: {len(dataset['test'])}")
print(dataset['train'][0])

Fine-tune with Unsloth

from unsloth import FastLanguageModel
from trl import SFTTrainer
from transformers import TrainingArguments

# Load model
model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="unsloth/DeepSeek-R1-Distill-Llama-8B",
    max_seq_length=2048,
    load_in_4bit=True,
)
model = FastLanguageModel.get_peft_model(model, r=16, target_modules=[
    "q_proj", "k_proj", "v_proj", "o_proj", "gate_proj", "up_proj", "down_proj"
])

# Load and format dataset
dataset = load_dataset("LYMQY/UCI_sft_3000")

def formatting_func(examples):
    texts = [
        tokenizer.apply_chat_template(convo, tokenize=False, add_generation_prompt=False)
        for convo in examples["conversations"]
    ]
    return {"text": texts}

train_data = dataset["train"].map(formatting_func, batched=True)

# Train
trainer = SFTTrainer(
    model=model, tokenizer=tokenizer,
    train_dataset=train_data,
    dataset_text_field="text",
    max_seq_length=2048,
    args=TrainingArguments(
        per_device_train_batch_size=2,
        gradient_accumulation_steps=4,
        num_train_epochs=3,
        learning_rate=2e-4,
        output_dir="./credit_default_model",
    ),
)
trainer.train()

Inference

FastLanguageModel.for_inference(model)

messages = [
    {"role": "system", "content": dataset['train'][0]['conversations'][0]['content']},
    {"role": "user", "content": dataset['test'][0]['conversations'][1]['content']},
]
input_text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(input_text, return_tensors="pt").to("cuda")

outputs = model.generate(**inputs, max_new_tokens=256, temperature=0.1, do_sample=False)
response = tokenizer.decode(outputs[0][inputs['input_ids'].shape[1]:], skip_special_tokens=True)
print(response)

Limitations

• 原始数据来自 2005 年台湾地区，可能不完全适用于当前信贷场景
• 模板化 Response 的推理链较为固定，未来可通过 Teacher-Student 蒸馏生成更多样化的推理过程
• 仅包含 23 维基础特征，未纳入征信报告、消费行为等丰富数据源

Future Work

• Teacher-Student 蒸馏：使用 DeepSeek-R1-671B 生成 <think>...</think><decision>...</decision> 格式的高质量推理链
• 扩展数据规模：使用全量 30,000 条数据 + 数据增强
• DPO/GRPO 对齐：构建正确/错误推理链偏好对，进一步优化决策边界
• 多数据源融合：引入 Home Credit、Lending Club 等数据集

Citation

@misc{credit_default_sft_zh_2025,
  title={Credit Default Prediction SFT Dataset (Chinese)},
  author={LYMQY},
  year={2025},
  howpublished={\url{https://huggingface.co/datasets/LYMQY/UCI_sft_3000}},
}

Original data:

@article{yeh2009comparisons,
  title={The comparisons of data mining techniques for the predictive accuracy of probability of default of credit card clients},
  author={Yeh, I-Cheng and Lien, Che-hui},
  journal={Expert Systems with Applications},
  volume={36},
  number={2},
  pages={2473--2480},
  year={2009},
  publisher={Elsevier}
}

License

Apache 2.0