---
license: apache-2.0
language:
- vi
task_categories:
- text-ranking
tags:
- reranker
- cross-encoder
- legal
- vietnamese
- vlsp
- hard-negatives
pretty_name: VLSP Vietnamese Legal Reranker — Train + Eval
size_categories:
- 1K<n<10K
configs:
- config_name: train
  data_files: train.jsonl
  default: true
- config_name: eval
  data_files: eval.json
---

# VLSP Vietnamese Legal Reranker — Training + Eval data

Bộ dữ liệu **listwise reranking** cho truy hồi điều luật tiếng Việt (VLSP). Đây **chính xác** là
dữ liệu đã dùng để fine-tune 2 model reranker:

- 🤗 [`hoailebads/Qwen3-Reranker-8B-VLSP-Legal-LoRA`](https://huggingface.co/hoailebads/Qwen3-Reranker-8B-VLSP-Legal-LoRA) (bản chính, vượt SOTA VLSP)
- 🤗 [`hoailebads/Qwen3-Reranker-0.6B-VLSP-Legal-LoRA`](https://huggingface.co/hoailebads/Qwen3-Reranker-0.6B-VLSP-Legal-LoRA) (bản nhẹ)

📦 Code, pipeline & script tạo dữ liệu: **https://github.com/hoaileba/Qwen-Retrieval-Tuning**
(file gốc: `dataset/train_rankllama_hn23_v3.jsonl`, tạo bằng `data_prep/mine_hard_negatives_v3.py`).

---

## Nội dung

| File | Split | Số dòng | Định dạng | Mô tả |
|---|---|---|---|---|
| `train.jsonl` | train | **9,994** | JSONL | mỗi dòng = 1 query + 1 positive + tối đa 23 hard negative |
| `eval.json` | eval | **296** | JSON array | query + 1 positive (dedup theo `aid` còn **219** query unique) |

### `train.jsonl` — schema mỗi dòng

```json
{
  "id": "d9189b1cc63747b4e879984e5a72d190",
  "question": "Những trường hợp nào không tiếp tục sử dụng đối với công trình hết thời hạn...",
  "positive": {"id": "06/2021/nđ-cp|41", "text": "Điều 41. Xử lý đối với công trình..."},
  "negatives": ["Điều 19. Vi phạm quy định về bảo hành...", "..."],
  "_source": "zalo",
  "_neg_source": "teacher_aiteamvn_v3"
}
```

- `positive` là **điều luật đúng** (index 0 khi train listwise).
- `negatives` là **hard negative** mine bằng dense retriever + teacher reranker (23/query cho
  phần lớn mẫu).
- Loss listwise: positive ở vị trí 0, negatives là các lựa chọn còn lại (InfoNCE, không dùng
  in-batch negative).

### `eval.json` — schema mỗi record

```json
{"id": "11075", "question": "Người đi xe máy đâm vào xe ôtô...", "positive": {"id": 56886, "text": "Luật quy định về giao thông..."}}
```

Query eval **chỉ có ground-truth positive**; ứng viên để rerank được sinh riêng bằng bi-encoder
(top-100), xem repo GitHub.

---

## Thống kê `train.jsonl`

| Thuộc tính | Giá trị |
|---|---|
| Tổng số mẫu | 9,994 |
| Nguồn (`_source`) | `synthetic` 5,530 · `zalo` 2,477 · `vlsp` 1,987 |
| Nguồn negative (`_neg_source`) | `teacher_aiteamvn_v3` (toàn bộ) |
| Số negative/mẫu | 23 (9,051 mẫu) · 19 (59) · các mức thấp hơn cho phần còn lại |

## Cách nạp

```python
from datasets import load_dataset

train = load_dataset("hoailebads/VLSP-Legal-Reranker-Train", "train", split="train")
eval_ = load_dataset("hoailebads/VLSP-Legal-Reranker-Train", "eval", split="train")
print(train[0]["question"], train[0]["positive"]["id"], len(train[0]["negatives"]))
```

## Giới hạn

- Miền hẹp: **điều luật tiếng Việt** (VLSP + Zalo legal). Không dùng cho miền khác mà không re-mine
  hard negative.
- 55% mẫu train là `synthetic` (câu hỏi sinh tự động) — xem thảo luận về overfit/nhãn trong
  [`results/`](https://github.com/hoaileba/Qwen-Retrieval-Tuning/tree/main/results) của repo.
- Hard negative là **teacher-mined**, có thể chứa false negative (điều luật thực ra liên quan).

## License

Apache-2.0. Văn bản luật gốc thuộc phạm vi công (VLSP / Zalo legal corpus).