Datasets:
Upload folder using huggingface_hub
Browse files- README.md +55 -0
- ko/train-00000-of-00004.parquet +3 -0
- ko/train-00001-of-00004.parquet +3 -0
- ko/train-00002-of-00004.parquet +3 -0
- ko/train-00003-of-00004.parquet +3 -0
README.md
ADDED
|
@@ -0,0 +1,55 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: cc-by-4.0
|
| 3 |
+
language:
|
| 4 |
+
- ko
|
| 5 |
+
- ja
|
| 6 |
+
task_categories:
|
| 7 |
+
- image-to-text
|
| 8 |
+
tags:
|
| 9 |
+
- ocr
|
| 10 |
+
- document-parsing
|
| 11 |
+
- korean
|
| 12 |
+
- newspaper
|
| 13 |
+
- mdpbench
|
| 14 |
+
pretty_name: MDPBench Doc OCR SFT (KO/JP)
|
| 15 |
+
configs:
|
| 16 |
+
- config_name: ko
|
| 17 |
+
data_files:
|
| 18 |
+
- split: train
|
| 19 |
+
path: ko/train-*.parquet
|
| 20 |
+
size_categories:
|
| 21 |
+
- 1K<n<10K
|
| 22 |
+
---
|
| 23 |
+
|
| 24 |
+
# mdpbench-doc-ocr-sft
|
| 25 |
+
|
| 26 |
+
Qwen 4B (Qwen3-VL) **MDPBench 한국어/일본어 문서 OCR/파싱** SFT 학습 데이터(공개 가능분).
|
| 27 |
+
재현 코드: https://github.com/sionic-ai/qwen-mdpbench-ocr
|
| 28 |
+
|
| 29 |
+
## Configs
|
| 30 |
+
| config | rows | 내용 | 상태 |
|
| 31 |
+
|---|---|---|---|
|
| 32 |
+
| `ko` | 2,407 | 한국 지자체 소식지(신문형) 이미지 + Markdown GT | 공개 |
|
| 33 |
+
| `jp` | — | 일본어 (추후) | 예정 |
|
| 34 |
+
|
| 35 |
+
## 스키마
|
| 36 |
+
- `image` (Image, bytes 임베드) — 문서 페이지
|
| 37 |
+
- `markdown` (string) — GT 전사(Markdown, 표/읽기순서 보존)
|
| 38 |
+
- `source` (string) — `snvision` / `seocho` / `gongju`
|
| 39 |
+
- `lang` (string) — `ko`
|
| 40 |
+
- `doc_type` (string) — `newspaper`
|
| 41 |
+
|
| 42 |
+
## 출처 & 라이선스
|
| 43 |
+
- 한국 지자체 소식지(성남 비전성남 / 서초구 / 공주시) — **공공저작물**(저작권법 24조의2), 비상업·연구 활용. PDF → 250DPI 렌더.
|
| 44 |
+
- GT 라벨 = 2-teacher 합의(PaddleOCR-VL-1.6 + Qwen3.5-9B 구조/순서) + 원본 PDF 텍스트레이어 내용검증 + bigram 게이트.
|
| 45 |
+
- **포함 안 함**: KICE 기출(저작권), MDPBench 테스트셋(공식 저자 배포본), 출처 미확인 PDF, 합성 데이터(코드로 재생성 가능).
|
| 46 |
+
|
| 47 |
+
## 무오염
|
| 48 |
+
MDPBench 테스트셋과 0 교집합 검증된 학습 데이터.
|
| 49 |
+
|
| 50 |
+
## 사용 예
|
| 51 |
+
```python
|
| 52 |
+
from datasets import load_dataset
|
| 53 |
+
ds = load_dataset("sionic-ai/mdpbench-doc-ocr-sft", "ko", split="train")
|
| 54 |
+
print(ds[0]["markdown"][:200]); ds[0]["image"]
|
| 55 |
+
```
|
ko/train-00000-of-00004.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:b64235bd0ad1dbf24344a38d8ad870f28a961f7c7ae7364d3679049378db8ee7
|
| 3 |
+
size 1371132483
|
ko/train-00001-of-00004.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:8e98a4dc28bc0fbb4749595ed254b6393691f48434930ab122f937bd4ca66d78
|
| 3 |
+
size 1175583250
|
ko/train-00002-of-00004.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:3aaeeefc4a7fa092800359225e9b6c195c746cb8b60826579f4dce63783a3374
|
| 3 |
+
size 753738346
|
ko/train-00003-of-00004.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:fcd3d486a06a84bc56b808e2c6af0eaeb0dac67e50aa77011c4b221ccd715a2f
|
| 3 |
+
size 6152374
|