---
license: cc-by-4.0
language:
- ko
- ja
task_categories:
- image-to-text
tags:
- ocr
- document-parsing
- korean
- newspaper
- mdpbench
pretty_name: MDPBench Doc OCR SFT (KO/JP)
configs:
- config_name: ko
  data_files:
  - split: train
    path: ko/train-*.parquet
size_categories:
- 1K<n<10K
---

# mdpbench-doc-ocr-sft

Qwen 4B (Qwen3-VL) **MDPBench 한국어/일본어 문서 OCR/파싱** SFT 학습 데이터(공개 가능분).
재현 코드: https://github.com/sionic-ai/qwen-mdpbench-ocr

## Configs
| config | rows | 내용 | 상태 |
|---|---|---|---|
| `ko` | 2,407 | 한국 지자체 소식지(신문형) 이미지 + Markdown GT | 공개 |
| `jp` | — | 일본어 (추후) | 예정 |

## 스키마
- `image` (Image, bytes 임베드) — 문서 페이지
- `markdown` (string) — GT 전사(Markdown, 표/읽기순서 보존)
- `source` (string) — `snvision` / `seocho` / `gongju`
- `lang` (string) — `ko`
- `doc_type` (string) — `newspaper`

## 출처 & 라이선스
- 한국 지자체 소식지(성남 비전성남 / 서초구 / 공주시) — **공공저작물**(저작권법 24조의2), 비상업·연구 활용. PDF → 250DPI 렌더.
- GT 라벨 = 2-teacher 합의(PaddleOCR-VL-1.6 + Qwen3.5-9B 구조/순서) + 원본 PDF 텍스트레이어 내용검증 + bigram 게이트.
- **포함 안 함**: KICE 기출(저작권), MDPBench 테스트셋(공식 저자 배포본), 출처 미확인 PDF, 합성 데이터(코드로 재생성 가능).

## 무오염
MDPBench 테스트셋과 0 교집합 검증된 학습 데이터.

## 사용 예
```python
from datasets import load_dataset
ds = load_dataset("sionic-ai/mdpbench-doc-ocr-sft", "ko", split="train")
print(ds[0]["markdown"][:200]); ds[0]["image"]
```