README.md

metadata

license: cc-by-4.0
language:
  - ko
  - ja
task_categories:
  - image-to-text
tags:
  - ocr
  - document-parsing
  - korean
  - newspaper
  - mdpbench
pretty_name: MDPBench Doc OCR SFT (KO/JP)
configs:
  - config_name: ko
    data_files:
      - split: train
        path: ko/train-*.parquet
size_categories:
  - 1K<n<10K

mdpbench-doc-ocr-sft

Qwen 4B (Qwen3-VL) MDPBench 한국어/일본어 문서 OCR/파싱 SFT 학습 데이터(공개 가능분). 재현 코드: https://github.com/sionic-ai/qwen-mdpbench-ocr

Configs

config	rows	내용	상태
ko	2,407	한국 지자체 소식지(신문형) 이미지 + Markdown GT	공개
jp	—	일본어 (추후)	예정

스키마

• image (Image, bytes 임베드) — 문서 페이지
• markdown (string) — GT 전사(Markdown, 표/읽기순서 보존)
• source (string) — snvision / seocho / gongju
• lang (string) — ko
• doc_type (string) — newspaper

출처 & 라이선스

• 한국 지자체 소식지(성남 비전성남 / 서초구 / 공주시) — 공공저작물(저작권법 24조의2), 비상업·연구 활용. PDF → 250DPI 렌더.
• GT 라벨 = 2-teacher 합의(PaddleOCR-VL-1.6 + Qwen3.5-9B 구조/순서) + 원본 PDF 텍스트레이어 내용검증 + bigram 게이트.
• 포함 안 함: KICE 기출(저작권), MDPBench 테스트셋(공식 저자 배포본), 출처 미확인 PDF, 합성 데이터(코드로 재생성 가능).

무오염

MDPBench 테스트셋과 0 교집합 검증된 학습 데이터.

사용 예

from datasets import load_dataset
ds = load_dataset("sionic-ai/mdpbench-doc-ocr-sft", "ko", split="train")
print(ds[0]["markdown"][:200]); ds[0]["image"]