Kindred1000 commited on
Commit
aeff87e
·
verified ·
1 Parent(s): e12f1e7

Upload folder using huggingface_hub

Browse files
README.md ADDED
@@ -0,0 +1,55 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: cc-by-4.0
3
+ language:
4
+ - ko
5
+ - ja
6
+ task_categories:
7
+ - image-to-text
8
+ tags:
9
+ - ocr
10
+ - document-parsing
11
+ - korean
12
+ - newspaper
13
+ - mdpbench
14
+ pretty_name: MDPBench Doc OCR SFT (KO/JP)
15
+ configs:
16
+ - config_name: ko
17
+ data_files:
18
+ - split: train
19
+ path: ko/train-*.parquet
20
+ size_categories:
21
+ - 1K<n<10K
22
+ ---
23
+
24
+ # mdpbench-doc-ocr-sft
25
+
26
+ Qwen 4B (Qwen3-VL) **MDPBench 한국어/일본어 문서 OCR/파싱** SFT 학습 데이터(공개 가능분).
27
+ 재현 코드: https://github.com/sionic-ai/qwen-mdpbench-ocr
28
+
29
+ ## Configs
30
+ | config | rows | 내용 | 상태 |
31
+ |---|---|---|---|
32
+ | `ko` | 2,407 | 한국 지자체 소식지(신문형) 이미지 + Markdown GT | 공개 |
33
+ | `jp` | — | 일본어 (추후) | 예정 |
34
+
35
+ ## 스키마
36
+ - `image` (Image, bytes 임베드) — 문서 페이지
37
+ - `markdown` (string) — GT 전사(Markdown, 표/읽기순서 보존)
38
+ - `source` (string) — `snvision` / `seocho` / `gongju`
39
+ - `lang` (string) — `ko`
40
+ - `doc_type` (string) — `newspaper`
41
+
42
+ ## 출처 & 라이선스
43
+ - 한국 지자체 소식지(성남 비전성남 / 서초구 / 공주시) — **공공저작물**(저작권법 24조의2), 비상업·연구 활용. PDF → 250DPI 렌더.
44
+ - GT 라벨 = 2-teacher 합의(PaddleOCR-VL-1.6 + Qwen3.5-9B 구조/순서) + 원본 PDF 텍스트레이어 내용검증 + bigram 게이트.
45
+ - **포함 안 함**: KICE 기출(저작권), MDPBench 테스트셋(공식 저자 배포본), 출처 미확인 PDF, 합성 데이터(코드로 재생성 가능).
46
+
47
+ ## 무오염
48
+ MDPBench 테스트셋과 0 교집합 검증된 학습 데이터.
49
+
50
+ ## 사용 예
51
+ ```python
52
+ from datasets import load_dataset
53
+ ds = load_dataset("sionic-ai/mdpbench-doc-ocr-sft", "ko", split="train")
54
+ print(ds[0]["markdown"][:200]); ds[0]["image"]
55
+ ```
ko/train-00000-of-00004.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b64235bd0ad1dbf24344a38d8ad870f28a961f7c7ae7364d3679049378db8ee7
3
+ size 1371132483
ko/train-00001-of-00004.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:8e98a4dc28bc0fbb4749595ed254b6393691f48434930ab122f937bd4ca66d78
3
+ size 1175583250
ko/train-00002-of-00004.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3aaeeefc4a7fa092800359225e9b6c195c746cb8b60826579f4dce63783a3374
3
+ size 753738346
ko/train-00003-of-00004.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fcd3d486a06a84bc56b808e2c6af0eaeb0dac67e50aa77011c4b221ccd715a2f
3
+ size 6152374