Datasets:
text stringlengths 0 123 |
|---|
tier=full |
gwanbo_table champ_r1 n= 100 missing=0 bbox 0.9192 foreign 0.0500 order 0.7348 cer 0.0986 |
gwanbo_table champ_r2 n= 100 missing=0 bbox 0.9182 foreign 0.0800 order 0.7365 cer 0.0949 |
gwanbo_table deepseek n= 100 missing=0 bbox 0.3785 foreign 1234.4600 order 0.7344 cer 0.3425 |
gwanbo_table mineru n= 100 missing=0 bbox 0.0000 foreign 0.0000 order 0.7212 cer 0.1027 |
gwanbo_table ovis n= 100 missing=0 bbox 0.0000 foreign 6.3500 order 0.7359 cer 0.0961 |
gwanbo_table paddle n= 100 missing=0 bbox 0.0000 foreign 0.1500 order 0.7339 cer 0.1178 |
gwanbo_table unlimited n= 100 missing=0 bbox 0.9939 foreign 89.2600 order 0.7257 cer 0.1474 |
kdi_headings champ_r1 n= 202 missing=0 bbox 0.9846 foreign 0.0000 order 0.9654 cer 0.0981 heading_recall 0.8168 |
kdi_headings champ_r2 n= 202 missing=0 bbox 0.9846 foreign 0.0000 order 0.9654 cer 0.0981 heading_recall 0.8218 |
kdi_headings deepseek n= 202 missing=0 bbox 0.4837 foreign 13.8000 cer 0.1729 heading_recall 0.4208 order 0.9875 |
kdi_headings mineru n= 202 missing=0 bbox 0.0000 foreign 0.0300 order 0.9874 cer 0.0634 heading_recall 0.7921 |
kdi_headings ovis n= 202 missing=0 bbox 0.0000 foreign 5.5300 order 0.9662 cer 0.1433 heading_recall 0.6634 |
kdi_headings paddle n= 202 missing=0 bbox 0.0000 foreign 0.0000 order 0.9864 cer 0.1361 heading_recall 0.8812 |
kdi_headings unlimited n= 202 missing=0 bbox 0.9821 foreign 0.0000 order 0.9639 cer 0.0991 heading_recall 0.7426 |
kostat_wide champ_r1 n= 100 missing=0 bbox 0.9150 foreign 0.0319 teds 0.7285 teds_s 0.7516 grid_exact 0.0900 |
kostat_wide champ_r2 n= 100 missing=0 bbox 0.9146 foreign 0.0323 teds 0.7258 teds_s 0.7493 grid_exact 0.0900 |
kostat_wide deepseek n= 100 missing=0 bbox 0.4790 foreign 0.0426 teds 0.6506 teds_s 0.7040 grid_exact 0.0800 |
kostat_wide mineru n= 100 missing=0 bbox 0.0000 foreign 0.0110 teds 0.7039 teds_s 0.7328 grid_exact 0.0700 |
kostat_wide ovis n= 100 missing=0 bbox 0.0000 foreign 3.7800 teds 0.7508 teds_s 0.7998 grid_exact 0.1100 |
kostat_wide paddle n= 100 missing=0 bbox 0.0000 foreign 0.0100 teds 0.7399 teds_s 0.7811 grid_exact 0.1000 |
kostat_wide unlimited n= 100 missing=0 bbox 0.9848 foreign 2.0300 teds 0.7413 teds_s 0.7789 grid_exact 0.0700 |
suneung2026 champ_r1 n= 698 missing=0 bbox 0.9535 foreign 0.2981 order 0.8639 cer 0.3090 mark_keep 0.7043 |
suneung2026 champ_r2 n= 698 missing=0 bbox 0.9544 foreign 0.2981 order 0.8657 cer 0.3153 mark_keep 0.6943 |
suneung2026 deepseek n= 698 missing=0 bbox 0.4594 foreign 169.0385 order 0.8593 cer 0.4177 mark_keep 0.6449 |
suneung2026 mineru n= 698 missing=0 bbox 0.0000 foreign 0.8462 order 0.9587 cer 0.2785 mark_keep 0.7077 |
suneung2026 ovis n= 698 missing=0 bbox 0.0000 foreign 11.7019 order 0.8677 cer 0.3243 mark_keep 0.7064 |
suneung2026 paddle n= 698 missing=0 bbox 0.0000 foreign 1.9038 order 0.9415 cer 0.2778 mark_keep 0.7035 |
suneung2026 unlimited n= 698 missing=0 bbox 0.9515 foreign 0.2981 order 0.8580 cer 0.2976 mark_keep 0.6964 |
tables champ_r1 n= 100 missing=0 bbox 0.8483 foreign 0.0510 teds 0.6543 teds_s 0.6929 grid_exact 0.1200 |
tables champ_r2 n= 100 missing=0 bbox 0.8542 foreign 0.0510 teds 0.6601 teds_s 0.6988 grid_exact 0.1200 |
tables deepseek n= 100 missing=0 bbox 0.5032 foreign 0.2198 teds 0.5531 teds_s 0.6266 grid_exact 0.0600 |
tables mineru n= 100 missing=0 bbox 0.0000 teds 0.6402 teds_s 0.6804 grid_exact 0.2300 foreign 0.2258 |
tables ovis n= 100 missing=0 bbox 0.0000 foreign 5.9898 teds 0.6323 teds_s 0.6918 grid_exact 0.2000 |
tables paddle n= 100 missing=0 bbox 0.0000 foreign 0.1546 teds 0.6232 teds_s 0.6686 grid_exact 0.1900 |
tables unlimited n= 100 missing=0 bbox 0.9737 foreign 0.0510 teds 0.6250 teds_s 0.6709 grid_exact 0.0900 |
user_real champ_r1 n= 100 missing=0 bbox 0.9326 foreign 0.3200 order 0.8762 cer 0.5488 |
user_real champ_r2 n= 100 missing=0 bbox 0.9356 foreign 0.3400 order 0.8761 cer 0.5446 |
user_real deepseek n= 100 missing=0 bbox 0.5104 foreign 0.2800 order 0.8829 cer 0.5279 |
user_real mineru n= 100 missing=0 bbox 0.0000 foreign 0.4800 order 0.8692 cer 0.5874 |
user_real ovis n= 100 missing=0 bbox 0.0000 foreign 8.6100 order 0.8735 cer 0.5365 |
user_real paddle n= 100 missing=0 bbox 0.0000 foreign 0.2300 order 0.8424 cer 0.5201 |
user_real unlimited n= 100 missing=0 bbox 0.9362 foreign 153.9900 order 0.8879 cer 0.5296 |
tier=full |
gwanbo_table clova_bbox n= 100 missing=0 bbox 1.0000 foreign 0.0400 order 0.7105 cer 0.1660 |
gwanbo_table gemini31_bbox n= 100 missing=0 bbox 0.8874 foreign 0.0000 order 0.7322 cer 0.1094 |
gwanbo_table gemini35_bbox n= 100 missing=0 bbox 0.8068 foreign 0.0100 cer 0.4061 order 0.7216 |
gwanbo_table mistral_bbox n= 100 missing=0 bbox 0.9953 foreign 0.2000 order 0.7353 cer 0.0799 |
kdi_headings clova_bbox n= 202 missing=0 bbox 1.0000 foreign 0.0000 order 0.9655 cer 0.0952 heading_recall 0.0000 |
kdi_headings gemini31_bbox n= 202 missing=0 bbox 0.9652 foreign 0.0000 order 0.9681 cer 0.1027 heading_recall 0.8515 |
kdi_headings gemini35_bbox n= 202 missing=0 bbox 0.9014 foreign 0.0500 order 0.9653 cer 0.2132 heading_recall 0.7426 |
kdi_headings mistral_bbox n= 202 missing=0 bbox 0.9553 foreign 0.0000 order 0.9632 cer 0.0959 heading_recall 0.8614 |
kostat_wide clova_bbox n= 100 missing=0 bbox 1.0000 foreign 0.0500 teds 0.7211 teds_s 0.7774 grid_exact 0.0600 |
kostat_wide gemini31_bbox n= 100 missing=0 bbox 0.9784 foreign 0.0101 teds 0.7557 teds_s 0.7885 grid_exact 0.1000 |
kostat_wide gemini35_bbox n= 100 missing=0 bbox 0.9462 foreign 0.0137 teds 0.5595 teds_s 0.5825 grid_exact 0.0700 |
kostat_wide mistral_bbox n= 100 missing=0 bbox 0.9571 foreign 0.0100 teds 0.7672 teds_s 0.7981 grid_exact 0.1000 |
suneung2026 clova_bbox n= 698 missing=0 bbox 1.0000 foreign 0.3269 order 0.6033 cer 0.8457 mark_keep 0.6504 |
suneung2026 gemini31_bbox n= 698 missing=0 bbox 0.7747 foreign 0.0000 order 0.8463 cer 0.5517 mark_keep 0.8700 |
suneung2026 gemini35_bbox n= 698 missing=0 bbox 0.7881 foreign 0.0769 cer 0.6603 mark_keep 0.6123 order 0.7805 |
suneung2026 mistral_bbox n= 698 missing=0 bbox 0.8835 foreign 0.0673 order 0.8636 cer 0.2664 mark_keep 0.8461 |
tables clova_bbox n= 100 missing=0 bbox 1.0000 foreign 0.2000 teds 0.6430 teds_s 0.6959 grid_exact 0.1000 |
tables gemini31_bbox n= 100 missing=0 bbox 0.9269 foreign 0.1010 teds 0.5854 teds_s 0.6576 grid_exact 0.1100 |
tables gemini35_bbox n= 100 missing=0 bbox 0.9659 foreign 0.0633 teds 0.5009 teds_s 0.5462 grid_exact 0.0700 |
tables mistral_bbox n= 100 missing=0 bbox 0.9499 foreign 0.2525 teds 0.6372 teds_s 0.7023 grid_exact 0.1600 |
user_real clova_bbox n= 100 missing=0 bbox 1.0000 foreign 0.0100 order 0.7664 cer 0.6407 |
user_real gemini31_bbox n= 100 missing=0 bbox 0.9206 foreign 0.0500 order 0.8668 cer 0.4723 |
user_real gemini35_bbox n= 100 missing=0 bbox 0.8935 foreign 0.0400 order 0.7977 cer 0.6244 |
user_real mistral_bbox n= 100 missing=0 bbox 0.9233 foreign 0.0300 order 0.8775 cer 0.4795 |
tier=full |
gwanbo_table clova_fixed n= 100 missing=0 bbox 0.0000 foreign 0.0400 order 0.6812 cer 0.2366 |
gwanbo_table gemini_html n= 100 missing=0 bbox 0.0000 foreign 0.0000 order 0.7346 cer 0.0757 |
kdi_headings clova_fixed n= 202 missing=0 bbox 0.0000 foreign 0.0000 order 0.9656 cer 0.0928 heading_recall 0.0000 |
kdi_headings gemini_html n= 202 missing=0 bbox 0.0000 foreign 0.0000 order 0.9664 cer 0.0958 heading_recall 0.9158 |
kostat_wide clova_fixed n= 100 missing=0 bbox 0.0000 foreign 0.0500 teds 0.7211 teds_s 0.7774 grid_exact 0.0600 |
kostat_wide gemini_html n= 100 missing=0 bbox 0.0000 foreign 0.0104 teds 0.7311 teds_s 0.7631 grid_exact 0.1000 |
suneung2026 clova_fixed n= 698 missing=0 bbox 0.0000 foreign 0.3269 order 0.6452 cer 0.7430 mark_keep 0.6791 |
suneung2026 gemini_html n= 698 missing=0 bbox 0.0000 foreign 0.0000 order 0.8563 cer 0.4237 mark_keep 0.8436 |
tables clova_fixed n= 100 missing=0 bbox 0.0000 foreign 0.4000 teds 0.6425 teds_s 0.6959 grid_exact 0.1000 |
tables gemini_html n= 100 missing=0 bbox 0.0000 foreign 0.0510 teds 0.6138 teds_s 0.6810 grid_exact 0.1100 |
user_real clova_fixed n= 100 missing=0 bbox 0.0000 foreign 0.0100 order 0.7444 cer 0.5635 |
user_real gemini_html n= 100 missing=0 bbox 0.0000 foreign 0.0400 order 0.8623 cer 0.4267 |
tier=full |
gwanbo_table gvision n= 100 missing=0 bbox 0.8826 foreign 0.0800 order 0.6559 cer 0.3304 |
gwanbo_table mistral n= 100 missing=0 bbox 0.0000 foreign 0.1700 order 0.7353 cer 0.0799 |
kdi_headings gvision n= 202 missing=0 bbox 0.7356 foreign 0.0100 order 0.9637 cer 0.0938 heading_recall 0.0000 |
kdi_headings mistral n= 202 missing=0 bbox 0.0000 foreign 0.0000 order 0.9654 cer 0.0959 heading_recall 0.8614 |
kostat_wide gvision n= 100 missing=0 bbox 0.9382 teds 0.0000 teds_s 0.0000 grid_exact 0.0000 |
kostat_wide mistral n= 100 missing=0 bbox 0.0000 foreign 0.0100 teds 0.7661 teds_s 0.7969 grid_exact 0.1000 |
suneung2026 gvision n= 698 missing=0 bbox 0.7047 foreign 0.4712 order 0.7907 cer 0.4804 mark_keep 0.7143 |
suneung2026 mistral n= 698 missing=0 bbox 0.0000 foreign 0.0673 order 0.8622 cer 0.2638 mark_keep 0.8325 |
tables gvision n= 100 missing=0 bbox 0.9148 teds 0.0000 teds_s 0.0000 grid_exact 0.0000 |
tables mistral n= 100 missing=0 bbox 0.0000 foreign 0.2525 teds 0.6365 teds_s 0.7005 grid_exact 0.1600 |
user_real gvision n= 100 missing=0 bbox 0.8016 foreign 0.2700 order 0.7730 cer 0.5942 |
user_real mistral n= 100 missing=0 bbox 0.0000 foreign 0.0300 order 0.8764 cer 0.4790 |
tier=full |
handwritten clova_fixed n= 19 missing=0 bbox 0.0000 foreign 0.0000 order 0.7701 cer 0.5386 |
handwritten gemini_html n= 19 missing=0 bbox 0.0000 foreign 0.1053 order 0.9816 cer 0.1388 |
tier=full |
handwritten gvision n= 19 missing=0 bbox 0.8063 foreign 1.4737 order 0.8504 cer 0.4341 |
handwritten mistral n= 19 missing=0 bbox 0.0000 foreign 0.0000 order 0.9827 cer 0.3783 |
End of preview. Expand in Data Studio
KoOCR-Bench v1.2
한국어 문서 OCR·문서 파싱 벤치마크입니다. 실제 한국 문서 623쪽(7개 영역)으로 글자, 표, 제목, 읽기 순서, 좌표를 함께 평가합니다. 평가 전용입니다. 학습에 쓰지 마세요.
A Korean document OCR / parsing benchmark: 623 real Korean pages in 7 slices, scoring text, HTML tables, headings, reading order and block boxes. Evaluation only.
구성
| 영역 (slice) | 쪽 | 정답 | 출처 |
|---|---|---|---|
| tables | 100 | HWPX 원본 표 격자 | korea.kr 정책브리핑 첨부 (공공누리 제1유형) |
| kostat_wide | 100 | 원본 통계표 격자 | 통계청 공개 통계표 |
| gwanbo_table | 100 | PDF 텍스트층 | 대한민국 관보 |
| kdi_headings | 100 | 저자 북마크 제목 + PDF 텍스트층 | KDI 보고서 |
| suneung2026 | 104 | PDF 텍스트층 | 2026학년도 대학수학능력시험 |
| user_real | 100 | PDF 텍스트층 | 실사용자 업로드 문서 |
| handwritten | 19 | 사람이 읽어 전사 | 웹에 공유된 손글씨 학습 노트 |
영역별 출처와 라이선스는 manifest.jsonl의 source, license 필드에 있습니다.
채점 (code/koocr_score.py, code/koocr_total.py)
- 글자 영역: 1 − CER. 비교 전에 마크업, 공백, 줄바꿈을 지우고 NFKC 정규화한 뒤 글자와 숫자만 남깁니다. 띄어쓰기, 줄바꿈, 문장부호 표기 차이는 감점하지 않습니다.
- 외국 문자 패널티: 한국어 벤치이므로, 정답에 없는 외국 문자(한자, 가나, 키릴 등)는 일반 오류 1개 + 추가 2개로 셉니다. 정답에 실제로 있는 한자(관보, 수능)는 감점하지 않습니다.
- 반복 폭주: 페이지 CER은 1에서 자릅니다.
- 표: HTML
<table>만 채점합니다(TEDS).<th>/<td>차이와 rowspan/colspan 외 속성은 무시합니다. Markdown 표는 0점입니다. - bbox: 블록 중 좌표가 붙은 블록의 비율입니다.
- 읽기 순서: 정답 줄이 출력에서 나오는 순서의 최장 증가 부분열 비율입니다.
- 제목: KDI 저자 북마크 제목 재현율입니다.
배점
| gwanbo | kostat | kdi | tables | handwriting | user | bbox | order | suneung | heading | grid |
|---|---|---|---|---|---|---|---|---|---|---|
| 0.15 | 0.18 | 0.12 | 0.12 | 0.10 | 0.10 | 0.08 | 0.05 | 0.05 | 0.04 | 0.02 |
총점은 측정한 항목의 가중치 합으로 나눠 정규화합니다. v1.1(2026-10-05)에서 통계표와 표 비중을 올리고, 읽기 순서(줄 단위 거친 지표)와 표 정확일치(엔진 간 변별력 낮음) 비중을 낮췄습니다.
결과 (2026-10-05, 604쪽, 필기 제외)
| rank | engine | total | gwanbo | kostat | kdi | tables | user | bbox | order | suneung | heading | grid |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 1 | mistral-ocr | 0.7734 | 0.920 | 0.767 | 0.904 | 0.637 | 0.520 | 0.917 | 0.871 | 0.734 | 0.861 | 0.130 |
| 2 | schift-ocr (ours) | 0.7551 | 0.903 | 0.727 | 0.902 | 0.657 | 0.453 | 0.944 | 0.873 | 0.688 | 0.819 | 0.105 |
| 3 | mineru-4 (advanced) | 0.7523 | 0.897 | 0.704 | 0.937 | 0.640 | 0.413 | 0.941 | 0.934 | 0.722 | 0.792 | 0.150 |
| 4 | paddleocr-vl-1.6 | 0.7483 | 0.882 | 0.740 | 0.864 | 0.623 | 0.480 | 0.858 | 0.922 | 0.722 | 0.881 | 0.145 |
| 5 | unlimited-ocr (base) | 0.7454 | 0.853 | 0.741 | 0.901 | 0.625 | 0.470 | 0.963 | 0.868 | 0.702 | 0.743 | 0.080 |
| 6 | gemini-3.1-flash-lite | 0.7363 | 0.891 | 0.756 | 0.897 | 0.585 | 0.528 | 0.852 | 0.860 | 0.448 | 0.852 | 0.105 |
| 7 | ovisocr2 | 0.6625 | 0.904 | 0.751 | 0.857 | 0.632 | 0.464 | 0.000 | 0.874 | 0.676 | 0.663 | 0.155 |
| 8 | clova-ocr | 0.6600 | 0.834 | 0.721 | 0.905 | 0.643 | 0.359 | 1.000 | 0.694 | 0.154 | 0.000 | 0.080 |
| 9 | deepseek-ocr | 0.6119 | 0.657 | 0.651 | 0.827 | 0.553 | 0.472 | 0.466 | 0.874 | 0.582 | 0.421 | 0.070 |
| 10 | gemini-3.5-flash-lite | 0.5910 | 0.594 | 0.559 | 0.787 | 0.501 | 0.376 | 0.841 | 0.811 | 0.340 | 0.743 | 0.070 |
| 11 | google-vision | 0.4147 | 0.670 | 0.000 | 0.906 | 0.000 | 0.406 | 0.765 | 0.809 | 0.520 | 0.000 | 0.000 |
- 모든 엔진은 temperature 0, repetition_penalty 1.0, 디코딩 트릭 없이 한 번 실행했습니다. schift-ocr은 같은 조건 2회 평균입니다.
- 출력 형식과 공식 프롬프트는
FORMAT.md에 있습니다. 범용 VLM(Gemini)은 공식 프롬프트를 그대로 보냈고, OCR API(Mistral, CLOVA, Google Vision)는 API가 돌려주는 블록 좌표를 공개 어댑터(code/engines/api_koocr_v12.py)로 같은 형식에 맞췄습니다. - v1.2(2026-10-05): v1.1까지는 Gemini·Mistral·CLOVA에 좌표를 요청하지 않아(또는 받은 좌표를 버려) 이 세 엔진의 bbox가 0이었습니다. 세 API를 좌표를 받는 방식으로 다시 돌려 고쳤고, gemini-3.5-flash-lite를 추가했습니다.
- Gemini 3.5는 thinkingBudget 0을 받지 않아 가장 낮은 thinkingLevel(
minimal)로 실행했습니다. - PaddleOCR-VL은 별도 layout box 목록, MinerU는 middle_json 블록 좌표로 bbox를 계산했습니다(
results/bbox_override_v2.json). OvisOCR2는 모델에 좌표 출력 기능이 없어 bbox 0입니다. - 필기 영역은 정답 전사 검수를 마친 뒤 v2에서 총점에 넣습니다. 데이터는 지금도 공개되어 있습니다.
- 상용 API(Gemini, CLOVA, Mistral, Google Vision)는 점수만 공개합니다. 오픈 모델 예측은
predictions/에 있습니다.
재현
python code/koocr_score.py manifest.jsonl myengine=pred.jsonl --tier full > scores.txt
python code/koocr_total.py --bbox-override results/bbox_override_v2.json --no-handwriting scores.txt
예측 파일은 한 줄에 {"id": <manifest id>, "text": <engine output>}입니다. TEDS는 opendataloader-bench의 evaluator_table을 씁니다(ODLB_SRC 환경변수). 엔진 실행 스크립트는 code/engines/, 출력 형식과 공식 프롬프트는 FORMAT.md에 있습니다.
- Downloads last month
- 23