Datasets:
Upload folder using huggingface_hub
Browse filesThis view is limited to 50 files because it contains too many changes. See raw diff
- .DS_Store +0 -0
- README.md +141 -0
- atomic_text/images/000000.png +3 -0
- atomic_text/images/000001.png +3 -0
- atomic_text/images/000002.png +3 -0
- atomic_text/images/000003.png +3 -0
- atomic_text/images/000004.png +3 -0
- atomic_text/images/000005.png +3 -0
- atomic_text/images/000006.png +3 -0
- atomic_text/images/000007.png +3 -0
- atomic_text/images/000008.png +3 -0
- atomic_text/images/000009.png +3 -0
- atomic_text/images/000010.png +3 -0
- atomic_text/images/000011.png +3 -0
- atomic_text/images/000012.png +3 -0
- atomic_text/images/000013.png +3 -0
- atomic_text/images/000014.png +3 -0
- atomic_text/images/000015.png +3 -0
- atomic_text/images/000016.png +3 -0
- atomic_text/images/000017.png +3 -0
- atomic_text/images/000018.png +3 -0
- atomic_text/images/000019.png +3 -0
- atomic_text/images/000020.png +3 -0
- atomic_text/images/000021.png +3 -0
- atomic_text/images/000022.png +3 -0
- atomic_text/images/000023.png +3 -0
- atomic_text/images/000024.png +3 -0
- atomic_text/images/000025.png +3 -0
- atomic_text/images/000026.png +3 -0
- atomic_text/images/000027.png +3 -0
- atomic_text/images/000028.png +3 -0
- atomic_text/images/000029.png +3 -0
- atomic_text/images/000030.png +3 -0
- atomic_text/images/000031.png +3 -0
- atomic_text/images/000032.png +3 -0
- atomic_text/images/000033.png +3 -0
- atomic_text/images/000034.png +3 -0
- atomic_text/images/000035.png +3 -0
- atomic_text/images/000036.png +3 -0
- atomic_text/images/000037.png +3 -0
- atomic_text/images/000038.png +3 -0
- atomic_text/images/000039.png +3 -0
- atomic_text/images/000040.png +3 -0
- atomic_text/images/000041.png +3 -0
- atomic_text/images/000042.png +3 -0
- atomic_text/images/000043.png +3 -0
- atomic_text/images/000044.png +3 -0
- atomic_text/images/000045.png +3 -0
- atomic_text/images/000046.png +3 -0
- atomic_text/images/000047.png +3 -0
.DS_Store
ADDED
|
Binary file (6.15 kB). View file
|
|
|
README.md
ADDED
|
@@ -0,0 +1,141 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: unknown
|
| 3 |
+
language:
|
| 4 |
+
- ko
|
| 5 |
+
tags:
|
| 6 |
+
- text-to-image
|
| 7 |
+
- lora
|
| 8 |
+
- korean-typography
|
| 9 |
+
- qwen-image
|
| 10 |
+
- synthetic
|
| 11 |
+
pretty_name: Korean Text Rendering Data
|
| 12 |
+
configs:
|
| 13 |
+
- config_name: atomic_text
|
| 14 |
+
data_files:
|
| 15 |
+
- split: train
|
| 16 |
+
path: atomic_text/metadata.jsonl
|
| 17 |
+
- config_name: diagram
|
| 18 |
+
data_files:
|
| 19 |
+
- split: train
|
| 20 |
+
path: diagram/metadata.jsonl
|
| 21 |
+
---
|
| 22 |
+
|
| 23 |
+
# 한글 텍스트 렌더링 학습 데이터
|
| 24 |
+
|
| 25 |
+
이미지 안에 정확한 한글 텍스트를 렌더링하는 능력 개선을 위해 만들어진 합성(synthetic) 이미지-프롬프트 데이터셋입니다. 2026년 5월~7월에 걸쳐 진행된 세 차례의 별도 학습 이터레이션에서 나온 데이터를 통합했습니다.
|
| 26 |
+
|
| 27 |
+
**총 79,460장**, 2개 config(콘텐츠 유형)로 구성. 각 config는 독립적으로 로드할 수 있습니다.
|
| 28 |
+
|
| 29 |
+
```python
|
| 30 |
+
from datasets import load_dataset
|
| 31 |
+
ds = load_dataset("<repo_id>", name="diagram") # 유형별로 필요한 것만
|
| 32 |
+
```
|
| 33 |
+
|
| 34 |
+
> 이 릴리즈는 순수 한글 타이포그래피 학습에 초점을 맞춰 `atomic_text`(99.4% 한글)와
|
| 35 |
+
> `diagram`(100% 한글) 두 유형만 포함합니다. 둘 다 **코드·템플릿 기반 결정론적 생성**이라
|
| 36 |
+
> 외부 생성형 서비스에 의존하지 않고, 라이선스 문제가 없습니다. "프롬프트 안 인용부호=정답
|
| 37 |
+
> 텍스트" 컨벤션은 둘 다 일관됩니다.
|
| 38 |
+
|
| 39 |
+
## 왜 이런 데이터가 필요한가
|
| 40 |
+
|
| 41 |
+
일반적인 text-to-image 모델은 이미지 안에 텍스트(특히 한글)를 그릴 때 글자가 깨지거나, 문맥과 무관한 글자를 생성하거나, 일부만 렌더링하는 문제가 흔합니다. 이 데이터셋은 "프롬프트에 명시된 문자열을 정확히, 전부, 다른 글자 섞임 없이" 렌더링하도록 학습시키기 위해 설계된 합성 데이터로, 난이도(단일 단어 → 구조화 다이어그램)를 단계적으로 높여 커리큘럼처럼 구성되어 있습니다.
|
| 42 |
+
|
| 43 |
+
## Config 목록
|
| 44 |
+
|
| 45 |
+
| config | 이미지 수 | 난이도/성격 | 생성 방식 요약 |
|
| 46 |
+
|---|---:|---|---|
|
| 47 |
+
| [`atomic_text`](#atomic_text) | 71,460 | 가장 단순 — 단어 하나 | 어휘 풀 + 템플릿 렌더링 |
|
| 48 |
+
| [`diagram`](#diagram) | 8,000 | 중간 — 여러 라벨 + 고정 레이아웃 | HTML 슬롯 템플릿 + 단어 풀 치환 |
|
| 49 |
+
|
| 50 |
+
---
|
| 51 |
+
|
| 52 |
+
### `atomic_text`
|
| 53 |
+
|
| 54 |
+
깨끗한 단색 배경 위에 한글 단어/구 1~2개만 큼직하게 배치한 "가장 원자적인" 텍스트 렌더링 케이스. 배경색, 폰트 굵기/스타일, 텍스트 위치(중앙/상단 등), 도형 유무 등을 조합해 다양성을 확보했습니다.
|
| 55 |
+
|
| 56 |
+
- **생성 방식**: 행정·학술·기업 문서체 명사 위주 어휘 풀(일상/행정문서/정책/학술/기업/IT 도메인)에서 단어를 뽑아 템플릿에 삽입해 렌더링. "흔한 단어"가 아니라 한글 글리프(음절 조합) 커버리지를 넓히는 게 목표라, 고유어 큐레이션·실문서 채굴·LLM 필터링을 거쳐 최종 4,395단어 (743글리프, KS X 1001 기준 31.6% 커버)까지 확장했습니다.
|
| 57 |
+
- 71,460장 중 71,006장(99.4%)이 실제 한글 텍스트, 나머지는 영문/숫자 등.
|
| 58 |
+
|
| 59 |
+
### `diagram`
|
| 60 |
+
|
| 61 |
+
flowchart / hierarchy / dashboard / timeline 4가지 레이아웃, **각 2,000장씩 균등 분포**
|
| 62 |
+
(총 8,000장). 여러 개의 한글 라벨이 정해진 자리(슬롯)에 들어갑니다.
|
| 63 |
+
|
| 64 |
+
- **생성 방식**: HTML 슬롯 템플릿에 `atomic_text`와 같은 어휘 풀에서 뽑은 라벨을 채워 넣는
|
| 65 |
+
방식이라 외부 서비스 의존 없이 코드로 결정론적으로 생성됩니다. 프롬프트에 렌더링되는 모든
|
| 66 |
+
라벨이 읽기 순서·큰따옴표로 명시돼 있어 `target_text` 커버리지 100% (제목만 있던 초기
|
| 67 |
+
버전은 품질 문제로 이번 릴리즈에서 제외 — 아래 "제외한 것" 참고).
|
| 68 |
+
- **`diagram_type` 필드**로 레이아웃별 필터링 가능: `ds.filter(lambda x: x["diagram_type"] == "flowchart")`.
|
| 69 |
+
- 전량 한글.
|
| 70 |
+
|
| 71 |
+
---
|
| 72 |
+
|
| 73 |
+
## 스키마 (두 config 공통)
|
| 74 |
+
|
| 75 |
+
각 config 폴더의 `metadata.jsonl` 한 줄이 이미지 한 장에 대응합니다 (`images/` 하위 실제 파일 참조).
|
| 76 |
+
|
| 77 |
+
| 필드 | 타입 | 설명 |
|
| 78 |
+
|---|---|---|
|
| 79 |
+
| `file_name` | str | config 폴더 기준 상대경로 (`images/000000.png`) |
|
| 80 |
+
| `prompt` | str | 이미지 생성에 사용된 전체 프롬프트 (텍스트 인코더 입력) |
|
| 81 |
+
| `target_text` | list[str] | 이미지 안에 실제로 렌더링되어야 하는 정답 문자열들 (OCR 검증·평가용) |
|
| 82 |
+
| `split` | str | `train` 또는 `validation` (일부만 구분 있음, 없으면 전부 `train`으로 취급) |
|
| 83 |
+
| `diagram_type` | str | **`diagram`에만 있음** — `flowchart`/`hierarchy`/`dashboard`/`timeline` |
|
| 84 |
+
| `sha256` | str | 이미지 파일 해시 (무결성 검증용) |
|
| 85 |
+
| `original_prompt` | str | (일부만) 캡션 생성에 쓰인 원본 지시문, 없으면 빈 문자열 |
|
| 86 |
+
| `width`, `height` | str | (일부만) 기록된 경우만, 없으면 빈 문자열 |
|
| 87 |
+
|
| 88 |
+
두 config 모두 `source_generation`/`source_subset`(내부 생성 세대·출처) 없이, 콘텐츠 자체�� 설명하는 필드만으로 구성했습니다.
|
| 89 |
+
|
| 90 |
+
## 사용 방법
|
| 91 |
+
|
| 92 |
+
```python
|
| 93 |
+
from datasets import load_dataset
|
| 94 |
+
|
| 95 |
+
ds = load_dataset("<repo_id>", name="atomic_text") # 또는 name="diagram"
|
| 96 |
+
print(ds["train"][0])
|
| 97 |
+
# {'image': <PIL.Image>, 'prompt': '...', 'target_text': ['무작위 표집'], ...}
|
| 98 |
+
```
|
| 99 |
+
|
| 100 |
+
## 알려진 한계
|
| 101 |
+
|
| 102 |
+
- `atomic_text` 71,460장 중 454장은 한글이 아닌 텍스트(영문/숫자 등)입니다.
|
| 103 |
+
|
| 104 |
+
## 이번 릴리즈에서 제외한 것
|
| 105 |
+
|
| 106 |
+
같은 프로젝트에서 생성된 아래 유형들은 이번 릴리즈에는 포함하지 않았습니다.
|
| 107 |
+
|
| 108 |
+
- `diagram`의 초기 버전(1,000장, `gen1_shlim/ko_diagrams`) — 프롬프트에 다이어그램 제목만
|
| 109 |
+
있고 실제 렌더링된 라벨 전체가 없어 `target_text` 품질이 개선 버전(8,000장)과 다름. 이미지
|
| 110 |
+
자체는 마스터(`qwen_image_2512/`)에 남아있어 필요하면 다시 추가 가능.
|
| 111 |
+
- `text_overlay_illustration`(5,000장), `text_overlay_photoreal`(13,047장) — 카툰/포토리얼
|
| 112 |
+
배경 위 텍스트 오버레이. 73%가 영문 텍스트라 "한글 렌더링" 목적과는 결이 다름.
|
| 113 |
+
- **`infographic`(2,247장) — 이미지 자체는 이 릴리즈에 포함하지 않음.** GPT/OpenAI Codex
|
| 114 |
+
구독의 이미지 생성 기능으로 만든 산출물이 전량이라, 그 출력물로 (OpenAI가 아닌) 다른
|
| 115 |
+
모델을 학습시키는 데 재배포하는 것이 해당 서비스 이용약관과 상충할 수 있다고 판단했습니다.
|
| 116 |
+
대신 아래에 **생성 방법론만** 문서로 남겨, 필요한 사람이 자신의 계정으로 직접 재현할 수
|
| 117 |
+
있게 했습니다 (재현된 이미지는 재현한 사람과 해당 서비스 간의 이용관계이지, 이 데이터셋이
|
| 118 |
+
재배포하는 것이 아닙니다).
|
| 119 |
+
|
| 120 |
+
### `infographic` 재현 방법 (참고용 — 이미지 미포함)
|
| 121 |
+
|
| 122 |
+
비교형/프로세스형/타임라인형/계층형/관계형/통계형/기타 도표형 등 자유 레이아웃의 복합
|
| 123 |
+
인포그래픽. 두 갈래로 생성되었습니다.
|
| 124 |
+
|
| 125 |
+
1. LLM이 도메인(academic/business/it/operations/policy/daily_civic 등)별 다이어그램 구조
|
| 126 |
+
(제목·노드·라벨)를 먼저 설계 → 그 구조를 프롬프트로 변환해 이미지 생성.
|
| 127 |
+
2. 별도 생성기가 주제·요소 수·정보 밀도·레이아웃 문법·팔레트를 프로그램적으로 다양화한
|
| 128 |
+
매니페스트를 만들고, OpenAI Codex 구독(이미지 생성 기능)으로 실제 이미지를 생성.
|
| 129 |
+
|
| 130 |
+
두 경로 모두 "프롬프트에 인용부호로 명시된 문자열만 정확히 렌더링" 규칙을 강제해, 재현할
|
| 131 |
+
경우 `target_text`(정답 텍스트 리스트) 추출도 100% 가능합니다. 예시 프롬프트:
|
| 132 |
+
|
| 133 |
+
> `16:9 가로형 한국어 프로세스형 인포그래픽. 인포그래픽 유형: 프로세스형. 제목은 "세포 관찰 과정". 순서대로 정확히 5개 단계 배치: 1번 "표본 채취"; 2번 "염색 준비"; ...`
|
| 134 |
+
|
| 135 |
+
라벨에 쓰인 어휘 자체는 `atomic_text`/`diagram`과 동일한 글리프 커버리지 기준 어휘 풀을
|
| 136 |
+
공유합니다 (위 `atomic_text` 참고).
|
| 137 |
+
|
| 138 |
+
## 버전
|
| 139 |
+
|
| 140 |
+
이 릴리즈는 `manifest.json`에 기록된 버전을 따릅니다 (`version` 필드). 데이터가 추가/변경되면
|
| 141 |
+
새 버전으로 관리됩니다.
|
atomic_text/images/000000.png
ADDED
|
Git LFS Details
|
atomic_text/images/000001.png
ADDED
|
Git LFS Details
|
atomic_text/images/000002.png
ADDED
|
Git LFS Details
|
atomic_text/images/000003.png
ADDED
|
Git LFS Details
|
atomic_text/images/000004.png
ADDED
|
Git LFS Details
|
atomic_text/images/000005.png
ADDED
|
Git LFS Details
|
atomic_text/images/000006.png
ADDED
|
Git LFS Details
|
atomic_text/images/000007.png
ADDED
|
Git LFS Details
|
atomic_text/images/000008.png
ADDED
|
Git LFS Details
|
atomic_text/images/000009.png
ADDED
|
Git LFS Details
|
atomic_text/images/000010.png
ADDED
|
Git LFS Details
|
atomic_text/images/000011.png
ADDED
|
Git LFS Details
|
atomic_text/images/000012.png
ADDED
|
Git LFS Details
|
atomic_text/images/000013.png
ADDED
|
Git LFS Details
|
atomic_text/images/000014.png
ADDED
|
Git LFS Details
|
atomic_text/images/000015.png
ADDED
|
Git LFS Details
|
atomic_text/images/000016.png
ADDED
|
Git LFS Details
|
atomic_text/images/000017.png
ADDED
|
Git LFS Details
|
atomic_text/images/000018.png
ADDED
|
Git LFS Details
|
atomic_text/images/000019.png
ADDED
|
Git LFS Details
|
atomic_text/images/000020.png
ADDED
|
Git LFS Details
|
atomic_text/images/000021.png
ADDED
|
Git LFS Details
|
atomic_text/images/000022.png
ADDED
|
Git LFS Details
|
atomic_text/images/000023.png
ADDED
|
Git LFS Details
|
atomic_text/images/000024.png
ADDED
|
Git LFS Details
|
atomic_text/images/000025.png
ADDED
|
Git LFS Details
|
atomic_text/images/000026.png
ADDED
|
Git LFS Details
|
atomic_text/images/000027.png
ADDED
|
Git LFS Details
|
atomic_text/images/000028.png
ADDED
|
Git LFS Details
|
atomic_text/images/000029.png
ADDED
|
Git LFS Details
|
atomic_text/images/000030.png
ADDED
|
Git LFS Details
|
atomic_text/images/000031.png
ADDED
|
Git LFS Details
|
atomic_text/images/000032.png
ADDED
|
Git LFS Details
|
atomic_text/images/000033.png
ADDED
|
Git LFS Details
|
atomic_text/images/000034.png
ADDED
|
Git LFS Details
|
atomic_text/images/000035.png
ADDED
|
Git LFS Details
|
atomic_text/images/000036.png
ADDED
|
Git LFS Details
|
atomic_text/images/000037.png
ADDED
|
Git LFS Details
|
atomic_text/images/000038.png
ADDED
|
Git LFS Details
|
atomic_text/images/000039.png
ADDED
|
Git LFS Details
|
atomic_text/images/000040.png
ADDED
|
Git LFS Details
|
atomic_text/images/000041.png
ADDED
|
Git LFS Details
|
atomic_text/images/000042.png
ADDED
|
Git LFS Details
|
atomic_text/images/000043.png
ADDED
|
Git LFS Details
|
atomic_text/images/000044.png
ADDED
|
Git LFS Details
|
atomic_text/images/000045.png
ADDED
|
Git LFS Details
|
atomic_text/images/000046.png
ADDED
|
Git LFS Details
|
atomic_text/images/000047.png
ADDED
|
Git LFS Details
|