fasoo's picture
Upload folder using huggingface_hub
d13cea0 verified
|
Raw
History Blame Contribute Delete
8.26 kB
metadata
license: unknown
language:
  - ko
tags:
  - text-to-image
  - lora
  - korean-typography
  - qwen-image
  - synthetic
pretty_name: Korean Text Rendering Data
configs:
  - config_name: atomic_text
    data_files:
      - split: train
        path: atomic_text/metadata.jsonl
  - config_name: diagram
    data_files:
      - split: train
        path: diagram/metadata.jsonl

한글 텍스트 렌더링 학습 데이터

이미지 안에 정확한 한글 텍스트를 렌더링하는 능력 개선을 위해 만들어진 합성(synthetic) 이미지-프롬프트 데이터셋입니다. 2026년 5월~7월에 걸쳐 진행된 세 차례의 별도 학습 이터레이션에서 나온 데이터를 통합했습니다.

총 79,460장, 2개 config(콘텐츠 유형)로 구성. 각 config는 독립적으로 로드할 수 있습니다.

from datasets import load_dataset
ds = load_dataset("<repo_id>", name="diagram")  # 유형별로 필요한 것만

이 릴리즈는 순수 한글 타이포그래피 학습에 초점을 맞춰 atomic_text(99.4% 한글)와 diagram(100% 한글) 두 유형만 포함합니다. 둘 다 코드·템플릿 기반 결정론적 생성이라 외부 생성형 서비스에 의존하지 않고, 라이선스 문제가 없습니다. "프롬프트 안 인용부호=정답 텍스트" 컨벤션은 둘 다 일관됩니다.

왜 이런 데이터가 필요한가

일반적인 text-to-image 모델은 이미지 안에 텍스트(특히 한글)를 그릴 때 글자가 깨지거나, 문맥과 무관한 글자를 생성하거나, 일부만 렌더링하는 문제가 흔합니다. 이 데이터셋은 "프롬프트에 명시된 문자열을 정확히, 전부, 다른 글자 섞임 없이" 렌더링하도록 학습시키기 위해 설계된 합성 데이터로, 난이도(단일 단어 → 구조화 다이어그램)를 단계적으로 높여 커리큘럼처럼 구성되어 있습니다.

Config 목록

config 이미지 수 난이도/성격 생성 방식 요약
atomic_text 71,460 가장 단순 — 단어 하나 어휘 풀 + 템플릿 렌더링
diagram 8,000 중간 — 여러 라벨 + 고정 레이아웃 HTML 슬롯 템플릿 + 단어 풀 치환

atomic_text

깨끗한 단색 배경 위에 한글 단어/구 1~2개만 큼직하게 배치한 "가장 원자적인" 텍스트 렌더링 케이스. 배경색, 폰트 굵기/스타일, 텍스트 위치(중앙/상단 등), 도형 유무 등을 조합해 다양성을 확보했습니다.

  • 생성 방식: 행정·학술·기업 문서체 명사 위주 어휘 풀(일상/행정문서/정책/학술/기업/IT 도메인)에서 단어를 뽑아 템플릿에 삽입해 렌더링. "흔한 단어"가 아니라 한글 글리프(음절 조합) 커버리지를 넓히는 게 목표라, 고유어 큐레이션·실문서 채굴·LLM 필터링을 거쳐 최종 4,395단어 (743글리프, KS X 1001 기준 31.6% 커버)까지 확장했습니다.
  • 71,460장 중 71,006장(99.4%)이 실제 한글 텍스트, 나머지는 영문/숫자 등.

diagram

flowchart / hierarchy / dashboard / timeline 4가지 레이아웃, 각 2,000장씩 균등 분포 (총 8,000장). 여러 개의 한글 라벨이 정해진 자리(슬롯)에 들어갑니다.

  • 생성 방식: HTML 슬롯 템플릿에 atomic_text와 같은 어휘 풀에서 뽑은 라벨을 채워 넣는 방식이라 외부 서비스 의존 없이 코드로 결정론적으로 생성됩니다. 프롬프트에 렌더링되는 모든 라벨이 읽기 순서·큰따옴표로 명시돼 있어 target_text 커버리지 100% (제목만 있던 초기 버전은 품질 문제로 이번 릴리즈에서 제외 — 아래 "제외한 것" 참고).
  • diagram_type 필드로 레이아웃별 필터링 가능: ds.filter(lambda x: x["diagram_type"] == "flowchart").
  • 전량 한글.

스키마 (두 config 공통)

각 config 폴더의 metadata.jsonl 한 줄이 이미지 한 장에 대응합니다 (images/ 하위 실제 파일 참조).

필드 타입 설명
file_name str config 폴더 기준 상대경로 (images/000000.png)
prompt str 이미지 생성에 사용된 전체 프롬프트 (텍스트 인코더 입력)
target_text list[str] 이미지 안에 실제로 렌더링되어야 하는 정답 문자열들 (OCR 검증·평가용)
split str train 또는 validation (일부만 구분 있음, 없으면 전부 train으로 취급)
diagram_type str diagram에만 있음flowchart/hierarchy/dashboard/timeline
sha256 str 이미지 파일 해시 (무결성 검증용)
original_prompt str (일부만) 캡션 생성에 쓰인 원본 지시문, 없으면 빈 문자열
width, height str (일부만) 기록된 경우만, 없으면 빈 문자열

두 config 모두 source_generation/source_subset(내부 생성 세대·출처) 없이, 콘텐츠 자체를 설명하는 필드만으로 구성했습니다.

사용 방법

from datasets import load_dataset

ds = load_dataset("<repo_id>", name="atomic_text")  # 또는 name="diagram"
print(ds["train"][0])
# {'image': <PIL.Image>, 'prompt': '...', 'target_text': ['무작위 표집'], ...}

알려진 한계

  • atomic_text 71,460장 중 454장은 한글이 아닌 텍스트(영문/숫자 등)입니다.

이번 릴리즈에서 제외한 것

같은 프로젝트에서 생성된 아래 유형들은 이번 릴리즈에는 포함하지 않았습니다.

  • diagram의 초기 버전(1,000장, gen1_shlim/ko_diagrams) — 프롬프트에 다이어그램 제목만 있고 실제 렌더링된 라벨 전체가 없어 target_text 품질이 개선 버전(8,000장)과 다름. 이미지 자체는 마스터(qwen_image_2512/)에 남아있어 필요하면 다시 추가 가능.
  • text_overlay_illustration(5,000장), text_overlay_photoreal(13,047장) — 카툰/포토리얼 배경 위 텍스트 오버레이. 73%가 영문 텍스트라 "한글 렌더링" 목적과는 결이 다름.
  • infographic(2,247장) — 이미지 자체는 이 릴리즈에 포함하지 않음. GPT/OpenAI Codex 구독의 이미지 생성 기능으로 만든 산출물이 전량이라, 그 출력물로 (OpenAI가 아닌) 다른 모델을 학습시키는 데 재배포하는 것이 해당 서비스 이용약관과 상충할 수 있다고 판단했습니다. 대신 아래에 생성 방법론만 문서로 남겨, 필요한 사람이 자신의 계정으로 직접 재현할 수 있게 했습니다 (재현된 이미지는 재현한 사람과 해당 서비스 간의 이용관계이지, 이 데이터셋이 재배포하는 것이 아닙니다).

infographic 재현 방법 (참고용 — 이미지 미포함)

비교형/프로세스형/타임라인형/계층형/관계형/통계형/기타 도표형 등 자유 레이아웃의 복합 인포그래픽. 두 갈래로 생성되었습니다.

  1. LLM이 도메인(academic/business/it/operations/policy/daily_civic 등)별 다이어그램 구조 (제목·노드·라벨)를 먼저 설계 → 그 구조를 프롬프트로 변환해 이미지 생성.
  2. 별도 생성기가 주제·요소 수·정보 밀도·레이아웃 문법·팔레트를 프로그램적으로 다양화한 매니페스트를 만들고, OpenAI Codex 구독(이미지 생성 기능)으로 실제 이미지를 생성.

두 경로 모두 "프롬프트에 인용부호로 명시된 문자열만 정확히 렌더링" 규칙을 강제해, 재현할 경우 target_text(정답 텍스트 리스트) 추출도 100% 가능합니다. 예시 프롬프트:

16:9 가로형 한국어 프로세스형 인포그래픽. 인포그래픽 유형: 프로세스형. 제목은 "세포 관찰 과정". 순서대로 정확히 5개 단계 배치: 1번 "표본 채취"; 2번 "염색 준비"; ...

라벨에 쓰인 어휘 자체는 atomic_text/diagram과 동일한 글리프 커버리지 기준 어휘 풀을 공유합니다 (위 atomic_text 참고).

버전

이 릴리즈는 manifest.json에 기록된 버전을 따릅니다 (version 필드). 데이터가 추가/변경되면 새 버전으로 관리됩니다.