mkd-chanwoo/keural-rag-ko

keural-synthetic-SFT

한국어 RAG 특화 SFT(Supervised Fine-Tuning) 학습용 합성 데이터셋입니다.
한국어 웹 문서 155만 개를 시드로 삼아 5가지 태스크 유형으로 1,402,611개의 질문-답변 쌍을 생성했습니다.

⚠️ RAG 특화 데이터셋 안내
본 데이터셋의 답변은 시드 문서(컨텍스트)를 기반으로 생성되었습니다.
답변 내에 "제시된 텍스트를 바탕으로", "문서에 따르면" 등의 표현이 포함될 수 있으며,
RAG(Retrieval-Augmented Generation) 파인튜닝 또는 문서 기반 QA 모델 학습에 최적화되어 있습니다.
컨텍스트 없이 일반 지식 Q&A 모델을 학습하려는 경우에는 별도의 general SFT 데이터셋을 권장합니다.

---

데이터셋 개요

항목	내용
언어	한국어 (ko)
총 샘플 수	1,402,611개
시드 문서 수	1,545,735개 (3,436개 고유 키워드)
태스크 유형	5가지 (general_qa, reasoning, structured_output, critique, summary)
생성 모델	google/gemma-4-26B-A4B-it
원본 생성 수	1,682,452개
수락률	86.9%
중복 제거율	16.63%
라이선스	CC BY 4.0

---

도메인 커버리지

3,436개 고유 키워드 기반으로 광범위한 도메인을 커버합니다.
아래는 샘플 100개에서 추출한 실제 키워드 목록입니다.

1인 가구 CRISPR 유전자 ChatGPT 활용 FOMC 회의 결과 LLaMA 모델 분석 ROE 분석 방법 VIX 변동성 지수 Z세대 문화 e스포츠 간단 요리 감마분포 개인정보 건강기능식품 게임 개발자 게임 리뷰 게임이론 고혈압 관리 교사 임용 구독 경제 근현대사 글쓰기 방법 금리 인하 기본소득 넷플릭스 영화 추천 뇌과학 신경 다양체 데이터 파이프라인 설계 데이터베이스 SQL 도시 개발 도커 쿠버네티스 독서 추천 라그랑주 승수 로지스틱 회귀 맛집 리뷰 머신러닝 딥러닝 메모 기술 면접 팁 미국 금리 전망 2026 미국주식 S&P 미디어 리터러시 미래 직업 미세먼지 반도체 산업 배당주 투자 법률 상식 법인세 벤처 투자 부업 아이디어 블랙숄즈 모델 사이버 보안 사회 이슈 사회학 소득공제 수면 사이클 수소 에너지 수질오염 스펙트럼 정리 연말정산 연준 정책 분석 영양제 추천 이민 정책 인간관계 인공지능 기술 인구 감소 인문학 자격증 준비 자율주행 기술 자취 요리 저축 방법 정보보안 해킹 조건부 확률 조선왕조 주거 문제 줄기세포 연구 채권 투자 철학 입문 청년 문제 최단경로 알고리즘 캠핑 여행 커피 원두 파동 방정식 한식 레시피 해외주식 투자 행렬 곱셈 홈카페 확률 문제 풀이

---

태스크별 분포

태스크	설명	샘플 수	수락률
general_qa	문서 핵심 내용을 묻는 구체적 질문	318,565개	99.6%
reasoning	Why/How 기반 인과관계·메커니즘 질문	306,091개	95.4%
structured_output	목록·비교·표 형태로 답하는 질문	315,699개	98.6%
critique	문서 내용의 한계·문제점 분석 질문	143,378개	41.2%
summary	전체 내용 요약 요청 질문	318,878개	99.7%
합계		1,402,611개	83.4%

---

데이터 구조

{
  "id": "c43a0a26921306fe_general_qa",
  "seed_id": "c43a0a26921306fe",
  "domain": "",
  "keyword": "주식 투자 전략",
  "task_type": "general_qa",
  "turn_type": "single",
  "model_name": "google/gemma-4-26B-A4B-it",
  "source": "naver_search",
  "url": "https://...",
  "question": "...",
  "answer": "..."
}

---

필드 설명

필드	타입	설명
id	string	{seed_id}_{task_type} 형식 고유 ID
seed_id	string	원본 시드 문서 ID (MD5 해시)
domain	string	도메인 (현재 비어있음)
keyword	string	시드 수집에 사용된 검색 키워드
task_type	string	태스크 유형 (5가지 중 하나)
turn_type	string	항상 "single" (단일 턴)
model_name	string	생성에 사용된 모델명
source	string	시드 문서 출처
url	string	시드 문서 URL
question	string	생성된 질문
answer	string	생성된 답변

---

생성 방식

각 시드 문서에 대해 2단계 API 호출로 QA 쌍을 생성했습니다.

1. Stage 1 (질문 생성) — 태스크 유형별 프롬프트로 질문 생성
2. Stage 2 (답변 생성) — 시드 문서를 컨텍스트로 제공하여 답변 생성

빌더(Builder) 상세

빌더	Stage 1 지시문	Stage 2 지시문
general_qa	핵심 내용을 묻는 구체적인 질문 1개 생성	상세하고 교육적으로 답변
reasoning	Why/How로 시작하는 인과관계·메커니즘 질문 생성	논리적 근거와 단계적 설명 포함
structured_output	목록·비교 형태로 답할 수 있는 질문 생성	번호 목록·표를 활용하여 구조적으로 답변
critique	텍스트 내에서 식별 가능한 한계·문제점 질문 생성	장단점과 균형 잡힌 비판적 시각으로 답변
summary	전체 요약 요청 질문 생성	핵심 3줄 요약 후 상세 설명

---

품질 필터링

생성 단계 필터 (수락률 86.9%)

거절 사유	건수
answer_too_short	202,757
no_answer_detected	49,526
repetition	628
generation_failed	1
총 거절	252,938

중복 제거 단계

항목	수치
원본 생성 수	1,682,452개
중복 제거 수	279,841개 (16.63%)
최종 샘플 수	1,402,611개

---

사용 예시

from datasets import load_dataset

ds = load_dataset("mkd-chanwoo/keural-synthetic-SFT")

for record in ds["train"]:
    print(f"[{record['task_type']}]")
    print(f"Q: {record['question']}")
    print(f"A: {record['answer']}")
    break

---

주의사항

• 본 데이터셋은 AI 모델(google/gemma-4-26B-A4B-it)이 생성한 합성 데이터입니다.
• 시드 문서는 한국어 웹 검색 결과로 수집되었습니다.
• critique 태스크의 수락률이 낮은 이유: 텍스트 내 한계를 식별하지 못한 경우 필터링
• SFT 학습 시 task_type 필드를 활용하여 태스크별 샘플링이 가능합니다.
• RAG 특화 데이터셋입니다. 답변 생성 시 시드 문서를 컨텍스트로 제공하였으므로, 일반 지식 Q&A 파인튜닝보다 문서 기반 질의응답 또는 RAG 파이프라인 학습에 적합합니다.