README.md

metadata

language:
  - ko
license: other
tags:
  - korean
  - language-modeling
  - kawk50m

KAWK50M Training Data Archive

수집 원문, 정제 말뭉치, 토큰화 바이너리와 SFT 데이터의 전체 작업 사본입니다.

원본 데이터와 조건

• HuggingFaceFW/fineweb-2, kor_Hang, revision af9c13333eb981300149d5ca60a8e9d659b276b9: ODC-By-1.0 및 Common Crawl 이용 조건
• Mkd-Yonas/keural-SFT-chatml-ko-v1, revision c56d7885efb37799deb1ecba471e4f6bf263852e: Apache-2.0, CC-BY-4.0, CC0-1.0, MIT, ODC-By-1.0 허용 레코드만 선별
• mkd-chanwoo/keural-rag-chatml-ko, revision aa9023d231a3451d25135d5aa84b12b48ca06450: CC-BY-4.0 레코드

이 아카이브에는 여러 라이선스가 혼재하므로 단일 라이선스로 재허가하지 않습니다. 사용자는 각 원본의 라이선스와 귀속 조건을 따라야 합니다.

구성과 형식

• raw/: FineWeb2에서 받은 JSONL.GZ 원문과 수집 상태
• clean-*: 정규화·품질 필터·중복 제거 파생물
• tokenized-*: uint16 토큰 바이너리, 인덱스, manifest 및 상태 파일
• sft-ko-v1/: 5,120 토큰 길이로 패킹한 한국어 SFT 바이너리
• smoke, pilot, aborted 디렉터리도 재현성과 전체 작업 이력 보존을 위해 포함

웹 원문에는 개인정보, 유해 문구, 부정확한 정보가 남아 있을 수 있습니다. 공개 모델이나 서비스에 사용하기 전에 추가 개인정보·안전성 필터링을 수행하십시오.

이 저장소는 비공개 프로젝트 백업용입니다. 공개 전환 전에 원천 데이터 라이선스, 개인정보, 중복 파일 및 실패 실험 산출물을 검토해야 합니다.