Datasets:

prismdata
/

Perdix-Pretrain-Data

license:
  - odc-by
  - cc-by-4.0
language:
  - ko
  - en
task_categories:
  - text-generation
size_categories:
  - 10M<n<100M
pretty_name: Perdix Pretrain Data
tags:
  - pretraining
  - web
  - math
  - korean
configs:
  - config_name: korean
    data_files: fineweb2-kor/data/kor_Hang/train/*.parquet
  - config_name: web_en
    data_files: dclm-baseline/**/*.parquet
  - config_name: math
    data_files: finemath-4plus/finemath-4plus/*.parquet

Perdix-Pretrain-Data

Perdix-1.1B-Base 사전학습에 쓴 원본 데이터를 그대로 모아 둔 것입니다. 새로 만든 데이터는 없고, 아래 세 공개 데이터셋에서 실제로 쓴 parquet 파일만 골라 복사했습니다. 어떤 파일을 어떤 비율로 썼는지 남겨 두려는 목적입니다.

The exact subset of three public datasets (DCLM-baseline, FineWeb2 kor_Hang, FineMath 4+) used to pretrain Perdix-1.1B-Base. Files are unmodified copies; this repository only records which shards were used. 335 parquet files, about 89.7M documents, 178 GB.

구성

폴더	원 데이터셋	파일	문서 수	크기	토큰 수*	라이선스
`fineweb2-kor/`	HuggingFaceFW/fineweb-2 `kor_Hang/train` 전부	25	60.9M	105.8 GB	45.6B	ODC-By
`dclm-baseline/`	mlfoundations/dclm-baseline-1.0-parquet 일부	246	22.1M	53.9 GB	29.7B	CC-BY-4.0
`finemath-4plus/`	HuggingFaceTB/finemath `finemath-4plus` 전부	64	6.7M	18.4 GB	10.8B	ODC-By

* Perdix 토크나이저(BPE 49,152)로 센 값. 문서 사이 <|endoftext|> 포함.

DCLM-baseline은 전체가 수 TB라 일부만 썼습니다. global-shard 01~~10 각각의 local-shard_0_of_10에서 앞쪽 파일만 골랐고(01~~06은 shard 0~~24, 07~~10은 shard 0~23), 고르는 규칙은 download_raw_data.sh에 그대로 있습니다. FineWeb2 한국어와 FineMath 4+는 train 전부입니다.

각 parquet의 컬럼은 원 데이터셋 그대로이며, 학습에는 text 컬럼만 썼습니다.

학습에 어떻게 썼나

세 소스를 합쳐 86B 토큰 중 30B 토큰을 학습했습니다. 각 소스에서 2,048토큰 창을 무작위로 뽑는 방식이라 같은 구간이 우연히 다시 뽑힐 수는 있지만, 전체를 한 바퀴 돌지는 않았습니다.
믹싱 비율은 영어 65% / 한국어 30% / 수학 5%에서 시작해 25% / 50% / 25%로 서서히 바꿨습니다.
이 parquet을 토큰화한 .bin은 prismdata/Perdix-Pretrain-Packed에 따로 올려 두었습니다.
토큰화·패킹 코드는 pretrain_data.py, 학습 코드는 pretrain.py로 github.com/theprismdata/Perdix에 있습니다.

받기

hf download prismdata/Perdix-Pretrain-Data --repo-type dataset --local-dir raw-data

원 저장소에서 같은 파일을 직접 받으려면 download_raw_data.sh를 쓰면 됩니다. 결과 폴더 구조가 같습니다.

DEST=raw-data ./download_raw_data.sh

라이선스

이 저장소는 원 데이터셋의 라이선스를 그대로 따릅니다.

fineweb2-kor/, finemath-4plus/: ODC-By 1.0. 원 데이터셋 카드에 따라 Common Crawl 이용약관도 함께 적용됩니다.
dclm-baseline/: CC-BY-4.0.

출처를 밝힐 때는 이 저장소가 아니라 원 데이터셋(FineWeb2, DCLM-baseline, FineMath)을 인용해 주세요. 원 데이터셋에서 특정 문서의 삭제 요청이 처리되면 이 저장소에도 반영하겠습니다.