Upload folder using huggingface_hub

README.md

@@ -0,0 +1,78 @@
+---
+language:
+
+ko
+license: mit
+task_categories:
+text-generation
+size_categories:
+1K<n<10K
+
+
+korean-pretraining-corpus
+한국어 사전학습 코퍼스
+Dataset Description
+이 데이터셋은 한국어 Foundation Model 학습에 사용된 전처리된 코퍼스입니다.
+Dataset Summary
+
+Language: Korean (한국어)
+License: MIT
+Source: Korean Wikipedia and public Korean text
+Preprocessing: Tokenized and chunked into sequences
+
+Data Fields
+
+input_ids: 토큰화된 정수 시퀀스 (List[int])
+
+Data Splits
+
+Train: ~95%
+Validation: ~5%
+
+Dataset Creation
+Source Data
+한국어 위키피디아 및 공개 한국어 텍스트
+Preprocessing
+
+텍스트 정제 (최소 길이 필터링)
+BPE 토큰화
+고정 길이 시퀀스로 분할 (512 tokens)
+패딩 적용
+
+Tokenization
+
+Tokenizer: BPE (Byte-Pair Encoding)
+Vocabulary Size: 32,000
+Special Tokens: <pad>, <s>, </s>, <unk>, <mask>
+
+Usage
+Loading the Dataset
+pythonfrom datasets import load_dataset
+import pickle
+
+# HuggingFace에서 다운로드
+dataset = load_dataset("oz1115/korean-pretraining-corpus")
+
+# 또는 로컬 pickle 파일 사용
+with open("train.pkl", "rb") as f:
+    train_data = pickle.load(f)
+Example
+python# 첫 번째 샘플
+sample = dataset['train'][0]
+print(sample['input_ids'][:10])  # 첫 10개 토큰
+Related Models
+이 데이터셋으로 학습된 모델:
+
+korean-gpt-150m
+
+Citation
+bibtex@misc{korean-pretraining-corpus,
+  author = {oz1115},
+  title = {korean-pretraining-corpus: Korean Pretraining Corpus},
+  year = {2025},
+  publisher = {HuggingFace},
+  url = {https://huggingface.co/datasets/oz1115/korean-pretraining-corpus}
+}
+Contact
+
+HuggingFace: @oz1115

metadata.json

@@ -0,0 +1,7 @@
+{
+  "num_train": 130127,
+  "num_val": 6849,
+  "max_seq_len": 512,
+  "vocab_size": 32000,
+  "created_at": "2025-10-09T08:12:53.495942"
+}

train.pkl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cab7ce2d6d907b0e9fe6584cfe836558fa8923bdb768811b8d286092c2086d02
+size 180018284

val.pkl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d08e8a89484925fe9a5a18b803820de6b29ab0a104d078c10fde72442051f4d7
+size 9391388