--- dataset_info: features: - name: sentence dtype: string - name: pair dtype: string - name: label dtype: float64 splits: - name: train num_bytes: 1135807 num_examples: 7128 download_size: 647075 dataset_size: 1135807 configs: - config_name: default data_files: - split: train path: data/train-* --- Kakao에서 공개한 NLI Task를 위한 학습용 데이터셋입니다. 2개의 Sentence와 그 관계를 서술하는 총 3개의 컬럼으로 되어있습니다. 총 7,128쌍의 데이터가 존재합니다. Reference: (https://github.com/kakaobrain/kor-nlu-datasets) ### 사용예시 ```python dataset_repo = "x2bee/Korean_STS_all" dataset = load_dataset(dataset_repo) dataset = dataset['train'] test_size = 0.1 test_split_seed = 42 split_dataset = dataset.train_test_split(test_size=test_size, seed=test_split_seed) train_dataset = split_dataset["train"] test_dataset = split_dataset["test"] def encode(examples): return tokenizer(examples['text'], padding="max_length", truncation=True, max_length=512) tokenized_train_dataset = train_dataset.map(encode, batched=True, num_proc=os.cpu_count()) tokenized_test_dataset = test_dataset.map(encode, batched=True, num_proc=os.cpu_count()) ```