README.md

---
dataset_info:
  features:
  - name: sentence
    dtype: string
  - name: pair
    dtype: string
  - name: label
    dtype: float64
  splits:
  - name: train
    num_bytes: 1135807
    num_examples: 7128
  download_size: 647075
  dataset_size: 1135807
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
---

Kakao에서 공개한 NLI Task를 위한 학습용 데이터셋입니다.
2개의 Sentence와 그 관계를 서술하는 총 3개의 컬럼으로 되어있습니다.

총 7,128쌍의 데이터가 존재합니다.

Reference: (https://github.com/kakaobrain/kor-nlu-datasets)

### 사용예시
```python
dataset_repo = "x2bee/Korean_STS_all"
dataset = load_dataset(dataset_repo)
dataset = dataset['train']

test_size = 0.1
test_split_seed = 42

split_dataset = dataset.train_test_split(test_size=test_size, seed=test_split_seed)
train_dataset = split_dataset["train"]
test_dataset = split_dataset["test"]

def encode(examples):
    return tokenizer(examples['text'], padding="max_length", truncation=True, max_length=512)

tokenized_train_dataset = train_dataset.map(encode, batched=True, num_proc=os.cpu_count())
tokenized_test_dataset = test_dataset.map(encode, batched=True, num_proc=os.cpu_count())
```