README.md

metadata

dataset_info:
  features:
    - name: sentence
      dtype: string
    - name: pair
      dtype: string
    - name: label
      dtype: float64
  splits:
    - name: train
      num_bytes: 1135807
      num_examples: 7128
  download_size: 647075
  dataset_size: 1135807
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

Kakao에서 공개한 NLI Task를 위한 학습용 데이터셋입니다. 2개의 Sentence와 그 관계를 서술하는 총 3개의 컬럼으로 되어있습니다.

총 7,128쌍의 데이터가 존재합니다.

Reference: (https://github.com/kakaobrain/kor-nlu-datasets)

사용예시

dataset_repo = "x2bee/Korean_STS_all"
dataset = load_dataset(dataset_repo)
dataset = dataset['train']

test_size = 0.1
test_split_seed = 42

split_dataset = dataset.train_test_split(test_size=test_size, seed=test_split_seed)
train_dataset = split_dataset["train"]
test_dataset = split_dataset["test"]

def encode(examples):
    return tokenizer(examples['text'], padding="max_length", truncation=True, max_length=512)

tokenized_train_dataset = train_dataset.map(encode, batched=True, num_proc=os.cpu_count())
tokenized_test_dataset = test_dataset.map(encode, batched=True, num_proc=os.cpu_count())