translation-text / README.md
H4438's picture
Upload README.md with huggingface_hub
b478554
metadata
dataset_info:
  features:
    - name: en
      dtype: string
    - name: vi
      dtype: string
    - name: loss
      dtype: float64
    - name: prompt
      dtype: string
    - name: translation
      dtype: string
    - name: prompt_type
      dtype: string
  splits:
    - name: train
      num_bytes: 1826505516
      num_examples: 2634091
  download_size: 889301013
  dataset_size: 1826505516
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

Dataset Card for "translation-text"

Translation dataset with Vietnamese input prompt. This dataset was made with help from hieu1053/mtet
There were 26 vietnamese prompts used to build the dataset. Below are the list of prompts and the prompt distributions for each split
NOTE!
I have filtered out rows['loss'] > 0.75 so this dataset is smaller than the original.
Also, prompts such as Dịch câu sau "John is such a "funny guy"." are handled by code.

Prompts

These were the prompts

{
 'chuyển tiếng anh': 'Chuyển câu tiếng Anh sau sang tiếng Việt\n{{en}} ||| \n{{vi}}',
 'chuyển tiếng việt': 'Chuyển câu sau sang tiếng Anh\n{{vi}} ||| \n{{en}}',
 'dịch câu en quote': 'Dịch câu "{{vi}}" sang tiếng Anh ||| \n{{en}}',
 'dịch en quote': 'Hãy dịch câu tiếng Anh "{{en}}" ||| \n{{vi}}',
 'dịch en sau': 'Dịch câu sau sang tiếng Việt:\n{{en}}  ||| \n{{vi}}',
 'dịch vi quote': 'Hãy dịch câu tiếng Việt "{{vi}}" sang tiếng Anh ||| \n{{en}}',
 'dịch vi sau': 'Dịch câu sau sang tiếng Anh:\n{{vi}} ||| \n{{en}}',
 'giải nghĩa en': 'Hãy giải thích nghĩa câu tiếng Anh sau:\n{{en}} ||| \n{{vi}}',
 'giải nghĩa en quote': 'Hãy giải thích nghĩa câu tiếng Anh "{{en}}" ||| \n{{vi}}',
 'nghĩa câu sau en': 'Nghĩa câu sau trong tiếng Anh là gì?\n{{vi}} ||| \n{{en}}',
 'nghĩa câu sau vi': 'Nghĩa tiếng Việt của câu sau là gì?\n{{en}} ||| \n{{vi}}',
 'nghĩa en quote': 'Nghĩa tiếng Việt của câu "{{en}}" là gì? ||| \n{{vi}}',
 'nghĩa tiếng anh': 'Câu tiếng Việt này có nghĩa là gì trong tiếng Anh?\n{{vi}} ||| \n{{en}}',
 'nghĩa tiếng việt': 'Câu tiếng Anh này có nghĩa là gì?\n{{en}} ||| \n{{vi}}',
 'nghĩa vi quote': 'Nghĩa câu "{{vi}}" trong tiếng Anh là gì? ||| \n{{en}}',
 'nghĩa đoạn en': 'Nghĩa đoạn tiếng Anh sau là gì?\n{{en}} ||| \n{{vi}}',
 'nghĩa đoạn vi': 'Nghĩa đoạn tiếng Việt sau trong tiếng Anh là gì?\n{{vi}} ||| \n{{en}}',
 'nghĩa đoạn văn bản en': 'Nghĩa đoạn văn bản tiếng Anh sau là gì?\n{{en}} ||| \n{{vi}}',
 'nghĩa đoạn văn bản vi': 'Nghĩa đoạn văn bản tiếng Việt sau trong tiếng Anh là gì?\n{{vi}} ||| \n{{en}}',
 'nói thế nào en': 'Câu tiếng Anh "{{en}}" nói như thế nào trong tiếng Việt? ||| \n{{vi}}',
 'phiên dịch en': 'Phiên dịch nghĩa câu tiếng Anh sau sang tiếng Việt:\n{{en}} ||| \n{{vi}}',
 'phiên dịch vi': 'Phiên dịch nghĩa câu tiếng Việt sau sang tiếng Anh:\n{{vi}} ||| \n{{en}}',
 'thông dịch en quote': 'Thông dịch câu "{{en}}" sang tiếng Việt ||| \n{{vi}}',
 'thông dịch vi': 'Thông dịch câu tiếng Anh sau:\n{{en}} ||| \n{{vi}}',
 'thông dịch vi quote': 'Thông dịch câu "{{vi}}" sang tiếng Anh ||| \n{{en}}'
}

Train set

train distribution

Test set

test distribution

Eval set

eval distribution

More Information needed