Update README.md
Browse files
README.md
CHANGED
|
@@ -1,3 +1,172 @@
|
|
| 1 |
-
---
|
| 2 |
-
license: apache-2.0
|
| 3 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: apache-2.0
|
| 3 |
+
task_categories:
|
| 4 |
+
- text-generation
|
| 5 |
+
language:
|
| 6 |
+
- ru
|
| 7 |
+
tags:
|
| 8 |
+
- language
|
| 9 |
+
size_categories:
|
| 10 |
+
- 100K<n<1M
|
| 11 |
+
---
|
| 12 |
+
## **Dataset: RuGECv1 (Russian Grammatical Error Correction)**
|
| 13 |
+
|
| 14 |
+
This dataset contains **707,261** parallel examples specifically curated for training Grammatical Error Correction (GEC) models for the Russian language. The dataset follows an instruction-tuning format, making it suitable for fine-tuning instruction-following language models.
|
| 15 |
+
|
| 16 |
+
### **Dataset Structure**
|
| 17 |
+
|
| 18 |
+
Each example contains the following fields:
|
| 19 |
+
|
| 20 |
+
| Field | Type | Description |
|
| 21 |
+
|-------|------|-------------|
|
| 22 |
+
| **input** | string | Source text containing grammatical, spelling, punctuation, or stylistic errors. |
|
| 23 |
+
| **output** | string | Corrected version of the text. |
|
| 24 |
+
| **instruction** | string | Fixed instruction 'Lec.' (abbreviation for Linguistic Error Correction), following the Alpaca instruction format. |
|
| 25 |
+
| **source** | int64 | Numerical identifier indicating the data source. |
|
| 26 |
+
|
| 27 |
+
### **Data Characteristics**
|
| 28 |
+
|
| 29 |
+
* **Size:** 707,261 sentence pairs
|
| 30 |
+
* **Text Length:** Variable, with inputs ranging
|
| 31 |
+
* **Language:** Russian exclusively
|
| 32 |
+
* **Format:** Instruction-following (Alpaca-style)
|
| 33 |
+
* **Domain:** Mixed-domain including academic texts, technical documentation, medical literature, and general prose
|
| 34 |
+
|
| 35 |
+
### **Error Types Covered**
|
| 36 |
+
|
| 37 |
+
The dataset includes diverse grammatical and stylistic errors commonly found in Russian text:
|
| 38 |
+
|
| 39 |
+
1. **Verb Errors**
|
| 40 |
+
- Aspect misuse: "ложить" → "класть" / "положить"
|
| 41 |
+
- Conjugation errors: "будуш" → "буду"
|
| 42 |
+
- Tense agreement: "пришли" → "пришло"
|
| 43 |
+
|
| 44 |
+
2. **Agreement Errors**
|
| 45 |
+
- Noun-adjective agreement: "красивая платье" → "красивое платье"
|
| 46 |
+
- Subject-verb agreement: "Девочка играют" → "Девочка играет"
|
| 47 |
+
|
| 48 |
+
3. **Case Usage Errors**
|
| 49 |
+
- Prepositional case: "о друга" → "о друге"
|
| 50 |
+
- Genitive case constructions
|
| 51 |
+
|
| 52 |
+
4. **Spelling Errors**
|
| 53 |
+
- Common misspellings: "здраствуйте" → "здравствуйте"
|
| 54 |
+
- Typos and orthographic mistakes
|
| 55 |
+
|
| 56 |
+
5. **Punctuation & Spacing**
|
| 57 |
+
- Extra spaces: "хлеб ." → "хлеб."
|
| 58 |
+
- Comma placement and other punctuation marks
|
| 59 |
+
|
| 60 |
+
6. **Stylistic Improvements**
|
| 61 |
+
- Word choice refinement: "данный" → "этот"
|
| 62 |
+
- Sentence restructuring for clarity
|
| 63 |
+
- Removal of redundant phrases
|
| 64 |
+
|
| 65 |
+
7. **Colloquial/Non-standard Forms**
|
| 66 |
+
- Non-standard pronouns: "ихний" → "их"
|
| 67 |
+
- Informal constructions → formal equivalents
|
| 68 |
+
|
| 69 |
+
### **Example Samples**
|
| 70 |
+
|
| 71 |
+
Here are representative examples from the dataset:
|
| 72 |
+
|
| 73 |
+
| Input (Erroneous) | Output (Corrected) | Error Type |
|
| 74 |
+
|-------------------|--------------------|------------|
|
| 75 |
+
| "Он ложить книгу на стол." | "Он кладет книгу на стол." | Verb aspect error |
|
| 76 |
+
| "Я будуш делать задание завтра." | "Я буду делать задание завтра." | Spelling / conjugation |
|
| 77 |
+
| "Это моя лучшая друзья." | "Это моя лучшая подруга." | Gender / number agreement |
|
| 78 |
+
| "Мы договорились встретиться через пол часа." | "Мы договорились встретиться через полчаса." | Compound word spacing |
|
| 79 |
+
|
| 80 |
+
### **Format Compatibility**
|
| 81 |
+
|
| 82 |
+
The dataset is provided in Parquet format and is compatible with:
|
| 83 |
+
- Hugging Face Datasets library
|
| 84 |
+
- PyTorch and TensorFlow data pipelines
|
| 85 |
+
- Instruction-tuning frameworks (Alpaca, Supervised Fine-Tuning)
|
| 86 |
+
- Most modern NLP training setups
|
| 87 |
+
|
| 88 |
+
### **Citation & Usage**
|
| 89 |
+
|
| 90 |
+
When using this dataset, please acknowledge its contribution to Russian NLP resources. The dataset is particularly valuable due to the relative scarcity of large-scale, high-quality Russian GEC datasets.
|
| 91 |
+
|
| 92 |
+
---
|
| 93 |
+
|
| 94 |
+
## **Датасет: RuGECv1 (Исправление грамматических ошибок на русском языке)**
|
| 95 |
+
|
| 96 |
+
Этот датасет содержит **707 261** пару примеров, специально подобранных для обучения моделей исправления грамматических ошибок (Grammatical Error Correction, GEC) для русского языка. Датасет соответствует формату обучения с инструкциями, что делает его подходящим для дообучения языковых моделей.
|
| 97 |
+
|
| 98 |
+
### **Структура датасета**
|
| 99 |
+
|
| 100 |
+
Каждый пример содержит следующие поля:
|
| 101 |
+
|
| 102 |
+
| Поле | Тип | Описание |
|
| 103 |
+
|-------|------|-------------|
|
| 104 |
+
| **input** | string | Исходный текст, содержащий грамматические, орфографические, пунктуационные или стилистические ошибки. |
|
| 105 |
+
| **output** | string | Исправленная версия текста. |
|
| 106 |
+
| **instruction** | string | Фиксированная инструкция 'Lec.' (сокращение от Linguistic Error Correction), согласно формату Alpaca. |
|
| 107 |
+
| **source** | int64 | Числовой идентификатор, указывающий на источник данных. |
|
| 108 |
+
|
| 109 |
+
### **Характеристики данных**
|
| 110 |
+
|
| 111 |
+
* **Размер:** 707 261 пар предложений
|
| 112 |
+
* **Длина текста:** Переменная, с исходными текстами различной длины
|
| 113 |
+
* **Язык:** Только русский
|
| 114 |
+
* **Формат:** Обучение с инструкциями (Alpaca-style)
|
| 115 |
+
* **Предметная область:** Смешанная, включает академические тексты, техническую документацию, медицинскую литературу и др.
|
| 116 |
+
|
| 117 |
+
### **Типы покрываемых ошибок**
|
| 118 |
+
|
| 119 |
+
Датасет включает разнообразные грамматические и стилистические ошибки, часто встречающиеся в русском тексте:
|
| 120 |
+
|
| 121 |
+
1. **Ошибки в глаголах**
|
| 122 |
+
- Неправильный вид: "ложить" → "класть" / "положить"
|
| 123 |
+
- Ошибки в спряжении: "будуш" → "буду"
|
| 124 |
+
- Согласование времен: "пришли" → "пришло"
|
| 125 |
+
|
| 126 |
+
2. **Ошибки согласования**
|
| 127 |
+
- Согласование существительного и прилагательного: "красивая платье" → "красивое платье"
|
| 128 |
+
- Согласование подлежащего и сказуемого: "Девочка играют" → "Девочка играет"
|
| 129 |
+
|
| 130 |
+
3. **Ошибки в использовании падежей**
|
| 131 |
+
- Предложный падеж: "о друга" → "о друге"
|
| 132 |
+
- Конструкции родительного падежа
|
| 133 |
+
|
| 134 |
+
4. **Орфографические ошибки**
|
| 135 |
+
- Распространенные опечатки: "здраствуйте" → "здравствуйте"
|
| 136 |
+
- Опечатки и орфографические ошибки
|
| 137 |
+
|
| 138 |
+
5. **Пунктуация и пробелы**
|
| 139 |
+
- Лишние пробелы: "хлеб ." → "хлеб."
|
| 140 |
+
- Расстановка запятых и других знаков препинания
|
| 141 |
+
|
| 142 |
+
6. **Стилистические улучшения**
|
| 143 |
+
- Уточнение выбора слов: "данный" → "этот"
|
| 144 |
+
- Перестройка предложений для ясности
|
| 145 |
+
- Удаление избыточных фраз
|
| 146 |
+
|
| 147 |
+
7. **Разговорные/нестандартные формы**
|
| 148 |
+
- Нестандартные местоимения: "ихний" → "их"
|
| 149 |
+
- Неформальные конструкции → формальные эквиваленты
|
| 150 |
+
|
| 151 |
+
### **Примеры из датасета**
|
| 152 |
+
|
| 153 |
+
Вот репрезентативные примеры из датасета:
|
| 154 |
+
|
| 155 |
+
| Ввод (с ошибкой) | Вывод (исправленный) | Тип ошибки |
|
| 156 |
+
|-------------------|--------------------|------------|
|
| 157 |
+
| "Он ложить книгу на стол." | "Он кладет книгу на стол." | Ошибка в виде глагола |
|
| 158 |
+
| "Я будуш делать задание завтра." | "Я буду делать задание завтра." | Орфография / спряжение |
|
| 159 |
+
| "Это моя лучшая друзья." | "Это моя лучшая подруга." | Согласование по роду / числу |
|
| 160 |
+
| "Мы договорились встретиться через пол часа." | "Мы договорились встретиться через полчаса." | Пробел в сложном слове |
|
| 161 |
+
|
| 162 |
+
### **Совместимость формата**
|
| 163 |
+
|
| 164 |
+
Датасет предоставлен в формате Parquet и совместим с:
|
| 165 |
+
- Библиотекой Hugging Face Datasets
|
| 166 |
+
- Конвейерами данных PyTorch и TensorFlow
|
| 167 |
+
- Фреймворками обучения с инструкциями (Alpaca, Supervised Fine-Tuning)
|
| 168 |
+
- Большинством современных NLP
|
| 169 |
+
|
| 170 |
+
### **Цитирование и использование**
|
| 171 |
+
|
| 172 |
+
При использовании этого датасета, пожалуйста, укажите на него ссылку.
|