alexanderpl commited on
Commit
942c74b
·
verified ·
1 Parent(s): 922dd50

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +172 -3
README.md CHANGED
@@ -1,3 +1,172 @@
1
- ---
2
- license: apache-2.0
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: apache-2.0
3
+ task_categories:
4
+ - text-generation
5
+ language:
6
+ - ru
7
+ tags:
8
+ - language
9
+ size_categories:
10
+ - 100K<n<1M
11
+ ---
12
+ ## **Dataset: RuGECv1 (Russian Grammatical Error Correction)**
13
+
14
+ This dataset contains **707,261** parallel examples specifically curated for training Grammatical Error Correction (GEC) models for the Russian language. The dataset follows an instruction-tuning format, making it suitable for fine-tuning instruction-following language models.
15
+
16
+ ### **Dataset Structure**
17
+
18
+ Each example contains the following fields:
19
+
20
+ | Field | Type | Description |
21
+ |-------|------|-------------|
22
+ | **input** | string | Source text containing grammatical, spelling, punctuation, or stylistic errors. |
23
+ | **output** | string | Corrected version of the text. |
24
+ | **instruction** | string | Fixed instruction 'Lec.' (abbreviation for Linguistic Error Correction), following the Alpaca instruction format. |
25
+ | **source** | int64 | Numerical identifier indicating the data source. |
26
+
27
+ ### **Data Characteristics**
28
+
29
+ * **Size:** 707,261 sentence pairs
30
+ * **Text Length:** Variable, with inputs ranging
31
+ * **Language:** Russian exclusively
32
+ * **Format:** Instruction-following (Alpaca-style)
33
+ * **Domain:** Mixed-domain including academic texts, technical documentation, medical literature, and general prose
34
+
35
+ ### **Error Types Covered**
36
+
37
+ The dataset includes diverse grammatical and stylistic errors commonly found in Russian text:
38
+
39
+ 1. **Verb Errors**
40
+ - Aspect misuse: "ложить" → "класть" / "положить"
41
+ - Conjugation errors: "будуш" → "буду"
42
+ - Tense agreement: "пришли" → "пришло"
43
+
44
+ 2. **Agreement Errors**
45
+ - Noun-adjective agreement: "красивая платье" → "красивое платье"
46
+ - Subject-verb agreement: "Девочка играют" → "Девочка играет"
47
+
48
+ 3. **Case Usage Errors**
49
+ - Prepositional case: "о друга" → "о друге"
50
+ - Genitive case constructions
51
+
52
+ 4. **Spelling Errors**
53
+ - Common misspellings: "здраствуйте" → "здравствуйте"
54
+ - Typos and orthographic mistakes
55
+
56
+ 5. **Punctuation & Spacing**
57
+ - Extra spaces: "хлеб ." → "хлеб."
58
+ - Comma placement and other punctuation marks
59
+
60
+ 6. **Stylistic Improvements**
61
+ - Word choice refinement: "данный" → "этот"
62
+ - Sentence restructuring for clarity
63
+ - Removal of redundant phrases
64
+
65
+ 7. **Colloquial/Non-standard Forms**
66
+ - Non-standard pronouns: "ихний" → "их"
67
+ - Informal constructions → formal equivalents
68
+
69
+ ### **Example Samples**
70
+
71
+ Here are representative examples from the dataset:
72
+
73
+ | Input (Erroneous) | Output (Corrected) | Error Type |
74
+ |-------------------|--------------------|------------|
75
+ | "Он ложить книгу на стол." | "Он кладет книгу на стол." | Verb aspect error |
76
+ | "Я будуш делать задание завтра." | "Я буду делать задание завтра." | Spelling / conjugation |
77
+ | "Это моя лучшая друзья." | "Это моя лучшая подруга." | Gender / number agreement |
78
+ | "Мы договорились встретиться через пол часа." | "Мы договорились встретиться через полчаса." | Compound word spacing |
79
+
80
+ ### **Format Compatibility**
81
+
82
+ The dataset is provided in Parquet format and is compatible with:
83
+ - Hugging Face Datasets library
84
+ - PyTorch and TensorFlow data pipelines
85
+ - Instruction-tuning frameworks (Alpaca, Supervised Fine-Tuning)
86
+ - Most modern NLP training setups
87
+
88
+ ### **Citation & Usage**
89
+
90
+ When using this dataset, please acknowledge its contribution to Russian NLP resources. The dataset is particularly valuable due to the relative scarcity of large-scale, high-quality Russian GEC datasets.
91
+
92
+ ---
93
+
94
+ ## **Датасет: RuGECv1 (Исправление грамматических ошибок на русском языке)**
95
+
96
+ Этот датасет содержит **707 261** пару примеров, специально подобранных для обучения моделей исправления грамматических ошибок (Grammatical Error Correction, GEC) для русского языка. Датасет соответствует формату обучения с инструкциями, что делает его подходящим для дообучения языковых моделей.
97
+
98
+ ### **Структура датасета**
99
+
100
+ Каждый пример содержит следующие поля:
101
+
102
+ | Поле | Тип | Описание |
103
+ |-------|------|-------------|
104
+ | **input** | string | Исходный текст, содержащий грамматические, орфографические, пунктуационные или стилистические ошибки. |
105
+ | **output** | string | Исправленная версия текста. |
106
+ | **instruction** | string | Фиксированная инструкция 'Lec.' (сокращение от Linguistic Error Correction), согласно формату Alpaca. |
107
+ | **source** | int64 | Числовой идентификатор, указывающий на источник данных. |
108
+
109
+ ### **Характеристики данных**
110
+
111
+ * **Размер:** 707 261 пар предложений
112
+ * **Длина текста:** Переменная, с исходными текстами различной длины
113
+ * **Язык:** Только русский
114
+ * **Формат:** Обучение с инструкциями (Alpaca-style)
115
+ * **Предметная область:** Смешанная, включает академические тексты, техническую документацию, медицинскую литературу и др.
116
+
117
+ ### **Типы покрываемых ошибок**
118
+
119
+ Датасет включает разнообразные грамматические и стилистические ошибки, часто встречающиеся в русском тексте:
120
+
121
+ 1. **Ошибки в глаголах**
122
+ - Неправильный вид: "ложить" → "класть" / "положить"
123
+ - Ошибки в спряжении: "будуш" → "буду"
124
+ - Согласование времен: "пришли" → "пришло"
125
+
126
+ 2. **Ошибки согласования**
127
+ - Согласование существительного и прилагательного: "красивая платье" → "красивое платье"
128
+ - Согласование подлежащего и сказуемого: "Девочка играют" → "Девочка играет"
129
+
130
+ 3. **Ошибки в использовании падежей**
131
+ - Предложный падеж: "о друга" → "о друге"
132
+ - Конструкции родительного падежа
133
+
134
+ 4. **Орфографические ошибки**
135
+ - Распространенные опечатки: "здраствуйте" → "здравствуйте"
136
+ - Опечатки и орфографические ошибки
137
+
138
+ 5. **Пунктуация и пробелы**
139
+ - Лишние пробелы: "хлеб ." → "хлеб."
140
+ - Расстановка запятых и других знаков препинания
141
+
142
+ 6. **Стилистические улучшения**
143
+ - Уточнение выбора слов: "данный" → "этот"
144
+ - Перестройка предложений для ясности
145
+ - Удаление избыточных фраз
146
+
147
+ 7. **Разговорные/нестандартные формы**
148
+ - Нестандартные местоимения: "ихний" → "их"
149
+ - Неформальные конструкции → формальные эквиваленты
150
+
151
+ ### **Примеры из датасета**
152
+
153
+ Вот репрезентативные примеры из датасета:
154
+
155
+ | Ввод (с ошибкой) | Вывод (исправленный) | Тип ошибки |
156
+ |-------------------|--------------------|------------|
157
+ | "Он ложить книгу на стол." | "Он кладет книгу на стол." | Ошибка в виде глагола |
158
+ | "Я будуш делать задание завтра." | "Я буду делать задание завтра." | Орфография / спряжение |
159
+ | "Это моя лучшая друзья." | "Это моя лучшая подруга." | Согласование по роду / числу |
160
+ | "Мы договорились встретиться через пол часа." | "Мы договорились встретиться через полчаса." | Пробел в сложном слове |
161
+
162
+ ### **Совместимость формата**
163
+
164
+ Датасет предоставлен в формате Parquet и совместим с:
165
+ - Библиотекой Hugging Face Datasets
166
+ - Конвейерами данных PyTorch и TensorFlow
167
+ - Фреймворками обучения с инструкциями (Alpaca, Supervised Fine-Tuning)
168
+ - Большинством современных NLP
169
+
170
+ ### **Цитирование и использование**
171
+
172
+ При использовании этого датасета, пожалуйста, укажите на него ссылку.