File size: 1,348 Bytes
93036bc
 
ee36642
 
 
 
 
 
93036bc
ee36642
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
---
license: apache-2.0
task_categories:
- text-generation
language:
- ru
size_categories:
- 1M<n<10M
---

Texts inverse normalized obtained from [ficbook](https://huggingface.co/datasets/IlyaGusev/ficbook) dataset.
Normalized using [these notebooks](https://github.com/saarus72/text_normalization) for a personal [russian normalization model](https://huggingface.co/saarus72/russian_text_normalizer) (avaliable on [HF Space](https://huggingface.co/spaces/saarus72/russian-text-normalization) as well).

All put into single `jsonl` file with lines like (beautified):
```json
{
  "replaces": [
    {
      "text_from": "Боль во всем теле...Боже...я так и знала.... ",
      "text_to": "Боль во всем теле...Боже...я так и знала.... "
    },
    {
      "text_from": "5",
      "text_to": "Пятая"
    },
    {
      "text_from": " точка буквально ныла от боли, ушиб будет тот еще...садиться не смогу дня ",
      "text_to": " точка буквально ныла от боли, ушиб будет тот еще...садиться не смогу дня "
    },
    {
      "text_from": "3",
      "text_to": "три"
    },
    {
      "text_from": " так, точно.",
      "text_to": " так, точно."
    }
  ]
}
```