Update README.md

README.md

@@ -61,3 +61,74 @@ configs:
   - split: train
     path: data/train-*
 ---
+
+# Librusec
+
+
+Books mostly in Russian from Librusec library. With original metadata.
+
+```
+DatasetDict({
+    train: Dataset({
+        features: ['genre', 'book_title', 'fpath', 'book_json', 'author.first_name', 'author.last_name', 'author.middle_name', 'langs.lang', 'doc_info.nickname', 'doc_info.email', 'doc_info.date', 'doc_info.doc_id', 'doc_info.version', 'doc_info.program_used', 'langs.src_lang', 'doc_info.src_url', 'pub_info.book_name', 'pub_info.publisher', 'pub_info.city', 'pub_info.year', 'title_info.annotation', 'pub_info.isbn', 'pub_info.sequence', 'title_info.keywords'],
+        num_rows: 493378
+    })
+})
+```
+
+## JSON
+
+Books are in JSON format:
+
+```
+[
+    {
+        "body_title": [
+            "Жюльетта Бенцони",
+            "Манчжурская принцесса"
+        ],
+        "epigraph": {
+            "author": "Лао Цзы",
+            "text": [
+                "«Нельзя идтии любоваться звездами, когда в твоем ботинке камень»."
+            ]
+        },
+        "sections": [
+            {
+                "data": {
+                    "pars": [
+                        "Июль 1918",
+                        "Вокзал в Шалон-сюр-Марн...",
+                        "Вдоль платформы длинной лентой вытянулись двадцать три вагона санитарного поезда, который вот-вот должен был тронуться. Занимавшиеся погрузкой раненых санитары оказывали им последние услуги, прежде чем передать на попечение медицинского персонала поезда, где позаботятся о них до Лиона.",
+                        "Весь день стояла жара, все вокруг было налито тяжестью. К пяти часам вечера разразившаяся гроза принесла долгожданную прохладу, с облегчением воспринятую всеми.
+```
+
+## Format JSON as you need
+
+Example:
+
+```python
+def format_book(doc):
+    res = ""
+    for body in doc:
+        if 'body_title' in body:
+            title = '\n\n'.join(body['body_title'])
+            res += title
+            res += '\n\n'
+        
+        if 'sections' in body:
+            for section in body['sections']:
+                if 'title' in section:
+                    sec_title = '\n\n'.join(section['title'])
+                    res += sec_title
+                    res += '\n\n'
+    
+                if 'data' in section and 'pars' in section['data']:
+                    for par in section['data']['pars']:
+                        res += f'{par}\n'
+                else:
+                    # print('no pars', section)
+                    pass
+
+    return res
+```