File size: 4,236 Bytes
12ddcd0 68faa28 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 | ---
dataset_info:
features:
- name: genre
dtype: string
- name: book_title
dtype: string
- name: fpath
dtype: string
- name: book_json
dtype: string
- name: author.first_name
dtype: string
- name: author.last_name
dtype: string
- name: author.middle_name
dtype: string
- name: langs.lang
dtype: string
- name: doc_info.nickname
dtype: string
- name: doc_info.email
dtype: string
- name: doc_info.date
dtype: string
- name: doc_info.doc_id
dtype: string
- name: doc_info.version
dtype: string
- name: doc_info.program_used
dtype: string
- name: langs.src_lang
dtype: string
- name: doc_info.src_url
dtype: string
- name: pub_info.book_name
dtype: string
- name: pub_info.publisher
dtype: string
- name: pub_info.city
dtype: string
- name: pub_info.year
dtype: string
- name: title_info.annotation
dtype: string
- name: pub_info.isbn
dtype: string
- name: pub_info.sequence
dtype: string
- name: title_info.keywords
dtype: string
splits:
- name: train
num_bytes: 351264228651
num_examples: 493378
download_size: 175655957118
dataset_size: 351264228651
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---
# Librusec
Books mostly in Russian from Librusec library. With original metadata.
```
DatasetDict({
train: Dataset({
features: ['genre', 'book_title', 'fpath', 'book_json', 'author.first_name', 'author.last_name', 'author.middle_name', 'langs.lang', 'doc_info.nickname', 'doc_info.email', 'doc_info.date', 'doc_info.doc_id', 'doc_info.version', 'doc_info.program_used', 'langs.src_lang', 'doc_info.src_url', 'pub_info.book_name', 'pub_info.publisher', 'pub_info.city', 'pub_info.year', 'title_info.annotation', 'pub_info.isbn', 'pub_info.sequence', 'title_info.keywords'],
num_rows: 493378
})
})
```
## JSON
Books are in JSON format:
```
[
{
"body_title": [
"Жюльетта Бенцони",
"Манчжурская принцесса"
],
"epigraph": {
"author": "Лао Цзы",
"text": [
"«Нельзя идтии любоваться звездами, когда в твоем ботинке камень»."
]
},
"sections": [
{
"data": {
"pars": [
"Июль 1918",
"Вокзал в Шалон-сюр-Марн...",
"Вдоль платформы длинной лентой вытянулись двадцать три вагона санитарного поезда, который вот-вот должен был тронуться. Занимавшиеся погрузкой раненых санитары оказывали им последние услуги, прежде чем передать на попечение медицинского персонала поезда, где позаботятся о них до Лиона.",
"Весь день стояла жара, все вокруг было налито тяжестью. К пяти часам вечера разразившаяся гроза принесла долгожданную прохладу, с облегчением воспринятую всеми.
```
## Format JSON as you need
Example:
```python
def format_book(doc):
res = ""
for body in doc:
if 'body_title' in body:
title = '\n\n'.join(body['body_title'])
res += title
res += '\n\n'
if 'sections' in body:
for section in body['sections']:
if 'title' in section:
sec_title = '\n\n'.join(section['title'])
res += sec_title
res += '\n\n'
if 'data' in section and 'pars' in section['data']:
for par in section['data']['pars']:
res += f'{par}\n'
else:
# print('no pars', section)
pass
return res
``` |