Update README.md
Browse files
README.md
CHANGED
|
@@ -10,6 +10,9 @@ configs:
|
|
| 10 |
- split: train
|
| 11 |
path:
|
| 12 |
- '*train.jsonl'
|
|
|
|
|
|
|
|
|
|
| 13 |
- split: test
|
| 14 |
path:
|
| 15 |
- '*test.jsonl'
|
|
@@ -31,13 +34,13 @@ license: cc-by-sa-4.0
|
|
| 31 |
<h2>Корпус оригинално ћириличних докумената</h2>
|
| 32 |
<p>и латиничних парњака</p>
|
| 33 |
<p>Погодан за обучавање модела и тестирање решења за пресловљавање.</p>
|
| 34 |
-
<p>Иницијална верзија - око
|
| 35 |
</td>
|
| 36 |
<td>
|
| 37 |
<h2>Korpus originalno ćiriličnih dokumenata</h2>
|
| 38 |
<p>i latiničnih parnjaka</p>
|
| 39 |
<p>Pogodan za obučavanje modela i testiranje rešenja za preslovljavanje.</p>
|
| 40 |
-
<p>Inicijalna verzija - oko
|
| 41 |
</td>
|
| 42 |
</tr>
|
| 43 |
|
|
@@ -48,8 +51,7 @@ license: cc-by-sa-4.0
|
|
| 48 |
```python
|
| 49 |
from datasets import load_dataset
|
| 50 |
dataset = load_dataset("procesaur/cirilica")
|
| 51 |
-
cirlicni_tekstovi = [record["
|
| 52 |
-
latinicni_tekstovi = [record["text_lat"] for record in dataset]
|
| 53 |
```
|
| 54 |
|
| 55 |
|
|
|
|
| 10 |
- split: train
|
| 11 |
path:
|
| 12 |
- '*train.jsonl'
|
| 13 |
+
- split: dev
|
| 14 |
+
path:
|
| 15 |
+
- '*dev.jsonl'
|
| 16 |
- split: test
|
| 17 |
path:
|
| 18 |
- '*test.jsonl'
|
|
|
|
| 34 |
<h2>Корпус оригинално ћириличних докумената</h2>
|
| 35 |
<p>и латиничних парњака</p>
|
| 36 |
<p>Погодан за обучавање модела и тестирање решења за пресловљавање.</p>
|
| 37 |
+
<p>Иницијална верзија - око 220 милиона речи из корпуса Знање, Википедије, и Редит корпуса</p>
|
| 38 |
</td>
|
| 39 |
<td>
|
| 40 |
<h2>Korpus originalno ćiriličnih dokumenata</h2>
|
| 41 |
<p>i latiničnih parnjaka</p>
|
| 42 |
<p>Pogodan za obučavanje modela i testiranje rešenja za preslovljavanje.</p>
|
| 43 |
+
<p>Inicijalna verzija - oko 220 miliona reči iz korpusa Znanje, Vikipedije i Redit korpusa</p>
|
| 44 |
</td>
|
| 45 |
</tr>
|
| 46 |
|
|
|
|
| 51 |
```python
|
| 52 |
from datasets import load_dataset
|
| 53 |
dataset = load_dataset("procesaur/cirilica")
|
| 54 |
+
cirlicni_tekstovi = [record["text"] for record in dataset]
|
|
|
|
| 55 |
```
|
| 56 |
|
| 57 |
|