Datasets:

VSSA-SDSA
/

LT_AI_BLKT

+---
+language:
+- lt
+- en
+pretty_name: General Lithuanian Corpus
+tags:
+- text
+- parquet
+- corpus
+- lithuanian
+license: other
+license_name: openrail-d
+license_link: https://sitti.vdu.lt/newgenltu-openrail-d-license/
+size_categories:
+- 1M<n<10M
+task_categories:
+- text-generation
+- summarization
+configs:
+- config_name: default
+  data_files:
+  - split: train
+    path: data/*.parquet
+---
+# Bendrasis lietuvių kalbos tekstynas / General Lithuanian Corpus
+## EN [LT](#lt)
+### Description
+The General Lithuanian Language Corpus (hereinafter referred to as BLKT) was developed by State Digital Solutions Agency (SDSA) as part of the project “Creation of the General Lithuanian Language Corpus and Vectorized Models” (project code: 02-103-P-0001). BLKT was developed by consortium of four partners: Vytautas Magnus University (VMU), UAB “Tilde informacinės technologijos“, UAB “Neurotechnology“, and MB “Krilas“.
+The project is being implemented in accordance with Progress Measure No. 05-002-01-07-08 of the 2021–2030 Lithuanian Republic State Digitalization Development Program “Developing technological solutions and tools that enable safe and convenient use of services” and meets the requirements of its activity “Development of linguistic resources for the needs of artificial intelligence technology solutions.”
+### Dataset summary
+- Number of Parquet files: **25**
+- Total rows: **8,438,155**
+- Total file size: **17.79 GB**
+- Number of alpha words: **3,941,476,219**
+### Main columns
+- `alpha_word_count`: `int64`
+- `author`: `string`
+- `document_subtype`: `string`
+- `document_type`: `string`
+- `id`: `string`
+- `language`: `string`
+- `license`: `string`
+- `period`: `string`
+- `publication_date`: `string`
+- `record_created`: `string`
+- `source_file`: `string`
+- `source_id`: `string`
+- `source_name`: `string`
+- `text`: `string`
+- `text_char_count`: `int64`
+- `title`: `string`
+- `url`: `string`
+### Provenance
+All BLKT texts are in Lithuanian, human-written, devided into 5 text types (document_types): fiction (gro), non-fiction (neg), media (zin), speech (sak) and documents (dok). Text types are further devided into subtypes (document_subtypes) (see the table below).
+| Type  | Description | Subtype | Description                |
+| ----- | ----------- | ------- | -------------------------- |
+| zin   | Media       | port    | News portals               |
+| zin   | Media       | prdk    | Newspapers, journals       |
+| sak   | Speech      | sste    | Parliament transcriptions  |
+| sak   | Speech      | skit    | Other speech transkritions |
+| neg   | Non-fiction | intt    | Internet texts             |
+| neg   | Non-fiction | moks    | Scientific papers, books   |
+| neg   | Non-fiction | kiti    | Other texts                |
+| gro   | Fiction     | proz    | Proze                      |
+| gro   | Fiction     | poez    | Poetry                     |
+| dok   | Documents   | dkes    | EU documents               |
+| dok   | Documents   | dklt    | LR legal documents         |
+| dok   | Documents   | dkad    | Administration documents   |
+The distrubution of text types:
+| Text type     |     Word count |        Part |    Text count |
+| ------------- | -------------: | ----------: | ------------: |
+| Documents     |     1509347610 |      38.29% |       1212131 |
+| Fiction       |       11767755 |       0.30% |           440 |
+| Non-fiction   |      279251467 |       7.08% |        832256 |
+| Speech        |       80483739 |       2.04% |          4563 |
+| Media         |     2060625648 |      52.28% |       6388765 |
+| **In total**  | **3941476219** | **100.00%** |   **8438155** |
+The texts have been collected from 36 different sources, ensuring transparency, collecting all necessary permissions and/or licenses.
+| No | Source                        | Number of texts | Word count      |   Part (%)  |
+| -: | ----------------------------- | --------------: | --------------: | ----------: |
+|  1 | 15min.lt                      |          559107 |       230933602 |       5.86% |
+|  2 | autogidas.lt                  |            1846 |          735416 |       0.02% |
+|  3 | bernardinai.lt                |          114040 |        65085920 |       1.65% |
+|  4 | BNS                           |          352946 |        83877818 |       2.13% |
+|  5 | CRIS-DB                       |            6483 |        34630986 |       0.88% |
+|  6 | delfi.lt                      |         1714345 |       606662831 |      15.39% |
+|  7 | elta.lt                       |         1235494 |       254356849 |       6.45% |
+|  8 | epaveldas.lt                  |             265 |        11339315 |       0.29% |
+|  9 | etalpykla.vilniustech.lt.lt   |             258 |          210746 |       0.01% |
+| 10 | e-tar.lt                      |          307223 |       567471590 |      14.40% |
+| 11 | eur-lex.europa.eu             |          141887 |       319901553 |       8.12% |
+| 12 | Gargždapilis                  |              99 |           98983 |       0.00% |
+| 13 | gazas.lt                      |            5454 |         2022545 |       0.05% |
+| 14 | gov.lt                        |          515173 |       162776172 |       4.13% |
+| 15 | Hubris                        |              16 |         1118951 |       0.03% |
+| 16 | Humanitarų meka               |              64 |           68586 |       0.00% |
+| 17 | Internet archive              |             112 |         5592994 |       0.14% |
+| 18 | Įv. autoriai                  |             182 |         1226753 |       0.03% |
+| 19 | kaunas.kasvyksta.lt           |           49662 |        15141979 |       0.38% |
+| 20 | Lituanistika_DB               |             286 |         1036134 |       0.03% |
+| 21 | LLTI                          |               2 |          867891 |       0.02% |
+| 22 | lrytas.lt                     |         1140602 |       380082600 |       9.64% |
+| 23 | lrkt.lt                       |            1029 |         4162009 |       0.11% |
+| 24 | lrs.lt                        |          134968 |       118782124 |       3.01% |
+| 25 | lrt.lt                        |          761744 |       244438996 |       6.20% |
+| 26 | MIDAS                         |              42 |           39747 |       0.00% |
+| 27 | pirkimai.eviesiejipirkimai.lt |           46288 |       117844194 |       2.99% |
+| 28 | raudonoji_knyga               |             396 |          103296 |       0.00% |
+| 29 | sena.lt                       |              88 |           31883 |       0.00% |
+| 30 | Švenčionių kraštas            |           11046 |         5253903 |       0.13% |
+| 31 | tautinispaveldas.lt           |             392 |           59793 |       0.00% |
+| 32 | teismai.lt                    |          715704 |       499968264 |      12.68% |
+| 33 | vdu.lt                        |            5937 |          709234 |       0.02% |
+| 34 | ve.lt                         |          427947 |       160571897 |       4.07% |
+| 35 | Vikipedija                    |          170718 |        34741743 |       0.88% |
+| 36 | zmones.15min.lt               |           16310 |         9528922 |       0.24% |
+|    | **In total**                  |     **8438155** |  **3941476219** | **100.00%** |
+The texts have been published during 4 periods
+| Time span   |      Period |     Word count |        Part |  Text count |
+| ----------- | ----------: | -------------: | ----------: | ----------: |
+| 1922–1940   |           1 |       11226438 |       0.28% |         290 |
+| 1941–1990   |           2 |       10440807 |       0.26% |        4288 |
+| 1990–2004   |           3 |      229775041 |       5.83% |      684357 |
+| 2008–2026   |           4 |     3690033933 |      93.62% |     7749220 |
+|             | **In total** | **3941476219** | **100.00%** | **8438155** |
+### Licensing
+This dataset is distributed under **NewGenLTU OpenRAIL-D**.
+This Open RAIL-D license was specifically created by a team of researchers at Vytautas Magnus University for the publication of the projects’ results – datasets – that had been developed in the course of the research and development projects funded by the New Generation Lithuania plan. The New Generation Lithuania plan is funded by the Recovery and Resilience Facility (RRF). It was decided to establish this license in order to address certain limitations relating to the use of datasets and to ensure compliance with the EU AI Act, data protection requirements, and copyright law.
+This license strives for open and responsible downstream use of the model and/or dataset(s) while ensuring that the works subject to copyright that are contained in the dataset will not be used to recreate the works but rather will be used for AI training and other technology development activities. Similarly, with the models, the license strives to ensure compliance with the EU data protection regulation thus prohibiting the recreation or extraction of personal data from the dataset.
+This license governs the use of the dataset and/or the model (and their derivatives).
+Please see the accompanying `LICENSE.txt` file in this repository.
+### Recommended use
+- Generative tasks: automatic text generation, summary generation, and the generation of creative ideas and scripts.
+- Editing and proofreading: improving grammar, style, text clarity, and structure.
+- Business solutions:
+  - Language editing tools.
+  - Smart search and text summarization.
+  - Creation of virtual assistants and marketing copy.
+  - Data analysis and insights into customer needs.
+### Restrictions
+Under the  **NewGenLTU OpenRAIL-D** license, users must not use the dataset for the following purposes: discrimination; the development of weapons or military applications; automated decision making; generation of disinformation; privacy infringement; the provision of medical or health advice; the creation of malware; harassment; dishonest research; or the collection of personal data.
+For further details, please see the accompanying `LICENSE.txt` file in this repository.
+### Limitations
+The developers tried their best to clean the dataset from noise, OCR errors, duplicates. However:
+- Number of spellcheking errors:
+- Number of foreign words:
+- Texts from periods 1-2 (0.54%) may contain old unused words, phrases, or expressions
+- The corpus is dominated by texts from news portals (52%) and documents (38%).
+### Citation
+"General Lithuanian corpus".
+## Shared technical information / Bendra techninė informacija
+### Schema
+| Column | Main type | Present in files | Null count |
+|---|---|---|---|
+| alpha_word_count | int64 | 25/25 | 0 |
+| author | null | 25/25 | 8381572 |
+| document_subtype | string | 25/25 | 0 |
+| document_type | string | 25/25 | 0 |
+| id | string | 25/25 | 0 |
+| language | string | 25/25 | 0 |
+| license | string | 25/25 | 0 |
+| period | string | 25/25 | 0 |
+| publication_date | string | 25/25 | 509009 |
+| record_created | string | 25/25 | 0 |
+| source_file | string | 25/25 | 0 |
+| source_id | string | 25/25 | 0 |
+| source_name | string | 25/25 | 0 |
+| text | string | 25/25 | 0 |
+| text_char_count | int64 | 25/25 | 0 |
+| title | string | 25/25 | 8093921 |
+| url | string | 25/25 | 311723 |
+### Files
+| File | Rows | Size | Row groups |
+|---|---:|---:|---:|
+| BLKT_corpus-00000.parquet | 255000 | 486.48 MB | 1 |
+| BLKT_corpus-00001.parquet | 525000 | 469.60 MB | 1 |
+| BLKT_corpus-00002.parquet | 235000 | 403.29 MB | 1 |
+| BLKT_corpus-00003.parquet | 235000 | 403.66 MB | 1 |
+| BLKT_corpus-00004.parquet | 175000 | 370.09 MB | 1 |
+| BLKT_corpus-00005.parquet | 55000 | 376.28 MB | 1 |
+| BLKT_corpus-00006.parquet | 80000 | 355.37 MB | 1 |
+| BLKT_corpus-00007.parquet | 80000 | 372.77 MB | 1 |
+| BLKT_corpus-00008.parquet | 90000 | 380.82 MB | 1 |
+| BLKT_corpus-00009.parquet | 85000 | 383.33 MB | 1 |
+| BLKT_corpus-00010.parquet | 215000 | 381.49 MB | 1 |
+| BLKT_corpus-00011.parquet | 405000 | 493.28 MB | 1 |
+| BLKT_corpus-00012.parquet | 330000 | 471.21 MB | 1 |
+| BLKT_corpus-00013.parquet | 395000 | 592.07 MB | 1 |
+| BLKT_corpus-00014.parquet | 345000 | 581.43 MB | 1 |
+| BLKT_corpus-00015.parquet | 510000 | 585.07 MB | 1 |
+| BLKT_corpus-00016.parquet | 500000 | 588.28 MB | 1 |
+| BLKT_corpus-00017.parquet | 480000 | 582.85 MB | 1 |
+| BLKT_corpus-00018.parquet | 425000 | 576.71 MB | 1 |
+| BLKT_corpus-00019.parquet | 530000 | 542.38 MB | 1 |
+| BLKT_corpus-00020.parquet | 485000 | 560.00 MB | 1 |
+| BLKT_corpus-00021.parquet | 370000 | 590.74 MB | 1 |
+| BLKT_corpus-00022.parquet | 455000 | 553.52 MB | 1 |
+| BLKT_corpus-00023.parquet | 710000 | 499.35 MB | 1 |
+| BLKT_corpus-00024.parquet | 468155 | 388.07 MB | 1 |
+### Loading the dataset / Duomenų rinkinio įkėlimas
+Example using the `datasets` library:
+```python
+from datasets import load_dataset
+ds = load_dataset("parquet", data_files="hf://datasets/VSSA-SDSA/lithuanian-general-corpus/data/*.parquet")
+print(ds)
+```
+Example using pandas:
+```python
+import pandas as pd
+# Example for one file
+df = pd.read_parquet("data/your_file.parquet")
+print(df.head())
+```
+### Files with metadata read errors / Failai su metaduomenų nuskaitymo klaidomis
+None.
+<a id=lt></a>
+## LT
+### Aprašas
+Bendrasis lietuvių kalbos tekstynas (toliau – BLKT) sukurtas Valstybės skaitmeninių sprendimų agentūrai (VSSA) įgyvendinant projektą „Bendrojo lietuvių kalbos tekstyno ir vektorizuotų modelių sukūrimas“ (projekto kodas: 02-103-P-0001). BLKT sukūrė keturių partnerių konsorciumas: Vytauto Didžiojo universitetas (VDU), UAB „Neurotechnology“, UAB „Tilde informacinės technologijos“ ir MB „Krilas“.
+Projektas vykdomas vadovaujantis 2021–2030 metų Lietuvos Respublikos valstybės skaitmeninimo plėtros programos pažangos priemone Nr. 05-002-01-07-08 „Kurti technologinius sprendimus ir įrankius, leidžiančius saugiai ir patogiai naudotis paslaugomis“ ir atliepia jos veiklos „Kalbinių išteklių dirbtinio intelekto technologijų sprendimų poreikiams plėtra“ reikalavimus.
+### Duomenų rinkinio santrauka
+- Žodžių skaičius: **3 941 476 219**
+- Bendras eilučių (tekstų) skaičius: **8 438 155**
+- Parquet failų skaičius: **25**
+- Bendras failų dydis: **17,79 GB**
+### Pagrindiniai stulpeliai
+- `alpha_word_count`: `int64`
+- `author`: `string`
+- `document_subtype`: `string`
+- `document_type`: `string`
+- `id`: `string`
+- `language`: `string`
+- `license`: `string`
+- `period`: `string`
+- `publication_date`: `string`
+- `record_created`: `string`
+- `source_file`: `string`
+- `source_id`: `string`
+- `source_name`: `string`
+- `text`: `string`
+- `text_char_count`: `string`
+- `title`: `null`
+- `url`: `string`
+### Kilmė ir sudarymas
+Visi BLKT tekstai skirstomi į 5 teksto tipus (document_types): grožinius (gro), negrožinius (neg), žiniasklaidos (zin), sakytinės kalbos (sak) ir dokumentus (dok). Teksto tipai toliau skirstomi į potipius (subtypes) (žr. lentelę).
+| Tipas | Apibūdinimas             | Potipis | Apibūdinimas                          |
+| ----- | ------------------------ | ------- | ------------------------------------- |
+| zin   | Žiniasklaidos tekstai    | port    | Interneto naujienų portalai           |
+| zin   | Žiniasklaidos tekstai    | prdk    | Laikraščiai, žurnalai                 |
+| sak   | Sakytinės kalbos tekstai | sste    | Seimo stenogramos                     |
+| sak   | Sakytinės kalbos tekstai | skit    | Kitos sakytinės kalbos transkripcijos |
+| neg   | Negrožiniai tekstai      | intt    | Interneto tekstai                     |
+| neg   | Negrožiniai tekstai      | moks    | Mokslo straipsniai, knygos            |
+| neg   | Negrožiniai tekstai      | kiti    | Kiti tekstai                          |
+| gro   | Grožiniai tekstai        | proz    | Proza                                 |
+| gro   | Grožiniai tekstai        | poez    | Poezija                               |
+| dok   | Dokumentai               | dkes    | ES dokumentai                         |
+| dok   | Dokumentai               | dklt    | LR teisiniai dokumentai               |
+| dok   | Dokumentai               | dkad    | Administraciniai dokumentai           |
+Teksto tipų pasiskirstymas:
+| Teksto tipas          |     Žodžių sk. |       Dalis |  Tekstų sk. |
+| --------------------- | -------------: | ----------: | ----------: |
+| Dokumentai            |     1509347610 |      38.29% |     1212131 |
+| Grožiniai tekstai     |       11767755 |       0.30% |         440 |
+| Negrožiniai tekstai   |      279251467 |       7.08% |      832256 |
+| Sakytinės k. tekstai  |       80483739 |       2.04% |        4563 |
+| Žiniasklaidos tekstai |     2060625648 |      52.28% |     6388765 |
+| **Iš viso**           | **3941476219** | **100.00%** | **8438155** |
+Tekstai surinkti iš 36 skirtingų šaltinių užtikrinant skaidrumą, iš duomenų tiekėjų gavus visus reikalingus sutikimus ir licencijas.
+| Nr | Šaltinis                      | Tekstų skaičius | Žodžių skaičius |   Dalis (%) |
+| -: | ----------------------------- | --------------: | --------------: | ----------: |
+|  1 | 15min.lt                      |          559107 |       230933602 |       5,86% |
+|  2 | autogidas.lt                  |            1846 |          735416 |       0,02% |
+|  3 | bernardinai.lt                |          114040 |        65085920 |       1,65% |
+|  4 | BNS                           |          352946 |        83877818 |       2,13% |
+|  5 | CRIS-DB                       |            6483 |        34630986 |       0,88% |
+|  6 | delfi.lt                      |         1714345 |       606662831 |      15,39% |
+|  7 | elta.lt                       |         1235494 |       254356849 |       6,45% |
+|  8 | epaveldas.lt                  |             265 |        11339315 |       0,29% |
+|  9 | etalpykla.vilniustech.lt.lt   |             258 |          210746 |       0,01% |
+| 10 | e-tar.lt                      |          307223 |       567471590 |      14,40% |
+| 11 | eur-lex.europa.eu             |          141887 |       319901553 |       8,12% |
+| 12 | Gargždapilis                  |              99 |           98983 |       0,00% |
+| 13 | gazas.lt                      |            5454 |         2022545 |       0,05% |
+| 14 | gov.lt                        |          515173 |       162776172 |       4,13% |
+| 15 | Hubris                        |              16 |         1118951 |       0,03% |
+| 16 | Humanitarų meka               |              64 |           68586 |       0,00% |
+| 17 | Internet archive              |             112 |         5592994 |       0,14% |
+| 18 | Įv. autoriai                  |             182 |         1226753 |       0,03% |
+| 19 | kaunas.kasvyksta.lt           |           49662 |        15141979 |       0,38% |
+| 20 | Lituanistika_DB               |             286 |         1036134 |       0,03% |
+| 21 | LLTI                          |               2 |          867891 |       0,02% |
+| 22 | lrytas.lt                     |         1140602 |       380082600 |       9,64% |
+| 23 | lrkt.lt                       |            1029 |         4162009 |       0,11% |
+| 24 | lrs.lt                        |          134968 |       118782124 |       3,01% |
+| 25 | lrt.lt                        |          761744 |       244438996 |       6,20% |
+| 26 | MIDAS                         |              42 |           39747 |       0,00% |
+| 27 | pirkimai.eviesiejipirkimai.lt |           46288 |       117844194 |       2,99% |
+| 28 | raudonoji_knyga               |             396 |          103296 |       0,00% |
+| 29 | sena.lt                       |              88 |           31883 |       0,00% |
+| 30 | Švenčionių kraštas            |           11046 |         5253903 |       0,13% |
+| 31 | tautinispaveldas.lt           |             392 |           59793 |       0,00% |
+| 32 | teismai.lt                    |          715704 |       499968264 |      12,68% |
+| 33 | vdu.lt                        |            5937 |          709234 |       0,02% |
+| 34 | ve.lt                         |          427947 |       160571897 |       4,07% |
+| 35 | Vikipedija                    |          170718 |        34741743 |       0,88% |
+| 36 | zmones.15min.lt               |           16310 |         9528922 |       0,24% |
+|    | **Iš viso**                   |     **8438155** |  **3941476219** | **100,00%** |
+Surinkti tekstai publikuoti
+| Laikotarpis |        Žyma |     Žodžių sk. |       Dalis |  Tekstų sk. |
+| ----------- | ----------: | -------------: | ----------: | ----------: |
+| 1922–1940   |           1 |       11226438 |       0,28% |         290 |
+| 1941–1990   |           2 |       10440807 |       0,26% |        4288 |
+| 1990–2004   |           3 |      229775041 |       5,83% |      684357 |
+| 2008–2026   |           4 |     3690033933 |      93,62% |     7749220 |
+|             | **Iš viso** | **3941476219** | **100,00%** | **8438155** |
+### Licencija
+Šis duomenų rinkinys yra platinamas pagal **NewGenLTU OpenRAIL-D** licenciją.
+Ši „Open RAIL-D“ licencija buvo specialiai sukurta Vytauto Didžiojo universiteto tyrėjų komandos, siekiant skelbti projekto rezultatus – duomenų rinkinius, – kurie buvo parengti vykdant mokslinių tyrimų ir plėtros projektus, finansuojamus pagal programą „Naujos kartos Lietuvoje“. Programa „Naujos kartos Lietuva“ finansuojama iš Ekonomikos gaivinimo ir atsparumo didinimo priemonės (RRF). Buvo nuspręsta sukurti šią licenciją siekiant pašalinti tam tikrus duomenų rinkinių naudojimo apribojimus ir užtikrinti atitiktį ES AI aktui, duomenų apsaugos reikalavimams bei autorių teisių įstatymams.
+Šia licencija siekiama atviro ir atsakingo modelio ir (arba) duomenų rinkinių tolesnio naudojimo, tuo pačiu užtikrinant, kad duomenų rinkinyje esantys kūriniai, kuriems taikomos autorių teisės, nebūtų naudojami kūriniams atkurti, o būtų naudojami AI mokymui ir kitai technologijų plėtros veiklai. Panašiai, kaip ir modelių atveju, licencija siekia užtikrinti atitiktį ES duomenų apsaugos reglamentui, taigi draudžia asmens duomenų atkūrimą ar išgavimą iš duomenų rinkinio.
+Ši licencija reglamentuoja duomenų rinkinio ir (arba) modelio (ir jų išvestinių kūrinių) naudojimą.
+Prašome peržiūrėti pridedamą failą „LICENSE.txt“ šiame saugykloje.
+### Rekomenduojamas naudojimas
+- Generatyvinė užduotis: automatinį tekstų kūrimas, apibendrinimų generavimas, kūrybinių idėjų ir scenarijų generavimas.
+- Redagavimo užduotis ir korektūra: gramatikos, stiliaus teksto aiškumo ir struktūros tobulinimas.
+- Verslo sprendimai:
+  - Kalbos redagavimo įrankiai
+  - Išmanioji paieška ir teksto santraukų generavimas.
+  - Virtualių asistentų, rinkodaros tekstų kūrimas.
+  - Duomenų analizė ir klientų poreikių įžvalgos.
+### Apribojimai
+Pagal **NewGenLTU OpenRAIL-D** licenciją vartotojai negali naudoti šio duomenų rinkinio šiais tikslais: diskriminacijai; ginklų ar karinių programų kūrimui; automatizuotam sprendimų priėmimui; dezinformacijos skleidimui; privatumo pažeidimams; medicininių ar sveikatos patarimų teikimui; kenkėjiškų programų kūrimui; priekabiavimui; nesąžiningiems tyrimams; arba asmens duomenų rinkimui.
+Daugiau informacijos rasite šioje saugykloje esančiame pridedamame faile `LICENSE.txt`.
+### Ribotumai
+Kūrėjai dėjo visas pastangas, kad tekstyną išvalytų nuo šiukšlių, klaidų ir dubliažų. Tačiau:
+- Rašybos klaidų dalis: 0,46%
+- Kitų kalbų žodžių dalis:  0,07%
+- 1–2 laikotarpių tekstuose (0,54 %) gali būti senų, nebevartojamų žodžių, frazių ar posakių
+- Tekstye vyrauja tekstai iš naujienų portalų (52 %) ir dokumentų (38 %).
+### Citavimas
+"Bendrasis lietuvių kalbos tekstynas".
+---
+language:
+- lt
+- en
+pretty_name: General Lithuanian Corpus
+tags:
+- text
+- parquet
+- corpus
+- lithuanian
+license: other
+license_name: NewGenLTU OpenRAIL-D
+license_link: http://sitti.vdu.lt/newgenltu-openrail-d-license/
+size_categories:
+- 1M<n<10M
+task_categories:
+- text-generation
+- language-modeling
+configs:
+- config_name: default
+  data_files:
+  - split: train
+    path: data/*.parquet
+---
+# Bendrasis lietuvių kalbos tekstynas / General Lithuanian Corpus
+## EN [LT](#lt)
+### Description
+The General Lithuanian Language Corpus (hereinafter referred to as BLKT) was developed by State Digital Solutions Agency (SDSA) as part of the project “Creation of the General Lithuanian Language Corpus and Vectorized Models” (project code: 02-103-P-0001). BLKT was developed by consortium of four partners: Vytautas Magnus University (VMU), UAB “Tilde informacinės technologijos“, UAB “Neurotechnology“, and MB “Krilas“.
+The project is being implemented in accordance with Progress Measure No. 05-002-01-07-08 of the 2021–2030 Lithuanian Republic State Digitalization Development Program “Developing technological solutions and tools that enable safe and convenient use of services” and meets the requirements of its activity “Development of linguistic resources for the needs of artificial intelligence technology solutions.”
+### Dataset summary
+- Number of Parquet files: **25**
+- Total rows: **8,438,155**
+- Total file size: **17.79 GB**
+- Number of alpha words: **3,941,476,219**
+### Main columns
+- `alpha_word_count`: `int64`
+- `author`: `string`
+- `document_subtype`: `string`
+- `document_type`: `string`
+- `id`: `string`
+- `language`: `string`
+- `license`: `string`
+- `period`: `string`
+- `publication_date`: `string`
+- `record_created`: `string`
+- `source_file`: `string`
+- `source_id`: `string`
+- `source_name`: `string`
+- `text`: `string`
+- `text_char_count`: `int64`
+- `title`: `string`
+- `url`: `string`
+### Provenance
+All BLKT texts are in Lithuanian, human-written, devided into 5 text types (document_types): fiction (gro), non-fiction (neg), media (zin), speech (sak) and documents (dok). Text types are further devided into subtypes (document_subtypes) (see the table below).
+| Type  | Description | Subtype | Description                |
+| ----- | ----------- | ------- | -------------------------- |
+| zin   | Media       | port    | News portals               |
+| zin   | Media       | prdk    | Newspapers, journals       |
+| sak   | Speech      | sste    | Parliament transcriptions  |
+| sak   | Speech      | skit    | Other speech transkritions |
+| neg   | Non-fiction | intt    | Internet texts             |
+| neg   | Non-fiction | moks    | Scientific papers, books   |
+| neg   | Non-fiction | kiti    | Other texts                |
+| gro   | Fiction     | proz    | Proze                      |
+| gro   | Fiction     | poez    | Poetry                     |
+| dok   | Documents   | dkes    | EU documents               |
+| dok   | Documents   | dklt    | LR legal documents         |
+| dok   | Documents   | dkad    | Administration documents   |
+The distrubution of text types:
+| Text type     |     Word count |        Part |    Text count |
+| ------------- | -------------: | ----------: | ------------: |
+| Documents     |     1509347610 |      38.29% |       1212131 |
+| Fiction       |       11767755 |       0.30% |           440 |
+| Non-fiction   |      279251467 |       7.08% |        832256 |
+| Speech        |       80483739 |       2.04% |          4563 |
+| Media         |     2060625648 |      52.28% |       6388765 |
+| **In total**  | **3941476219** | **100.00%** |   **8438155** |
+The texts have been collected from 36 different sources, ensuring transparency, collecting all necessary permissions and/or licenses.
+| No | Source                        | Number of texts | Word count      |   Part (%)  |
+| -: | ----------------------------- | --------------: | --------------: | ----------: |
+|  1 | 15min.lt                      |          559107 |       230933602 |       5.86% |
+|  2 | autogidas.lt                  |            1846 |          735416 |       0.02% |
+|  3 | bernardinai.lt                |          114040 |        65085920 |       1.65% |
+|  4 | BNS                           |          352946 |        83877818 |       2.13% |
+|  5 | CRIS-DB                       |            6483 |        34630986 |       0.88% |
+|  6 | delfi.lt                      |         1714345 |       606662831 |      15.39% |
+|  7 | elta.lt                       |         1235494 |       254356849 |       6.45% |
+|  8 | epaveldas.lt                  |             265 |        11339315 |       0.29% |
+|  9 | etalpykla.vilniustech.lt.lt   |             258 |          210746 |       0.01% |
+| 10 | e-tar.lt                      |          307223 |       567471590 |      14.40% |
+| 11 | eur-lex.europa.eu             |          141887 |       319901553 |       8.12% |
+| 12 | Gargždapilis                  |              99 |           98983 |       0.00% |
+| 13 | gazas.lt                      |            5454 |         2022545 |       0.05% |
+| 14 | gov.lt                        |          515173 |       162776172 |       4.13% |
+| 15 | Hubris                        |              16 |         1118951 |       0.03% |
+| 16 | Humanitarų meka               |              64 |           68586 |       0.00% |
+| 17 | Internet archive              |             112 |         5592994 |       0.14% |
+| 18 | Įv. autoriai                  |             182 |         1226753 |       0.03% |
+| 19 | kaunas.kasvyksta.lt           |           49662 |        15141979 |       0.38% |
+| 20 | Lituanistika_DB               |             286 |         1036134 |       0.03% |
+| 21 | LLTI                          |               2 |          867891 |       0.02% |
+| 22 | lrytas.lt                     |         1140602 |       380082600 |       9.64% |
+| 23 | lrkt.lt                       |            1029 |         4162009 |       0.11% |
+| 24 | lrs.lt                        |          134968 |       118782124 |       3.01% |
+| 25 | lrt.lt                        |          761744 |       244438996 |       6.20% |
+| 26 | MIDAS                         |              42 |           39747 |       0.00% |
+| 27 | pirkimai.eviesiejipirkimai.lt |           46288 |       117844194 |       2.99% |
+| 28 | raudonoji_knyga               |             396 |          103296 |       0.00% |
+| 29 | sena.lt                       |              88 |           31883 |       0.00% |
+| 30 | Švenčionių kraštas            |           11046 |         5253903 |       0.13% |
+| 31 | tautinispaveldas.lt           |             392 |           59793 |       0.00% |
+| 32 | teismai.lt                    |          715704 |       499968264 |      12.68% |
+| 33 | vdu.lt                        |            5937 |          709234 |       0.02% |
+| 34 | ve.lt                         |          427947 |       160571897 |       4.07% |
+| 35 | Vikipedija                    |          170718 |        34741743 |       0.88% |
+| 36 | zmones.15min.lt               |           16310 |         9528922 |       0.24% |
+|    | **In total**                  |     **8438155** |  **3941476219** | **100.00%** |
+The texts have been published during 4 periods
+| Time span   |      Period |     Word count |        Part |  Text count |
+| ----------- | ----------: | -------------: | ----------: | ----------: |
+| 1922–1940   |           1 |       11226438 |       0.28% |         290 |
+| 1941–1990   |           2 |       10440807 |       0.26% |        4288 |
+| 1990–2004   |           3 |      229775041 |       5.83% |      684357 |
+| 2008–2026   |           4 |     3690033933 |      93.62% |     7749220 |
+|             | **In total** | **3941476219** | **100.00%** | **8438155** |
+### Licensing
+This dataset is distributed under **NewGenLTU OpenRAIL-D**.
+This Open RAIL-D license was specifically created by a team of researchers at Vytautas Magnus University for the publication of the projects’ results – datasets – that had been developed in the course of the research and development projects funded by the New Generation Lithuania plan. The New Generation Lithuania plan is funded by the Recovery and Resilience Facility (RRF). It was decided to establish this license in order to address certain limitations relating to the use of datasets and to ensure compliance with the EU AI Act, data protection requirements, and copyright law.
+This license strives for open and responsible downstream use of the model and/or dataset(s) while ensuring that the works subject to copyright that are contained in the dataset will not be used to recreate the works but rather will be used for AI training and other technology development activities. Similarly, with the models, the license strives to ensure compliance with the EU data protection regulation thus prohibiting the recreation or extraction of personal data from the dataset.
+This license governs the use of the dataset and/or the model (and their derivatives).
+Please see the accompanying `LICENSE.txt` file in this repository.
+### Recommended use
+- Generative tasks: automatic text generation, summary generation, and the generation of creative ideas and scripts.
+- Editing and proofreading: improving grammar, style, text clarity, and structure.
+- Business solutions:
+  - Language editing tools.
+  - Smart search and text summarization.
+  - Creation of virtual assistants and marketing copy.
+  - Data analysis and insights into customer needs.
+### Restrictions
+Under the  **NewGenLTU OpenRAIL-D** license, users must not use the dataset for the following purposes: discrimination; the development of weapons or military applications; automated decision making; generation of disinformation; privacy infringement; the provision of medical or health advice; the creation of malware; harassment; dishonest research; or the collection of personal data.
+For further details, please see the accompanying `LICENSE.txt` file in this repository.
+### Limitations
+The developers tried their best to clean the dataset from noise, OCR errors, duplicates. However:
+- Number of spellcheking errors:
+- Number of foreign words:
+- Texts from periods 1-2 (0.54%) may contain old unused words, phrases, or expressions
+- The corpus is dominated by texts from news portals (52%) and documents (38%).
+### Citation
+"General Lithuanian corpus".
+## Shared technical information / Bendra techninė informacija
+### Schema
+| Column | Main type | Present in files | Null count |
+|---|---|---|---|
+| alpha_word_count | int64 | 25/25 | 0 |
+| author | null | 25/25 | 8381572 |
+| document_subtype | string | 25/25 | 0 |
+| document_type | string | 25/25 | 0 |
+| id | string | 25/25 | 0 |
+| language | string | 25/25 | 0 |
+| license | string | 25/25 | 0 |
+| period | string | 25/25 | 0 |
+| publication_date | string | 25/25 | 509009 |
+| record_created | string | 25/25 | 0 |
+| source_file | string | 25/25 | 0 |
+| source_id | string | 25/25 | 0 |
+| source_name | string | 25/25 | 0 |
+| text | string | 25/25 | 0 |
+| text_char_count | int64 | 25/25 | 0 |
+| title | string | 25/25 | 8093921 |
+| url | string | 25/25 | 311723 |
+### Files
+| File | Rows | Size | Row groups |
+|---|---:|---:|---:|
+| BLKT_corpus-00000.parquet | 255000 | 486.48 MB | 1 |
+| BLKT_corpus-00001.parquet | 525000 | 469.60 MB | 1 |
+| BLKT_corpus-00002.parquet | 235000 | 403.29 MB | 1 |
+| BLKT_corpus-00003.parquet | 235000 | 403.66 MB | 1 |
+| BLKT_corpus-00004.parquet | 175000 | 370.09 MB | 1 |
+| BLKT_corpus-00005.parquet | 55000 | 376.28 MB | 1 |
+| BLKT_corpus-00006.parquet | 80000 | 355.37 MB | 1 |
+| BLKT_corpus-00007.parquet | 80000 | 372.77 MB | 1 |
+| BLKT_corpus-00008.parquet | 90000 | 380.82 MB | 1 |
+| BLKT_corpus-00009.parquet | 85000 | 383.33 MB | 1 |
+| BLKT_corpus-00010.parquet | 215000 | 381.49 MB | 1 |
+| BLKT_corpus-00011.parquet | 405000 | 493.28 MB | 1 |
+| BLKT_corpus-00012.parquet | 330000 | 471.21 MB | 1 |
+| BLKT_corpus-00013.parquet | 395000 | 592.07 MB | 1 |
+| BLKT_corpus-00014.parquet | 345000 | 581.43 MB | 1 |
+| BLKT_corpus-00015.parquet | 510000 | 585.07 MB | 1 |
+| BLKT_corpus-00016.parquet | 500000 | 588.28 MB | 1 |
+| BLKT_corpus-00017.parquet | 480000 | 582.85 MB | 1 |
+| BLKT_corpus-00018.parquet | 425000 | 576.71 MB | 1 |
+| BLKT_corpus-00019.parquet | 530000 | 542.38 MB | 1 |
+| BLKT_corpus-00020.parquet | 485000 | 560.00 MB | 1 |
+| BLKT_corpus-00021.parquet | 370000 | 590.74 MB | 1 |
+| BLKT_corpus-00022.parquet | 455000 | 553.52 MB | 1 |
+| BLKT_corpus-00023.parquet | 710000 | 499.35 MB | 1 |
+| BLKT_corpus-00024.parquet | 468155 | 388.07 MB | 1 |
+### Loading the dataset / Duomenų rinkinio įkėlimas
+Example using the `datasets` library:
+```python
+from datasets import load_dataset
+ds = load_dataset("parquet", data_files="hf://datasets/VSSA-SDSA/lithuanian-general-corpus/data/*.parquet")
+print(ds)
+```
+Example using pandas:
+```python
+import pandas as pd
+# Example for one file
+df = pd.read_parquet("data/your_file.parquet")
+print(df.head())
+```
+### Files with metadata read errors / Failai su metaduomenų nuskaitymo klaidomis
+None.
+<a id=lt></a>
+## LT
+### Aprašas
+Bendrasis lietuvių kalbos tekstynas (toliau – BLKT) sukurtas Valstybės skaitmeninių sprendimų agentūrai (VSSA) įgyvendinant projektą „Bendrojo lietuvių kalbos tekstyno ir vektorizuotų modelių sukūrimas“ (projekto kodas: 02-103-P-0001). BLKT sukūrė keturių partnerių konsorciumas: Vytauto Didžiojo universitetas (VDU), UAB „Neurotechnology“, UAB „Tilde informacinės technologijos“ ir MB „Krilas“.
+Projektas vykdomas vadovaujantis 2021–2030 metų Lietuvos Respublikos valstybės skaitmeninimo plėtros programos pažangos priemone Nr. 05-002-01-07-08 „Kurti technologinius sprendimus ir įrankius, leidžiančius saugiai ir patogiai naudotis paslaugomis“ ir atliepia jos veiklos „Kalbinių išteklių dirbtinio intelekto technologijų sprendimų poreikiams plėtra“ reikalavimus.
+### Duomenų rinkinio santrauka
+- Žodžių skaičius: **3 941 476 219**
+- Bendras eilučių (tekstų) skaičius: **8 438 155**
+- Parquet failų skaičius: **25**
+- Bendras failų dydis: **17,79 GB**
+### Pagrindiniai stulpeliai
+- `alpha_word_count`: `int64`
+- `author`: `string`
+- `document_subtype`: `string`
+- `document_type`: `string`
+- `id`: `string`
+- `language`: `string`
+- `license`: `string`
+- `period`: `string`
+- `publication_date`: `string`
+- `record_created`: `string`
+- `source_file`: `string`
+- `source_id`: `string`
+- `source_name`: `string`
+- `text`: `string`
+- `text_char_count`: `string`
+- `title`: `null`
+- `url`: `string`
+### Kilmė ir sudarymas
+Visi BLKT tekstai skirstomi į 5 teksto tipus (document_types): grožinius (gro), negrožinius (neg), žiniasklaidos (zin), sakytinės kalbos (sak) ir dokumentus (dok). Teksto tipai toliau skirstomi į potipius (subtypes) (žr. lentelę).
+| Tipas | Apibūdinimas             | Potipis | Apibūdinimas                          |
+| ----- | ------------------------ | ------- | ------------------------------------- |
+| zin   | Žiniasklaidos tekstai    | port    | Interneto naujienų portalai           |
+| zin   | Žiniasklaidos tekstai    | prdk    | Laikraščiai, žurnalai                 |
+| sak   | Sakytinės kalbos tekstai | sste    | Seimo stenogramos                     |
+| sak   | Sakytinės kalbos tekstai | skit    | Kitos sakytinės kalbos transkripcijos |
+| neg   | Negrožiniai tekstai      | intt    | Interneto tekstai                     |
+| neg   | Negrožiniai tekstai      | moks    | Mokslo straipsniai, knygos            |
+| neg   | Negrožiniai tekstai      | kiti    | Kiti tekstai                          |
+| gro   | Grožiniai tekstai        | proz    | Proza                                 |
+| gro   | Grožiniai tekstai        | poez    | Poezija                               |
+| dok   | Dokumentai               | dkes    | ES dokumentai                         |
+| dok   | Dokumentai               | dklt    | LR teisiniai dokumentai               |
+| dok   | Dokumentai               | dkad    | Administraciniai dokumentai           |
+Teksto tipų pasiskirstymas:
+| Teksto tipas          |     Žodžių sk. |       Dalis |  Tekstų sk. |
+| --------------------- | -------------: | ----------: | ----------: |
+| Dokumentai            |     1509347610 |      38.29% |     1212131 |
+| Grožiniai tekstai     |       11767755 |       0.30% |         440 |
+| Negrožiniai tekstai   |      279251467 |       7.08% |      832256 |
+| Sakytinės k. tekstai  |       80483739 |       2.04% |        4563 |
+| Žiniasklaidos tekstai |     2060625648 |      52.28% |     6388765 |
+| **Iš viso**           | **3941476219** | **100.00%** | **8438155** |
+Tekstai surinkti iš 36 skirtingų šaltinių užtikrinant skaidrumą, iš duomenų tiekėjų gavus visus reikalingus sutikimus ir licencijas.
+| Nr | Šaltinis                      | Tekstų skaičius | Žodžių skaičius |   Dalis (%) |
+| -: | ----------------------------- | --------------: | --------------: | ----------: |
+|  1 | 15min.lt                      |          559107 |       230933602 |       5,86% |
+|  2 | autogidas.lt                  |            1846 |          735416 |       0,02% |
+|  3 | bernardinai.lt                |          114040 |        65085920 |       1,65% |
+|  4 | BNS                           |          352946 |        83877818 |       2,13% |
+|  5 | CRIS-DB                       |            6483 |        34630986 |       0,88% |
+|  6 | delfi.lt                      |         1714345 |       606662831 |      15,39% |
+|  7 | elta.lt                       |         1235494 |       254356849 |       6,45% |
+|  8 | epaveldas.lt                  |             265 |        11339315 |       0,29% |
+|  9 | etalpykla.vilniustech.lt.lt   |             258 |          210746 |       0,01% |
+| 10 | e-tar.lt                      |          307223 |       567471590 |      14,40% |
+| 11 | eur-lex.europa.eu             |          141887 |       319901553 |       8,12% |
+| 12 | Gargždapilis                  |              99 |           98983 |       0,00% |
+| 13 | gazas.lt                      |            5454 |         2022545 |       0,05% |
+| 14 | gov.lt                        |          515173 |       162776172 |       4,13% |
+| 15 | Hubris                        |              16 |         1118951 |       0,03% |
+| 16 | Humanitarų meka               |              64 |           68586 |       0,00% |
+| 17 | Internet archive              |             112 |         5592994 |       0,14% |
+| 18 | Įv. autoriai                  |             182 |         1226753 |       0,03% |
+| 19 | kaunas.kasvyksta.lt           |           49662 |        15141979 |       0,38% |
+| 20 | Lituanistika_DB               |             286 |         1036134 |       0,03% |
+| 21 | LLTI                          |               2 |          867891 |       0,02% |
+| 22 | lrytas.lt                     |         1140602 |       380082600 |       9,64% |
+| 23 | lrkt.lt                       |            1029 |         4162009 |       0,11% |
+| 24 | lrs.lt                        |          134968 |       118782124 |       3,01% |
+| 25 | lrt.lt                        |          761744 |       244438996 |       6,20% |
+| 26 | MIDAS                         |              42 |           39747 |       0,00% |
+| 27 | pirkimai.eviesiejipirkimai.lt |           46288 |       117844194 |       2,99% |
+| 28 | raudonoji_knyga               |             396 |          103296 |       0,00% |
+| 29 | sena.lt                       |              88 |           31883 |       0,00% |
+| 30 | Švenčionių kraštas            |           11046 |         5253903 |       0,13% |
+| 31 | tautinispaveldas.lt           |             392 |           59793 |       0,00% |
+| 32 | teismai.lt                    |          715704 |       499968264 |      12,68% |
+| 33 | vdu.lt                        |            5937 |          709234 |       0,02% |
+| 34 | ve.lt                         |          427947 |       160571897 |       4,07% |
+| 35 | Vikipedija                    |          170718 |        34741743 |       0,88% |
+| 36 | zmones.15min.lt               |           16310 |         9528922 |       0,24% |
+|    | **Iš viso**                   |     **8438155** |  **3941476219** | **100,00%** |
+Surinkti tekstai publikuoti
+| Laikotarpis |        Žyma |     Žodžių sk. |       Dalis |  Tekstų sk. |
+| ----------- | ----------: | -------------: | ----------: | ----------: |
+| 1922–1940   |           1 |       11226438 |       0,28% |         290 |
+| 1941–1990   |           2 |       10440807 |       0,26% |        4288 |
+| 1990–2004   |           3 |      229775041 |       5,83% |      684357 |
+| 2008–2026   |           4 |     3690033933 |      93,62% |     7749220 |
+|             | **Iš viso** | **3941476219** | **100,00%** | **8438155** |
+### Licencija
+Šis duomenų rinkinys yra platinamas pagal **NewGenLTU OpenRAIL-D** licenciją.
+Ši „Open RAIL-D“ licencija buvo specialiai sukurta Vytauto Didžiojo universiteto tyrėjų komandos, siekiant skelbti projekto rezultatus – duomenų rinkinius, – kurie buvo parengti vykdant mokslinių tyrimų ir plėtros projektus, finansuojamus pagal programą „Naujos kartos Lietuvoje“. Programa „Naujos kartos Lietuva“ finansuojama iš Ekonomikos gaivinimo ir atsparumo didinimo priemonės (RRF). Buvo nuspręsta sukurti šią licenciją siekiant pašalinti tam tikrus duomenų rinkinių naudojimo apribojimus ir užtikrinti atitiktį ES AI aktui, duomenų apsaugos reikalavimams bei autorių teisių įstatymams.
+Šia licencija siekiama atviro ir atsakingo modelio ir (arba) duomenų rinkinių tolesnio naudojimo, tuo pačiu užtikrinant, kad duomenų rinkinyje esantys kūriniai, kuriems taikomos autorių teisės, nebūtų naudojami kūriniams atkurti, o būtų naudojami AI mokymui ir kitai technologijų plėtros veiklai. Panašiai, kaip ir modelių atveju, licencija siekia užtikrinti atitiktį ES duomenų apsaugos reglamentui, taigi draudžia asmens duomenų atkūrimą ar išgavimą iš duomenų rinkinio.
+Ši licencija reglamentuoja duomenų rinkinio ir (arba) modelio (ir jų išvestinių kūrinių) naudojimą.
+Prašome peržiūrėti pridedamą failą „LICENSE.txt“ šiame saugykloje.
+### Rekomenduojamas naudojimas
+- Generatyvinė užduotis: automatinį tekstų kūrimas, apibendrinimų generavimas, kūrybinių idėjų ir scenarijų generavimas.
+- Redagavimo užduotis ir korektūra: gramatikos, stiliaus teksto aiškumo ir struktūros tobulinimas.
+- Verslo sprendimai:
+  - Kalbos redagavimo įrankiai
+  - Išmanioji paieška ir teksto santraukų generavimas.
+  - Virtualių asistentų, rinkodaros tekstų kūrimas.
+  - Duomenų analizė ir klientų poreikių įžvalgos.
+### Apribojimai
+Pagal **NewGenLTU OpenRAIL-D** licenciją vartotojai negali naudoti šio duomenų rinkinio šiais tikslais: diskriminacijai; ginklų ar karinių programų kūrimui; automatizuotam sprendimų priėmimui; dezinformacijos skleidimui; privatumo pažeidimams; medicininių ar sveikatos patarimų teikimui; kenkėjiškų programų kūrimui; priekabiavimui; nesąžiningiems tyrimams; arba asmens duomenų rinkimui.
+Daugiau informacijos rasite šioje saugykloje esančiame pridedamame faile `LICENSE.txt`.
+### Ribotumai
+Kūrėjai dėjo visas pastangas, kad tekstyną išvalytų nuo šiukšlių, klaidų ir dubliažų. Tačiau:
+- Rašybos klaidų dalis: 0,46%
+- Kitų kalbų žodžių dalis:  0,07%
+- 1–2 laikotarpių tekstuose (0,54 %) gali būti senų, nebevartojamų žodžių, frazių ar posakių
+- Tekstye vyrauja tekstai iš naujienų portalų (52 %) ir dokumentų (38 %).
+### Citavimas
+"Bendrasis lietuvių kalbos tekstynas".