proxectonos/MT_wikidata-labels-gl

Multilingual Wikidata Labels & Descriptions (GL / ES / CA / EN)

A curated glossary of labels and descriptions extracted from Wikidata, focused on Galician (GL) and its parallel mappings to English (EN), Spanish (ES), and Catalan (CA). Built from the full Wikidata Label Maps 2025 (All Languages) dataset (725M rows across 97 Arrow shards).

Dataset Structure

Each entry is keyed by Wikidata Q-ID and contains parallel label/description pairs for available languages:

{
  "Q31": {
    "en": {"label": "Belgium", "description": "country in western Europe"},
    "gl": {"transliterated": false, "label": "Bélxica", "description": "país europeo"},
    "es": {"label": "Bélgica", "description": "país de Europa occidental"},
    "ca": {"label": "Bèlgica", "description": "país d'Europa"}
  }
}

The transliterated field indicates whether the Galician text was obtained via transliteration from Portuguese (when no native Galician entry existed in Wikidata).

Languages & Pair Counts

Pair	Entries
EN-GL	10,348,525
ES-GL	9,685,444
CA-GL	7,561,845
EN-ES	15,360,953
Total unique Q-IDs	16,117,829

• 64.5% of entries have Galician coverage (60.7% native, 39.3% transliterated from Portuguese)
• 95.3% have both English and Spanish

Repository Contents

File	Size	Description
dataset_pairs.json	3.9 GB	Full multi-pair dataset with EN, GL, ES and CA entries by Q-ID
README.md	—	Dataset card and documentation

Construction Techniques

This dataset was built with a streaming and alignment workflow designed for very large multilingual resources.

• Shard streaming with PyArrow IPC: the source dataset is distributed over 97 Arrow shards, so processing was done as a sequential stream instead of loading the full corpus into memory.
• Language-selective indexing: rather than keeping all languages in RAM, the build focused on the languages needed for the target pairs, especially Galician and Portuguese for Galician coverage recovery.
• Portuguese-to-Galician transliteration fallback: when a Wikidata item had no native Galician entry but did have Portuguese text, a batch transliteration pipeline (port2gal) was used to generate approximate Galician labels and descriptions.
• Checkpointed intermediate state: intermediate dictionaries were serialized to disk, making the build resumable and avoiding repeated full scans after interruptions.
• Q-ID-based multilingual alignment: entries were matched through their Wikidata identifier, which makes it possible to assemble parallel language views without relying on string similarity or heuristic linking.
• Single-pass pair emission: the final dataset was written by scanning the shards and emitting entries only when at least one of the target language pairs was available, reducing memory pressure during export.

As a result, the released file combines native Galician content from Wikidata with transliterated fallback coverage, while preserving the original multilingual alignment supplied by Wikidata item IDs.

License

CC BY 4.0

You are free to share and adapt the material for any purpose, as long as you give appropriate credit.

Citation

If you use this dataset, please cite both this derived work and the original source:

@misc{mt_wikidata_labels_gl_2025,
  title = {Multilingual Wikidata Labels \& Descriptions (GL/ES/CA/EN)},
  author = {Proxecto Nós},
  year = {2025},
  publisher = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/proxectonos/MT_wikidata-labels-gl}}
}

@misc{wikidata_label_maps_2025,
  title = {Wikidata Label Maps 2025 (All Languages)},
  author = {Arya, Yash Kumar},
  year = {2025},
  publisher = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/yashkumaratri/wikidata-label-maps-2025-all-languages}}
}

---

Etiquetas e Descricións Multilingües de Wikidata (GL / ES / CA / EN)

Un glosario seleccionado de etiquetas e descricións extraídas de Wikidata, centrado no galego (GL) e as súas correspondencias paralelas con inglés (EN), español (ES) e catalán (CA). Construído a partir do conxunto completo de Wikidata Label Maps 2025 (All Languages) (725M filas en 97 fragmentos Arrow).

Estrutura

Cada entrada está indexada polo Q-ID de Wikidata e contén pares paralelos de etiqueta/descrición para os idiomas dispoñibles. O campo transliterated indica se o texto en galego se obtivo por transliteración desde o portugués (cando non existía unha entrada nativa en galego en Wikidata).

Pares por lingua

Par	Entradas
EN-GL	10.348.525
ES-GL	9.685.444
CA-GL	7.561.845
EN-ES	15.360.953
Total Q-IDs únicos	16.117.829

• O 64,5 % das entradas teñen cobertura en galego (60,7 % nativas, 39,3 % transliteradas do portugués)
• O 95,3 % teñen tanto inglés como español

Técnicas de construción

Este conxunto de datos construíuse cun fluxo de procesamento e aliñamento pensado para recursos multilingües de grande tamaño.

• Procesamento en fluxo con PyArrow IPC: o conxunto de orixe distribúese en 97 fragmentos Arrow, polo que o tratamento se fixo como fluxo secuencial e non cargando todo o corpus en memoria.
• Indexación selectiva por lingua: en vez de manter todas as linguas na RAM, o proceso concentrouse nas linguas necesarias para os pares obxectivo, especialmente galego e portugués para recuperar cobertura en galego.
• Transliteración portugués-galego como respaldo: cando un elemento de Wikidata non tiña entrada nativa en galego pero si en portugués, usouse unha canalización de transliteración por lotes (port2gal) para xerar etiquetas e descricións galegas aproximadas.
• Estado intermedio con checkpoints: os dicionarios intermedios gardáronse en disco, o que permitiu retomar a execución e evitou repetir percorridos completos tras interrupcións.
• Aliñamento multilingüe por Q-ID: as entradas emparelláronse polo identificador de Wikidata, o que permite montar vistas paralelas entre linguas sen depender de similitude textual nin de heurísticas de ligazón.
• Emisión final nunha soa pasada: o ficheiro final xerouse percorrendo os fragmentos e emitindo só as entradas que tiñan polo menos un dos pares de linguas obxectivo, reducindo a presión de memoria durante a exportación.

Como resultado, o ficheiro publicado combina contido nativo en galego procedente de Wikidata con cobertura adicional obtida por transliteración, mantendo o aliñamento multilingüe orixinal dado polos Q-ID.

Licenza

CC BY 4.0

Es libre de compartir e adaptar o material para calquera propósito, sempre que se dea o crédito apropiado.

Cita

Se usas este conxunto de datos, cita tanto este traballo derivado como a fonte orixinal (ver arriba o formato BibTeX).

---

Etiquetas y Descripciones Multilingües de Wikidata (GL / ES / CA / EN)

Un glosario seleccionado de etiquetas y descripciones extraídas de Wikidata, centrado en el gallego (GL) y sus correspondencias paralelas con inglés (EN), español (ES) y catalán (CA). Construido a partir del conjunto completo de Wikidata Label Maps 2025 (All Languages) (725M filas en 97 fragmentos Arrow).

Estructura

Cada entrada está indexada por el Q-ID de Wikidata y contiene pares paralelos de etiqueta/descripción para los idiomas disponibles. El campo transliterated indica si el texto en gallego se obtuvo por transliteración desde el portugués (cuando no existía una entrada nativa en gallego en Wikidata).

Pares por idioma

Par	Entradas
EN-GL	10.348.525
ES-GL	9.685.444
CA-GL	7.561.845
EN-ES	15.360.953
Total Q-IDs únicos	16.117.829

• El 64,5 % de las entradas tienen cobertura en gallego (60,7 % nativas, 39,3 % transliteradas del portugués)
• El 95,3 % tienen tanto inglés como español

Técnicas de construcción

Este conjunto de datos se construyó con un flujo de procesamiento y alineamiento pensado para recursos multilingües de gran tamaño.

• Procesamiento en streaming con PyArrow IPC: el conjunto de origen se distribuye en 97 fragmentos Arrow, por lo que el procesamiento se hizo como flujo secuencial y no cargando todo el corpus en memoria.
• Indexación selectiva por idioma: en lugar de mantener todos los idiomas en RAM, el proceso se centró en los idiomas necesarios para los pares objetivo, especialmente gallego y portugués para recuperar cobertura en gallego.
• Transliteración portugués-gallego como respaldo: cuando un elemento de Wikidata no tenía entrada nativa en gallego pero sí en portugués, se usó una canalización de transliteración por lotes (port2gal) para generar etiquetas y descripciones gallegas aproximadas.
• Estado intermedio con checkpoints: los diccionarios intermedios se serializaron en disco, lo que permitió reanudar la ejecución y evitó repetir recorridos completos tras interrupciones.
• Alineamiento multilingüe por Q-ID: las entradas se emparejaron mediante su identificador de Wikidata, lo que permite construir vistas paralelas entre idiomas sin depender de similitud textual ni de enlaces heurísticos.
• Emisión final en una sola pasada: el archivo final se generó recorriendo los fragmentos y emitiendo solo las entradas que tenían al menos uno de los pares de idiomas objetivo, reduciendo la presión de memoria durante la exportación.

Como resultado, el archivo publicado combina contenido nativo en gallego procedente de Wikidata con cobertura adicional obtenida por transliteración, manteniendo el alineamiento multilingüe original dado por los Q-ID.

Licencia

CC BY 4.0

Eres libre de compartir y adaptar el material para cualquier propósito, siempre que se dé el crédito apropiado.

Citación

Si usas este conjunto de datos, cita tanto este trabajo derivado como la fuente original (ver arriba el formato BibTeX).

---

Etiquetas e Descrições Multilingues do Wikidata (GL / ES / CA / EN)

Um glossário selecionado de etiquetas e descrições extraídas do Wikidata, centrado no galego (GL) e nas suas correspondências paralelas com inglês (EN), espanhol (ES) e catalão (CA). Construído a partir do conjunto completo de Wikidata Label Maps 2025 (All Languages) (725M linhas em 97 fragmentos Arrow).

Estrutura

Cada entrada é indexada pelo Q-ID do Wikidata e contém pares paralelos de etiqueta/descrição para os idiomas disponíveis. O campo transliterated indica se o texto em galego foi obtido por transliteração a partir do português (quando não existia uma entrada nativa em galego no Wikidata).

Pares por idioma

Par	Entradas
EN-GL	10.348.525
ES-GL	9.685.444
CA-GL	7.561.845
EN-ES	15.360.953
Total Q-IDs únicos	16.117.829

• 64,5 % das entradas têm cobertura em galego (60,7 % nativas, 39,3 % transliteradas do português)
• 95,3 % têm tanto inglês como espanhol

Técnicas de construção

Este conjunto de dados foi construído com um fluxo de processamento e alinhamento pensado para recursos multilingues de grande dimensão.

• Processamento em fluxo com PyArrow IPC: o conjunto de origem está distribuído por 97 fragmentos Arrow, pelo que o tratamento foi feito como fluxo sequencial, sem carregar todo o corpus em memória.
• Indexação seletiva por língua: em vez de manter todas as línguas em RAM, o processo concentrou-se nas línguas necessárias para os pares-alvo, em especial galego e português para recuperar cobertura em galego.
• Transliteração português-galego como recurso de cobertura: quando um elemento de Wikidata não tinha entrada nativa em galego mas tinha texto em português, foi usada uma pipeline de transliteração em lotes (port2gal) para gerar etiquetas e descrições galegas aproximadas.
• Estado intermédio com checkpoints: os dicionários intermédios foram serializados em disco, permitindo retomar a execução e evitando repetir varrimentos completos após interrupções.
• Alinhamento multilingue por Q-ID: as entradas foram emparelhadas através do identificador Wikidata, o que permite construir vistas paralelas entre línguas sem depender de semelhança textual nem de ligações heurísticas.
• Emissão final numa única passagem: o ficheiro final foi gerado percorrendo os fragmentos e emitindo apenas as entradas que tinham pelo menos um dos pares de línguas pretendidos, reduzindo a pressão de memória durante a exportação.

Como resultado, o ficheiro publicado combina conteúdo nativo em galego proveniente do Wikidata com cobertura adicional obtida por transliteração, preservando o alinhamento multilingue original dado pelos Q-ID.

Licença

CC BY 4.0

É livre de partilhar e adaptar o material para qualquer fim, desde que seja dado o devido crédito.

Citação

Se utilizar este conjunto de dados, cite tanto este trabalho derivado como a fonte original (ver acima o formato BibTeX).