README.md

metadata

license: cc-by-4.0
language:
  - es
  - gl
task_categories:
  - translation
pretty_name: MT_es-gl
size_categories:
  - 10M<n<100M

Spanish-Galician Parallel Corpus (MT_es-gl)

Two JSONL files aggregating parallel corpora for Spanish→Galician translation.

Files

File	Lines	Size	Pipeline
es_gl.jsonl	15,832,586	5.1 GB	standard_pipeline
es_gl_trans.jsonl	28,389,111	8.1 GB	PT_GL_parallel

Format

{"src-tgt": "es-gl", "src": "...", "tgt": "...", "id": "es_gl-0000000001"}

Pipeline

All corpora processed through the Proxecto Nós pipeline. Pipeline components defined in entrypoint.sh.

• standard_pipeline (es_gl.jsonl): encoder → deduplication → pyplexity scoring → QueLingua language filtering → normalization
• PT_GL_parallel (es_gl_trans.jsonl): mt_deduplication → mt_transliteration (Apertium + port2gal) → normalization

Sources

All available corpora from OPUS for the Spanish-Galician pair compatible with CC BY 4.0 have been sourced and processed. Additional non-OPUS corpora included:

Corpus	Description
cluvi	CLUVI literary parallel corpus
erros_sistematicos	Proxecto Nós systematic errors
idioms	Proxecto Nós idiomatic expressions
valid	Custom validation set

The source data has been filtered, cleaned, scored, deduplicated, and normalized through the pipeline above.

The es_gl_trans.jsonl file contains source text that was machine-translated into Galician (source-side text is the original, target-side text is post-edited machine translation). es_gl.jsonl contains naturally occurring parallel text.

License

Creative Commons Attribution 4.0 International (CC BY 4.0)

Funding and acknowledgements

This work is funded by the Ministerio para la Transformación Digital y de la Función Pública - Funded by EU – NextGenerationEU within the framework of the project Desarrollo de Modelos ALIA.

---

Galego

Corpus paralelo español-galego (MT_es-gl)

Dous ficheiros JSONL que agregan corpus paralelos para a tradución español→galego.

Ficheiros

Ficheiro	Liñas	Tamaño	Pipeline
es_gl.jsonl	15 832 586	5,1 GB	standard_pipeline
es_gl_trans.jsonl	28 389 111	8,1 GB	PT_GL_parallel

Formato

{"src-tgt": "es-gl", "src": "...", "tgt": "...", "id": "es_gl-0000000001"}

Pipeline

Todos os corpus foron procesados co pipeline de Proxecto Nós. Os compoñentes do pipeline están definidos en entrypoint.sh.

• standard_pipeline (es_gl.jsonl): codificador → deduplicación → puntuación pyplexity → filtrado lingüístico QueLingua → normalización
• PT_GL_parallel (es_gl_trans.jsonl): deduplicación paralela → transliteración automática (Apertium + port2gal) → normalización

Fontes

Todos os corpus dispoñibles no OPUS para o par español-galego compatibles coa licenza CC BY 4.0 foron recollidos e procesados. Corpus adicionais non procedentes do OPUS:

Corpus	Descrición
cluvi	Corpus paralelo literario CLUVI
erros_sistematicos	Erros sistemáticos de Proxecto Nós
idioms	Expresións idiomáticas de Proxecto Nós
valid	Conxunto de validación personalizado

Os datos de orixe foron filtrados, limpos, puntuados, deduplicados e normalizados mediante o pipeline anterior.

O ficheiro es_gl_trans.jsonl contén texto fonte traducido automaticamente ao galego (o texto de orixe é o orixinal, o texto de destino é tradución automática posteditada). es_gl.jsonl contén texto paralelo natural.

Licenza

Creative Commons Attribution 4.0 International (CC BY 4.0)

Funding and acknowledgements

Esta publicación do proxecto Desenvolvemento de Modelos ALIA está financiada polo Ministerio para a Transformación Dixital e da Función Pública e polo Plan de Recuperación, Transformación e Resiliencia – Financiado pola Unión Europea – NextGenerationEU.

---

Español

Corpus paralelo español-gallego (MT_es-gl)

Dos archivos JSONL que reúnen corpus paralelos para la traducción español→gallego.

Archivos

Archivo	Líneas	Tamaño	Pipeline
es_gl.jsonl	15 832 586	5,1 GB	standard_pipeline
es_gl_trans.jsonl	28 389 111	8,1 GB	PT_GL_parallel

Formato

{"src-tgt": "es-gl", "src": "...", "tgt": "...", "id": "es_gl-0000000001"}

Pipeline

Todos los corpus fueron procesados con el pipeline de Proxecto Nós. Los componentes del pipeline están definidos en entrypoint.sh.

• standard_pipeline (es_gl.jsonl): codificador → deduplicación → puntuación pyplexity → filtrado lingüístico QueLingua → normalización
• PT_GL_parallel (es_gl_trans.jsonl): deduplicación paralela → transliteración automática (Apertium + port2gal) → normalización

Fuentes

Todos los corpus disponibles en OPUS para el par español-gallego compatibles con la licencia CC BY 4.0 fueron recogidos y procesados. Corpus adicionales no procedentes de OPUS:

Corpus	Descripción
cluvi	Corpus paralelo literario CLUVI
erros_sistematicos	Errores sistemáticos de Proxecto Nós
idioms	Expresiones idiomáticas de Proxecto Nós
valid	Conjunto de validación personalizado

Los datos de origen fueron filtrados, limpiados, puntuados, deduplicados y normalizados mediante el pipeline anterior.

El archivo es_gl_trans.jsonl contiene texto fuente traducido automáticamente al gallego (el texto de origen es el original, el texto de destino es traducción automática posteditada). es_gl.jsonl contiene texto paralelo natural.

Licencia

Creative Commons Attribution 4.0 International (CC BY 4.0)

Financiación y agradecimientos

Esta publicación del proyecto Desarrollo de Modelos ALIA está financiada por el Ministerio para la Transformación Digital y de la Función Pública y por el Plan de Recuperación, Transformación y Resiliencia – Financiado por la Unión Europea – NextGenerationEU.

---

Português

Corpus paralelo espanhol-galego (MT_es-gl)

Dois ficheiros JSONL que agregam corpus paralelos para a tradução espanhol→galego.

Ficheiros

Ficheiro	Linhas	Tamanho	Pipeline
es_gl.jsonl	15 832 586	5,1 GB	standard_pipeline
es_gl_trans.jsonl	28 389 111	8,1 GB	PT_GL_parallel

Formato

{"src-tgt": "es-gl", "src": "...", "tgt": "...", "id": "es_gl-0000000001"}

Pipeline

Todos os corpus foram processados com o pipeline do Proxecto Nós. Os componentes do pipeline estão definidos em entrypoint.sh.

• standard_pipeline (es_gl.jsonl): codificador → deduplicação → pontuação pyplexity → filtragem linguística QueLingua → normalização
• PT_GL_parallel (es_gl_trans.jsonl): deduplicação paralela → transliteração automática (Apertium + port2gal) → normalização

Fontes

Todos os corpus disponíveis no OPUS para o par espanhol-galego compatíveis com a licença CC BY 4.0 foram recolhidos e processados. Corpus adicionais não provenientes do OPUS:

Corpus	Descrição
cluvi	Corpus paralelo literário CLUVI
erros_sistematicos	Erros sistemáticos do Proxecto Nós
idioms	Expressões idiomáticas do Proxecto Nós
valid	Conjunto de validação personalizado

Os dados de origem foram filtrados, limpos, pontuados, deduplicados e normalizados através do pipeline acima.

O ficheiro es_gl_trans.jsonl contém texto fonte traduzido automaticamente para galego (o texto de origem é o original, o texto de destino é tradução automática pós-editada). es_gl.jsonl contém texto paralelo natural.

Licença

Creative Commons Attribution 4.0 International (CC BY 4.0)

Funding and acknowledgements

Esta publicação do projeto Desenvolvimento de Modelos ALIA é financiada pelo Ministério para a Transformação Digital e da Função Pública e pelo Plano de Recuperação, Transformação e Resiliência – Financiado pela União Europeia – NextGenerationEU.