README.md

metadata

license: cc-by-4.0
language:
  - en
  - gl
task_categories:
  - translation
pretty_name: MT_en-gl
size_categories:
  - 10M<n<100M

English-Galician Parallel Corpus (MT_en-gl)

Two JSONL files aggregating parallel corpora for English→Galician translation.

Files

File	Lines	Size	Pipeline
en_gl.jsonl	9,982,077	2.6 GB	standard_pipeline
en_gl_trans.jsonl	10,262,102	4.1 GB	PT_GL_parallel

Format

{"src-tgt": "en-gl", "src": "...", "tgt": "...", "id": "en_gl-0000000001"}

Pipeline

All corpora processed through the Proxecto Nós pipeline. Pipeline components defined in entrypoint.sh.

• standard_pipeline (en_gl.jsonl): encoder → deduplication → pyplexity scoring → QueLingua language filtering → normalization
• PT_GL_parallel (en_gl_trans.jsonl): mt_deduplication → mt_transliteration (Apertium + port2gal) → normalization

Sources

All available corpora from OPUS for the English-Galician pair compatible with CC BY 4.0 have been sourced and processed. Additional non-OPUS corpora included:

Corpus	Description
cluvi	CLUVI literary parallel corpus
valid	Custom validation set

The source data has been filtered, cleaned, scored, deduplicated, and normalized through the pipeline above.

The en_gl_trans.jsonl file contains source text that was machine-translated into Galician (source-side text is the original, target-side text is post-edited machine translation). en_gl.jsonl contains naturally occurring parallel text.

License

Creative Commons Attribution 4.0 International (CC BY 4.0)

Funding and acknowledgements

This work is funded by the Ministerio para la Transformación Digital y de la Función Pública - Funded by EU – NextGenerationEU within the framework of the project Desarrollo de Modelos ALIA.

---

Galego

Corpus paralelo inglés-galego (MT_en-gl)

Dous ficheiros JSONL que agregan corpus paralelos para a tradución inglés→galego.

Ficheiros

Ficheiro	Liñas	Tamaño	Pipeline
en_gl.jsonl	9 982 077	2,6 GB	standard_pipeline
en_gl_trans.jsonl	10 262 102	4,1 GB	PT_GL_parallel

Formato

{"src-tgt": "en-gl", "src": "...", "tgt": "...", "id": "en_gl-0000000001"}

Pipeline

Todos os corpus foron procesados co pipeline de Proxecto Nós. Os compoñentes do pipeline están definidos en entrypoint.sh.

• standard_pipeline (en_gl.jsonl): codificador → deduplicación → puntuación pyplexity → filtrado lingüístico QueLingua → normalización
• PT_GL_parallel (en_gl_trans.jsonl): deduplicación paralela → transliteración automática (Apertium + port2gal) → normalización

Fontes

Todos os corpus dispoñibles no OPUS para o par inglés-galego compatibles coa licenza CC BY 4.0 foron recollidos e procesados. Corpus adicionais non procedentes do OPUS:

Corpus	Descrición
cluvi	Corpus paralelo literario CLUVI
valid	Conxunto de validación personalizado

Os datos de orixe foron filtrados, limpos, puntuados, deduplicados e normalizados mediante o pipeline anterior.

O ficheiro en_gl_trans.jsonl contén texto fonte traducido automaticamente ao galego (o texto de orixe é o orixinal, o texto de destino é tradución automática posteditada). en_gl.jsonl contén texto paralelo natural.

Licenza

Creative Commons Attribution 4.0 International (CC BY 4.0)

Funding and acknowledgements

Esta publicación do proxecto Desenvolvemento de Modelos ALIA está financiada polo Ministerio para a Transformación Dixital e da Función Pública e polo Plan de Recuperación, Transformación e Resiliencia – Financiado pola Unión Europea – NextGenerationEU.

---

Español

Corpus paralelo inglés-gallego (MT_en-gl)

Dos archivos JSONL que reúnen corpus paralelos para la traducción inglés→gallego.

Archivos

Archivo	Líneas	Tamaño	Pipeline
en_gl.jsonl	9 982 077	2,6 GB	standard_pipeline
en_gl_trans.jsonl	10 262 102	4,1 GB	PT_GL_parallel

Formato

{"src-tgt": "en-gl", "src": "...", "tgt": "...", "id": "en_gl-0000000001"}

Pipeline

Todos los corpus fueron procesados con el pipeline de Proxecto Nós. Los componentes del pipeline están definidos en entrypoint.sh.

• standard_pipeline (en_gl.jsonl): codificador → deduplicación → puntuación pyplexity → filtrado lingüístico QueLingua → normalización
• PT_GL_parallel (en_gl_trans.jsonl): deduplicación paralela → transliteración automática (Apertium + port2gal) → normalización

Fuentes

Todos los corpus disponibles en OPUS para el par inglés-gallego compatibles con la licencia CC BY 4.0 fueron recogidos y procesados. Corpus adicionales no procedentes de OPUS:

Corpus	Descripción
cluvi	Corpus paralelo literario CLUVI
valid	Conjunto de validación personalizado

Los datos de origen fueron filtrados, limpiados, puntuados, deduplicados y normalizados mediante el pipeline anterior.

El archivo en_gl_trans.jsonl contiene texto fuente traducido automáticamente al gallego (el texto de origen es el original, el texto de destino es traducción automática posteditada). en_gl.jsonl contiene texto paralelo natural.

Licencia

Creative Commons Attribution 4.0 International (CC BY 4.0)

Financiación y agradecimientos

Esta publicación del proyecto Desarrollo de Modelos ALIA está financiada por el Ministerio para la Transformación Digital y de la Función Pública y por el Plan de Recuperación, Transformación y Resiliencia – Financiado por la Unión Europea – NextGenerationEU.

---

Português

Corpus paralelo inglês-galego (MT_en-gl)

Dois ficheiros JSONL que agregam corpus paralelos para a tradução inglês→galego.

Ficheiros

Ficheiro	Linhas	Tamanho	Pipeline
en_gl.jsonl	9 982 077	2,6 GB	standard_pipeline
en_gl_trans.jsonl	10 262 102	4,1 GB	PT_GL_parallel

Formato

{"src-tgt": "en-gl", "src": "...", "tgt": "...", "id": "en_gl-0000000001"}

Pipeline

Todos os corpus foram processados com o pipeline do Proxecto Nós. Os componentes do pipeline estão definidos em entrypoint.sh.

• standard_pipeline (en_gl.jsonl): codificador → deduplicação → pontuação pyplexity → filtragem linguística QueLingua → normalização
• PT_GL_parallel (en_gl_trans.jsonl): deduplicação paralela → transliteração automática (Apertium + port2gal) → normalização

Fontes

Todos os corpus disponíveis no OPUS para o par inglês-galego compatíveis com a licença CC BY 4.0 foram recolhidos e processados. Corpus adicionais não provenientes do OPUS:

Corpus	Descrição
cluvi	Corpus paralelo literário CLUVI
valid	Conjunto de validação personalizado

Os dados de origem foram filtrados, limpos, pontuados, deduplicados e normalizados através do pipeline acima.

O ficheiro en_gl_trans.jsonl contém texto fonte traduzido automaticamente para galego (o texto de origem é o original, o texto de destino é tradução automática pós-editada). en_gl.jsonl contém texto paralelo natural.

Licença

Creative Commons Attribution 4.0 International (CC BY 4.0)

Funding and acknowledgements

Esta publicação do projeto Desenvolvimento de Modelos ALIA é financiada pelo Ministério para a Transformação Digital e da Função Pública e pelo Plano de Recuperação, Transformação e Resiliência – Financiado pela União Europeia – NextGenerationEU.