README.md

---
license: cc-by-4.0
language:
- es
- gl
task_categories:
- translation
pretty_name: MT_es-gl
size_categories:
- 10M<n<100M
---

# Spanish-Galician Parallel Corpus (MT_es-gl)

Two JSONL files aggregating parallel corpora for Spanish→Galician translation.

## Files

| File | Lines | Size | Pipeline |
|------|-------|------|----------|
| `es_gl.jsonl` | 15,832,586 | 5.1 GB | standard_pipeline |
| `es_gl_trans.jsonl` | 28,389,111 | 8.1 GB | PT_GL_parallel |

## Format

```json
{"src-tgt": "es-gl", "src": "...", "tgt": "...", "id": "es_gl-0000000001"}
```

## Pipeline

All corpora processed through the [Proxecto Nós pipeline](https://github.com/proxectonos/pipeline). Pipeline components defined in `entrypoint.sh`.

- **standard_pipeline** (`es_gl.jsonl`): encoder → deduplication → pyplexity scoring → QueLingua language filtering → normalization
- **PT_GL_parallel** (`es_gl_trans.jsonl`): mt_deduplication → mt_transliteration (Apertium + port2gal) → normalization

## Sources

All available corpora from OPUS for the Spanish-Galician pair compatible
with CC BY 4.0 have been sourced and processed. Additional non-OPUS corpora
included:

| Corpus | Description |
|--------|-------------|
| cluvi | CLUVI literary parallel corpus |
| erros_sistematicos | Proxecto Nós systematic errors |
| idioms | Proxecto Nós idiomatic expressions |
| valid | Custom validation set |

The source data has been filtered, cleaned, scored, deduplicated,
and normalized through the pipeline above.

The `es_gl_trans.jsonl` file contains source text that was machine-translated
into Galician (source-side text is the original, target-side text
is post-edited machine translation). `es_gl.jsonl` contains
naturally occurring parallel text.

## License

**Creative Commons Attribution 4.0 International (CC BY 4.0)**

## Funding and acknowledgements

This work is funded by the Ministerio para la Transformación Digital y de la Función Pública - Funded by EU – NextGenerationEU within the framework of the project Desarrollo de Modelos ALIA.

---

## Galego

# Corpus paralelo español-galego (MT_es-gl)

Dous ficheiros JSONL que agregan corpus paralelos para a tradución español→galego.

### Ficheiros

| Ficheiro | Liñas | Tamaño | Pipeline |
|----------|-------|--------|----------|
| `es_gl.jsonl` | 15 832 586 | 5,1 GB | standard_pipeline |
| `es_gl_trans.jsonl` | 28 389 111 | 8,1 GB | PT_GL_parallel |

### Formato

```json
{"src-tgt": "es-gl", "src": "...", "tgt": "...", "id": "es_gl-0000000001"}
```

### Pipeline

Todos os corpus foron procesados co [pipeline de Proxecto Nós](https://github.com/proxectonos/pipeline). Os compoñentes do pipeline están definidos en `entrypoint.sh`.

- **standard_pipeline** (`es_gl.jsonl`): codificador → deduplicación → puntuación pyplexity → filtrado lingüístico QueLingua → normalización
- **PT_GL_parallel** (`es_gl_trans.jsonl`): deduplicación paralela → transliteración automática (Apertium + port2gal) → normalización

### Fontes

Todos os corpus dispoñibles no OPUS para o par español-galego compatibles
coa licenza CC BY 4.0 foron recollidos e procesados. Corpus adicionais
non procedentes do OPUS:

| Corpus | Descrición |
|--------|------------|
| cluvi | Corpus paralelo literario CLUVI |
| erros_sistematicos | Erros sistemáticos de Proxecto Nós |
| idioms | Expresións idiomáticas de Proxecto Nós |
| valid | Conxunto de validación personalizado |

Os datos de orixe foron filtrados, limpos, puntuados, deduplicados
e normalizados mediante o pipeline anterior.

O ficheiro `es_gl_trans.jsonl` contén texto fonte traducido automaticamente
ao galego (o texto de orixe é o orixinal, o texto de destino é tradución
automática posteditada). `es_gl.jsonl` contén texto paralelo natural.

### Licenza

**Creative Commons Attribution 4.0 International (CC BY 4.0)**

## Funding and acknowledgements

Esta publicación do proxecto Desenvolvemento de Modelos ALIA está financiada polo Ministerio para a Transformación Dixital e da Función Pública e polo Plan de Recuperación, Transformación e Resiliencia – Financiado pola Unión Europea – NextGenerationEU.

---

## Español

# Corpus paralelo español-gallego (MT_es-gl)

Dos archivos JSONL que reúnen corpus paralelos para la traducción español→gallego.

### Archivos

| Archivo | Líneas | Tamaño | Pipeline |
|---------|--------|--------|----------|
| `es_gl.jsonl` | 15 832 586 | 5,1 GB | standard_pipeline |
| `es_gl_trans.jsonl` | 28 389 111 | 8,1 GB | PT_GL_parallel |

### Formato

```json
{"src-tgt": "es-gl", "src": "...", "tgt": "...", "id": "es_gl-0000000001"}
```

### Pipeline

Todos los corpus fueron procesados con el [pipeline de Proxecto Nós](https://github.com/proxectonos/pipeline). Los componentes del pipeline están definidos en `entrypoint.sh`.

- **standard_pipeline** (`es_gl.jsonl`): codificador → deduplicación → puntuación pyplexity → filtrado lingüístico QueLingua → normalización
- **PT_GL_parallel** (`es_gl_trans.jsonl`): deduplicación paralela → transliteración automática (Apertium + port2gal) → normalización

### Fuentes

Todos los corpus disponibles en OPUS para el par español-gallego compatibles
con la licencia CC BY 4.0 fueron recogidos y procesados. Corpus adicionales
no procedentes de OPUS:

| Corpus | Descripción |
|--------|-------------|
| cluvi | Corpus paralelo literario CLUVI |
| erros_sistematicos | Errores sistemáticos de Proxecto Nós |
| idioms | Expresiones idiomáticas de Proxecto Nós |
| valid | Conjunto de validación personalizado |

Los datos de origen fueron filtrados, limpiados, puntuados, deduplicados
y normalizados mediante el pipeline anterior.

El archivo `es_gl_trans.jsonl` contiene texto fuente traducido automáticamente
al gallego (el texto de origen es el original, el texto de destino es
traducción automática posteditada). `es_gl.jsonl` contiene texto paralelo natural.

### Licencia

**Creative Commons Attribution 4.0 International (CC BY 4.0)**

## Financiación y agradecimientos

Esta publicación del proyecto Desarrollo de Modelos ALIA está financiada por el Ministerio para la Transformación Digital y de la Función Pública y por el Plan de Recuperación, Transformación y Resiliencia – Financiado por la Unión Europea – NextGenerationEU.

---

## Português

# Corpus paralelo espanhol-galego (MT_es-gl)

Dois ficheiros JSONL que agregam corpus paralelos para a tradução espanhol→galego.

### Ficheiros

| Ficheiro | Linhas | Tamanho | Pipeline |
|----------|--------|---------|----------|
| `es_gl.jsonl` | 15 832 586 | 5,1 GB | standard_pipeline |
| `es_gl_trans.jsonl` | 28 389 111 | 8,1 GB | PT_GL_parallel |

### Formato

```json
{"src-tgt": "es-gl", "src": "...", "tgt": "...", "id": "es_gl-0000000001"}
```

### Pipeline

Todos os corpus foram processados com o [pipeline do Proxecto Nós](https://github.com/proxectonos/pipeline). Os componentes do pipeline estão definidos em `entrypoint.sh`.

- **standard_pipeline** (`es_gl.jsonl`): codificador → deduplicação → pontuação pyplexity → filtragem linguística QueLingua → normalização
- **PT_GL_parallel** (`es_gl_trans.jsonl`): deduplicação paralela → transliteração automática (Apertium + port2gal) → normalização

### Fontes

Todos os corpus disponíveis no OPUS para o par espanhol-galego compatíveis
com a licença CC BY 4.0 foram recolhidos e processados. Corpus adicionais
não provenientes do OPUS:

| Corpus | Descrição |
|--------|-----------|
| cluvi | Corpus paralelo literário CLUVI |
| erros_sistematicos | Erros sistemáticos do Proxecto Nós |
| idioms | Expressões idiomáticas do Proxecto Nós |
| valid | Conjunto de validação personalizado |

Os dados de origem foram filtrados, limpos, pontuados, deduplicados
e normalizados através do pipeline acima.

O ficheiro `es_gl_trans.jsonl` contém texto fonte traduzido automaticamente
para galego (o texto de origem é o original, o texto de destino é tradução
automática pós-editada). `es_gl.jsonl` contém texto paralelo natural.

### Licença

**Creative Commons Attribution 4.0 International (CC BY 4.0)**

## Funding and acknowledgements

Esta publicação do projeto Desenvolvimento de Modelos ALIA é financiada pelo Ministério para a Transformação Digital e da Função Pública e pelo Plano de Recuperação, Transformação e Resiliência – Financiado pela União Europeia – NextGenerationEU.