README.md

---
language:
- es
license: other
size_categories:
- 100K<n<1M
tags:
- open-access
- argentina
- conicet
# Config explícito para el HF dataset viewer: sin esta declaración el
# datasets-server auto-infere configs, escanea papers/**/*.pdf y explota
# con SplitsNotFoundError (FolderBasedBuilder exige key file_name).
# Con data_files fijas el viewer solo parsea el parquet; los PDFs se
# siguen descargando por URL/hf download, el viewer simplemente no los
# indexa.
configs:
- config_name: metadata
  data_files:
  - split: train
    path: data/metadata.parquet
---

# RI CONICET — metadatos completos + PDFs de acceso abierto

Snapshot del repositorio institucional **CONICET Digital**
([ri.conicet.gov.ar](https://ri.conicet.gov.ar), DSpace, 266.824 publicaciones):
metadatos de toda la producción científica y tecnológica de CONICET,
junto con los PDFs de acceso abierto.

> **⚠️ Dataset en progreso** — La recolección está en curso: el snapshot de
> metadatos y el corpus de PDFs crecen con el tiempo y se actualizan
> automáticamente. Si necesitás el repositorio completo de una vez, esperá a
> que la recolección termine.

- **Fuente**: OAI-PMH 2.0 de ri.conicet.gov.ar (prefijo de handles `11336`)
- **Mantenimiento**: CITA - UNRN (Instituto de Ciencias, Ingenierías y
  Tecnología Aplicada, Universidad Nacional de Río Negro). El snapshot se
  actualiza automáticamente; las publicaciones nuevas se suman en commits
  incrementales.

## Estructura

| Ruta | Contenido |
|---|---|
| `data/metadata.parquet` | Metadatos, una fila por publicación (snapshot) |
| `papers/<shard>/<item_id>.pdf` | PDF de acceso abierto (solo publicaciones abiertas con PDF). `<shard>` = `item_id // 20000` a 2 dígitos (p. ej. `papers/08/179477.pdf`) |

### Campos del metadata

| Columna | Tipo | Descripción |
|---|---|---|
| `item_id` | str | ID DSpace (p. ej. `179477`). Identificador único; el handle es `http://hdl.handle.net/11336/<item_id>` y el OAI id `oai:ri.conicet.gov.ar:11336/<item_id>` |
| `title` | str | Título |
| `creators` | list[str] | Autores |
| `subjects` | list[str] | Palabras clave / materias |
| `description` | str | Resumen |
| `date` | str | Fecha de publicación (AAAA o AAAA-MM) |
| `type` | str | Tipo de documento (`info:eu-repo/semantics/...`) |
| `language` | str | Código ISO 639 (mayormente `spa`) |
| `publisher` | str | Institución productora |
| `rights` | str | Derechos (`info:eu-repo/semantics/openAccess`, `...restrictedAccess`, `...embargoedAccess`, `...closedAccess`, ...) |
| `formats` | list[str] | Formatos del bitstream (`application/pdf`, ...) |
| `deleted` | bool | Si fue borrada del repositorio (raro) |
| `fetched_at` | datetime | Momento en que se recolectó el registro |
| `pdf` | str / None | `papers/<shard>/<item_id>.pdf` si el PDF ya fue publicado en el repo; `None` si no |
| `embedding` | list[float] (1024) / None | Embedding float32 del texto del PDF (modelo `citecca-embeddings` = Jina embeddings v5 omni, 1024 dims); `None` si no hay PDF de acceso abierto, si el PDF está escaneado sin texto extraíble, o si todavía está en cola de incrustación |

Notas:
- **Acceso abierto** = `rights == "info:eu-repo/semantics/openAccess"`.
- `pdf` es `None` en dos casos: publicaciones cerradas/restringidas (no se
  publica su PDF), y publicaciones abiertas cuyo PDF todavía no fue
  recolectado (el corpus crece con el tiempo y la columna se actualiza en
  snapshots periódicos). Cuando `pdf` no es `None`, el archivo existe en el
  repo.
- El ID OAI y el handle se derivan de `item_id` (no se guardan por separado
  para evitar columnas redundantes).

## Uso

```python
from datasets import load_dataset

ds = load_dataset("UNRN/ri-conicet", data_files="data/metadata.parquet",
                  split="train")
ds[0]["title"]

# solo publicaciones abiertas con PDF disponible
ds.filter(lambda r: r["pdf"] is not None)
```

PDFs:

```bash
# un PDF (sharded: papers/<item_id // 20000>/<id>.pdf)
hf download UNRN/ri-conicet papers/08/179477.pdf

# corpus completo (miles de GB; usar con cuidado)
hf download UNRN/ri-conicet papers
```

## Licencia y uso

Los derechos de cada publicación pertenecen a sus autor(es)/institución; la
mayoría se publica bajo licencias tipo CC BY-NC. Las publicaciones
restringidas o en embargo **no** incluyen PDF (el repositorio requiere
solicitar acceso al autor). Úsese respetando los términos de cada obra,
preferentemente con fines de investigación y no comerciales.

## Citación

```bibtex
@misc{ri-conicet-hf-2026,
  title  = {RI CONICET: metadatos completos y PDFs de acceso abierto},
  author = {CITA - Universidad Nacional de R\'io Negro},
  month  = aug,
  year   = {2026},
  publisher = {Hugging Face},
  journal = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/UNRN/ri-conicet}}
}
```