ri-conicet / README.md
marianbasti's picture
dataset card v5 (explicit configs for HF viewer)
0de7bf2 verified
|
Raw
History Blame Contribute Delete
4.84 kB
metadata
language:
  - es
license: other
size_categories:
  - 100K<n<1M
tags:
  - open-access
  - argentina
  - conicet
configs:
  - config_name: metadata
    data_files:
      - split: train
        path: data/metadata.parquet

RI CONICET — metadatos completos + PDFs de acceso abierto

Snapshot del repositorio institucional CONICET Digital (ri.conicet.gov.ar, DSpace, 266.824 publicaciones): metadatos de toda la producción científica y tecnológica de CONICET, junto con los PDFs de acceso abierto.

⚠️ Dataset en progreso — La recolección está en curso: el snapshot de metadatos y el corpus de PDFs crecen con el tiempo y se actualizan automáticamente. Si necesitás el repositorio completo de una vez, esperá a que la recolección termine.

  • Fuente: OAI-PMH 2.0 de ri.conicet.gov.ar (prefijo de handles 11336)
  • Mantenimiento: CITA - UNRN (Instituto de Ciencias, Ingenierías y Tecnología Aplicada, Universidad Nacional de Río Negro). El snapshot se actualiza automáticamente; las publicaciones nuevas se suman en commits incrementales.

Estructura

Ruta Contenido
data/metadata.parquet Metadatos, una fila por publicación (snapshot)
papers/<shard>/<item_id>.pdf PDF de acceso abierto (solo publicaciones abiertas con PDF). <shard> = item_id // 20000 a 2 dígitos (p. ej. papers/08/179477.pdf)

Campos del metadata

Columna Tipo Descripción
item_id str ID DSpace (p. ej. 179477). Identificador único; el handle es http://hdl.handle.net/11336/<item_id> y el OAI id oai:ri.conicet.gov.ar:11336/<item_id>
title str Título
creators list[str] Autores
subjects list[str] Palabras clave / materias
description str Resumen
date str Fecha de publicación (AAAA o AAAA-MM)
type str Tipo de documento (info:eu-repo/semantics/...)
language str Código ISO 639 (mayormente spa)
publisher str Institución productora
rights str Derechos (info:eu-repo/semantics/openAccess, ...restrictedAccess, ...embargoedAccess, ...closedAccess, ...)
formats list[str] Formatos del bitstream (application/pdf, ...)
deleted bool Si fue borrada del repositorio (raro)
fetched_at datetime Momento en que se recolectó el registro
pdf str / None papers/<shard>/<item_id>.pdf si el PDF ya fue publicado en el repo; None si no
embedding list[float] (1024) / None Embedding float32 del texto del PDF (modelo citecca-embeddings = Jina embeddings v5 omni, 1024 dims); None si no hay PDF de acceso abierto, si el PDF está escaneado sin texto extraíble, o si todavía está en cola de incrustación

Notas:

  • Acceso abierto = rights == "info:eu-repo/semantics/openAccess".
  • pdf es None en dos casos: publicaciones cerradas/restringidas (no se publica su PDF), y publicaciones abiertas cuyo PDF todavía no fue recolectado (el corpus crece con el tiempo y la columna se actualiza en snapshots periódicos). Cuando pdf no es None, el archivo existe en el repo.
  • El ID OAI y el handle se derivan de item_id (no se guardan por separado para evitar columnas redundantes).

Uso

from datasets import load_dataset

ds = load_dataset("UNRN/ri-conicet", data_files="data/metadata.parquet",
                  split="train")
ds[0]["title"]

# solo publicaciones abiertas con PDF disponible
ds.filter(lambda r: r["pdf"] is not None)

PDFs:

# un PDF (sharded: papers/<item_id // 20000>/<id>.pdf)
hf download UNRN/ri-conicet papers/08/179477.pdf

# corpus completo (miles de GB; usar con cuidado)
hf download UNRN/ri-conicet papers

Licencia y uso

Los derechos de cada publicación pertenecen a sus autor(es)/institución; la mayoría se publica bajo licencias tipo CC BY-NC. Las publicaciones restringidas o en embargo no incluyen PDF (el repositorio requiere solicitar acceso al autor). Úsese respetando los términos de cada obra, preferentemente con fines de investigación y no comerciales.

Citación

@misc{ri-conicet-hf-2026,
  title  = {RI CONICET: metadatos completos y PDFs de acceso abierto},
  author = {CITA - Universidad Nacional de R\'io Negro},
  month  = aug,
  year   = {2026},
  publisher = {Hugging Face},
  journal = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/UNRN/ri-conicet}}
}