Datasets:

olaverse
/

diacbench

input stringlengths 30 195	reference stringlengths 30 195
Estan ya muy limitadas en su dimension y no se han modificado en todos estos anos.	Están ya muy limitadas en su dimensión y no se han modificado en todos estos años.
El chaval ese, Ayumi, solo tiene trece anos pero ha actuado en peliculas y teatros como “joven actor” desde que tenia cinco.	El chaval ese, Ayumi, solo tiene trece años pero ha actuado en películas y teatros como “joven actor” desde que tenía cinco.
Tal vez no gane, pero de todas formas me lleve un premio de consuelo.	Tal vez no gané, pero de todas formas me llevé un premio de consuelo.
No pude sujetarme a la cuerda mas tiempo.	No pude sujetarme a la cuerda más tiempo.
Todo esfuerzo que hace queda corto en los ojos de su papa.	Todo esfuerzo que hace queda corto en los ojos de su papá.
Toma cualquier tren del anden 5.	Toma cualquier tren del andén 5.
Ella evito responder mis preguntas.	Ella evitó responder mis preguntas.
cree que le toco el lado estrecho del embudo.	cree que le tocó el lado estrecho del embudo.
Bueno, si no lo hizo usted, entonces, ¿quien lo hizo?	Bueno, si no lo hizo usted, entonces, ¿quién lo hizo?
No hables de mas con la prensa.	No hables de más con la prensa.
¿No sabes que es alergica a los felinos?»	¿No sabes que es alérgica a los felinos?»
Los espanoles acatan sin rechistar todas las absurdas e injustas leyes de este gobierno.	Los españoles acatan sin rechistar todas las absurdas e injustas leyes de este gobierno.
Tom y Mary tienen varios hijos, pero no estoy seguro de cuantos.	Tom y Mary tienen varios hijos, pero no estoy seguro de cuántos.
Tom no amaba a Mary tanto como ella lo amaba a el.	Tom no amaba a Mary tanto como ella lo amaba a él.
Dale este recado apenas el llegue.	Dale este recado apenas él llegue.
Dile al panadero que te de una barra grande.	Dile al panadero que te dé una barra grande.
No necesito una television nueva.	No necesito una televisión nueva.
¿Cual de las historias queres que yo lea?	¿Cuál de las historias querés que yo lea?
Ella calcula mas rapido que cualquier otro estudiante.	Ella calcula más rápido que cualquier otro estudiante.
El no se atreve a decirle a sus padres que es homosexual.	Él no se atreve a decirle a sus padres que es homosexual.
Me vale lo que digan los demas.	Me vale lo que digan los demás.
Tomas cerro la puerta despacio.	Tomás cerró la puerta despacio.
Quedate y bebe algo con nosotros.	Quédate y bebe algo con nosotros.
La cuestion es quien va a hacerlo.	La cuestión es quién va a hacerlo.
¿Abririas la ventana, por favor?	¿Abrirías la ventana, por favor?
Mis ojos son mas grandes que mi estomago.	Mis ojos son más grandes que mi estómago.
¿Por que parece que siempre los hombres tienen aventuras con sus secretarias?	¿Por qué parece que siempre los hombres tienen aventuras con sus secretarias?
La indecision en situaciones limite puede ser letal.	La indecisión en situaciones límite puede ser letal.
¿Que esta preparando en la cocina?	¿Qué está preparando en la cocina?
Sabemos quienes son nuestros enemigos.	Sabemos quiénes son nuestros enemigos.
Tuvo arcadas y despues empezo a vomitar.	Tuvo arcadas y después empezó a vomitar.
Uno siempre deberia darle algo a los mendigos.	Uno siempre debería darle algo a los mendigos.
¿Comemos demasiada carne en Espana?	¿Comemos demasiada carne en España?
Ella vivira por siempre en nuestros recuerdos.	Ella vivirá por siempre en nuestros recuerdos.
Hable con entusiasmo sobre nuestra lengua.	Hablé con entusiasmo sobre nuestra lengua.
El original es infiel a la traduccion.	El original es infiel a la traducción.
La sociedad ha renunciado a cualquier imperativo social hacia el projimo a menos que de algun tipo de espectaculo a cambio.	La sociedad ha renunciado a cualquier imperativo social hacia el prójimo a menos que dé algún tipo de espectáculo a cambio.
Nos gustaria trabajar con vosotros.	Nos gustaría trabajar con vosotros.
Creo que los subterraneos son fascinantes.	Creo que los subterráneos son fascinantes.
¿De que color y de que marca es el coche del director?	¿De qué color y de qué marca es el coche del director?
Todo lo que podria ir mal fue mal.	Todo lo que podría ir mal fue mal.
Muy pocas personas saben como hacerlo.	Muy pocas personas saben cómo hacerlo.
Como el clima aqui es muy templado, nieva muy rara vez, incluso en invierno.	Como el clima aquí es muy templado, nieva muy rara vez, incluso en invierno.
¡Oh!, como quisiera ser tan alto como los otros arboles, de ese modo extenderia mis ramas en todas las direcciones y mi copa tendria vistas al ancho mundo.	¡Oh!, cómo quisiera ser tan alto como los otros árboles, de ese modo extendería mis ramas en todas las direcciones y mi copa tendría vistas al ancho mundo.
En Latinoamerica hay muchos lugares que se llaman Guayaquil.	En Latinoamérica hay muchos lugares que se llaman Guayaquil.
El estaba interesado fundamentalmente en el origen del universo y la evolucion.	Él estaba interesado fundamentalmente en el origen del universo y la evolución.
El hace buen uso de sus talentos.	Él hace buen uso de sus talentos.
El tren no para en esta estacion.	El tren no para en esta estación.
El lapicero es el instrumento mas poderoso de la gente comun.	El lapicero es el instrumento más poderoso de la gente común.
San Pablo es el centro economico de Brasil.	San Pablo es el centro económico de Brasil.
Nadie se dio cuenta de la aparicion del oso.	Nadie se dio cuenta de la aparición del oso.
Se llamo y escucho a los testigos por ultima vez.	Se llamó y escuchó a los testigos por última vez.
El no se averguenza de que su padre sea pobre.	Él no se avergüenza de que su padre sea pobre.
Pensaba que Tom seria mas mayor.	Pensaba que Tom sería más mayor.
Mi mujer siempre se esta quejando de algo.	Mi mujer siempre se está quejando de algo.
El paquete del producto decia que era inofensivo para la capa de ozono.	El paquete del producto decía que era inofensivo para la capa de ozono.
Mi reloj es mas barato que el tuyo.	Mi reloj es más barato que el tuyo.
En los prados hay varios arboles con nidos de ciguenas.	En los prados hay varios árboles con nidos de cigüeñas.
Algunos ninos estan jugando en la hierba.	Algunos niños están jugando en la hierba.
El sirviente nego haber robado el dinero.	El sirviente negó haber robado el dinero.
El diario aun no ha sacado nuestro articulo.	El diario aún no ha sacado nuestro artículo.
No quiero volver por aqui nunca mas.	No quiero volver por aquí nunca más.
Los hipopotamos viven en Africa.	Los hipopótamos viven en África.
Me gustaria que todos ganaran.	Me gustaría que todos ganaran.
Ya hace diez anos que estudia frances, asi que deberia entender lo que es el frances.	Ya hace diez años que estudia francés, así que debería entender lo que es el francés.
¿Por que te metes en la cama vestido?	¿Por qué te metes en la cama vestido?
¡Pero antes desvistete, hombre de Dios!	¡Pero antes desvístete, hombre de Dios!
Le dieron a el un vaso de zumo de naranja mezclado con vodka.	Le dieron a él un vaso de zumo de naranja mezclado con vodka.
Ella simplemente salto de alegria.	Ella simplemente saltó de alegría.
El repertorio del trovador no era muy extenso pero si variado y entretenido.	El repertorio del trovador no era muy extenso pero sí variado y entretenido.
Despues de escuchar la triste noticia, Tom rompio a llorar.	Después de escuchar la triste noticia, Tom rompió a llorar.
Dijo que queria irse, pero no dejo claro el porque.	Dijo que quería irse, pero no dejó claro el porqué.
¿Considerarias casarte conmigo?	¿Considerarías casarte conmigo?
Tom le pidio a Mary que cuidara a los ninos.	Tom le pidió a Mary que cuidara a los niños.
Me eche el aliento en las manos para calentarlas.	Me eché el aliento en las manos para calentarlas.
Tom se dio cuenta de que no habia papel higienico.	Tom se dio cuenta de que no había papel higiénico.
Un reparto de quitarse el sombrero, una historia deslumbrante y un director en estado de gracia para una pelicula que combina espectaculo y arte - esto es el Doce del patibulo.	Un reparto de quitarse el sombrero, una historia deslumbrante y un director en estado de gracia para una película que combina espectáculo y arte - esto es el Doce del patibulo.
En mi escritorio hay muchos aparatos electronicos.	En mi escritorio hay muchos aparatos electrónicos.
Creo que el unico ser que desea volver al infierno es el propio diablo.	Creo que el único ser que desea volver al infierno es el propio diablo.
No cabia un paciente mas en el consultorio del medico del pueblo.	No cabía un paciente más en el consultorio del médico del pueblo.
Por favor, hagame un poco de te.	Por favor, hágame un poco de té.
Teneis a la persona equivocada.	Tenéis a la persona equivocada.
Tiene dos direcciones de correo electronico.	Tiene dos direcciones de correo electrónico.
Compre un libro sobre los animales.	Compré un libro sobre los animales.
Yo encuentro que Tatoeba esta bastante lento hoy.	Yo encuentro que Tatoeba está bastante lento hoy.
Tu plato tiene mas, cambiamelo anda.	Tu plato tiene más, cámbiamelo anda.
La plastilina salio de un explosivo plastico fallido.	La plastilina salió de un explosivo plástico fallido.
Este vino es un autentico tesoro.	Este vino es un auténtico tesoro.
La policia mas tarde encontro el auto abandonado en el paseo y Circunvalacion, cerca de la terminal de omnibus.	La policía más tarde encontró el auto abandonado en el paseo y Circunvalación, cerca de la terminal de ómnibus.
La isla esta al oeste de Japon.	La isla está al oeste de Japón.
Desde ahora, solo hablaremos en frances.	Desde ahora, sólo hablaremos en francés.
El tuvo un accidente de trafico.	Él tuvo un accidente de tráfico.
Kate bebe diariamente un monton de leche.	Kate bebe diariamente un montón de leche.
Como soy es infinitamente mas importante que lo que tengo.	Como soy es infinitamente más importante que lo que tengo.
El problema esta en que eso es muy caro.	El problema está en que eso es muy caro.
¿Entonces cree que los praguenses son mas pragmaticos que los vieneses?	¿Entonces cree que los praguenses son más pragmáticos que los vieneses?
Cuando le dijo con desprecio que le daba lastima, ella le dio un bofeton.	Cuando le dijo con desprecio que le daba lástima, ella le dio un bofetón.
Jean-Francois Champollion fue un filologo y egiptologo frances.	Jean-François Champollion fue un filólogo y egiptólogo francés.
Si quieres estar mas fuerte, come espinacas.	Si quieres estar más fuerte, come espinacas.
Los osos pueden trepar a los arboles.	Los osos pueden trepar a los árboles.

End of preview. Expand in Data Studio

DiacBench

A 10-language benchmark for diacritics/accent restoration, built by Olaverse Lab to evaluate diacnet-1.0 and any other diacritic restoration system on equal footing.

Each language config contains ~1,000 sentence pairs: a diacritic-stripped input and the original, correctly diacritized reference. The task is to reconstruct the reference from the input.

{"input": "se eranko naa si gbo o?", "reference": "ṣé ẹranko náà sì gbọ́ ọ?"}

Why this exists

Diacritics/tone restoration is under-benchmarked outside a handful of European languages, and almost entirely unbenchmarked for Nigerian languages. Existing resources are fragmented (a Yorùbá-only set here, a 12-European-language set there) and several rely on infrastructure that isn't always reliably reachable. DiacBench brings 10 languages — including Yorùbá, Igbo, and Hausa — into one consistently-built, easily-reproducible dataset, released openly so other models can be compared on the same test sets.

Languages

Code	Language	Diacritic type
es	Spanish	accents (é, ñ, ü)
fr	French	accents (é, è, ç)
it	Italian	accents (à, è, ù)
pt	Portuguese	accents (ã, ç, õ)
pl	Polish	special letters (ł, ż, ą)
tr	Turkish	special letters (ı/İ, ş, ğ)
vi	Vietnamese	tone + vowel marks (dense — every syllable can carry one)
ig	Igbo	tone + underdots (ị, ọ, dotted vowels)
yo	Yorùbá	tone marks (high/low/mid pitch — often lexically ambiguous)
ha	Hausa	hooked consonants (ɓ, ɗ, ƙ) — not tonal

How it was built

Diacritics are stripped deterministically (Unicode NFD decomposition + removal of combining marks, plus explicit folding for base letters with no combining form, e.g. ɓ→b, đ→d, ı→i) to produce the input from the reference. This makes the task fully self-supervised — no manual annotation was needed, since any clean, correctly-diacritized sentence is automatically both a label and (after stripping) an input.

Source text per language, chosen for reliable, redistribution-friendly access:

Languages	Source	License
es, fr, it, pt, pl, tr, vi	Tatoeba sentence exports	CC-BY 2.0 FR
ig, ha	MasakhaNEWS	CC-BY 4.0
yo	MENYO-20k test split	CC-BY-NC 4.0

Sentences were filtered to 30–200 characters and required to contain at least one diacritic in their original form (so the task is non-trivial for every example), then deduplicated. Selection used a fixed random seed (42) for reproducibility.

⚠️ Note on the Yorùbá config's license: MENYO-20k is CC-BY-NC-4.0 (non-commercial). The yo config inherits that restriction even though the rest of the dataset is CC-BY — see per-config license note below. If you need a fully commercial-safe Yorùbá set, use the other 9 configs' methodology (Tatoeba/Wikipedia-derived) to build your own yo split instead.

Splits / configs

One config per language code (es, fr, it, pt, pl, tr, vi, ig, yo, ha), each with a single test split.

from datasets import load_dataset
ds = load_dataset("olaverse/diacbench", "yo", split="test")

Evaluating a model

Reference evaluation code (metrics: WER, CER, ChrF) is available in the notebook used to produce the diacnet-1.0 benchmark results. In short:

Feed each input to your model.
Compare its output against reference using word error rate (WER), character error rate (CER), and ChrF.
A copy-input baseline (returning the input unchanged) is the recommended floor to report alongside your model — it shows how much of the reference text a language's diacritics actually affect, and any working system should clear it by a wide margin.

Known limitations

Domain skew. Tatoeba sentences are short and conversational; MasakhaNEWS is news-domain; MENYO-20k is mixed-domain translation data. Scores are not necessarily comparable across languages for this reason — compare systems within a language, not raw scores between languages.
Not aligned with prior published benchmarks. The es/fr/it/pt/pl/tr/vi sets follow the same construction methodology as the LINDAT diacritics corpus (Náplava et al., 2018) but are not the same sentences, so scores here are not directly comparable to numbers published against LINDAT. Likewise, the yo config is the MENYO-20k test split, not the YAD benchmark (Adelani et al.) — the two are related (YAD's training data derives from MENYO-20k) but not identical.
Single-domain-per-language, not stress-tested on noisy/informal real-world text (typos, code-switching, mixed scripts).
Hausa is not tonal — its diacritics are hooked consonants, a different phenomenon from the tone marks in Yorùbá/Igbo/Vietnamese. Don't read Hausa scores as measuring the same underlying task.

Citation

@misc{diacbench,
  title  = {DiacBench: A 10-Language Diacritics Restoration Benchmark},
  author = {Olaverse},
  year   = {2026},
  url    = {https://huggingface.co/datasets/olaverse/diacbench}
}

License

CC-BY-2.0 overall, except the yo config, which is CC-BY-NC-4.0 (inherited from MENYO-20k — non-commercial use only). Attribute Tatoeba, MasakhaNEWS, and MENYO-20k as the underlying sources per their respective terms.

Downloads last month: 58