Datasets:

shangeth
/

mls-mimi-codes

id stringlengths 12 18	text stringlengths 7 636	speaker_id int32 14 13.8k	chapter_id int32 82 14.8k	codes listlengths 8 8	n_frames int32 125 250	k_codebooks int32 8 8
2450_10026_000000	de inhoud van dien brief wettigt een nader onderzoek en daartoe heb ik mijn stem gegeven maar ik geef die niet tot het nemen van een maatregel die alleen gebezigd mag worden omtrent de zoodanigen tegen wie een bevel van gevangenneming is verleend	2,450	10,026	[ [ 1049, 1946, 1647, 1156, 1746, 1595, 1493, 1479, 648, 813, 1848, 1538, 1549, 440, 68, 1158, 162, 1749, 1186, 1083, 63, 1448, 1814, 1200, 1971, 363, 750, 1636, 1691, 1629, 1755, 800, 6...	223	8
2450_10026_000001	leidt het niet ten slotte daarheen dat buat in allen gevalle een verrader worden moest is het niet van den prins dan toch van den heer de witt	2,450	10,026	[ [ 1049, 1946, 1156, 1766, 1984, 706, 380, 1755, 1887, 0, 0, 1489, 1999, 1089, 1360, 500, 1244, 1378, 181, 72, 963, 476, 225, 687, 1745, 1557, 1448, 305, 153, 657, 1784, 1913, 1133, ...	127	8
2450_10026_000002	op mijn verzoek zeide izabella ik ken hem als een man van eer en toen ik meende u herkend te hebjacob van lennep elizabeth musch ben wist ik aan niemand beter den last op te dragen om u tot deze samenkomst te noodigen maar ik bedenk daar hy is de vriend van sylvius weet hy	2,450	10,026	[ [ 1049, 127, 1880, 1031, 861, 861, 1647, 660, 437, 1133, 1881, 194, 881, 451, 765, 1133, 1537, 1895, 1759, 74, 638, 1635, 40, 279, 792, 608, 751, 789, 899, 208, 502, 978, 312, 1200...	226	8
2450_10026_000003	in haar armstoel gedoken en in aangenaam gepeins verdiept de terugkomst van haar man zat af te wachten reeds twee of driemalen had de huisbel haar uit hare mijmeringen gewekt	2,450	10,026	[ [ 1049, 958, 1880, 624, 801, 1536, 1792, 1792, 1223, 1255, 180, 1764, 1925, 1979, 64, 164, 977, 1427, 1875, 1503, 1491, 865, 1318, 1120, 709, 1928, 1814, 1450, 1515, 2022, 835, 337, 68...	175	8
2450_10026_000004	maar nog is het my onbegrijpelijk vervolgde zy na een oogenblik stilte dat gy my nooit iets verteld hebt van die kommissie waarmede gy belast waart	2,450	10,026	[ [ 1049, 1946, 1647, 1766, 1407, 1433, 839, 1942, 872, 2047, 500, 1824, 1196, 1211, 608, 1755, 1011, 1730, 527, 609, 488, 684, 1535, 1645, 1645, 638, 1760, 1188, 229, 1621, 1327, 1640, ...	133	8
2450_10026_000005	wat dunkt u zoudt gy u sterk gevoelen er reeds heden namiddag heen te gaan elizabeth knikte toestemmend en dien ten gevolge werd dan ook stijntjen uitgezonden naar mevrouw de witt om te vragen of mevrouw aarssen haar geen belet zoû doen	2,450	10,026	[ [ 1049, 1946, 2013, 1156, 1156, 1104, 1875, 1875, 756, 942, 1269, 658, 582, 729, 729, 1876, 74, 458, 169, 1691, 625, 706, 40, 884, 1979, 529, 1758, 1267, 1177, 1861, 881, 346, 525, ...	250	8
2450_10026_000006	daar onder dat penant tafeltjen staat nog een verlakte doos ja in de daad zeide van espenblad half luid jacob van lennep elizabeth musch die doos ziet er juist uit als een geschikte bergplaats voor belangrijke papieren	2,450	10,026	[ [ 1049, 127, 1880, 1156, 246, 72, 963, 1445, 1987, 312, 973, 153, 323, 660, 1574, 684, 924, 703, 187, 1188, 260, 891, 1958, 68, 2031, 1841, 1005, 1538, 158, 806, 1458, 394, 973, 33...	174	8
2450_10026_000007	en vernemende dat deze zich nog op het binnenhof bevond begaf hy zich derwaarts naar het kantoor van den raadpensionaris in het gebouw der staten van holland	2,450	10,026	[ [ 1049, 958, 1156, 855, 1377, 1135, 1525, 691, 103, 496, 1030, 2005, 2005, 56, 394, 973, 333, 323, 1375, 246, 76, 1021, 1716, 1024, 743, 1149, 1149, 368, 368, 1509, 303, 500, 865, ...	128	8
2450_10026_000008	en wiens oorspronkelijke zwarte kleur in een vuil rosse was overgegaan de inktvlakken op den bef en vooral de uitdrukking van deftige liederlijkheid of liederlijke deftigheid die op de tronie blonk deden in hem den verloopen pamfletschrijver herkennen	2,450	10,026	[ [ 1049, 1946, 1647, 2035, 337, 1377, 1513, 885, 342, 794, 875, 451, 334, 299, 249, 1709, 229, 413, 73, 1657, 793, 324, 1283, 879, 806, 1563, 33, 33, 1737, 753, 333, 2022, 657, 322,...	218	8
2450_10026_000009	dus zoû het hem vrijdag moeten worden aangezegd en saturdag voltrokken dat zal bezwaarlijk gaan merkte de griffier aan de scherprechter is tegen saturdag te amsterdam bescheiden om aldaar by een rechtspleging zijn dienst te leenen	2,450	10,026	[ [ 1049, 1946, 2013, 1647, 1156, 1392, 947, 1149, 692, 1586, 1519, 1755, 1548, 1416, 881, 1961, 1961, 328, 1496, 684, 183, 1870, 684, 118, 1999, 1510, 258, 1286, 433, 694, 608, 449, 150...	199	8
2450_10026_000010	en daaronder liet zich vooral het nieuwsgierige gelaat bespeuren van den jonker van bleiswijck die zoodra hy iemand van de trap had hooren afkomen beker en dobbelsteenen neêrgesmeten	2,450	10,026	[ [ 1049, 1647, 1156, 2035, 1377, 1539, 585, 197, 1145, 1731, 1574, 684, 945, 1973, 1317, 1333, 1723, 1064, 881, 881, 893, 289, 719, 1886, 303, 1148, 451, 1979, 1710, 1978, 1429, 1496, 1...	161	8
2450_10026_000011	ik zie niet viel heenvliet in waar die groote edelmoedigheid in bestaan zoû ik zeg u alsnog gy kunt u op mijnen naam beroepen en dan geloof ik dat men u wel met vrede zal laten	2,450	10,026	[ [ 1049, 127, 1880, 1799, 1647, 1156, 1156, 322, 801, 1040, 1397, 795, 885, 103, 0, 236, 1039, 1640, 1331, 356, 48, 485, 1296, 826, 704, 194, 266, 1549, 722, 236, 1259, 1479, 926, 1...	191	8
2450_10026_000012	en die zoo aanzienlijk vermaagschant is om nog niet te spreken dat ik mijn hoedanigheid als engelsch edelman zoû kunnen doen gelden	2,450	10,026	[ [ 1049, 1946, 1647, 1156, 842, 855, 1377, 993, 1513, 1513, 475, 1013, 1674, 920, 258, 904, 149, 457, 957, 2037, 528, 1549, 440, 1761, 1899, 1856, 259, 259, 751, 1259, 34, 1196, 191, ...	134	8
2450_10026_000013	of die hem althands niet uit het oog verliest en vervuld van deze gedachte ging hy jacob van lennep elizabeth musch den trap weder af in de deur welke naar t binnenhof geleidde ontmoette hy zijn ambtgenoot	2,450	10,026	[ [ 1049, 127, 1156, 1411, 289, 1265, 1513, 1261, 1431, 733, 1731, 1538, 1435, 1675, 30, 1157, 205, 636, 797, 2039, 333, 598, 849, 675, 1521, 1016, 821, 1195, 1381, 229, 1447, 1259, 329,...	184	8
2450_10026_000014	het is mogelijk hernam pauw de schouders ophalende dat gy het gewicht en de gevolgen uwer daden zoo ernstig niet hebt ingezien maar het hof heeft die daden strafwaardig geöordeeld en er valt voor u niets te doen dan in dat oordeel te berusten	2,450	10,026	[ [ 1049, 127, 1880, 1031, 1031, 861, 1298, 1298, 1298, 1168, 639, 235, 1294, 130, 1781, 191, 1979, 1264, 1674, 865, 229, 324, 1815, 1678, 1286, 1626, 1954, 1901, 140, 1035, 803, 973, 16...	232	8
2450_10026_000015	daarover nader antwoordde de witt eerst wil u mededeelen wat er verricht en wat nagelaten zoû kunnen worden om te vermijden dat de kwade indrukken ontstaan waarvan ik zoo even gewaagde gy zelf in de eerste plaats kunt daartoe veel bybrengen	2,450	10,026	[ [ 1049, 127, 1880, 861, 861, 972, 1766, 1584, 963, 1445, 1363, 1731, 286, 881, 800, 932, 932, 1426, 1688, 857, 1987, 729, 57, 1411, 1262, 656, 1501, 1503, 179, 1593, 961, 450, 1153, ...	245	8
2450_10026_000016	als de vrede zal gesloten zijn in welken goeden staat z majesteit en mijn kleine meester alsdan hier zullen zijn ja ik zeg alsnog dat hy de grootste koning der geheele waereld zijn zal	2,450	10,026	[ [ 1049, 127, 1156, 1272, 178, 129, 347, 121, 917, 434, 1891, 1593, 1582, 641, 455, 1459, 1819, 1414, 304, 1399, 1489, 648, 1299, 930, 1808, 186, 1307, 1448, 2034, 465, 1576, 639, 1890,...	187	8
2450_10026_000017	en voor wie hy zijn testament gemaakt had begeerende dat zijn kind zoû worden opgevoed in de gereformeerde religie in welke hy geleefd had en stierf met vasten stap trad buat voort	2,450	10,026	[ [ 1049, 1946, 1647, 1156, 337, 1377, 1549, 2043, 286, 936, 1297, 1010, 18, 1517, 846, 762, 1615, 798, 2003, 1214, 1854, 1691, 1264, 1761, 1899, 2038, 93, 1021, 1538, 579, 857, 797, 729...	172	8
2450_10026_000018	maar aan de andere zijde was hy daardoor verstoken van zijn verwachting om raad en inlichtingen van haar te bekomen bovendien zy had den sleutel van de kist waarin zich zijn papieren en brieven bevonden en hy kon alzoo zonder haar niets verrichten hy wist dat van der horst uit de stad was	2,450	10,026	[ [ 1049, 1946, 1647, 1156, 1433, 1433, 1223, 749, 258, 1958, 683, 1992, 1093, 1047, 17, 1594, 1305, 638, 1467, 1347, 1461, 1180, 225, 1613, 338, 638, 402, 881, 1549, 451, 1979, 374, 179...	240	8
2450_10026_000019	de man die zoo gelukkig was u zoo tijdig hulp te bieden is een engelschman een kamerdienaar van mijn vriend sylvius waarlijk vroeg de jonkvrouw met een uitdrukking van verwondering	2,450	10,026	[ [ 1049, 127, 1880, 1031, 861, 1156, 1156, 1686, 8, 1722, 1188, 1255, 141, 1607, 863, 1392, 1158, 191, 422, 893, 881, 793, 945, 1283, 370, 781, 50, 760, 271, 797, 973, 1422, 1971, 3...	170	8
2450_10026_000020	niet weinig verwonderd was hy toen reeds aan de voordeur zijn vrouw hem tegenkwam nu raadt gy nooit henry zeide zy wie wy te gast hebben gekregen	2,450	10,026	[ [ 1049, 127, 1156, 1766, 496, 496, 1412, 1447, 1364, 918, 1678, 121, 1406, 1137, 53, 349, 1866, 1244, 1427, 50, 1180, 760, 1961, 1243, 634, 1448, 305, 1728, 1098, 1656, 25, 1986, 1061,...	141	8
2450_10026_000021	foei zeide elizabeth den vinger bestraffend opheffende maar zie nu eens loshoofd gy zoudt de brieven nog wel vergeten dat is waar ook antwoordde buat het paket by zich stekende dan belast gy u met bezorging van dien brief aan mademoiselle dat zal uwe straf zijn	2,450	10,026	[ [ 1049, 127, 1880, 1799, 861, 861, 269, 1406, 179, 191, 608, 706, 1891, 801, 189, 446, 1317, 792, 608, 297, 134, 1865, 579, 295, 973, 1422, 153, 1836, 419, 1356, 194, 730, 1541, 34...	245	8
2450_10026_000022	al had zijn voorstel geen goedkeuring ontmoet het was ten minsten een voorstel geweest en niemand anders kwam met een beter voor den dag zoodat men na lange en somtijds vrij heete beraadslagingen tot geen ander besluit kwam dan dat men zoû afwachten	2,450	10,026	[ [ 1049, 127, 1880, 1411, 178, 455, 977, 907, 1021, 523, 1912, 1635, 1882, 1184, 67, 128, 719, 1801, 1356, 194, 1708, 1618, 401, 1847, 879, 1752, 945, 2005, 577, 309, 1285, 1831, 1285, ...	218	8
2450_10026_000023	ik weet wel dat buat hem nu en dan tijdingen heeft medegedeeld antwoordde elizabeth maar zoo verre my bewust is is het daarby gebleven en heeft uw man vervolgde van espenblad toen de heer sylvius hier was ook geene konferentiën gehad met hem en met den	2,450	10,026	[ [ 1049, 127, 1880, 407, 1799, 972, 624, 1885, 1204, 1248, 1394, 496, 1447, 184, 668, 1094, 656, 450, 1365, 1950, 1629, 579, 1448, 1814, 1515, 639, 1431, 800, 1148, 385, 1999, 68, 243, ...	237	8
2450_10026_000024	dat plotseling verbleeken van elizabeth had by de witt de vaste overtuiging doen ontstaan dat die doos eenig gewichtig stuk bevatten moest zoek maar goed zeide hy tegen van espenblad jacob van lennep elizabeth musch die reeds gereed stond het deksel dicht te werpen er zijn soms recepten wier inhoud belangrijk is	2,450	10,026	[ [ 1049, 127, 1946, 861, 1647, 1156, 1208, 76, 1188, 425, 1823, 1538, 851, 1932, 1416, 1549, 1166, 251, 1204, 324, 1427, 592, 125, 1317, 1317, 191, 1979, 1403, 905, 579, 1640, 973, 1422...	248	8
2450_10026_000025	wat is er gebeurd vroegen gelijktijdig de dames half ontsteld half verwonderd over deze onverwachte verschijning terwijl de vendrig de hand aan zijn degenknop bracht en een stap vooruit deed als om het gezelschap zijne bescherming aan te bieden	2,450	10,026	[ [ 1049, 127, 1880, 1766, 1411, 1021, 1188, 548, 1211, 460, 1237, 121, 86, 1616, 806, 1687, 1265, 1039, 857, 295, 1422, 1619, 1971, 147, 1406, 299, 1240, 213, 1691, 1280, 688, 1580, 238...	227	8
2450_10026_000026	en dat nog wel op het oogenblik dat de zaak rampzaliger staat dan zy ooit gedaan heeft voegde mevrouw musch er verwijtend by waarlijk heer schoonzoon ik had andere en betere gedachten van u gehad	2,450	10,026	[ [ 1049, 127, 1880, 407, 1799, 1799, 2035, 685, 1377, 993, 419, 1188, 1264, 500, 1240, 750, 184, 1021, 1731, 1133, 30, 1887, 329, 289, 933, 1824, 1264, 450, 324, 1173, 2034, 1200, 1971,...	180	8

End of preview. Expand in Data Studio

Multilingual LibriSpeech (MLS) — Mimi Codes

Pre-extracted Kyutai Mimi neural-codec tokens for Multilingual LibriSpeech — LibriVox audiobooks in 7 non-English languages.

English is intentionally excluded. For English Mimi codes, use:

shangeth/librispeech-mimi-codes — LibriSpeech (~280k rows, 7 splits)
shangeth/libritts-r-mimi-codes — LibriTTS-R (~360k rows, 7 splits, 24 kHz native)
shangeth/vctk-mimi-codes — VCTK (~44k rows, 110 speakers w/ accents)
shangeth/jenny-mimi-codes — Jenny TTS (~21k rows, single speaker)
shangeth/ljspeech-mimi-codes — LJSpeech (~13k rows, single speaker)

Configs (languages)

One HF dataset config per language:

Config	Language	ISO	Approx hours (train)
`dutch`	Dutch	nl	~1.5k
`french`	French	fr	~1.1k
`german`	German	de	~3.3k
`italian`	Italian	it	~250
`polish`	Polish	pl	~100
`portuguese`	Portuguese	pt	~160
`spanish`	Spanish	es	~920

Splits (per config)

Split	Description
`train`	full training set
`dev`	development
`test`	test
`9_hours`	low-resource ~9h training subset
`1_hours`	low-resource ~1h training subset

Merged `all` config

A virtual all config aliases the per-language parquets via glob — no extra storage, just a YAML entry. Use it to train a single multilingual model:

ds = load_dataset("shangeth/mls-mimi-codes", "all", split="train")

Caveat: there is no language column, and speaker_id is per-language — so speaker IDs may collide across languages (e.g. German speaker 12345 is unrelated to French speaker 12345). If you need clean per-language speaker bookkeeping, load each language config separately.

Schema

Column	Type	Notes
`id`	string	utterance ID, format `{speaker}_{chapter}_{segment}`
`text`	string	transcript, mixed-case as-is from MLS
`speaker_id`	int32	speaker ID (parsed from MLS string)
`chapter_id`	int32	chapter ID
`codes`	`int16[k=8][n_frames]`	Mimi codebook indices @ 12.5 fps
`n_frames`	int32
`k_codebooks`	int32	8

Extraction details

Codec: kyutai/mimi @ 24 kHz, 12.5 fps
Resampling: MLS audio is 48 kHz opus → resampled to 24 kHz at extraction
Codebooks: all 8 extracted; slice codes[:k] for fewer
Source: facebook/multilingual_librispeech

Usage

from datasets import load_dataset
import torch

ds = load_dataset("shangeth/mls-mimi-codes", "german", split="dev")
ex = ds[0]
codes = torch.tensor(ex["codes"], dtype=torch.long)  # [8, n_frames]
print(ex["id"], "| speaker:", ex["speaker_id"], "|", ex["text"][:60])

# Decode back to 24 kHz audio
from transformers import MimiModel
mimi = MimiModel.from_pretrained("kyutai/mimi").cuda().eval()
with torch.no_grad():
    wav = mimi.decode(codes.unsqueeze(0).cuda()).audio_values[0].cpu()

Citation

@misc{wren2026,
  title  = {Wren: A Family of Small Open-Weight Models for Unified Speech-Text Modelling},
  author = {Shangeth Rajaa},
  year   = {2026},
  url    = {https://github.com/shangeth/wren}
}

@inproceedings{pratap2020mls,
  title     = {MLS: A Large-Scale Multilingual Dataset for Speech Research},
  author    = {Pratap, Vineel and Xu, Qiantong and Sriram, Anuroop and Synnaeve, Gabriel and Collobert, Ronan},
  booktitle = {Interspeech},
  year      = {2020}
}