Datasets:

di2ox3
/

prefill-dataset

chunk_id stringlengths 24 24 ⌀	doc_id stringclasses 222 values	chunk_idx int32 0 40 ⌀	segment_start_idx int32 0 499 ⌀	segment_end_idx int32 11 500 ⌀	src_lang stringclasses 1 value	tgt_lang stringclasses 1 value	src_text large_stringlengths 25 5.04k ⌀	tgt_text large_stringlengths 35 5.63k ⌀	src_char_start int32 0 171k ⌀	src_char_end int32 3.3k 173k ⌀	tgt_char_start int32 0 172k ⌀	tgt_char_end int32 2.63k 173k ⌀	src_tok_start int32 0 39.5k ⌀	src_tok_end int32 921 39.9k ⌀	tgt_tok_start int32 0 49.5k ⌀	tgt_tok_end int32 600 50k ⌀	src_token_count int32 8 1.1k ⌀	tgt_token_count int32 10 1.64k ⌀
opus-fr-00001-chunk-0000	opus-fr-00001	0	0	32	en	fr	The Wanderer Alain-Fournier First Part I THE BOARDER He arrived at our home on a Sunday of November, 189-. I still say 'our home,' although the house no longer belongs to us. We left that part of the country nearly fifteen years ago and shall certainly never go back to it. We were living in the building of the Higher E...	Le grand Meaulnes Alain-Fournier PREMIÈRE PARTIE CHAPITRE PREMIER LE PENSIONNAIRE Il arriva chez nous un dimanche de novembre 189-… Je continue à dire « chez nous », bien que la maison ne nous appartienne plus. Nous avons quitté le pays depuis bientôt quinze ans et nous n’y reviendrons certainement jamais. Nous habitio...	0	4,451	0	4,633	0	1,003	0	1,336	1,003	1,336
opus-fr-00001-chunk-0001	opus-fr-00001	1	32	64	en	fr	That Sunday, a little excitement in front of the church kept me out-of-doors after vespers. A christening, under the porch, had attracted a crowd of urchins. In the square a few villagers had put on their firemen's jackets and piled their arms ; stiff and stamping their feet with cold, they were listening to Boujardon,...	Ce dimanche-là, quelque animation devant l’église me retint dehors après vêpres. Un baptême, sous le porche, avait attroupé des gamins. Sur la place, plusieurs hommes du bourg avaient revêtu leurs vareuses de pompiers ; et, les faisceaux formés, transis et battant la semelle, ils écoutaient Boujardon, le brigadier, s’e...	4,452	8,804	4,634	9,056	1,003	1,993	1,336	2,651	990	1,315
opus-fr-00001-chunk-0002	opus-fr-00001	2	64	101	en	fr	Above us, indeed, in a box-room where the blackened remains of the last fourteenth of July fireworks were piled up, an unknown step trod confidently to and fro, shaking the ceiling, crossed the huge dark lumber-rooms of the upper storey and passed at last towards the unused assistant masters' rooms, where lime tree lea...	Au-dessus de nous, en effet, dans un réduit où s’entassaient les pièces d’artifice noircies du dernier Quatorze Juillet, un pas inconnu, assuré, allait et venait, ébranlant le plafond, traversait les immenses greniers ténébreux du premier étage, et se perdait enfin vers les chambres d’adjoints abandonnées où l’on metta...	8,805	13,134	9,057	13,640	1,993	2,999	2,651	4,036	1,006	1,385
opus-fr-00001-chunk-0003	opus-fr-00001	3	101	136	en	fr	When it was quite dark, and the dogs of the neighbouring farm began to howl and a light was seen at the window of our little kitchen, then I went home. Mother had begun to get supper ready. I climbed three steps of the attic stairs, sat down without a word and, leaning my head on the cold rails of the bannisters, watch...	Lorsqu’il faisait noir, que les chiens de la ferme voisine commençaient à hurler et que le carreau de notre petite cuisine s’illuminait, je rentrais enfin. Ma mère avait commencé de préparer le repas. Je montais trois marches de l’escalier du grenier ; je m’asseyais sans rien dire et, la tête appuyée aux barreaux froid...	13,135	17,493	13,641	18,287	2,999	4,003	4,036	5,408	1,004	1,372
opus-fr-00001-chunk-0004	opus-fr-00001	4	136	186	en	fr	To come to us they had crossed the length of the 'département', dragging with them baskets full of chestnuts and other Christmas fare rolled up in napkins. The moment the two, muffled up, smiling, and rather shy, had crossed the threshold, we shut all doors on them, and a glorious week of happiness began for us all.. ....	Ils avaient pour nous voir, traversé tout le département, chargés de ballots de châtaignes et victuailles pour Noël enveloppées dans des serviettes. Dès qu’ils avaient passé, tous les deux, emmitouflés, souriants et un peu interdits, le seuil de la maison, nous fermions sur eux toutes les portes, et c’était une grande ...	17,494	21,643	18,288	22,666	4,003	5,008	5,408	6,723	1,005	1,315
opus-fr-00001-chunk-0005	opus-fr-00001	5	186	230	en	fr	'Ah!' said the other, 'that mare has got some go in her, and surely Fromentin would gladly lend her.' The conversation ended there. The forge, once again, became the place of sparks and din where each had his own thoughts. But when the time had come to leave and I got up to attract Meaulnes' attention, he did not notic...	– Ça, dit l’autre, c’est une jument qui marche !…– Et je crois bien que Fromentin la prêterait facilement. La conversation finit là. De nouveau la boutique fut un endroit plein d’étincelles et de bruit, où chacun ne pensa que pour soi. Mais lorsque l’heure fut venue de partir et que je me levai pour faire signe au gran...	21,644	25,905	22,667	27,023	5,008	6,007	6,723	8,036	999	1,313
opus-fr-00001-chunk-0006	opus-fr-00001	6	230	272	en	fr	. . . Two little black streaks showing over the top of the wall at the Fair Star, certainly the upturned shafts of a cart, have now disappeared. I feel sure that over there everything is being made ready for Meaulnes' departure. Soon the head and the fore parts of the mare emerge between the posts of the gateway, then ...	… Deux petits traits noirs, qui dépassaient le mur de La Belle-Étoile et qui devaient être les deux brancards dressés d’une voiture, ont disparu. Je suis sûr maintenant qu’on fait là-bas les préparatifs du départ de Meaulnes. Voici la jument qui passe la tête et le poitrail entre les deux pilastres de l’entrée, puis s’...	25,906	30,401	27,024	31,586	6,007	7,027	8,036	9,364	1,020	1,328
opus-fr-00001-chunk-0007	opus-fr-00001	7	272	321	en	fr	He was approving with his kind moist eyes what Grandmother was saying about their journey, their neighbours, and the peasants who had not yet paid their rent. But I was no longer with them. I was imagining the rumbling of a cart which would suddenly stop at our door. Meaulnes would jump from it and walk in as if nothin...	Il approuvait de ses yeux mouillés et bons ce que disait la grand’mère, de son voyage et de ses poules et de ses voisins et des paysans qui n’avaient pas encore payé leur fermage. Mais je n’étais plus avec eux. J’imaginais le roulement de voiture qui s’arrêterait soudain devant la porte. Meaulnes sauterait de la carrio...	30,402	34,730	31,587	36,108	7,027	8,031	9,364	10,735	1,004	1,371
opus-fr-00001-chunk-0008	opus-fr-00001	8	321	359	en	fr	That was the explanation which we gave to the village people. As to the mother of the runaway, it was decided to wait before writing to her. And during three long days we kept our anxiety to ourselves. I still see my father coming home from the farm towards eleven, his moustache damp with the evening mist, talking with...	Ce fut la même explication que nous donnâmes aux gens du bourg. Quant à la mère du fugitif, il fut décidé qu’on attendrait pour lui écrire. Et nous gardâmes pour nous seuls notre inquiétude qui dura trois grands jours. Je vois encore mon père rentrant de la ferme vers onze heures, sa moustache mouillée par la nuit, dis...	34,731	39,042	36,109	40,612	8,031	9,016	10,735	12,089	985	1,354
opus-fr-00001-chunk-0009	opus-fr-00001	9	359	393	en	fr	A school playground in the afternoon, with the snow trampled away by clogs ... a playground black all round with drips from the roofs of the shelters . . . a playground thick with games and screams ! Meaulnes and I pelted along by the school buildings. At once two or three fellows from the village left their game and r...	Cour d’école, après midi, où les sabots avaient enlevé la neige… cour noircie où le dégel faisait dégoutter les toits du préau… cour pleine de jeux et de cris perçants ! Meaulnes et moi, nous longeâmes en courant les bâtiments. Déjà deux ou trois de nos amis du bourg laissaient la partie et accouraient vers nous en cri...	39,043	43,335	40,613	45,093	9,016	10,025	12,089	13,426	1,009	1,337
opus-fr-00001-chunk-0010	opus-fr-00001	10	393	430	en	fr	At once the battle stopped. Some boys collected round the stove, none too proud of themselves, having, right to the end, avoided taking sides. Meaulnes sat down in his place, his sleeves undone and torn at the gathers. As for Jasmin, purple in the face, during the few minutes before the ruler rapped for form-work to be...	Aussitôt la bataille s’arrêta. Les uns se rangèrent autour du poêle, la tête basse, ayant évité jusqu’au bout de prendre parti. Meaulnes s’assit à sa place, le haut de ses manches décousu et défroncé. Quant à Jasmin, tout congestionné, on l’entendit crier durant les quelques secondes qui précédèrent le coup de règle du...	43,336	47,590	45,094	49,574	10,025	11,030	13,426	14,770	1,005	1,344
opus-fr-00001-chunk-0011	opus-fr-00001	11	430	465	en	fr	He did not reply. Then, quite beside myself, I said : 'Very well, I shall go with you. You must take me.' And I jumped out of bed. He came close to me, took hold of my arm, forcing me to sit on the edge of the bed, and said to me : 'I can't take you, François. If I knew my way well, you should come with me. But I must ...	Il ne répondit pas. Alors, tout à fait affolé, je dis : – Eh bien, je pars avec toi. Il faut que tu m’emmènes. Et je sautai à bas. Il s’approcha, me saisit par le bras, me forçant à m’asseoir sur le rebord du lit, et il me dit : – Je ne puis pas t’emmener, François. Si je connaissais bien mon chemin, tu m’accompagnerai...	47,591	51,873	49,575	54,045	11,030	12,030	14,770	16,084	1,000	1,314
opus-fr-00001-chunk-0012	opus-fr-00001	12	465	500	en	fr	It was a troop of young boys and urchins, formed in fours, marching quickly like a well-drilled squad, led by Delouche, Daniel, Giraudat, and another whom we did not know. They had spotted us and hooted like anything. So all the village was against us, and some fresh soldier stunt, from which we were excluded, was bein...	C’était une bande de jeunes gens et de gamins, en colonne par quatre, au pas gymnastique, évoluant comme une compagnie parfaitement organisée, conduits par Delouche, Daniel, Giraudat, et un autre que nous ne connûmes point. Ils nous avaient aperçus et ils nous huaient de la belle façon. Ainsi tout le bourg était contre...	51,874	55,443	54,046	57,885	12,030	12,885	16,084	17,210	855	1,126
opus-fr-00002-chunk-0000	opus-fr-00002	0	0	45	en	fr	. . . When Meaulnes recovered his wits, thanks to the cold penetrating the rug, he noticed a change in the countryside. There was no longer the far horizon, no longer that stretch of pale sky in which sight was lost, but little meadows, still green, with high hedges. On both sides water flowed under the ice in the ditc...	… Lorsque, grâce au froid, qui traversait maintenant la couverture, Meaulnes eut repris ses esprits, il s’aperçut que le paysage avait changé. Ce n’étaient plus ces horizons lointains, ce grand ciel blanc où se perdait le regard, mais de petits prés encore verts avec de hautes clôtures. À droite et à gauche, l’eau des ...	0	4,431	0	4,835	0	1,021	0	1,449	1,021	1,449
opus-fr-00002-chunk-0001	opus-fr-00002	1	45	88	en	fr	A pig was grunting in its sty. At the noise of footsteps on the frozen ground a dog began to bark furiously. The shutter over the door was open, and the light which Meaulnes had seen came from a wood fire burning on the hearth. There was no other light but that of the fire. In the house, a country woman rose from a cha...	Un cochon grognait dans son tête. Au bruit des pas sur la terre gelée, un chien se mit à aboyer avec fureur. Le volet de la porte était ouvert, et la lueur que Meaulnes avait aperçue était celle d’un feu de fagots allumé dans la cheminée. Il n’y avait pas d’autre lumière que celle du feu. Une bonne femme, dans la maiso...	4,432	8,569	4,836	9,095	1,021	2,024	1,449	2,705	1,003	1,256
opus-fr-00002-chunk-0002	opus-fr-00002	2	88	129	en	fr	But he went out into the gloom of the yard. X THE SHEEPFOLD To find where he was he climbed on the bank from which he had jumped. Slowly and with difficulty, as when he came, he made his way between swamps, through willow hedges, and went to fetch his cart at the farther end of the field where he had left it. The cart ...	Puis il sortit dans la cour obscure. CHAPITRE X LA BERGERIE Pour s’y reconnaître, il grimpa sur le talus d’où il avait sauté. Lentement et difficilement, comme à l’aller, il se guida entre les herbes et les eaux, à travers les clôtures de saules, et s’en fut chercher sa voiture dans le fond du pré où il l’avait laissée...	8,570	12,925	9,096	13,664	2,024	3,020	2,705	4,086	996	1,381
opus-fr-00002-chunk-0003	opus-fr-00002	3	129	177	en	fr	He had fallen asleep again. But next time he swore he would get up. To-morrow morning, perhaps ! ... XI THE MYSTERIOUS MANOR At dawn he began to walk again. But his swollen knee hurt him; he had to stop and sit down every moment, the pain was so sharp. The place where he was happened to be the most desolate in Sologne....	Il s’était rendormi… Mais la prochaine fois, il jurait bien de se lever. Demain matin, peut-être !… CHAPITRE XI LE DOMAINE MYSTÉRIEUX Dès le petit jour, il se reprit à marcher. Mais son genou enflé lui faisait mal ; il lui fallait s’arrêter et s’asseoir à chaque moment tant la douleur était vive. L’endroit où il se tro...	12,926	17,247	13,665	18,204	3,020	4,017	4,086	5,472	997	1,386
opus-fr-00002-chunk-0004	opus-fr-00002	4	177	222	en	fr	He was soon stopped at the edge of the wood by a low mossy wall. On the other side, in between the wall and the outhouses of the estate, was a long narrow courtyard as full of carriages as the yard of an inn on the day of a fair. These carriages were of all kinds and shapes: some elegant and small four-seaters with the...	Il fut bientôt arrêté à la lisière du bois, par un petit mur moussu. De l’autre côté, entre le mur et les annexes du domaine, c’était une longue cour étroite toute remplie de voitures, comme une cour d’auberge un jour de foire. Il y en avait de tous les genres et de toutes les formes : de fines petites voitures à quatr...	17,248	21,561	18,205	22,687	4,017	5,011	5,472	6,808	994	1,336
opus-fr-00002-chunk-0005	opus-fr-00002	5	222	267	en	fr	The one who had spoken last, and who appeared to be the leader, went on in a drawling voice, like a gravedigger in Shakespeare : 'You are putting up green lanterns in the Wellington room. You would just as soon put red . . . You know no more about it than I do!' Silence. '. . . Wellington, he was an American chap? Well...	Celui qui avait parlé le dernier, et qui paraissait être le chef, reprit d’une voix traînante, à la façon d’un fossoyeur de Shakespeare : – Tu mets des lanternes vertes à la chambre de Wellington. T’en mettrais aussi bien des rouges… Tu ne t’y connais pas plus que moi ! Un silence. « … Wellington, c’était un Américain ...	21,562	25,744	22,688	27,046	5,011	6,002	6,808	8,110	991	1,302
opus-fr-00002-chunk-0006	opus-fr-00002	6	267	303	en	fr	He took a few steps and thanks to the faint clearness of the sky he was at once able to get an idea of his surroundings. He was in a little yard formed by outhouse buildings. Everything appeared old and ruined. Gaps yawned at the bottom of the staircase, for the doors had long since been removed; nor had the panes been...	Il fit quelques pas et, grâce à la vague clarté du ciel, il put se rendre compte aussitôt de la configuration des lieux. Il était dans une petite cour formée par des bâtiments des dépendances. Tout y paraissait vieux et ruiné. Les ouvertures au bas des escaliers étaient béantes, car les portes depuis longtemps avaient ...	25,745	30,138	27,047	31,704	6,002	6,987	8,110	9,463	985	1,353

End of preview. Expand in Data Studio

Prefill Dataset

Long-context tokenized corpus for benchmarking LLM prefill computation with Qwen3-8B. Contains ~10M tokens of copyright-free English text pre-tokenized with character offset mappings for fast position lookup.

Dataset Structure

Files

File	Description	Rows
`data/documents.parquet`	English documents with token IDs and char offsets	~100-500
`data/tasks.parquet`	QA, translation, and retrieval tasks	~1K-5K
`data/translations.parquet`	French translations of OPUS-Books English documents	~100-500
`data/aligned_chunks.parquet`	EN/FR aligned chunk pairs packed to ~1k source tokens	~1K-5K

`documents.parquet` Schema

Column	Type	Description
`doc_id`	string	Unique document ID
`source`	string	`"narrativeqa"` / `"opus_books"` / `"pg19"`
`title`	string	Book title
`language`	string	Always `"en"`
`text`	large_string	Full document text
`token_ids`	list<int32>	Qwen3-8B token IDs
`char_offsets`	list<int32>	Character start position per token
`token_count`	int32	Number of tokens

`tasks.parquet` Schema

Column	Type	Description
`task_id`	string	Unique task ID
`doc_id`	string	References `documents.doc_id`
`task_type`	string	`"qa"` / `"translation"` / `"retrieval"`
`question`	string	Task prompt
`answer`	string	Expected answer (JSON list for multi-answer)
`metadata`	string	JSON with extra fields

`translations.parquet` Schema

Column	Type	Description
`doc_id`	string	References English document
`target_language`	string	Always `"fr"`
`target_text`	large_string	Full translation text
`target_token_ids`	list<int32>	Tokenized translation
`target_char_offsets`	list<int32>	Char offsets for translation tokens

`aligned_chunks.parquet` Schema

Column	Type	Description
`chunk_id`	string	Unique chunk ID (`doc_id` + chunk index)
`doc_id`	string	References OPUS English document
`chunk_idx`	int32	Chunk index within document
`segment_start_idx`	int32	Start aligned segment index (inclusive)
`segment_end_idx`	int32	End aligned segment index (exclusive)
`src_lang`	string	Always `"en"`
`tgt_lang`	string	Always `"fr"`
`src_text`	large_string	English chunk text
`tgt_text`	large_string	French chunk text
`src_char_start` / `src_char_end`	int32	Character span in source document
`tgt_char_start` / `tgt_char_end`	int32	Character span in translation document
`src_tok_start` / `src_tok_end`	int32	Token span in source token IDs
`tgt_tok_start` / `tgt_tok_end`	int32	Token span in target token IDs
`src_token_count`	int32	Source tokens in chunk (target ~1000)
`tgt_token_count`	int32	Target tokens in chunk

Sources

Source	Purpose	Target Tokens
NarrativeQA	Gutenberg books with human Q&A pairs	~5M
OPUS-Books	Parallel EN-FR book translations	~3M
pg19	Supplementary long Gutenberg books	~2M+

Tokenizer

Model: Qwen/Qwen3-8B (vocab size: 151,936)
Offset mapping: char_offsets[i] is the character position where token i starts. BPE tokens with leading spaces point to the space character — this is correct: text[char_offsets[i]:char_offsets[i+1]] recovers exact token text.

Usage

import pyarrow.parquet as pq

# Load
docs = pq.read_table("data/documents.parquet").to_pandas()
tasks = pq.read_table("data/tasks.parquet").to_pandas()

# Get a document and its tasks
doc = docs.iloc[0]
doc_tasks = tasks[tasks.doc_id == doc.doc_id]

print(f"Title: {doc.title}")
print(f"Tokens: {doc.token_count:,}")
print(f"Tasks: {len(doc_tasks)}")

# Verify token-to-text mapping
offsets = doc.char_offsets
text = doc.text
for i in range(5):
    end = offsets[i + 1] if i + 1 < len(offsets) else len(text)
    print(f"  Token {i}: '{text[offsets[i]:end]}'")

See generate_examples.py for a full usage example.

Regeneration

uv run build_dataset.py

Requires Python 3.11+. Dependencies are declared inline (PEP 723) — uv run handles them automatically.

License

The dataset is released under Apache 2.0. Source texts are public domain (Project Gutenberg).

Downloads last month: 27