beleg

In English. An openly licensed pretraining corpus centred on Dutch, with an English collection alongside it, plus a verified Dutch instruction set. Every document is public domain under Dutch or Belgian copyright law, Creative Commons, or covered by an explicit reuse decision. Nothing is scraped from the open web and nothing is written by another language model. Each row carries its own license code, and each instruction example points to the document it was derived from.

Een tekstcorpus met het Nederlands als kern en een Engelse collectie ernaast, plus een gecontroleerde Nederlandstalige instructieset. Alles bestaat uit rechtmatig herbruikbaar materiaal: publiek domein op grond van de Auteurswet, Creative Commons, of een uitdrukkelijk hergebruikbesluit. Er zit niets in dat van het open web is geschraapt.

Corpus: 4.218.472 documenten, 35.613.016.096 tekens, ongeveer 10.263.117.030 tokens (op de eigen tokenizer, 3.47 tekens per token). Verdeling in tekens: engels 51%, nederlands 49%. Kies de config nederlands voor alleen het Nederlandse deel.

Waarom deze dataset er is

Goed Nederlands trainingsmateriaal is niet schaars, het is onverzameld. Wat hier ligt komt uit bronnen die iedereen mag gebruiken en die tot nu toe niet in één set bij elkaar stonden: rechtspraak, wetgeving, parlementaire stukken en debatten, Europese teksten, Wikimedia en open lesmateriaal. De set hoort bij een project dat wil laten zien dat een bruikbaar Nederlands taalmodel te trainen is zonder staatssteun en zonder geschraapte data.

De dataset is daarbij het eigenlijke product. Een model veroudert binnen een jaar, een schoon en gedocumenteerd corpus niet.

Wat er in zit

bron	collectie	documenten	tekens	licentie
rechtspraak	nederlands	669.724	10.305.845.984	pd-art11-aw
wikipedia_en	engels	1.849.467	9.760.036.239	cc-by-sa-4.0
doab_en	engels	122.677	2.971.453.569	cc-by-4.0, cc-by-sa-4.0
eurlex_en	engels	103.382	2.314.088.641	eu-reuse
wikipedia	nederlands	822.652	2.105.440.592	cc-by-sa-4.0
eurlex	nederlands	101.102	2.031.552.014	eu-reuse
handelingen	nederlands	24.978	1.299.404.221	pd-art15b-aw
gutenberg_en	engels	2.726	947.402.125	pd
kamervragen	nederlands	73.963	454.800.412	pd-art15b-aw
pubmed_en	engels	16.456	439.639.849	cc-by-4.0, cc0-1.0
pressbooks_en	engels	42.436	433.951.116	cc-by-4.0, cc-by-sa-4.0, cc0-1.0, pd
wikibooks_en	engels	53.901	340.083.834	cc-by-sa-4.0
europarl	nederlands	78.921	327.172.542	eu-reuse
kamerstukken	nederlands	23.625	316.014.726	pd-art15b-aw
europarl_en	engels	71.924	299.203.130	eu-reuse
kamerdebatten	nederlands	5.333	291.098.621	pd-art15b-aw
wetten	nederlands	16.260	240.243.429	pd-art11-aw
libretexts_en	engels	28.116	234.521.847	cc-by-4.0, cc-by-sa-4.0, pd
news_en	engels	55.581	195.526.380	cc-by-4.0, cc-by-sa-4.0
wikiwijs	nederlands	5.642	60.743.025	cc-by-3.0, cc-by-4.0, cc-by-sa-3.0
belgischstaatsblad	nederlands	5.496	51.826.886	pd-be-xi172
staatsblad	nederlands	2.109	46.625.321	pd-art11-aw
wikinews_en	engels	21.270	45.674.827	cc-by-2.5
oercommons_en	engels	3.209	33.149.285	cc-by-4.0, cc-by-sa-4.0, pd
wikibooks	nederlands	5.810	25.317.912	cc-by-sa-4.0
wikisource	nederlands	2.984	20.658.276	cc-by-sa-4.0
rijksoverheid	nederlands	3.215	8.273.193	cc0-1.0
pdreview_en	engels	1.258	6.841.661	cc-by-sa-4.0
wikinews	nederlands	4.255	6.426.439	cc-by-2.5

Hoe het is schoongemaakt

Per document, in deze volgorde:

1. Normaliseren. Unicode naar NFC, aanhalingstekens en streepjes gelijkgetrokken, harde regeleinden binnen een alinea eruit.
2. Boilerplate weg. Kopregels, paginanummers, navigatie en de vaste staart van elke bron, per bron apart afgeregeld.
3. Kwaliteitsfilter. Te kort, te veel cijfers of leestekens, te weinig Nederlands, te veel herhaling binnen een document.
4. PII wissen. Namen, adressen, telefoonnummers, rekeningnummers en burgerservicenummers worden vervangen door een aanduiding tussen blokhaken. Rechtspraak.nl is zelf al gepseudonimiseerd; dit is de tweede lezing.
5. Decontaminatie. Documenten die overlappen met de testsets van de benchmarks waarop het model gemeten wordt gaan eruit. Vóór het trainen en niet erna, want een score op een corpus dat de testset bevat is geen score.
6. Deduplicatie. MinHash binnen elke bouwronde. Zie de beperkingen hieronder.

Deze documenten zitten wel in het trainingscorpus, maar niet in deze publicatie:

bron	reden	documenten
examens	licentie cvte-bronvermelding-ongewijzigd is niet open	4.893
wikiwijs	licentievelden spreken elkaar tegen	3.291

Licenties

Elk document en elk instructievoorbeeld draagt zijn eigen licentiecode in de kolom license. Deze codes komen voor:

code	betekenis
apache-2.0	Apache License 2.0
cc-by-2.0	Creative Commons BY 2.0
cc-by-2.5	Creative Commons BY 2.5
cc-by-3.0	Creative Commons BY 3.0
cc-by-4.0	Creative Commons BY 4.0
cc-by-sa-3.0	Creative Commons BY-SA 3.0
cc-by-sa-4.0	Creative Commons BY-SA 4.0
cc0-1.0	Creative Commons Zero 1.0
eu-reuse	EU-hergebruikbesluit 2011/833/EU
mit	MIT-licentie
pd	Publiek domein (auteursrecht verlopen)
pd-art11-aw	Publiek domein (Auteurswet art. 11)
pd-art15b-aw	Vrij herbruikbaar (Auteurswet art. 15b)
pd-be-xi172	Publiek domein (WER art. XI.172 §2, België)

De grondslagen die het vaakst voorkomen zijn artikel 11 en artikel 15b van de Auteurswet. Artikel 11 zegt dat er geen auteursrecht rust op wetten, besluiten, verordeningen en rechterlijke uitspraken. Artikel 15b regelt het hergebruik van ander werk dat door of vanwege de openbare macht openbaar is gemaakt, tenzij het auteursrecht uitdrukkelijk is voorbehouden. Voor Belgisch materiaal geldt de tegenhanger in artikel XI.172 van het Wetboek van economisch recht.

Wat dat betekent voor hergebruik: het materiaal is vrij herbruikbaar, maar de CC BY-SA-delen (Wikimedia, een deel van het lesmateriaal) dragen hun naamsvermelding en gelijk-delen-verplichting mee. Kijk dus naar de kolom license per document en niet naar één regel bovenaan.

Velden

kolom	inhoud
text	de schoongemaakte tekst
source	de bron, gelijk aan de confignaam
license	licentiecode van dit document
id	stabiele sleutel binnen de bron (ECLI, dossiernummer, paginatitel)
url	waar het vandaan komt
collection	nederlands of engels
meta	resterende brongegevens als JSON-tekst

Instructiedata

Voorbeelden om een model op te finetunen, afgeleid uit de documenten hierboven en uit een paar door mensen geschreven sets met een open licentie. Er is geen taalmodel gebruikt om ze te maken. De vragen komen uit sjablonen of uit de bron zelf (Kamervragen met het antwoord van de minister, door mensen geschreven sets), de antwoorden uit de brontekst, en wat af te leiden is, is achteraf gecontroleerd.

taak	train	validation	licenties
extractief	77.711	1.553	cc-by-sa-3.0, cc-by-sa-4.0, eu-reuse, pd-art11-aw, pd-art15b-aw, pd-be-xi172
geenkennis	11.787	213	pd-art15b-aw
gesprek	14.797	249	apache-2.0, cc-by-sa-3.0
grammatica	48.931	1.069	cc-by-sa-4.0
kennis	1.152	36	cc-by-4.0
meerkeuze	60.933	1.194	cc-by-sa-3.0, cc-by-sa-4.0
onbegrepen	2.915	85	cc-by-4.0
onthouding	46.102	896	cc-by-sa-4.0, eu-reuse, pd-art11-aw, pd-art15b-aw, pd-be-xi172
openvraag	44.978	951	cc-by-sa-3.0, pd-art15b-aw
samenvatten	40.361	827	cc-by-sa-3.0, pd-art11-aw
som	66.081	1.392	cc-by-4.0, mit
vertalen	70.630	1.368	cc-by-2.0, eu-reuse
wikifeit	78.415	1.585	cc-by-sa-4.0
totaal	564.793	11.418

Hoe er gecontroleerd is. Een extractief antwoord staat letterlijk in de tekst die erbij hoort. Een onthoudingsvoorbeeld ("Dat staat er niet in") heeft een tekst waarin geen antwoord van de gevraagde soort voorkomt, en heeft een antwoordbare tweeling met dezelfde opdracht. Elke gegenereerde som is nagerekend. De samenvattingen van rechtspraak zijn de inhoudsindicaties die bij een uitspraak gepubliceerd worden, en ze zijn weggelaten als ze te veel noemen dat niet in de uitspraak zelf staat. Voorbeelden die een 13-gram delen met een EuroEval-testitem zijn eruit.

Split. Eén op de 50 groepen staat in validation, gekozen op de crc32 van de kolom group. Een groep is het brondocument of het feit, dus formuleringen van dezelfde vraag staan nooit aan beide kanten.

Collecties. bench is de train-split van SQuAD-nl en GSM8K. Wie wil aantonen dat een model geen enkel benchmarkvoorbeeld heeft gezien, laat die weg.

Eigen werk. Gegenereerde sommen, onzinvragen en de handgeschreven kennisvragen vallen onder cc-by-4.0.

kolom	inhoud
messages	het gesprek als role/content, klaar voor een chattemplate
reasoning	de denkstappen vóór het antwoord, leeg als die er niet zijn
task	de taak, gelijk aan de config instructie-<taak>
kind	de soort binnen de taak (datum, bedrag, foutsoort, ...)
answerable	bij lees- en onthoudingsvragen: staat het antwoord in de tekst
language	nl of en
source	waar de tekst vandaan komt
source_document	het id van het brondocument in het corpus, als dat er is
license	licentiecode van dit voorbeeld
collection	nederlands, engels of bench
group	sleutel voor de split
prompt_raw, completion_raw	het voorbeeld in het eigen promptformaat met speciale tokens
meta	overige velden als JSON-tekst

Bekende beperkingen

• Deduplicatie per ronde. Het corpus is in twee rondes gebouwd, en bijna-dubbelen tússen die rondes zijn niet gezocht. Exacte dubbelen van hetzelfde document zijn uitgesloten doordat elke bron zijn id's bijhoudt.
• Licentieversies uit de Common Pile. Bij doab_en, pressbooks_en, libretexts_en, news_en, oercommons_en, pdreview_en en pubmed_en zijn CC-licenties van versie 2.0 tot 3.0 bij het ophalen als 4.0 vastgelegd. De oorspronkelijke versie staat in de Common Pile zelf.
• Register. Formeel en schriftelijk Nederlands overheerst. Losse spreektaal staat er nauwelijks in.
• Europarl is deels vertaald Nederlands; het origineel was vaak een andere taal.
• PII. Het wissen is regelgebaseerd en mist dus gevallen. Rechtspraak.nl pseudonimiseert zelf ook.

Wat er bewust niet in zit

Geen geschraapte websites, geen fora, geen sociale media, geen krantenarchieven waarvan het auteursrecht nog loopt, en geen tekst die door een ander taalmodel is gegenereerd. Dat kost register: ontspannen, alledaags Nederlands is in officiële bronnen schaars. Kamervragen en Handelingen vangen daar een deel van op, want dat is gewone taal over elk denkbaar onderwerp.

Laden

from datasets import load_dataset

nl = load_dataset("beleg", "nederlands", split="train", streaming=True)
recht = load_dataset("beleg", "rechtspraak", split="train")
sft = load_dataset("beleg", "instructie")  # train en validation

Verantwoording

Bij deze set hoort de code die hem heeft gebouwd, met per bron de fetcher, het schoonmaakprofiel en de meting die eronder ligt: https://github.com/ToetsChecker-Research/boterham. Wie wil nagaan hoe een document hier terecht is gekomen, kan dat daar volgen. HERKOMST.json naast deze kaart bevat de tellingen per bron en per taak in machineleesbare vorm.