qwenmicycle-assnat-sft

Supervised fine-tuning corpus built from the verbatim records of the French National Assembly. — Corpus de fine-tuning supervisé construit à partir des comptes rendus intégraux de l'Assemblée nationale.

---

English

Each example is a contiguous block of a single sitting, pre-tokenised for Qwen3.8-27B. The corpus covers legislatures 15 to 17 (2017–2025) and is meant to teach a model to generate parliamentary speech conditioned on speaker, political group and agenda item. Turns longer than 1200 characters carry a short reasoning plan, distilled on-policy from the model itself.

Key figures

blocks	33,808 (32,165 train · 1,643 eval)
tokens	228.3 M
supervised tokens	166.2 M (72.8 %)
supervised turns	534,488
reasoning plans	115,680
sittings	2,768
cold starts	9.3 %
raw text	~0.91 GB
block length	8,192 tokens max

Format

column	type
input_ids	list[int32]	full sequence, ChatML template
labels	list[int32]	-100 = unsupervised token
cibles	list[string]	text of the supervised segments, untokenised
cr_uid, date, legislature	string	provenance
n_tokens, n_supervises, n_tours_sup	int32
cold_start	bool	block starts mid-sitting

A block holds several supervised turns. Earlier turns of the same sitting sit physically above in the sequence, masked: every target sees the real debate that preceded it, interjections included.

The prompt/target boundary falls right after <think>\n, exactly where the model takes over at inference. Real example — first of the 18 supervised turns of block CRSANR5L15S2019O1N236 #0 (speech abridged with […]):

<|im_start|>system
Assemblée nationale, Session ordinaire 2018-2019 — séance du jeudi 16 mai 2019.
Tu rédiges les interventions de cette séance : après chaque annonce
« → Nom (qualité) : », écris le discours effectivement prononcé.<|im_end|>
<|im_start|>user
=== Ordre du jour : Transformation de la fonction publique › Suite de la discussion d'un projet de loi ===
[M. le président] : L'ordre du jour appelle la suite de la discussion du projet
de loi de transformation de la fonction publique (nos 1802 et 1924).
=== Ordre du jour : Transformation de la fonction publique › Discussion des articles (suite) ===
[M. le président] : Cet après-midi, l'Assemblée a poursuivi la discussion des
articles du projet de loi, s'arrêtant à l'article 9.
[M. le président] : La parole est à M. Olivier Marleix.
→ M. Olivier Marleix (groupe LR) :<|im_end|>
<|im_start|>assistant
<think>

▲ prompt ends here — everything above is masked (labels = -100)
▼ target starts here — everything below is supervised

Angle : Défense de la sécurité juridique et des missions régaliennes face à une
rédaction législative jugée floue
Arguments : 1) L'absence de définition légale d'un concept clé transfère le
pouvoir de décision au gouvernement, créant une incertitude sur la pérennité du
statut 2) Le risque d'extension du recours au contrat à des postes sensibles,
y compris ceux issus de grandes écoles, si les conditions de formation évoluent
Pris à partie : Le gouvernement et la rédaction ambiguë du projet de loi
Registre : Technique et alerte
Chute : Appel à la clarification immédiate du texte pour garantir la
transparence des intentions
</think>

Avec l'article 9, nous abordons directement la question de l'ouverture des
emplois permanents, notamment de la fonction publique d'État, à des
contractuels. Cet article me pose problème, car la rédaction que vous avez
retenue recèle une vraie ambiguïté juridique, qui ne fait que traduire
l'ambiguïté de vos intentions. […] le concept de « formation statutaire »
n'étant pas défini par la loi, c'est le pouvoir réglementaire qui décidera au
fil de l'eau des emplois qui requerront ou non une formation statutaire. […]<|im_end|>

Note that <think>\n sits on the masked side: at inference the chat template supplies it (add_generation_prompt=True ends the prompt with <|im_start|>assistant\n<think>\n), so the model never generates it. Turns shorter than 1200 characters have an empty <think>, which renders as <think>\n\n</think>\n\n — bit for bit the native non-thinking mode.

At inference. Prompts carry no reasoning-effort preamble: they match reasoning_effort="medium". apply_chat_template() injects the xhigh preamble by default, which the model never saw during training. Serve with reasoning_effort="medium", or build the prompt manually.

Reasoning plans

Any plan sharing more than 2 % of its 8-grams with the target speech is rejected. Out of 115,857 generated plans, 177 were discarded (0.15 %); 8-gram leakage at the 99th percentile is 0.0000.

Known limitation. Plans are produced by back-analysis, i.e. while seeing the target speech, so some lexical imprint remains below the 8-gram threshold. At inference the model must plan cold — a slightly harder task than the one seen during training.

Sources

• French National Assembly open data — « syceron brut » verbatim records
• Open Licence 2.0 (Etalab)
• Base model: Qwen/Qwen3.8-27B
• Build code: codcordance/qwenmicycle

Usage

This corpus is public speech by identifiable people, delivered in session and officially published. It is intended for research. A model trained on it can attribute to real people statements they never made: any use must make this explicit.

---

Français

Chaque exemple est un bloc contigu d'une même séance, pré-tokenisé pour Qwen3.8-27B. Le corpus couvre les législatures 15 à 17 (2017-2025) et sert à apprendre à un modèle à générer du discours parlementaire conditionné par orateur, groupe politique et point à l'ordre du jour. Les interventions de plus de 1200 caractères portent un plan de raisonnement court, distillé on-policy par le modèle lui-même.

Chiffres

blocs	33 808 (32 165 train · 1 643 eval)
tokens	228,3 M
tokens supervisés	166,2 M (72,8 %)
tours supervisés	534 488
plans de raisonnement	115 680
séances	2 768
démarrages à froid	9,3 %
texte brut	~0,91 Go
longueur de bloc	8 192 tokens max

Format

colonne	type
input_ids	list[int32]	séquence complète, template ChatML
labels	list[int32]	-100 = token non supervisé
cibles	list[string]	texte des segments supervisés, non tokenisé
cr_uid, date, legislature	string	provenance
n_tokens, n_supervises, n_tours_sup	int32
cold_start	bool	le bloc commence en cours de séance

Un bloc contient plusieurs tours supervisés. Les tours précédents de la même séance sont physiquement présents plus haut dans la séquence, masqués : chaque cible voit le débat réel qui l'a précédée, interruptions comprises.

La frontière prompt/cible tombe juste après <think>\n, exactement là où le modèle prend la main à l'inférence. Exemple réel — premier des 18 tours supervisés du bloc CRSANR5L15S2019O1N236 #0 (discours abrégé par […]) :

<|im_start|>system
Assemblée nationale, Session ordinaire 2018-2019 — séance du jeudi 16 mai 2019.
Tu rédiges les interventions de cette séance : après chaque annonce
« → Nom (qualité) : », écris le discours effectivement prononcé.<|im_end|>
<|im_start|>user
=== Ordre du jour : Transformation de la fonction publique › Suite de la discussion d'un projet de loi ===
[M. le président] : L'ordre du jour appelle la suite de la discussion du projet
de loi de transformation de la fonction publique (nos 1802 et 1924).
=== Ordre du jour : Transformation de la fonction publique › Discussion des articles (suite) ===
[M. le président] : Cet après-midi, l'Assemblée a poursuivi la discussion des
articles du projet de loi, s'arrêtant à l'article 9.
[M. le président] : La parole est à M. Olivier Marleix.
→ M. Olivier Marleix (groupe LR) :<|im_end|>
<|im_start|>assistant
<think>

▲ le prompt s'arrête ici — tout ce qui précède est masqué (labels = -100)
▼ la cible commence ici — tout ce qui suit est supervisé

Angle : Défense de la sécurité juridique et des missions régaliennes face à une
rédaction législative jugée floue
Arguments : 1) L'absence de définition légale d'un concept clé transfère le
pouvoir de décision au gouvernement, créant une incertitude sur la pérennité du
statut 2) Le risque d'extension du recours au contrat à des postes sensibles,
y compris ceux issus de grandes écoles, si les conditions de formation évoluent
Pris à partie : Le gouvernement et la rédaction ambiguë du projet de loi
Registre : Technique et alerte
Chute : Appel à la clarification immédiate du texte pour garantir la
transparence des intentions
</think>

Avec l'article 9, nous abordons directement la question de l'ouverture des
emplois permanents, notamment de la fonction publique d'État, à des
contractuels. Cet article me pose problème, car la rédaction que vous avez
retenue recèle une vraie ambiguïté juridique, qui ne fait que traduire
l'ambiguïté de vos intentions. […] le concept de « formation statutaire »
n'étant pas défini par la loi, c'est le pouvoir réglementaire qui décidera au
fil de l'eau des emplois qui requerront ou non une formation statutaire. […]<|im_end|>

Noter que <think>\n est du côté masqué : à l'inférence c'est le template qui le fournit (add_generation_prompt=True termine le prompt par <|im_start|>assistant\n<think>\n), le modèle ne le génère jamais. Les tours de moins de 1200 caractères ont un <think> vide, dont la forme rendue <think>\n\n</think>\n\n est bit pour bit celle du mode non-thinking natif.

À l'inférence. Les prompts ne portent aucun préambule d'effort de raisonnement : ils correspondent à reasoning_effort="medium". apply_chat_template() injecte par défaut le préambule xhigh, jamais vu à l'entraînement. Servir avec reasoning_effort="medium", ou construire le prompt à la main.

Plans de raisonnement

Tout plan partageant plus de 2 % de ses 8-grammes avec le discours cible est rejeté. Sur 115 857 plans générés, 177 ont été écartés (0,15 %) ; la fuite au 99e centile est de 0,0000.

Limite connue. Les plans sont produits en rétro-analyse, donc en voyant le discours cible : une imprégnation lexicale subsiste sous le seuil des 8-grammes. À l'inférence, le modèle devra planifier à froid — tâche légèrement plus dure que celle vue à l'entraînement.

Sources

• Open data de l'Assemblée nationale — comptes rendus « syceron brut »
• Licence Ouverte / Open Licence 2.0 (Etalab)
• Modèle de base : Qwen/Qwen3.8-27B
• Code de construction : codcordance/qwenmicycle

Usage

Ce corpus est de la parole publique de personnes identifiables, prononcée en séance et publiée officiellement. Il est destiné à la recherche. Un modèle entraîné dessus peut produire des propos attribués à des personnes réelles qu'elles n'ont jamais tenus : tout usage doit rendre cette nature explicite.