#!/usr/bin/env python3
"""dataset_massive.jsonl ins neue Think-Format umschreiben (Wort, Spreizung, Zaehlung).

Das Wort wird aus der Pointer-Liste rekonstruiert. Der neue Think-Block kommt aus derselben
Funktion wie im Hardcore-Generator (build_think), damit beide Datensaetze formatgleich sind.
Der alte Block darf sich nur durch die drei eingefuegten Zeilen unterscheiden, sonst wird
das Beispiel uebersprungen. Das Spektakel nach dem Block bleibt unveraendert, muss aber die strenge
Validierung des Hardcore-Generators bestehen (Zahlwoerter 1..N, N Eintraege, Schluss 'Das sind N.'),
sonst wird das Beispiel verworfen.

Aufruf: rewrite_massive_format.py [--limit N] [--out PFAD]
"""
import json
import re
import sys
from collections import Counter
from pathlib import Path

sys.path.insert(0, str(Path(__file__).resolve().parent))
from generate_hardcore_massive import POS_RE, TC, TO, build_think, validate_example  # noqa: E402

SRC = Path("/mnt/models/graf_zahl/dataset_massive.jsonl")
DST = Path("/mnt/models/graf_zahl/dataset_massive_v2.jsonl")
HEADER_PREFIXES = ("Wort: ", "Spreizung: ", "Zählung:")


def rewrite(assistant):
    m = re.fullmatch(re.escape(TO) + r"\n(.*?)\n" + re.escape(TC) + r"\n(.*)", assistant, re.DOTALL)
    if not m:
        return None, None, "Struktur"
    think, performance = m.groups()
    pos = POS_RE.findall(think)
    if not pos:
        return None, None, "keine Positionen"
    chars = []
    for i, (p, c, z) in enumerate(pos, 1):
        if int(p) != i or int(z) != i:
            return None, None, "Position/Zaehler nicht sequenziell"
        chars.append(c)
    word = "".join(chars)
    new_think = build_think(word)
    expected_old = "\n".join(l for l in new_think.split("\n") if not l.startswith(HEADER_PREFIXES))
    if TO + "\n" + think + "\n" + TC != expected_old:
        return None, None, "alter Block weicht vom kanonischen Format ab"
    return word, new_think + "\n" + performance, None


def main():
    limit = int(sys.argv[sys.argv.index("--limit") + 1]) if "--limit" in sys.argv else None
    out = Path(sys.argv[sys.argv.index("--out") + 1]) if "--out" in sys.argv else DST

    rows = [json.loads(l) for l in open(SRC, encoding="utf-8") if l.strip()]
    converted, skipped, lens = [], Counter(), []
    special = 0
    for r in rows:
        word, new_assistant, err = rewrite(r["messages"][2]["content"])
        if err:
            skipped[err] += 1
            continue
        verr = validate_example(word, new_assistant)[1]
        if verr:
            skipped["Spektakel: " + re.sub(r"[0-9]+", "N", verr)[:40]] += 1
            continue
        special += (" " in word) or ("-" in word)
        lens.append(len(word))
        r["messages"][2]["content"] = new_assistant
        converted.append(r)

    print(f"Quelle: {len(rows)} Beispiele | behalten: {len(converted)} | verworfen: {sum(skipped.values())}")
    for k, v in skipped.most_common():
        print(f"   verworfen ({v}x): {k}")
    print(f"Wortlaenge {min(lens)}..{max(lens)}; Woerter mit Leerzeichen/Bindestrich (Spreizung mehrdeutig): {special}")

    to_write = converted[:limit] if limit else converted
    with open(out, "w", encoding="utf-8") as f:
        for r in to_write:
            f.write(json.dumps(r, ensure_ascii=False) + "\n")
    print(f"Geschrieben: {len(to_write)} Beispiele -> {out}")


if __name__ == "__main__":
    main()