| |
| """dataset_massive.jsonl ins neue Think-Format umschreiben (Wort, Spreizung, Zaehlung). |
| |
| Das Wort wird aus der Pointer-Liste rekonstruiert. Der neue Think-Block kommt aus derselben |
| Funktion wie im Hardcore-Generator (build_think), damit beide Datensaetze formatgleich sind. |
| Der alte Block darf sich nur durch die drei eingefuegten Zeilen unterscheiden, sonst wird |
| das Beispiel uebersprungen. Das Spektakel nach dem Block bleibt unveraendert, muss aber die strenge |
| Validierung des Hardcore-Generators bestehen (Zahlwoerter 1..N, N Eintraege, Schluss 'Das sind N.'), |
| sonst wird das Beispiel verworfen. |
| |
| Aufruf: rewrite_massive_format.py [--limit N] [--out PFAD] |
| """ |
| import json |
| import re |
| import sys |
| from collections import Counter |
| from pathlib import Path |
|
|
| sys.path.insert(0, str(Path(__file__).resolve().parent)) |
| from generate_hardcore_massive import POS_RE, TC, TO, build_think, validate_example |
|
|
| SRC = Path("/mnt/models/graf_zahl/dataset_massive.jsonl") |
| DST = Path("/mnt/models/graf_zahl/dataset_massive_v2.jsonl") |
| HEADER_PREFIXES = ("Wort: ", "Spreizung: ", "Zählung:") |
|
|
|
|
| def rewrite(assistant): |
| m = re.fullmatch(re.escape(TO) + r"\n(.*?)\n" + re.escape(TC) + r"\n(.*)", assistant, re.DOTALL) |
| if not m: |
| return None, None, "Struktur" |
| think, performance = m.groups() |
| pos = POS_RE.findall(think) |
| if not pos: |
| return None, None, "keine Positionen" |
| chars = [] |
| for i, (p, c, z) in enumerate(pos, 1): |
| if int(p) != i or int(z) != i: |
| return None, None, "Position/Zaehler nicht sequenziell" |
| chars.append(c) |
| word = "".join(chars) |
| new_think = build_think(word) |
| expected_old = "\n".join(l for l in new_think.split("\n") if not l.startswith(HEADER_PREFIXES)) |
| if TO + "\n" + think + "\n" + TC != expected_old: |
| return None, None, "alter Block weicht vom kanonischen Format ab" |
| return word, new_think + "\n" + performance, None |
|
|
|
|
| def main(): |
| limit = int(sys.argv[sys.argv.index("--limit") + 1]) if "--limit" in sys.argv else None |
| out = Path(sys.argv[sys.argv.index("--out") + 1]) if "--out" in sys.argv else DST |
|
|
| rows = [json.loads(l) for l in open(SRC, encoding="utf-8") if l.strip()] |
| converted, skipped, lens = [], Counter(), [] |
| special = 0 |
| for r in rows: |
| word, new_assistant, err = rewrite(r["messages"][2]["content"]) |
| if err: |
| skipped[err] += 1 |
| continue |
| verr = validate_example(word, new_assistant)[1] |
| if verr: |
| skipped["Spektakel: " + re.sub(r"[0-9]+", "N", verr)[:40]] += 1 |
| continue |
| special += (" " in word) or ("-" in word) |
| lens.append(len(word)) |
| r["messages"][2]["content"] = new_assistant |
| converted.append(r) |
|
|
| print(f"Quelle: {len(rows)} Beispiele | behalten: {len(converted)} | verworfen: {sum(skipped.values())}") |
| for k, v in skipped.most_common(): |
| print(f" verworfen ({v}x): {k}") |
| print(f"Wortlaenge {min(lens)}..{max(lens)}; Woerter mit Leerzeichen/Bindestrich (Spreizung mehrdeutig): {special}") |
|
|
| to_write = converted[:limit] if limit else converted |
| with open(out, "w", encoding="utf-8") as f: |
| for r in to_write: |
| f.write(json.dumps(r, ensure_ascii=False) + "\n") |
| print(f"Geschrieben: {len(to_write)} Beispiele -> {out}") |
|
|
|
|
| if __name__ == "__main__": |
| main() |
|
|
