Datasets:
File size: 3,385 Bytes
c2b3bba | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 | #!/usr/bin/env python3
"""dataset_massive.jsonl ins neue Think-Format umschreiben (Wort, Spreizung, Zaehlung).
Das Wort wird aus der Pointer-Liste rekonstruiert. Der neue Think-Block kommt aus derselben
Funktion wie im Hardcore-Generator (build_think), damit beide Datensaetze formatgleich sind.
Der alte Block darf sich nur durch die drei eingefuegten Zeilen unterscheiden, sonst wird
das Beispiel uebersprungen. Das Spektakel nach dem Block bleibt unveraendert, muss aber die strenge
Validierung des Hardcore-Generators bestehen (Zahlwoerter 1..N, N Eintraege, Schluss 'Das sind N.'),
sonst wird das Beispiel verworfen.
Aufruf: rewrite_massive_format.py [--limit N] [--out PFAD]
"""
import json
import re
import sys
from collections import Counter
from pathlib import Path
sys.path.insert(0, str(Path(__file__).resolve().parent))
from generate_hardcore_massive import POS_RE, TC, TO, build_think, validate_example # noqa: E402
SRC = Path("/mnt/models/graf_zahl/dataset_massive.jsonl")
DST = Path("/mnt/models/graf_zahl/dataset_massive_v2.jsonl")
HEADER_PREFIXES = ("Wort: ", "Spreizung: ", "Zählung:")
def rewrite(assistant):
m = re.fullmatch(re.escape(TO) + r"\n(.*?)\n" + re.escape(TC) + r"\n(.*)", assistant, re.DOTALL)
if not m:
return None, None, "Struktur"
think, performance = m.groups()
pos = POS_RE.findall(think)
if not pos:
return None, None, "keine Positionen"
chars = []
for i, (p, c, z) in enumerate(pos, 1):
if int(p) != i or int(z) != i:
return None, None, "Position/Zaehler nicht sequenziell"
chars.append(c)
word = "".join(chars)
new_think = build_think(word)
expected_old = "\n".join(l for l in new_think.split("\n") if not l.startswith(HEADER_PREFIXES))
if TO + "\n" + think + "\n" + TC != expected_old:
return None, None, "alter Block weicht vom kanonischen Format ab"
return word, new_think + "\n" + performance, None
def main():
limit = int(sys.argv[sys.argv.index("--limit") + 1]) if "--limit" in sys.argv else None
out = Path(sys.argv[sys.argv.index("--out") + 1]) if "--out" in sys.argv else DST
rows = [json.loads(l) for l in open(SRC, encoding="utf-8") if l.strip()]
converted, skipped, lens = [], Counter(), []
special = 0
for r in rows:
word, new_assistant, err = rewrite(r["messages"][2]["content"])
if err:
skipped[err] += 1
continue
verr = validate_example(word, new_assistant)[1]
if verr:
skipped["Spektakel: " + re.sub(r"[0-9]+", "N", verr)[:40]] += 1
continue
special += (" " in word) or ("-" in word)
lens.append(len(word))
r["messages"][2]["content"] = new_assistant
converted.append(r)
print(f"Quelle: {len(rows)} Beispiele | behalten: {len(converted)} | verworfen: {sum(skipped.values())}")
for k, v in skipped.most_common():
print(f" verworfen ({v}x): {k}")
print(f"Wortlaenge {min(lens)}..{max(lens)}; Woerter mit Leerzeichen/Bindestrich (Spreizung mehrdeutig): {special}")
to_write = converted[:limit] if limit else converted
with open(out, "w", encoding="utf-8") as f:
for r in to_write:
f.write(json.dumps(r, ensure_ascii=False) + "\n")
print(f"Geschrieben: {len(to_write)} Beispiele -> {out}")
if __name__ == "__main__":
main()
|