scripts/generate.py

#!/usr/bin/env python3
"""Generate a deterministic, license-clean Thai multitask dataset."""
import hashlib
import json
import random
from pathlib import Path

ROOT = Path(__file__).resolve().parents[1]
RNG = random.Random(38027)
LICENSE = "Apache-2.0"

NAMES = ["กานต์", "มะลิ", "นที", "พลอย", "ธันวา", "ขวัญ", "เมฆ", "ตะวัน", "พิม", "อรุณ"]
PLACES = ["เชียงใหม่", "ขอนแก่น", "นครราชสีมา", "กรุงเทพฯ", "ชลบุรี", "สงขลา", "ระยอง", "สุโขทัย"]
OBJECTS = ["สมุด", "ดินสอ", "ส้ม", "ขวดน้ำ", "หนังสือ", "ต้นกล้า", "กล่อง", "ตั๋ว"]
TOPICS = [
    ("การนอนหลับ", "การนอนให้เพียงพอช่วยให้สมองจัดเก็บความจำและฟื้นฟูร่างกาย"),
    ("การออกกำลังกาย", "การเคลื่อนไหวอย่างสม่ำเสมอช่วยเสริมความแข็งแรงและลดความเครียด"),
    ("การออมเงิน", "การแบ่งรายได้บางส่วนไว้ออมช่วยสร้างเงินสำรองสำหรับอนาคต"),
    ("การแยกขยะ", "การแยกวัสดุก่อนทิ้งช่วยให้รีไซเคิลได้ง่ายและลดขยะฝังกลบ"),
    ("การดื่มน้ำ", "การดื่มน้ำให้เหมาะสมช่วยรักษาสมดุลและการทำงานของร่างกาย"),
    ("การอ่านหนังสือ", "การอ่านสม่ำเสมอช่วยเพิ่มความรู้ คำศัพท์ และทักษะการคิด"),
]
POSITIVE = ["บริการรวดเร็วและสุภาพ", "สินค้าเรียบร้อยและใช้งานได้ดี", "อาหารอร่อยเกินคาด", "เจ้าหน้าที่ช่วยเหลือดีมาก"]
NEUTRAL = ["ร้านเปิดเวลาเก้าโมง", "พัสดุมาถึงวันอังคาร", "สินค้ามีสีตามที่ระบุ", "ห้องพักอยู่ชั้นสาม"]
NEGATIVE = ["สินค้าชำรุดเมื่อเปิดกล่อง", "ต้องรอนานกว่าที่แจ้ง", "อาหารเย็นและรสชาติจืด", "ติดต่อเจ้าหน้าที่ไม่ได้"]


def row(task, user, assistant, score=0.94):
    digest = hashlib.sha1(f"{task}\0{user}\0{assistant}".encode()).hexdigest()[:12]
    return {
        "id": f"th_{task}_{digest}",
        "task": task,
        "messages": [{"role": "user", "content": user}, {"role": "assistant", "content": assistant}],
        "source": "synthetic_rules_v1",
        "license": LICENSE,
        "quality_score": score,
    }


def generate():
    rows = []

    # Arithmetic reasoning: exact, automatically verifiable answers.
    for _ in range(2600):
        name, obj = RNG.choice(NAMES), RNG.choice(OBJECTS)
        groups, each = RNG.randint(2, 40), RNG.randint(2, 50)
        total = groups * each
        mode = RNG.randrange(3)
        if mode == 0:
            q = f"{name}มี{obj} {total} ชิ้น แบ่งเท่า ๆ กัน {groups} กลุ่ม แต่ละกลุ่มมีกี่ชิ้น"
            a = f"{total} หารด้วย {groups} เท่ากับ {each} ดังนั้นแต่ละกลุ่มมี {each} ชิ้น"
        elif mode == 1:
            q = f"มี{obj} {groups} กลุ่ม กลุ่มละ {each} ชิ้น รวมทั้งหมดกี่ชิ้น"
            a = f"{groups} คูณ {each} เท่ากับ {total} ดังนั้นมีทั้งหมด {total} ชิ้น"
        else:
            used = RNG.randint(1, total - 1)
            q = f"{name}มี{obj} {total} ชิ้น ใช้ไป {used} ชิ้น เหลือกี่ชิ้น"
            a = f"{total} ลบ {used} เท่ากับ {total-used} ดังนั้นเหลือ {total-used} ชิ้น"
        rows.append(row("math_reasoning", q, a, 0.99))

    # Sentiment classification.
    for label, pool in [("บวก", POSITIVE), ("กลาง", NEUTRAL), ("ลบ", NEGATIVE)]:
        for i in range(400):
            text = RNG.choice(pool)
            context = RNG.choice(["รีวิวร้านค้า", "ความคิดเห็นลูกค้า", "ข้อความหลังรับบริการ", "ประสบการณ์ผู้ใช้"])
            place, day = RNG.choice(PLACES), RNG.randint(1, 31)
            channel = RNG.choice(["หน้าร้าน", "แอปพลิเคชัน", "โทรศัพท์", "แบบสอบถาม"])
            q = f"จำแนกความรู้สึกเป็น บวก กลาง หรือลบ\nประเภทข้อความ: {context}\nช่องทาง: {channel}\nพื้นที่: {place}\nวันที่: {day}\nข้อความ: {text}"
            rows.append(row("sentiment_classification", q, label, 0.98))

    # Translation with compositional but natural short sentences.
    verbs = [("อ่าน", "reads"), ("ซื้อ", "buys"), ("จัดเตรียม", "prepares"), ("ส่ง", "sends"), ("ตรวจสอบ", "checks")]
    en_objects = {"สมุด": "a notebook", "หนังสือ": "a book", "ตั๋ว": "a ticket", "ขวดน้ำ": "a bottle of water"}
    times = [("ตอนเช้า", "in the morning"), ("ทุกวัน", "every day"), ("ก่อนเดินทาง", "before the trip"), ("หลังเลิกงาน", "after work")]
    for _ in range(1000):
        name, place = RNG.choice(NAMES), RNG.choice(PLACES)
        obj = RNG.choice(list(en_objects))
        th_verb, en_verb = RNG.choice(verbs)
        th_time, en_time = RNG.choice(times)
        th = f"{name}{th_verb}{obj}{th_time}ที่{place}"
        en = f"{name} {en_verb} {en_objects[obj]} {en_time} in {place}."
        if RNG.random() < 0.5:
            rows.append(row("translation_th_en", f"แปลเป็นภาษาอังกฤษ: {th}", en, 0.96))
        else:
            rows.append(row("translation_en_th", f"แปลเป็นภาษาไทย: {en}", th, 0.96))

    # Reading comprehension grounded entirely in supplied context.
    for _ in range(1100):
        name, place, obj = RNG.choice(NAMES), RNG.choice(PLACES), RNG.choice(OBJECTS)
        count, hour = RNG.randint(2, 90), RNG.randint(6, 20)
        context = f"{name}เดินทางไป{place}เวลา {hour:02d}:00 น. และนำ{obj}ไป {count} ชิ้น"
        kind = RNG.randrange(3)
        if kind == 0:
            question, answer = "ใครเป็นผู้เดินทาง", name
        elif kind == 1:
            question, answer = "เดินทางไปที่ใด", place
        else:
            question, answer = f"นำ{obj}ไปกี่ชิ้น", f"{count} ชิ้น"
        rows.append(row("question_answering", f"บริบท: {context}\nคำถาม: {question}", answer, 0.99))

    # Information extraction to strict JSON.
    for _ in range(900):
        day, month = RNG.randint(1, 28), RNG.choice(["มกราคม", "มีนาคม", "มิถุนายน", "สิงหาคม", "พฤศจิกายน"])
        hour, minute, place = RNG.randint(8, 18), RNG.choice([0, 15, 30, 45]), RNG.choice(PLACES)
        event = RNG.choice(["ประชุมทีม", "อบรม", "นัดส่งมอบงาน", "สัมมนา"])
        text = f"{event}วันที่ {day} {month} เวลา {hour:02d}:{minute:02d} น. ณ {place}"
        answer = json.dumps({"event": event, "date": f"{day} {month}", "time": f"{hour:02d}:{minute:02d}", "location": place}, ensure_ascii=False, separators=(",", ":"))
        rows.append(row("information_extraction", f"อ่านข้อความแล้วตอบ JSON ที่มี event, date, time, location\n{text}", answer, 0.99))

    # Summarization and explanation.
    for _ in range(900):
        topic, benefit = RNG.choice(TOPICS)
        actor = RNG.choice(["โรงเรียน", "ชุมชน", "ครอบครัว", "สำนักงาน"])
        participants, weeks, place = RNG.randint(10, 200), RNG.randint(2, 16), RNG.choice(PLACES)
        text = f"{actor}ใน{place}จัดกิจกรรมเรื่อง{topic}นาน {weeks} สัปดาห์ มีผู้เข้าร่วม {participants} คน ผู้เข้าร่วมฝึกปฏิบัติและแลกเปลี่ยนประสบการณ์ เพราะ{benefit}"
        rows.append(row("summarization", f"สรุปข้อความต่อไปนี้เป็นหนึ่งประโยค: {text}", f"{actor}ใน{place}จัดกิจกรรม{topic} {weeks} สัปดาห์ให้ผู้เข้าร่วม {participants} คนเรียนรู้และนำไปใช้จริง", 0.93))
    for _ in range(500):
        topic, benefit = RNG.choice(TOPICS)
        audience = RNG.choice(["นักเรียน", "ผู้เริ่มต้น", "ผู้สูงอายุ", "คนทำงาน"])
        age_ranges = {"นักเรียน": (8, 18), "ผู้เริ่มต้น": (18, 65), "ผู้สูงอายุ": (60, 85), "คนทำงาน": (20, 65)}
        age = RNG.randint(*age_ranges[audience])
        rows.append(row("explanation", f"อธิบายประโยชน์ของ{topic}แบบเข้าใจง่ายสำหรับ{audience}อายุ {age} ปี", benefit, 0.95))

    # Formal rewriting and practical conversation.
    informal_formal = [
        ("เดี๋ยวส่งงานให้พรุ่งนี้นะ", "จะจัดส่งงานให้ภายในวันพรุ่งนี้"),
        ("ช่วยดูไฟล์นี้ให้หน่อย", "กรุณาตรวจสอบไฟล์นี้"),
        ("วันนี้ไปประชุมไม่ได้", "วันนี้ไม่สามารถเข้าร่วมการประชุมได้"),
        ("ขอเลื่อนนัดไปอาทิตย์หน้า", "ขอเลื่อนกำหนดนัดหมายเป็นสัปดาห์หน้า"),
        ("ของยังมาไม่ถึงเลย", "ขณะนี้ยังไม่ได้รับสินค้า"),
    ]
    for i in range(700):
        informal, formal = informal_formal[i % len(informal_formal)]
        context = RNG.choice(["สำหรับอีเมลถึงลูกค้า", "สำหรับข้อความถึงหัวหน้างาน", "สำหรับหนังสือแจ้ง", "โดยใช้ภาษาสุภาพ"])
        sender, place = RNG.choice(NAMES), RNG.choice(PLACES)
        rows.append(row("formal_rewriting", f"ผู้ส่งชื่อ{sender}อยู่ที่{place} เขียนให้เป็นทางการ {context}: {informal}", formal, 0.96))
    tips = [
        ("จัดเวลาทำงาน", "กำหนดงานสำคัญของวัน แบ่งเวลาเป็นช่วง และเผื่อเวลาสำหรับงานเร่งด่วน"),
        ("เตรียมตัวเดินทาง", "ตรวจเส้นทาง เอกสารสำคัญ สภาพอากาศ และเผื่อเวลาออกเดินทาง"),
        ("เริ่มออมเงิน", "ตั้งเป้าหมาย แยกเงินออมทันทีเมื่อมีรายได้ และติดตามรายจ่ายทุกเดือน"),
        ("อ่านหนังสือให้จำ", "ทบทวนแบบเว้นระยะ ตั้งคำถามกับเนื้อหา และสรุปด้วยภาษาของตัวเอง"),
    ]
    for i in range(600):
        subject, answer = tips[i % len(tips)]
        style = RNG.choice(["แบบสั้น ๆ", "สำหรับผู้เริ่มต้น", "เป็นสามขั้นตอน", "ให้ทำตามได้ง่าย"])
        name, place, days = RNG.choice(NAMES), RNG.choice(PLACES), RNG.randint(3, 30)
        rows.append(row("conversation", f"{name}อยู่ที่{place}และมีเวลา {days} วัน ช่วยแนะนำวิธี{subject}{style}", answer, 0.94))

    # Intent classification.
    intents = [
        ("ต้องการเปลี่ยนบ้านเลขที่สำหรับรับพัสดุ", "แก้ไขข้อมูลการจัดส่ง"),
        ("อยากยกเลิกสินค้าที่เพิ่งสั่ง", "ยกเลิกคำสั่งซื้อ"),
        ("เงินถูกหักแต่รายการไม่สำเร็จ", "ตรวจสอบการชำระเงิน"),
        ("ขอทราบว่าพัสดุอยู่ที่ไหน", "ติดตามสถานะการจัดส่ง"),
        ("ต้องการคืนสินค้าที่ได้รับ", "ขอคืนสินค้า"),
    ]
    for i in range(500):
        utterance, intent = intents[i % len(intents)]
        ticket = 1000 + i
        rows.append(row("intent_classification", f"ระบุเจตนาของข้อความหมายเลข {ticket}: {utterance}", intent, 0.98))

    # De-duplicate exact rows, shuffle deterministically, then split.
    unique = {r["id"]: r for r in rows}
    rows = list(unique.values())
    RNG.shuffle(rows)
    return rows


def main():
    rows = generate()
    cut_train = int(len(rows) * 0.90)
    cut_valid = int(len(rows) * 0.95)
    splits = {
        "train": rows[:cut_train],
        "validation": rows[cut_train:cut_valid],
        "test": rows[cut_valid:],
    }
    (ROOT / "data").mkdir(exist_ok=True)
    for name, records in splits.items():
        path = ROOT / "data" / f"{name}.jsonl"
        with path.open("w", encoding="utf-8") as handle:
            for record in records:
                handle.write(json.dumps(record, ensure_ascii=False, separators=(",", ":")) + "\n")
        print(f"{name}: {len(records):,}")
    print(f"total: {len(rows):,}")


if __name__ == "__main__":
    main()