split_dataset.py

"""
سكربت تقسيم مجموعة بيانات AraDigitalContent77
إلى train / validation / test بطريقة Stratified
مع الحفاظ على التوازن التام بين الـ77 نية (170 مثال/نية).

النسبة: 70% train / 15% validation / 15% test
"""

import pandas as pd
from sklearn.model_selection import train_test_split
from pathlib import Path

# ------------------------------------------------------------------
# الإعدادات
# ------------------------------------------------------------------
INPUT_FILE = "dataset_13090_enhanced.csv"
OUTPUT_DIR = Path("data")
RANDOM_STATE = 42          # ثابت لضمان قابلية إعادة الإنتاج
TRAIN_RATIO = 0.70
VAL_RATIO = 0.15
TEST_RATIO = 0.15

assert abs(TRAIN_RATIO + VAL_RATIO + TEST_RATIO - 1.0) < 1e-9

OUTPUT_DIR.mkdir(parents=True, exist_ok=True)

# ------------------------------------------------------------------
# تحميل البيانات
# ------------------------------------------------------------------
df = pd.read_csv(INPUT_FILE)
print(f"إجمالي الأمثلة: {len(df)}")
print(f"عدد النوايا: {df['label'].nunique()}")

# ------------------------------------------------------------------
# الخطوة 1: فصل train عن (validation + test) معًا
# ------------------------------------------------------------------
train_df, temp_df = train_test_split(
    df,
    train_size=TRAIN_RATIO,
    stratify=df["label"],
    random_state=RANDOM_STATE,
)

# ------------------------------------------------------------------
# الخطوة 2: تقسيم الباقي إلى validation و test بالتساوي
# ------------------------------------------------------------------
relative_val_ratio = VAL_RATIO / (VAL_RATIO + TEST_RATIO)  # = 0.5

val_df, test_df = train_test_split(
    temp_df,
    train_size=relative_val_ratio,
    stratify=temp_df["label"],
    random_state=RANDOM_STATE,
)

# ------------------------------------------------------------------
# إعادة ترتيب الفهارس وحفظ الملفات
# ------------------------------------------------------------------
train_df = train_df.reset_index(drop=True)
val_df = val_df.reset_index(drop=True)
test_df = test_df.reset_index(drop=True)

train_df.to_csv(OUTPUT_DIR / "train.csv", index=False, encoding="utf-8-sig")
val_df.to_csv(OUTPUT_DIR / "validation.csv", index=False, encoding="utf-8-sig")
test_df.to_csv(OUTPUT_DIR / "test.csv", index=False, encoding="utf-8-sig")

# ------------------------------------------------------------------
# تقرير نهائي للتحقق من التوازن
# ------------------------------------------------------------------
print("\n--- النتيجة ---")
print(f"train.csv      : {len(train_df):>6} مثال  ({len(train_df)/len(df)*100:.1f}%)")
print(f"validation.csv : {len(val_df):>6} مثال  ({len(val_df)/len(df)*100:.1f}%)")
print(f"test.csv       : {len(test_df):>6} مثال  ({len(test_df)/len(df)*100:.1f}%)")

print("\nالتحقق من التوازن بين النوايا (يجب أن يكون التباين = 0 أو قريبًا منه):")
for name, split_df in [("train", train_df), ("validation", val_df), ("test", test_df)]:
    counts = split_df["label"].value_counts()
    print(f"  {name:<10} -> min={counts.min()}, max={counts.max()}, عدد النوايا={counts.shape[0]}")

print(f"\nتم حفظ الملفات في: {OUTPUT_DIR.resolve()}")