""" سكربت تقسيم مجموعة بيانات AraDigitalContent77 إلى train / validation / test بطريقة Stratified مع الحفاظ على التوازن التام بين الـ77 نية (170 مثال/نية). النسبة: 70% train / 15% validation / 15% test """ import pandas as pd from sklearn.model_selection import train_test_split from pathlib import Path # ------------------------------------------------------------------ # الإعدادات # ------------------------------------------------------------------ INPUT_FILE = "dataset_13090_enhanced.csv" OUTPUT_DIR = Path("data") RANDOM_STATE = 42 # ثابت لضمان قابلية إعادة الإنتاج TRAIN_RATIO = 0.70 VAL_RATIO = 0.15 TEST_RATIO = 0.15 assert abs(TRAIN_RATIO + VAL_RATIO + TEST_RATIO - 1.0) < 1e-9 OUTPUT_DIR.mkdir(parents=True, exist_ok=True) # ------------------------------------------------------------------ # تحميل البيانات # ------------------------------------------------------------------ df = pd.read_csv(INPUT_FILE) print(f"إجمالي الأمثلة: {len(df)}") print(f"عدد النوايا: {df['label'].nunique()}") # ------------------------------------------------------------------ # الخطوة 1: فصل train عن (validation + test) معًا # ------------------------------------------------------------------ train_df, temp_df = train_test_split( df, train_size=TRAIN_RATIO, stratify=df["label"], random_state=RANDOM_STATE, ) # ------------------------------------------------------------------ # الخطوة 2: تقسيم الباقي إلى validation و test بالتساوي # ------------------------------------------------------------------ relative_val_ratio = VAL_RATIO / (VAL_RATIO + TEST_RATIO) # = 0.5 val_df, test_df = train_test_split( temp_df, train_size=relative_val_ratio, stratify=temp_df["label"], random_state=RANDOM_STATE, ) # ------------------------------------------------------------------ # إعادة ترتيب الفهارس وحفظ الملفات # ------------------------------------------------------------------ train_df = train_df.reset_index(drop=True) val_df = val_df.reset_index(drop=True) test_df = test_df.reset_index(drop=True) train_df.to_csv(OUTPUT_DIR / "train.csv", index=False, encoding="utf-8-sig") val_df.to_csv(OUTPUT_DIR / "validation.csv", index=False, encoding="utf-8-sig") test_df.to_csv(OUTPUT_DIR / "test.csv", index=False, encoding="utf-8-sig") # ------------------------------------------------------------------ # تقرير نهائي للتحقق من التوازن # ------------------------------------------------------------------ print("\n--- النتيجة ---") print(f"train.csv : {len(train_df):>6} مثال ({len(train_df)/len(df)*100:.1f}%)") print(f"validation.csv : {len(val_df):>6} مثال ({len(val_df)/len(df)*100:.1f}%)") print(f"test.csv : {len(test_df):>6} مثال ({len(test_df)/len(df)*100:.1f}%)") print("\nالتحقق من التوازن بين النوايا (يجب أن يكون التباين = 0 أو قريبًا منه):") for name, split_df in [("train", train_df), ("validation", val_df), ("test", test_df)]: counts = split_df["label"].value_counts() print(f" {name:<10} -> min={counts.min()}, max={counts.max()}, عدد النوايا={counts.shape[0]}") print(f"\nتم حفظ الملفات في: {OUTPUT_DIR.resolve()}")