adriens Claude Sonnet 4.6 commited on
Commit ·
0fc9d4a
1
Parent(s): 85253f5
fix: align split boundary on local NC midnight to avoid month overlap
Browse filesSplit was cut at UTC midnight, leaving first 11h of Dec 1 in train.
Now computes split at 2025-12-01 00:00 local (= 2025-11-30 13:00 UTC).
Train ends 2025-11-30, test starts 2025-12-01 — zero overlap.
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
- README.md +2 -2
- data/test-00000-of-00001.parquet +2 -2
- data/train-00000-of-00001.parquet +2 -2
- prepare_dataset.py +9 -7
README.md
CHANGED
|
@@ -62,8 +62,8 @@ Produit par [OPT-NC](https://www.opt.nc) dans le cadre du projet **Mobitag**, in
|
|
| 62 |
|
| 63 |
| Split | Période | Lignes |
|
| 64 |
|---|---|---|
|
| 65 |
-
| `train` | 2023-04-06 → 2025-
|
| 66 |
-
| `test` |
|
| 67 |
|
| 68 |
Le split est **temporel** : les données de test sont postérieures aux données d'entraînement, ce qui reflète un usage réaliste de prévision.
|
| 69 |
|
|
|
|
| 62 |
|
| 63 |
| Split | Période | Lignes |
|
| 64 |
|---|---|---|
|
| 65 |
+
| `train` | 2023-04-06 → 2025-11-30 | ~2 140 000 |
|
| 66 |
+
| `test` | 2025-12-01 → 2026-06-04 | ~321 000 |
|
| 67 |
|
| 68 |
Le split est **temporel** : les données de test sont postérieures aux données d'entraînement, ce qui reflète un usage réaliste de prévision.
|
| 69 |
|
data/test-00000-of-00001.parquet
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:8a172fbdc189aab39bf46e2a782cf423725a7752e9e4d9175f76cf14f3507676
|
| 3 |
+
size 2159742
|
data/train-00000-of-00001.parquet
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:442d7bf69e6cf36f37bda6fad5951284228e11ea9de2b4df19cb942bb4e0bdca
|
| 3 |
+
size 13778804
|
prepare_dataset.py
CHANGED
|
@@ -53,12 +53,14 @@ def main() -> None:
|
|
| 53 |
df = pd.read_parquet(INPUT_FILE)
|
| 54 |
df = fix_types(df)
|
| 55 |
|
| 56 |
-
#
|
| 57 |
-
|
| 58 |
-
|
| 59 |
-
|
| 60 |
-
|
| 61 |
-
|
|
|
|
|
|
|
| 62 |
|
| 63 |
train = df[df["date"] < split_date].copy()
|
| 64 |
test = df[df["date"] >= split_date].copy()
|
|
@@ -73,7 +75,7 @@ def main() -> None:
|
|
| 73 |
write_split(test, OUTPUT_DIR / "test-00000-of-00001.parquet")
|
| 74 |
|
| 75 |
print("\nDone. Structure prête pour `huggingface-cli upload`.")
|
| 76 |
-
print(" →
|
| 77 |
|
| 78 |
|
| 79 |
if __name__ == "__main__":
|
|
|
|
| 53 |
df = pd.read_parquet(INPUT_FILE)
|
| 54 |
df = fix_types(df)
|
| 55 |
|
| 56 |
+
# Calcul du split à minuit heure locale NC pour éviter qu'un même mois
|
| 57 |
+
# se retrouve dans les deux splits
|
| 58 |
+
latest_local = df["date"].max() + pd.Timedelta(hours=NC_UTC_OFFSET)
|
| 59 |
+
local_month_start = latest_local.replace(day=1, hour=0, minute=0, second=0, microsecond=0)
|
| 60 |
+
local_split = local_month_start - relativedelta(months=TEST_MONTHS)
|
| 61 |
+
split_date = local_split - pd.Timedelta(hours=NC_UTC_OFFSET) # retour en UTC
|
| 62 |
+
print(f"Mois le plus récent : {latest_local.strftime('%Y-%m')} (heure locale NC)")
|
| 63 |
+
print(f"Split dynamique : train < {local_split.date()} local | test >= {local_split.date()} local")
|
| 64 |
|
| 65 |
train = df[df["date"] < split_date].copy()
|
| 66 |
test = df[df["date"] >= split_date].copy()
|
|
|
|
| 75 |
write_split(test, OUTPUT_DIR / "test-00000-of-00001.parquet")
|
| 76 |
|
| 77 |
print("\nDone. Structure prête pour `huggingface-cli upload`.")
|
| 78 |
+
print(" → hf repos cp data/ opt-nc/mobitag --repo-type dataset")
|
| 79 |
|
| 80 |
|
| 81 |
if __name__ == "__main__":
|