adriens Claude Sonnet 4.6 commited on
Commit
0fc9d4a
·
1 Parent(s): 85253f5

fix: align split boundary on local NC midnight to avoid month overlap

Browse files

Split was cut at UTC midnight, leaving first 11h of Dec 1 in train.
Now computes split at 2025-12-01 00:00 local (= 2025-11-30 13:00 UTC).
Train ends 2025-11-30, test starts 2025-12-01 — zero overlap.

Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>

README.md CHANGED
@@ -62,8 +62,8 @@ Produit par [OPT-NC](https://www.opt.nc) dans le cadre du projet **Mobitag**, in
62
 
63
  | Split | Période | Lignes |
64
  |---|---|---|
65
- | `train` | 2023-04-06 → 2025-12-31 | ~2 191 000 |
66
- | `test` | 2026-01-01 → 2026-06-04 | ~270 000 |
67
 
68
  Le split est **temporel** : les données de test sont postérieures aux données d'entraînement, ce qui reflète un usage réaliste de prévision.
69
 
 
62
 
63
  | Split | Période | Lignes |
64
  |---|---|---|
65
+ | `train` | 2023-04-06 → 2025-11-30 | ~2 140 000 |
66
+ | `test` | 2025-12-01 → 2026-06-04 | ~321 000 |
67
 
68
  Le split est **temporel** : les données de test sont postérieures aux données d'entraînement, ce qui reflète un usage réaliste de prévision.
69
 
data/test-00000-of-00001.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:92daa6d542bc70709965851d5531798cbaa32ee6299fa2d363a118ee1766d1de
3
- size 2158422
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:8a172fbdc189aab39bf46e2a782cf423725a7752e9e4d9175f76cf14f3507676
3
+ size 2159742
data/train-00000-of-00001.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:b249e4f95cbbe2f11c8a49b0f59c063a26c78b67ef570a55573524fff12601bf
3
- size 13781398
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:442d7bf69e6cf36f37bda6fad5951284228e11ea9de2b4df19cb942bb4e0bdca
3
+ size 13778804
prepare_dataset.py CHANGED
@@ -53,12 +53,14 @@ def main() -> None:
53
  df = pd.read_parquet(INPUT_FILE)
54
  df = fix_types(df)
55
 
56
- # Début du 1er jour du mois courant (incomplet) on remonte TEST_MONTHS en arrière
57
- latest = df["date"].max()
58
- current_month_start = latest.replace(day=1, hour=0, minute=0, second=0, microsecond=0)
59
- split_date = current_month_start - relativedelta(months=TEST_MONTHS)
60
- print(f"Mois le plus récent : {latest.strftime('%Y-%m')}")
61
- print(f"Split dynamique : train < {split_date.date()} | test >= {split_date.date()}")
 
 
62
 
63
  train = df[df["date"] < split_date].copy()
64
  test = df[df["date"] >= split_date].copy()
@@ -73,7 +75,7 @@ def main() -> None:
73
  write_split(test, OUTPUT_DIR / "test-00000-of-00001.parquet")
74
 
75
  print("\nDone. Structure prête pour `huggingface-cli upload`.")
76
- print(" → huggingface-cli upload TON_USERNAME/mobitag-hf . --repo-type dataset")
77
 
78
 
79
  if __name__ == "__main__":
 
53
  df = pd.read_parquet(INPUT_FILE)
54
  df = fix_types(df)
55
 
56
+ # Calcul du split à minuit heure locale NC pour éviter qu'un même mois
57
+ # se retrouve dans les deux splits
58
+ latest_local = df["date"].max() + pd.Timedelta(hours=NC_UTC_OFFSET)
59
+ local_month_start = latest_local.replace(day=1, hour=0, minute=0, second=0, microsecond=0)
60
+ local_split = local_month_start - relativedelta(months=TEST_MONTHS)
61
+ split_date = local_split - pd.Timedelta(hours=NC_UTC_OFFSET) # retour en UTC
62
+ print(f"Mois le plus récent : {latest_local.strftime('%Y-%m')} (heure locale NC)")
63
+ print(f"Split dynamique : train < {local_split.date()} local | test >= {local_split.date()} local")
64
 
65
  train = df[df["date"] < split_date].copy()
66
  test = df[df["date"] >= split_date].copy()
 
75
  write_split(test, OUTPUT_DIR / "test-00000-of-00001.parquet")
76
 
77
  print("\nDone. Structure prête pour `huggingface-cli upload`.")
78
+ print(" → hf repos cp data/ opt-nc/mobitag --repo-type dataset")
79
 
80
 
81
  if __name__ == "__main__":