|
Download TRAINING_LOG.md from TrendeX90/ca-cube: direct link, hf CLI and curl.
- Browser
- Download file 23.1 kB
-
https://huggingface.co/datasets/TrendeX90/ca-cube/resolve/main/TRAINING_LOG.md
- Command line
-
hf download hf://datasets/TrendeX90/ca-cube/TRAINING_LOG.md
-
curl -L -o TRAINING_LOG.md https://huggingface.co/datasets/TrendeX90/ca-cube/resolve/main/TRAINING_LOG.md
23.1 kB
| # TrendeX ML: журнал обучения моделей | |
| Хронологический журнал всего, что сделано для моделей «ожидаемой зелени»: данные, решения, ошибки и их исправления, результаты. | |
| Правила журнала: | |
| - Протокол каждой модели фиксируется коммитом в git **до** первого обучения. Если меняется после результатов — это новая версия, а не правка. | |
| - Все числа ниже взяты из файлов результатов (`metrics.json`, `products_summary.json`, `qa_report.json`, логи в `artifacts/logs/`), а не набраны вручную. | |
| - Время — местное (UTC+6), 14–15.11.2026. Логи на машинах Vast пишут время в UTC. | |
| --- | |
| ## Модель v1: Нарынская область (выпущена) | |
| ### 1. Постановка (14.11, ~17:30) | |
| - Цель (из PRD v2.2, функции F9/F15): предсказать летнюю аномалию NDVI каждой ячейки 1 км **только по погоде и рельефу**. Остаток «наблюдение − ожидание» = изменение, не объяснённое погодой (без слова «причина»). | |
| - Ядро продукта (уровень × динамика) остаётся открытой формулой; модель — дополнительный слой. | |
| - Не обучаем: балл пригодности (метка = наша формула, получилось бы замкнуто), биомассу/поголовье (нет полевой разметки). | |
| - План: `docs/` в этой папке, файл плана из сессии (см. `trendex-ml-training-plan.md` уровнем выше). | |
| ### 2. Инфраструктура (17:52) | |
| - Vast.ai, машина 60641257: RTX 4070 (12 ГБ), 40 ядер, 251 ГБ ОЗУ, 150 ГБ диска, $0.257/ч с диском. Образ `pytorch/pytorch:2.5.1-cuda12.4-cudnn9-runtime`. | |
| - Окружение: `scripts/setup_box.sh` (rasterio 1.4.4 / GDAL 3.10.3, xgboost 3.2.0 с CUDA, lightgbm 4.7.0, earthaccess 0.17.0). Проверка `XGBOOST_CUDA_OK`. | |
| ### 3. Данные (17:55–19:30) | |
| - Источник выбран по вкладке Resources челленджа (AppEEARS, Giovanni). Проверочный скрипт `scripts/00_smoke.py`: IMERG и GLDAS скачались и открылись (Сон-Куль, июль 2020: 0,075 мм/ч ≈ 56 мм/мес; воздух 282,5 K). | |
| - AppEEARS: все запросы приняты, но за ~1,5 ч очередь дошла только до «processing» по одному продукту. Первый скачивальщик упал на `429 Too Many Requests` (два скрипта опрашивали API слишком часто) → переписан: один логин, один запрос статуса всех задач раз в 3 мин, ожидание при 429. | |
| - Решение: те же продукты и версии взяты напрямую с LP DAAC и GES DISC через earthaccess (`scripts/10_download.py lpdaac|gesdisc`). AppEEARS остановлен, чтобы куб был из одного источника. | |
| - С ~18:17 до ~19:27 SSH к машине не отвечал (канал был забит загрузками); загрузки при этом завершились. | |
| - Скачано: MOD13A3 (933 тайла-месяца, 20 ГБ), MYD13A3 (846, 18 ГБ), MOD11A2 (29 ГБ), MOD10A2 (2,7 ГБ), MCD12Q1 2020 (3 тайла), NASADEM (18 тайлов), IMERG (304 мес.), GLDAS (312 мес.). | |
| ### 4. Область (19:00) | |
| - `scripts/05_aoi.py`: Нарынская область = 5 районов geoBoundaries ADM2 (Ак-Талаа, Ат-Башы, Жумгал, Кочкор, Нарын), 45 416 км² (официально ~45 200). Контур ADM1 «Naryn Region» в geoBoundaries ошибочно включает Тогуз-Тороский район и расходится с ADM2 на ~1 900 км² у Суусамыра → такие ячейки помечены `boundary_conflict`. | |
| - Буфер 20 км + прямоугольники для «известных мест» вне области (Суусамыр, Ак-Шыйрак). | |
| ### 5. Куб (19:30–20:00) | |
| - `scripts/20_build_cube.py`: глобальная синусоидальная сетка MODIS 1 км (NDVI не пересэмплируется), 305 × 533; 87 637 ячеек в зоне запроса, 52 869 в области; сборка 256 с. | |
| - QA (`artifacts/qa_report.json`): 27 255 107 месячных строк, корреляция NDVI Terra–Aqua 0,935; пропуски май–сентябрь ≈ 0 (кроме Aqua до 2002). | |
| - Куб опубликован: `TrendeX90/naryn-cube` (частичный срез NDVI → полный). | |
| ### 6. Протокол v1 (коммит `16a02fe`, до обучения) | |
| - `configs/model_v1.yaml`: цель = аномалия NDVI относительно нормы ячейки и месяца (норма только по годам обучения, без собственного года); признаки = рельеф, покров, месяц, норма, аномалии погоды (IMERG, MODIS LST, MODIS snow, GLDAS); исключены год, координаты, прошлые NDVI. | |
| - Тесты: временной (обучение 2001–2019, тест 2020–2025), пространственный (GroupKFold по суперблокам ~30 км), подбор только на 2001–2015 → 2016–2019. | |
| - Базовые модели: норма (аномалия 0) и ridge. Правило выпуска: нижняя граница 95% ДИ выигрыша над ridge > 0 на обоих тестах. | |
| ### 7. Обучение (коммит скрипта `92ed159`, 19:37–19:44) | |
| - 50 168 пастбищных ячеек × 25 лет × 5 месяцев. | |
| - Подбор: 40 попыток Optuna, лучшее RMSE на проверочных годах 0,0534 (ridge 0,0556), 145 деревьев глубиной 4. | |
| - Временной тест (1 484 947 строк, 6 лет): | |
| | | RMSE | MAE | корр. аномалий | терцили (bal. acc.) | | |
| |---|---|---|---|---| | |
| | XGBoost | 0,0554 | 0,0397 | 0,424 | 0,455 | | |
| | Ridge | 0,0588 | 0,0425 | 0,288 | 0,410 | | |
| | Норма | 0,0616 | 0,0433 | — | 0,333 | | |
| Выигрыш над ridge 0,113 [0,089; 0,133]; над нормой 0,191 [0,160; 0,215]. 5 seeds: 0,110 ± 0,003. | |
| - Пространственный тест (6 154 869 строк, 76 суперблоков): RMSE 0,0523 / 0,0578 / 0,0619; выигрыш над ridge 0,180 [0,169; 0,192]. Он проще временного: те же годы есть в обучении. | |
| - Абляция (выигрыш над нормой, временной тест): осадки 0,055 → +LST 0,167 → +снег 0,181 → +GLDAS 0,188. | |
| - Важнейшие признаки: lst_day_m, lst_day_prev, precip_3m, lst_night_m, soil_m. | |
| - **Правило выпуска пройдено → выпущен XGBoost.** | |
| - Интервалы P10–P90 (сплит-конформал): покрытие на 2020–2025 **74% вместо 80%** — интервалы узковаты (записано в карточке). | |
| ### 8. Методическая ловушка и исправление (20:00) | |
| - Прогнозы вне выборки считаются по 5 блокам лет; у каждого блока норма своя (по остальным 20 годам). Если считать тренд остатков от этих норм, реальный тренд искусственно растёт (до ~25%). | |
| - Исправление (`scripts/40_products.py`): остаток = наблюдение − (норма по всем годам + погодный эффект из модели, не видевшей этот блок). | |
| ### 9. Продукты (20:05) | |
| - Тренды «сверх погоды» (Sen + Mann–Kendall Хамеда–Рао из общего `trend.py` бэкенда, BH q < 0,05): рост 11,7%, спад 1,2%, ненадёжно 87,1% ячеек. | |
| - Плацебо (200 перестановок лет): p < 0,05 у 24,2% ячеек против 4,6% в плацебо; после BH 8,6% против 0%. | |
| - Aqua vs Terra по блокам (2003–2025): знак тренда совпадает в 90%; из 86 значимых по Terra блоков тот же класс у Aqua в 53%. | |
| ### 10. Упаковка и проверка (20:10) | |
| - `scripts/45_package.py`: `predict.py` (CPU, numpy/pandas/xgboost), 100 эталонных строк; расхождение с обученной моделью 0. | |
| - Проверка сценариев (июль, 2 000 ячеек): осадки −30% → −0,018; +30% → −0,005 (влажнее — не зеленее, записано как ограничение); LST днём +2 °C → −0,019; −2 °C → +0,011. | |
| ### 11. Публикация (20:15–20:40) | |
| - Первая заливка упала с 403: у fine-grained токена было право записи только в личный аккаунт → пользователь добавил право записи в организацию TrendeX90. | |
| - `TrendeX90/naryn-cube` (612 МБ куб + 149 МБ продукты) и `TrendeX90/expected-greenness` (тег `v1`). Проверено с другого компьютера в чистом окружении (`scripts/60_verify_hf.py`): эталонный тест PASS. | |
| - Сценарии для статического сайта (`scripts/55_scenarios.py`): 519 блоков, 5 районов, область; `products/scenarios/what_if.json` — через pull request. | |
| - Машина удалена после проверки. Стоимость v1: ~$1,11 (аренда + трафик). | |
| --- | |
| ## Модель v2-ca: Центральная Азия (идёт) | |
| ### 12. Постановка и бюджет (14.11, ~22:40) | |
| - Запрос: KAZ, KGZ, TJK, TKM, UZB, сетка 1 км, и модель, и карта. Нарын остаётся пилотом. | |
| - Бюджет: остаток на Vast ($3,68), больше денег не будет → всё рассчитано на него. | |
| ### 13. Инфраструктура (22:55) | |
| - Машина 60671708: RTX 4070 Ti Super (16 ГБ), 44 ядра, 252 ГБ ОЗУ, 250 ГБ диска, $0,469/ч с диском, Квебек. | |
| ### 14. Область и данные (22:55–23:25) | |
| - `ca/05_aoi_ca.py`: geoBoundaries ADM0/ADM1 пяти стран: 3 972 408 км², 47 регионов ADM1. | |
| - `ca/10_download_ca.py`: MOD13A3 только апрель–октябрь (2 548 из 4 354 файлов в рамке), MCD12Q1 2020 (14 тайлов), NASADEM 30 м (547 тайлов, касающихся стран), IMERG (304), GLDAS (312). MODIS LST/снег для всей Азии не качались (~170 ГБ) — их заменяют GLDAS. | |
| - Трафик заметно влияет на бюджет: ~62 ГБ скачивания ≈ $0,40. | |
| ### 15. Куб (23:26–23:36) | |
| - `ca/20_build_cube_ca.py`: сетка 2 449 × 3 545, **4 622 790 ячеек**; принадлежность к странам/регионам растеризацией. | |
| - Первая попытка упала на `Window.round_offsets()` (другой API в rasterio 1.4) → окно тайла рельефа считается напрямую по координатам. | |
| - Время: покров 20 с, рельеф 547 тайлов ~50 с, NDVI 182 месяца ~30 с, запись 26 лет ~1 мин; погода (IMERG + GLDAS) интерполирована за 76 с, полная таблица записана за ~3,5 мин. | |
| - Маска (`mask_reason`): пастбищ-кандидатов 3 432 538; пустыня 733 568, пашня 238 653, вода 122 927, круто 39 549, застройка 22 779, лёд 21 415, лес 11 361. | |
| - Месячная таблица (апрель–октябрь): cell_id, month, ndvi, ndvi_rel, ndvi_ok, precip, precip_winter, tair, soil_moist, swe; 32,4 млн строк в год; 19 ГБ. | |
| ### 16. Формула бэкенда (23:32 →) | |
| - Запущена на машине на замороженном снимке куба (жёсткие ссылки), чтобы погодная стадия могла подменить файлы. Перезапущена на коммите бэкенда `bcfc212` (ограниченная память, без полного перебора по зонам). Снимок без погоды → слоя осадков в формуле нет. | |
| ### 17. Протокол v2-ca (коммит `aadd606`, до обучения) | |
| - `configs/model_v2_ca.yaml`. Отличия от v1: GLDAS tair/swe вместо MODIS LST/снега; precip_2m вместо precip_3m (куб хранит апрель–октябрь); зимние осадки октябрь–март; добавлены `lat` (35–55° с.ш.: длина дня/сезона) и `crop_frac`; обучение на случайной выборке 150 000 ячеек; бюджет подбора 20 попыток / 10 мин; 3 seeds. Правило выпуска то же. | |
| ### 18. Обучение v2-ca (коммит `1bc6ed3`, старт 23:37) | |
| - Загружено 25 лет; 3 432 538 пастбищных ячеек, выборка 150 000. | |
| - Подбор (23:45): 20 попыток, RMSE на проверочных годах XGBoost 0,0519 против ridge 0,0524 (запас заметно меньше, чем в Нарыне), 189 деревьев. | |
| - Временной тест (23:46): выигрыш над ridge 0,055 [0,036; 0,077], 6 лет. | |
| - Пространственный тест (23:49): выигрыш над ridge 0,120 [0,117; 0,123], 4 115 суперблоков. | |
| - **Правило выпуска пройдено → выпущен XGBoost.** Выигрыш в ЦА примерно вдвое меньше нарынского; вероятная причина — более грубая погода (GLDAS вместо MODIS LST/снега). Это гипотеза, не проверялась. | |
| - Прогнозы вне выборки по 5 блокам лет для всех 3 432 538 ячеек: ~1,5 мин на блок; обучение закончено в 23:56. | |
| - Пастбищные ячейки по странам: KAZ 2 757 030, UZB 225 373, TKM 219 350, KGZ 162 550, TJK 68 235. | |
| - Полные метрики (`runs/v2_ca/metrics.json`): | |
| | Тест | RMSE xgb | RMSE ridge | RMSE норма | корр. xgb | корр. ridge | терцили xgb | | |
| |---|---|---|---|---|---|---| | |
| | Временной (4 488 859 строк) | 0,0530 | 0,0546 | 0,0613 | 0,510 | 0,468 | 0,544 | | |
| | Пространственный (18 704 206) | 0,0483 | 0,0515 | 0,0592 | 0,578 | 0,493 | 0,569 | | |
| Выигрыш над нормой: временной 0,251 [0,174; 0,322] (у ridge 0,207), пространственный 0,333 [0,328; 0,339]. | |
| 3 seeds: 0,053 ± 0,001 к ridge. Покрытие P10–P90 на 2020–2025: 76,5% (номинал 80%). | |
| - Подбор: глубина 4, learning_rate 0,101, 189 деревьев; alpha у ridge = 10 000 — граница сетки (возможно, ridge с большей регуляризацией был бы чуть лучше; на правило выпуска это не влияет, пока выигрыш XGBoost положителен). | |
| - Важнейшие признаки: precip_2m, precip_winter, soil_m, precip_m, tair_prev, clim_ndvi, swe_apr, lat. В ЦА главное — осадки, в Нарыне — температура поверхности (наблюдение; объяснение «засушливые степи ограничены водой, горы — теплом» — гипотеза). | |
| ### 21. Продукты v2-ca (15.11, 00:00–00:04) | |
| - `ca/40_products_ca.py`, автоматически после обучения (`ca/after_train.sh`). | |
| - Тренды «сверх погоды» по 3 432 538 ячейкам (Хамед–Рао, BH q < 0,05): спад 10,1%, рост 3,8%, ненадёжно 86,1%, мало данных 0,05%. В Нарыне соотношение было обратным (рост 11,7%, спад 1,2%) — наблюдение, без причин. | |
| - Плацебо (200 000 случайных ячеек, 200 перестановок, исходный MK): p < 0,05 у 26,1% против 4,6% в плацебо; после BH 9,5% против 0%. | |
| - Сводки по блокам, регионам ADM1 и странам: `residual_trend_{block,region,country}.parquet`; сезон относительно погоды по блокам; `expected_block.parquet` (блок × год × месяц). | |
| ### 22. Упаковка v2-ca (00:04 →) | |
| - Эталонный тест: 100 реальных строк 2024 года, пересобранных из куба кодом обучения; `predict_ca.py` совпадает с обученной моделью (расхождение 0). | |
| - Первая попытка упала на выборке ячеек для сценариев: `groupby().apply` в новой pandas не возвращает колонку группировки → выборка до 2 000 ячеек на регион через перемешивание и `cumcount`. | |
| - Упаковка закончена (~00:25): `predict_ca.py`, эталон, карточка модели; сценарии «что если» по странам и регионам (до 2 000 ячеек на регион), 78 кБ. Июль, вся ЦА: обычный NDVI 0,299; осадки −30% → −0,020; +2 °C → −0,006. | |
| - Залито: `TrendeX90/expected-greenness-ca` (тег `v2-ca`), продукты в `ca-cube/products/`. | |
| - Проверка с другого компьютера (`ca/60_verify_ca.py`, чистое окружение): эталон PASS (расхождение 0), в `ca-cube` 26 лет месячных данных, 9 файлов продуктов, 54 файла формулы, `synthetic=false`, `partial=false`. | |
| ### 23. Исправление маски горных пастбищ (00:15 →) | |
| - Отзыв пользователя: карта ЦА (ячейки 20 км) слишком грубая, Кыргызстан выглядит неполным. Причина: класс MCD12Q1 16 (голая земля) исключался целиком, вместе с разреженными высокогорными пастбищами. | |
| - Новое правило бэкенда (коммит `6be6417`): голая земля исключается, только если `elev_mean < 1500 м` ИЛИ `green < 0,10` (медиана по годам среднего NDVI за май–сентябрь). Возвращает ~42 тыс. ячеек (TJK ~26k, KGZ ~13k, KAZ ~2,4k, UZB ~0,7k). Слои карты — 1 км. | |
| - Формула перезапущена на машине на полном кубе (с погодой → появится слой осадков). | |
| - Модель: для возвращённых ячеек (`status == "pasture"` в новом `artifacts_ca/cells.parquet` минус уже покрытые) выпущенная модель считает ожидание и остатки (`ca/42_extend_mask.py`). Эти ячейки не входили в обучающую выборку, так что прогноз для них — вне выборки по пространству, но не по блокам лет; в продуктах помечены `source = production_model_unseen_cell`. | |
| ### 24. Итог расширения маски (00:40–00:48) | |
| - Формула с новым правилом (бэкенд `6be6417`) досчитана за 21 мин на полном кубе и залита в порядке: `fe/` → `layers/` (1 км) → `cells.parquet` + `S.npy` → `export_ca/v1` → остальное. Бэкенд принял: в Кыргызстане 414 пастбищных ячеек сетки сайта из 500 (было 388). | |
| - По новой маске пастбищ 3 467 812 ячеек; модель покрывала 3 428 742; добавлено 39 070 (TJK 22 696, KGZ 10 412, KAZ 5 138, UZB 720, TKM 104; из них 35 322 были «голой землёй», 3 748 моя маска считала водой). | |
| - 3 796 ячеек, покрытых моделью, у бэкенда не пастбища — остаются в продуктах, сайт фильтрует по своему `status`. | |
| - Продукты пересчитаны на 3 471 608 ячейках: спад 9,95%, рост 3,85%, ненадёжно 86,1%. Плацебо: q < 0,05 у 8,8% против 0%. | |
| - По странам (спад / рост): KAZ 11,5% / 2,4%; KGZ 4,6% / 8,7%; TJK 5,2% / 5,7%; TKM 1,6% / 11,7%; UZB 5,2% / 9,8%. Спад в целом по ЦА в основном даёт Казахстан (наблюдение; причины модель не называет). | |
| - Остаток на Vast в 00:45: $2,26. | |
| ### 20. Формула и куб на HF (23:50–23:52) | |
| - Формула бэкенда (core_ca.yaml, `bcfc212`) досчитана за ~17 мин и залита: `ca-cube/formula/export/ca/v1/fe`, `formula/export_ca/v1`, `formula/artifacts_ca` (без npy/npz). | |
| - Полный куб (cells.parquet 165 МБ + monthly 19 ГБ) залит в `TrendeX90/ca-cube`. | |
| - Остаток на Vast в 23:52: $2,68. | |
| ### 19. Страховка от потери машины (23:44) | |
| - `ca/backup_loop.py` на машине: каждые 10 минут логи, скрипты, протокол и готовые результаты (`runs/v2_ca`: метрики, модель, продукты, пакет) зеркалятся в `TrendeX90/ca-cube/_backup/`. Неизменённые файлы повторно не грузятся. | |
| - Куб заливается в `TrendeX90/ca-cube` (первая попытка упала: в версии huggingface_hub на машине нет `upload_large_folder` → обычный `upload_folder`). | |
| - Запрос пользователя: выбор любой страны ЦА на карте. Данные это поддерживают (`country`, `region` у каждой ячейки; продукты и сценарии по странам и регионам); переключатель на сайте делает сессия бэкенда — запрос ей передан. | |