RusWeather-434 / README.md
maxzt's picture
Update README.md
d5fdc5e verified
|
Raw
History Blame Contribute Delete
13.1 kB
---
language:
- ru
license: cc-by-4.0
task_categories:
- time-series-forecasting
- tabular-regression
tags:
- weather
- climate
- russia
- time-series
- nasa-power
- geospatial
size_categories:
- 1M<n<10M
pretty_name: RusWeather-434
---
# RusWeather-434
## 🇬🇧 English
### Dataset Summary
**RusWeather-434** is a daily weather time-series dataset covering **434 cities
across Russia**, from **2019-01-01 to the 2026.07.24**. For each city and each
day, the dataset provides temperature, humidity, precipitation, wind, surface
pressure, solar radiation, and cloud cover.
* Total Records: 1,197,406.
* Total size: 23.8 MB.
* Format: Parquet.
Data is sourced from **NASA POWER** (Prediction Of Worldwide Energy
Resources), a reanalysis/satellite-derived meteorological product covering
the entire globe with no station gaps. Coordinates for the 434 cities are
approximate city-center locations; this is a point dataset (one lat/lon per
city), not a gridded product.
### Supported Tasks
- Time-series forecasting (temperature, precipitation)
- Climate trend / anomaly analysis across Russian regions
- Feature engineering for downstream models (energy demand, agriculture,
logistics, retail demand forecasting, etc.) conditioned on weather
- Exploratory data analysis / dashboards on Russian climate
### Languages
City names are in English (transliterated). No natural-language text fields.
### Dataset Structure
#### Data Instances
Each row is one (city, date) observation. Example:
```
city lat lon date T2M T2M_MAX T2M_MIN RH2M PRECTOTCORR WS10M PS
Moscow 55.7558 37.6173 2024-06-15 18.4 23.1 13.7 62.3 0.0 3.2 99.8
```
#### Data Fields
| Field | Type | Unit | Description |
|-----------------------|---------|--------------|-----------------------------------------------|
| `city` | string | — | City name |
| `lat` | float | degrees | Latitude of the city |
| `lon` | float | degrees | Longitude of the city |
| `date` | date | — | Calendar date (daily granularity) |
| `T2M` | float | °C | Mean temperature at 2m |
| `T2M_MAX` | float | °C | Max temperature at 2m |
| `T2M_MIN` | float | °C | Min temperature at 2m |
| `T2MDEW` | float | °C | Dew point at 2m |
| `RH2M` | float | % | Relative humidity at 2m |
| `PRECTOTCORR` | float | mm/day | Bias-corrected total precipitation |
| `PS` | float | kPa | Surface pressure |
| `WS10M` | float | m/s | Mean wind speed at 10m |
| `WS10M_MAX` | float | m/s | Max wind speed at 10m |
| `WS2M` | float | m/s | Mean wind speed at 2m |
| `ALLSKY_SFC_SW_DWN` | float | kWh/m²/day | All-sky surface shortwave (solar) radiation |
| `CLOUD_AMT` | float | % | Cloud amount |
Missing values (source fill value `-999`) are converted to `NaN` during
cleaning rather than left as sentinel values.
#### Data Splits
Single split — no train/val/test partition. Filter by `city` and/or `date`
as needed for your use case.
### Dataset Creation
#### Source Data
[NASA POWER API](https://power.larc.nasa.gov/), Daily Point endpoint,
`community=AG`. NASA POWER blends satellite observations with the MERRA-2
reanalysis model; spatial resolution is approximately 0.5° × 0.5°, so values
represent the grid cell containing the city, not a station reading at the
exact coordinates.
#### Collection & Cleaning
- One API call per city, covering the full date range in a single request
- Deduplication on (`city`, `date`)
- Rows with zero valid weather fields dropped
- Physically impossible values filtered (e.g. temperature outside
[-90, 60] °C)
- Percent-bounded fields (`RH2M`, `CLOUD_AMT`) clipped to [0, 100]
- Non-negative fields (`PRECTOTCORR`) clipped at 0
- Fill values (`-999`) converted to `NaN`
### Limitations & Biases
- **Not ground-station data**: values are reanalysis/satellite estimates at
~0.5° resolution, so they can diverge from what a local weather station
in the same city would report, especially for precipitation and wind.
- **Publication lag**: NASA POWER publishes with a ~2–3 day delay, so the
most recent days may be missing at the time of collection.
- **City coordinates**: approximate city-center points, not necessarily the
exact location of a given weather station.
### Licensing
NASA POWER data is made freely available by NASA for any use; see the
[NASA POWER Data Access Viewer terms](https://power.larc.nasa.gov/docs/methodology/)
for the underlying data. If redistributing, please retain attribution to
NASA POWER as the original data source.
---
## 🇷🇺 Русский
### Краткое описание
**RusWeather-434** — датасет ежедневных погодных данных по **434 городам
России** за период с **1 января 2019 года по 24 июля 2026 года**. Для каждого
города и каждого дня приведены температура, влажность, осадки, ветер,
давление, солнечная радиация и облачность.
* Всего записей: 1,197,406.
* Общий объем: 23.8 MB.
* Формат: Parquet.
Данные получены из **NASA POWER** (Prediction Of Worldwide Energy
Resources) — продукта на основе реанализа и спутниковых наблюдений,
покрывающего весь земной шар без пропусков по станциям. Координаты 434
городов — приблизительные центры городов; это точечный датасет (одна
пара широта/долгота на город), а не сеточный (grid) продукт.
### Для каких задач подходит
- Прогнозирование временных рядов (температура, осадки)
- Анализ климатических трендов и аномалий по регионам России
- Признаки для downstream-моделей (спрос на энергию, сельское хозяйство,
логистика, ритейл и т.д.), зависящих от погоды
- Разведочный анализ данных / дашборды по климату России
### Язык
Названия городов — на английском (транслитерация). Текстовых полей на
естественном языке нет.
### Структура датасета
#### Пример строки
Каждая строка — наблюдение (город, дата). Пример:
```
city lat lon date T2M T2M_MAX T2M_MIN RH2M PRECTOTCORR WS10M PS
Moscow 55.7558 37.6173 2024-06-15 18.4 23.1 13.7 62.3 0.0 3.2 99.8
```
#### Поля датасета
| Поле | Тип | Единица | Описание |
|-----------------------|---------|--------------|-------------------------------------------------|
| `city` | строка | — | Название города |
| `lat` | float | градусы | Широта города |
| `lon` | float | градусы | Долгота города |
| `date` | дата | — | Календарная дата (дневная гранулярность) |
| `T2M` | float | °C | Средняя температура на 2м |
| `T2M_MAX` | float | °C | Максимальная температура на 2м |
| `T2M_MIN` | float | °C | Минимальная температура на 2м |
| `T2MDEW` | float | °C | Точка росы на 2м |
| `RH2M` | float | % | Относительная влажность на 2м |
| `PRECTOTCORR` | float | мм/сутки | Суммарные осадки (скорректированные) |
| `PS` | float | кПа | Давление на поверхности |
| `WS10M` | float | м/с | Средняя скорость ветра на 10м |
| `WS10M_MAX` | float | м/с | Максимальная скорость ветра на 10м |
| `WS2M` | float | м/с | Средняя скорость ветра на 2м |
| `ALLSKY_SFC_SW_DWN` | float | кВт·ч/м²/сут | Суммарная солнечная радиация на поверхности |
| `CLOUD_AMT` | float | % | Облачность |
Пропуски (исходное значение-заглушка `-999`) при очистке превращены в
нормальный `NaN`, а не оставлены как есть.
#### Разбиение на выборки
Единая выборка — без train/val/test. Фильтруйте по `city` и/или `date` под
свою задачу самостоятельно.
### Создание датасета
#### Источник данных
[NASA POWER API](https://power.larc.nasa.gov/), эндпоинт Daily Point,
`community=AG`. NASA POWER объединяет спутниковые наблюдения с моделью
реанализа MERRA-2; пространственное разрешение — примерно 0.5° × 0.5°,
поэтому значения соответствуют ячейке сетки, в которую попадает город, а
не показаниям станции ровно в этих координатах.
#### Сбор и очистка
- Один запрос к API на город, сразу за весь период
- Удаление дублей по (`city`, `date`)
- Удаление строк без единого валидного погодного показателя
- Отсечение физически невозможных значений (например, температура вне
диапазона [-90, 60] °C)
- Поля-проценты (`RH2M`, `CLOUD_AMT`) ограничены диапазоном [0, 100]
- Неотрицательные поля (`PRECTOTCORR`) ограничены снизу нулём
- Значения-заглушки (`-999`) преобразованы в `NaN`
### Ограничения и смещения
- **Это не данные наземных станций**: значения — оценки реанализа/спутника
с разрешением ~0.5°, поэтому они могут отличаться от показаний конкретной
метеостанции в этом городе, особенно по осадкам и ветру.
- **Задержка публикации**: NASA POWER публикует данные с задержкой ~2-3
дня, поэтому самые последние дни на момент сбора могут отсутствовать.
- **Координаты городов**: приблизительные точки в центре города, не
обязательно точное расположение конкретной метеостанции.
### Лицензия
Данные NASA POWER предоставляются NASA свободно для любого использования;
см. [условия NASA POWER Data Access Viewer](https://power.larc.nasa.gov/docs/methodology/)
для исходных данных. При распространении, пожалуйста, сохраняйте указание
NASA POWER как первоисточника.
---