smilegeng's picture
Add TsFile (converted from SanuthK/Wofost-Synthetic-Rice-Simulation-LK)
706dcad verified
|
Raw
History Blame Contribute Delete
2.59 kB
metadata
language:
  - en
license: cc-by-4.0
tags:
  - agriculture
  - crop-simulation
  - remote-sensing
  - synthetic-data
  - timeseries
  - tsfile
  - wofost
  - rice
  - sri-lanka
task_categories:
  - time-series-forecasting
  - tabular-regression
pretty_name: Sri Lanka Paddy Rice WOFOST Simulation (TsFile)

Wofost Synthetic Rice Simulation LK (TsFile)

斯里兰卡水稻 WOFOST 7.2 合成模拟数据集,从 HuggingFace 数据集 SanuthK/Wofost-Synthetic-Rice-Simulation-LK 转换为 Apache TsFile 格式。

文件

  • wofost_rice_lk.tsfile —— 578,394 条日records,3,250 条独立模拟序列。

TsFile 表模型映射

  • TAG(device)Season / Year / Lat / Lon / Irrigation / Nitrogen + 合成的 replicate 序号。每条 simulation = 一个 device(共 3,250 个)。这 6 个 scenario 列仅作 tag,不重复存为数值 field。
  • Time:由 Date(YYYY-MM-DD)解析为 INT64 毫秒。
  • FIELDDVS / LAI / Biomass / Height_cm / Yield_kgha / NDVI / NDRE / S1_VV_dB / S1_VH_dB / S1_ratio(均为 DOUBLE)。Yield_kgha 在开花(DVS≥1)前为 NaN,保留为 null。

转换说明

  • 未丢弃任何源列:17 列全部保留(Date→Time,6 个 scenario→tag,10 个数值→field)。
  • replicate 为合成列:同一 scenario 有多个 replicate(天气随机化),但原数据无显式 replicate ID。多个 replicate 顺序拼接,在 Date 回退处分界,据此累计出 replicate 序号。 验证:加上 replicate 后 device 数 = 3,250,(device, Date) 完全唯一。
  • 转换路径:scriptscripts/converters/wofost_rice_lk.py),时间精度 ms
  • 行数转换前后一致(578,394),已通过行数比对 + 读回校验,无去重、无丢行。

关于体积:原始 parquet 约 16 MB,转换后 tsfile 约 21 MB。源数据约 51% 的数值单元为 NaN(出苗/开花前),parquet 用 RLE 把这些 NaN 游程压到近乎为零;TsFile 因按 device 切分 (3,250 个 device × 10 列 ≈ 3.2 万个小 chunk)元数据开销较高、对 NaN 游程压缩较弱,故略大。 两者数据完全一致。

来源