fev_datasets / redset /README.md
smilegeng's picture
Squash history to drop stale LFS blobs (re-encoded TsFiles only)
17df3d8
|
Raw
History Blame Contribute Delete
2.46 kB
---
license: other
task_categories:
- time-series-forecasting
tags:
- time-series
- tsfile
pretty_name: redset (TsFile format)
---
# redset — TsFile 格式
本目录是 [`autogluon/fev_datasets`](https://huggingface.co/datasets/autogluon/fev_datasets) 中 **redset** 子集转换为 [Apache TsFile](https://tsfile.apache.org/) 格式的版本。
## 来源与引用
- **原始来源**:https://github.com/amazon-science/redset/
- **论文/引用**:[[17]](https://www.amazon.science/publications/why-tpc-is-not-enough-an-analysis-of-the-amazon-redshift-fleet)
- **统一格式合集**:[autogluon/fev_datasets](https://huggingface.co/datasets/autogluon/fev_datasets)
> 本数据由外部来源转换为统一格式后再转为 TsFile。许可与引用以**原始来源**为准,我们不对原始数据主张任何权利。除非另有说明,数据仅供研究用途。
## 数据统计
| 频率 | 序列数 | 中位长度 | 观测点数 | 动态列 | 静态列 | 文件 |
|---|---|---|---|---|---|---|
| 15T | 126 | 8,640 | 1,052,371 | 1 | 1 | `15T/15T_1..15T_2.tsfile`(2 片) |
| 1H | 138 | 2,160 | 283,070 | 1 | 1 | `1H/1H.tsfile` |
| 5T | 118 | 25,920 | 2,960,408 | 1 | 1 | `5T/5T_1..5T_3.tsfile`(3 片) |
## TsFile 存储模型
- 每条原始序列(`id`)→ 一个 **device**(TAG 维度)。
- 静态协变量列 → 也作 **TAG**(device 元数据):`subset`
- 随时间变化的 target / 动态协变量 → **measurement**(FIELD)。
- `timestamp``Time`(INT64 毫秒)。
- 表名:redset_15T, redset_1H, redset_5T。
### 列含义
| 列 | 角色 | TsFile 类型 |
|---|---|---|
| `Time` | Time(时间列) | INT64 |
| `id` | TAG(device 维度) | STRING |
| `subset` | TAG(device 维度) | STRING |
| `target` | FIELD(measurement) | FLOAT |
## 转换说明
- 每行原始数据是一整条序列 `(id, timestamp[], 各 target[])`,纵向打平为长表后写入 TsFile。
- 数值类型按源列自适应:float32→FLOAT、float64→DOUBLE、整数→INT64、bool→BOOLEAN。
- 时间精度:毫秒(INT64)。
- 大表会被工具自动分片为 `<名>_1.tsfile`、`<名>_2.tsfile` …,同属一个逻辑表。
## 读取示例
```python
from tsfile import TsFileReader
reader = TsFileReader("15T/15T.tsfile")
schemas = reader.get_all_table_schemas()
# 表名:redset_15T;列见下方"列含义"。
```