tasks/offline-compute/PySpark/pyspark_014/task.md

---
id: offline-compute_PySpark_pyspark_014
name: 过去半年在线过的实验计划信息查询
category: offline-compute/PySpark
timeout_seconds: 900
modality: pure-text
engine: pyspark
---
## Prompt
我需要你生成一段 PySpark 代码，查询过去半年内上线过的实验计划信息，取每个实验分组的最新一条记录。

**业务背景与目标**：实验平台按小时维度存储了实验计划的上线记录（fdate, exp_group_id, trigger_list）。运营需要从过去 180 天（半年）的历史数据中，按实验分组 exp_group_id 维度取最新的一条记录，输出到结果表中，用于后续的实验分析。

**输入表**：
- `internal_platform_db.exp_hours_input_pyspark_102`

**数据范围与过滤条件**：
- 运行日期 cur_date 固定为 '20260513'
- 历史天数 history_days 固定为 180
- 读取的分区范围：从 p_2026051300 往前推 180 * 24 = 4320 个小时的所有分区
- 分区格式：p_YYYYMMDDHH

**计算规则**：
1. 生成历史分区列表：使用 Python time 模块，从 cur_date 当天 00:00:00 开始，依次减去 1 小时，共生成 history_days * 24 个分区名（如 p_2026051300, p_2026051223, p_2026051222, ...）
2. 使用 WHERE p_hour IN (...) 过滤读取所有历史分区数据
3. 使用窗口函数 row_number() OVER (PARTITION BY exp_group_id ORDER BY fdate DESC) 计算 date_rank_no
4. 过滤 date_rank_no = 1，取每个实验分组的最新记录
5. 添加 fdate = lit(cur_date) 列

**输出要求**：
- 目标表：`internal_platform_db.exp_hours_output_pyspark_102`
- 写入策略：先建表（ORC 存储，5 列），再 INSERT OVERWRITE TABLE 写入
- 输出列：exp_date, exp_group_id, trigger_list, date_rank_no, fdate