tasks/offline-compute/PySpark/pyspark_014/task.md

metadata

id: offline-compute_PySpark_pyspark_014
name: 过去半年在线过的实验计划信息查询
category: offline-compute/PySpark
timeout_seconds: 900
modality: pure-text
engine: pyspark

Prompt

我需要你生成一段 PySpark 代码，查询过去半年内上线过的实验计划信息，取每个实验分组的最新一条记录。

业务背景与目标：实验平台按小时维度存储了实验计划的上线记录（fdate, exp_group_id, trigger_list）。运营需要从过去 180 天（半年）的历史数据中，按实验分组 exp_group_id 维度取最新的一条记录，输出到结果表中，用于后续的实验分析。

输入表：

• internal_platform_db.exp_hours_input_pyspark_102

数据范围与过滤条件：

• 运行日期 cur_date 固定为 '20260513'
• 历史天数 history_days 固定为 180
• 读取的分区范围：从 p_2026051300 往前推 180 * 24 = 4320 个小时的所有分区
• 分区格式：p_YYYYMMDDHH

计算规则：

1. 生成历史分区列表：使用 Python time 模块，从 cur_date 当天 00:00:00 开始，依次减去 1 小时，共生成 history_days * 24 个分区名（如 p_2026051300, p_2026051223, p_2026051222, ...）
2. 使用 WHERE p_hour IN (...) 过滤读取所有历史分区数据
3. 使用窗口函数 row_number() OVER (PARTITION BY exp_group_id ORDER BY fdate DESC) 计算 date_rank_no
4. 过滤 date_rank_no = 1，取每个实验分组的最新记录
5. 添加 fdate = lit(cur_date) 列

输出要求：

• 目标表：internal_platform_db.exp_hours_output_pyspark_102
• 写入策略：先建表（ORC 存储，5 列），再 INSERT OVERWRITE TABLE 写入
• 输出列：exp_date, exp_group_id, trigger_list, date_rank_no, fdate