| --- |
| id: offline-compute_PySpark_pyspark_014 |
| name: 过去半年在线过的实验计划信息查询 |
| category: offline-compute/PySpark |
| timeout_seconds: 900 |
| modality: pure-text |
| engine: pyspark |
| --- |
| ## Prompt |
| 我需要你生成一段 PySpark 代码，查询过去半年内上线过的实验计划信息，取每个实验分组的最新一条记录。 |
|
|
| **业务背景与目标**：实验平台按小时维度存储了实验计划的上线记录（fdate, exp_group_id, trigger_list）。运营需要从过去 180 天（半年）的历史数据中，按实验分组 exp_group_id 维度取最新的一条记录，输出到结果表中，用于后续的实验分析。 |
| |
| **输入表**： |
| - `internal_platform_db.exp_hours_input_pyspark_102` |
| |
| **数据范围与过滤条件**： |
| - 运行日期 cur_date 固定为 '20260513' |
| - 历史天数 history_days 固定为 180 |
| - 读取的分区范围：从 p_2026051300 往前推 180 * 24 = 4320 个小时的所有分区 |
| - 分区格式：p_YYYYMMDDHH |
| |
| **计算规则**： |
| 1. 生成历史分区列表：使用 Python time 模块，从 cur_date 当天 00:00:00 开始，依次减去 1 小时，共生成 history_days * 24 个分区名（如 p_2026051300, p_2026051223, p_2026051222, ...） |
| 2. 使用 WHERE p_hour IN (...) 过滤读取所有历史分区数据 |
| 3. 使用窗口函数 row_number() OVER (PARTITION BY exp_group_id ORDER BY fdate DESC) 计算 date_rank_no |
| 4. 过滤 date_rank_no = 1，取每个实验分组的最新记录 |
| 5. 添加 fdate = lit(cur_date) 列 |
| |
| **输出要求**： |
| - 目标表：`internal_platform_db.exp_hours_output_pyspark_102` |
| - 写入策略：先建表（ORC 存储，5 列），再 INSERT OVERWRITE TABLE 写入 |
| - 输出列：exp_date, exp_group_id, trigger_list, date_rank_no, fdate |
| |
