tasks/offline-compute/PySpark/pyspark_010/task.md

metadata

id: offline-compute_PySpark_pyspark_010
name: 项目管理工具PM工单变更去重
category: offline-compute/PySpark
timeout_seconds: 900
modality: pure-text
engine: pyspark

Prompt

我需要你生成一段 PySpark 代码，将 项目管理工具PM 工单变更明细表做去重处理后写入 DWV 层。

业务背景：上游 ODS 表 ods_pmtool_v_workitem_changes_df 按 databus_imp_date 分区存储 项目管理工具PM 工单的每次变更记录。同一个工单变更 ID 可能存在多条变更记录（如同一条 id 在不同时间点被多次修改），需要按 id 分组去重，保留最新的 workspace_id/workitem_id/workitem_type_id 等数值字段，以及最早的 creator/created/change_summary 等字符串字段，最终写入 DWV 汇总层供下游使用。

输入表：

• internal_platform_db.ods_pmtool_v_workitem_changes_df_pyspark_245

数据范围：只取 databus_imp_date = '20260513' 分区的数据。

计算规则：

1. 按 id 分组 GROUP BY
2. workspace_id、workitem_id、workitem_type_id 取 max（最新值）
3. creator、created、change_summary、comment、changes、entity_type、change_type 取 first（最早值）
4. _srcinstanceid、_srcdatabasename 输出空字符串

输出要求：

• 目标表：internal_platform_db.dwv_pmtool_workitem_changes_df_pyspark_245
• 分区：year='2026', month='05', day='13'
• 写入策略：INSERT OVERWRITE TABLE ... PARTITION(year='2026', month='05', day='13')
• 如果目标表不存在，请先按 Hive 标准建表（ORC 存储 + 分区），再写入数据。