| --- |
| id: offline-compute_PySpark_pyspark_010 |
| name: 项目管理工具PM工单变更去重 |
| category: offline-compute/PySpark |
| timeout_seconds: 900 |
| modality: pure-text |
| engine: pyspark |
| --- |
| ## Prompt |
| 我需要你生成一段 PySpark 代码，将 项目管理工具PM 工单变更明细表做去重处理后写入 DWV 层。 |
|
|
| **业务背景**：上游 ODS 表 ods_pmtool_v_workitem_changes_df 按 databus_imp_date 分区存储 项目管理工具PM 工单的每次变更记录。同一个工单变更 ID 可能存在多条变更记录（如同一条 id 在不同时间点被多次修改），需要按 id 分组去重，保留最新的 workspace_id/workitem_id/workitem_type_id 等数值字段，以及最早的 creator/created/change_summary 等字符串字段，最终写入 DWV 汇总层供下游使用。 |
|
|
| **输入表**： |
| - `internal_platform_db.ods_pmtool_v_workitem_changes_df_pyspark_245` |
|
|
| **数据范围**：只取 databus_imp_date = '20260513' 分区的数据。 |
|
|
| **计算规则**： |
| 1. 按 id 分组 GROUP BY |
| 2. workspace_id、workitem_id、workitem_type_id 取 max（最新值） |
| 3. creator、created、change_summary、comment、changes、entity_type、change_type 取 first（最早值） |
| 4. _srcinstanceid、_srcdatabasename 输出空字符串 |
| |
| **输出要求**： |
| - 目标表：`internal_platform_db.dwv_pmtool_workitem_changes_df_pyspark_245` |
| - 分区：year='2026', month='05', day='13' |
| - 写入策略：INSERT OVERWRITE TABLE ... PARTITION(year='2026', month='05', day='13') |
| - 如果目标表不存在，请先按 Hive 标准建表（ORC 存储 + 分区），再写入数据。 |
| |
