--- id: offline-compute_PySpark_pyspark_010 name: 项目管理工具PM工单变更去重 category: offline-compute/PySpark timeout_seconds: 900 modality: pure-text engine: pyspark --- ## Prompt 我需要你生成一段 PySpark 代码,将 项目管理工具PM 工单变更明细表做去重处理后写入 DWV 层。 **业务背景**:上游 ODS 表 ods_pmtool_v_workitem_changes_df 按 databus_imp_date 分区存储 项目管理工具PM 工单的每次变更记录。同一个工单变更 ID 可能存在多条变更记录(如同一条 id 在不同时间点被多次修改),需要按 id 分组去重,保留最新的 workspace_id/workitem_id/workitem_type_id 等数值字段,以及最早的 creator/created/change_summary 等字符串字段,最终写入 DWV 汇总层供下游使用。 **输入表**: - `internal_platform_db.ods_pmtool_v_workitem_changes_df_pyspark_245` **数据范围**:只取 databus_imp_date = '20260513' 分区的数据。 **计算规则**: 1. 按 id 分组 GROUP BY 2. workspace_id、workitem_id、workitem_type_id 取 max(最新值) 3. creator、created、change_summary、comment、changes、entity_type、change_type 取 first(最早值) 4. _srcinstanceid、_srcdatabasename 输出空字符串 **输出要求**: - 目标表:`internal_platform_db.dwv_pmtool_workitem_changes_df_pyspark_245` - 分区:year='2026', month='05', day='13' - 写入策略:INSERT OVERWRITE TABLE ... PARTITION(year='2026', month='05', day='13') - 如果目标表不存在,请先按 Hive 标准建表(ORC 存储 + 分区),再写入数据。