File size: 1,589 Bytes
e8c001c
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
---
id: offline-compute_PySpark_pyspark_010
name: 项目管理工具PM工单变更去重
category: offline-compute/PySpark
timeout_seconds: 900
modality: pure-text
engine: pyspark
---
## Prompt
我需要你生成一段 PySpark 代码,将 项目管理工具PM 工单变更明细表做去重处理后写入 DWV 层。

**业务背景**:上游 ODS 表 ods_pmtool_v_workitem_changes_df 按 databus_imp_date 分区存储 项目管理工具PM 工单的每次变更记录。同一个工单变更 ID 可能存在多条变更记录(如同一条 id 在不同时间点被多次修改),需要按 id 分组去重,保留最新的 workspace_id/workitem_id/workitem_type_id 等数值字段,以及最早的 creator/created/change_summary 等字符串字段,最终写入 DWV 汇总层供下游使用。

**输入表**- `internal_platform_db.ods_pmtool_v_workitem_changes_df_pyspark_245`

**数据范围**:只取 databus_imp_date = '20260513' 分区的数据。

**计算规则**1. 按 id 分组 GROUP BY
2. workspace_id、workitem_id、workitem_type_id 取 max(最新值)
3. creator、created、change_summary、comment、changes、entity_type、change_type 取 first(最早值)
4. _srcinstanceid、_srcdatabasename 输出空字符串

**输出要求**
- 目标表:`internal_platform_db.dwv_pmtool_workitem_changes_df_pyspark_245`
- 分区:year='2026', month='05', day='13'
- 写入策略:INSERT OVERWRITE TABLE ... PARTITION(year='2026', month='05', day='13')
- 如果目标表不存在,请先按 Hive 标准建表(ORC 存储 + 分区),再写入数据。