Datasets:
File size: 2,481 Bytes
e8c001c | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 | ---
id: offline-compute_PySpark_pyspark_016
name: 代码评审组织排行
category: offline-compute/PySpark
timeout_seconds: 900
modality: pure-text
engine: pyspark
---
## Prompt
我需要你生成一段 PySpark 代码,产出代码协作平台代码评审(CR)按组织维度的排名表。
**业务背景与目标**:代码协作平台每天都会产生代码评审数据,包括评审注释(line_note)和评审耗时(used_time)。运营希望按公司/部门/中心/小组四级组织维度,对成员进行两个维度的 Top10 排名:(1) 按评审注释数降序排名(notes_create_desc);(2) 按评审投入时间降序排名(cr_used_time_desc)。通过 rank_space 交叉连接生成完整的排名空间,左连接实际数据,产出组织排名明细表。
**输入表**:
- `internal_platform_db.dim_org_framework_org_d_f_pyspark_220`
- `internal_platform_db.dim_code_employee_user_org_relation_bare_d_f_pyspark_220`
- `internal_platform_db.dual_pyspark_220`
- `internal_platform_db.dwm_code_review_note_user_stat_d_f_pyspark_220`
- `internal_platform_db.dwd_code_review_used_time_d_i_pyspark_220`
**数据范围与过滤条件**:
- 运行日期 ds 固定为 '20260513'
- 月份范围:month_start='2026-05-01', month_end='2026-06-01'
- org 数据过滤 CONCAT(year,month,day) = ds
- note 数据过滤 concat(year,month,day) = ds,且 note_crt_date 在 [month_start, month_end) 区间
- used_time 数据过滤 dt 在 [month_start, month_end) 区间,且 (is_reviewer=1 OR is_fileowner=1)
**处理逻辑**:
1. 从 dim_org_framework_org 构建四级组织 CTE(cp 公司, dp 部门, ct 中心, gp 小组),每级提取对应的层级 ID
2. 将员工关联到各层级组织(cp_user, dp_user, ct_user, gp_user)
3. 计算 line_note_list(按 author_id 汇总 line_human_note_cnt)和 used_time_list(按 reviewer_id 汇总 duration_today)
4. 对每级组织的用户按两个 ranktype 分别做 rank() 窗口排序
5. 生成 rank_space(ranktype × rank 1-10 的笛卡尔积)
6. 各组织级别 cross join rank_space,left join 对应的排名结果
7. 四级结果 union all 后写入目标表
**输出要求**:
- 目标表:`internal_platform_db.ads_code_code_platform_mon_cr_org_rank_d_i_pyspark_220`
- 写入策略:INSERT OVERWRITE TABLE
- 输出列:month_name, month_start, month_end, org_id, org_type, ranktype, rank, user_id, user_name, value_string, value_int, value_float, value_datetime, created_at
|