tasks/offline-compute/PySpark/pyspark_002/task.md

metadata

id: offline-compute_PySpark_pyspark_002
name: 代码review的note diff按天同步到DWV层
category: offline-compute/PySpark
timeout_seconds: 900
modality: pure-text
engine: pyspark

Prompt

我需要你生成一段 PySpark 代码，按天把代码评审场景下"代码 note 的 diff 文件明细"从 ODS 层同步到 DWV 层。

业务背景与目标：上游 databus 每天会落一份当天产生的 note diff 明细到 ods 表（每行 = 一条 note 评论 + 它附带的 diff 文本）。下游 DWV 层希望按 year/month/day 三级日期分区组织，方便日期回溯，且要对一天内出现的重复行（同一个 note id 配同一段 diff 文本）做去重。

输入表：

• internal_platform_db.case5_ods_code_v2_note_diff_files_diff_v3

数据范围与过滤条件（业务说法）：

• 只取业务日期等于本次运行日期 ds 的数据。
• ds 固定为 '20260513'（沙箱化日期，原任务通过 sys.argv[1] 传入；TaskType=63 不传命令行参数，所以硬编码避免 IndexError）。

表关联关系： （无 Join，单表抽取。）

聚合与计算规则（需体现在 SQL 中）：

• 直接 SELECT id, diff 两列，并做 DISTINCT 去重（同一天内同 id 同 diff 只保留一条）。
• 在 SELECT 头部追加三列分区字段，由 ds 拆分得到：year='2026'、month='05'、day='13'。
• 使用 INSERT OVERWRITE TABLE 全表覆盖写入。

输出要求：

• 目标表：internal_platform_db.case5_dwv_code_v2_note_diff_files_diff_v3
• 输出表 schema（按此顺序写入，类型与业务含义如下）：
  1. year STRING：年，原为分区列
  2. month STRING：月，原为分区列
  3. day STRING：日，原为分区列
  4. id BIGINT：note id
  5. diff STRING：diff 文本内容
• 写入策略：INSERT OVERWRITE 全表覆盖，本次写入 year='2026', month='05', day='13'。
• 沙箱化说明：原任务在生产环境写 PARTITION(year, month, day) 分区表；沙箱版三列分区列已沙箱化为普通列。
• 如果目标表不存在，请先按 Hive 标准建表（ORC 存储），再写入数据。