tasks/offline-compute/PySpark/pyspark_015/task.md

---
id: offline-compute_PySpark_pyspark_015
name: 用户标签同步ETL
category: offline-compute/PySpark
timeout_seconds: 900
modality: pure-text
engine: pyspark
---
## Prompt
我需要你生成一段 PySpark 代码，完成"用户标签同步ETL"的数据加工任务。

**业务背景与目标**：安全平台每天从 event_log 日志中采集用户设备与标签数据（t_sh_event_log_v2_xab00014231），数据中包含手机号、IMEI、IMSI、AndroidID 等敏感信息，这些字段在原始日志中已经过在线加密（OnlineCrypt）存储为加密字段。本任务需要将加密字段解密后，使用加密算法重新加密，同时对数据类型字段做 INT 转换，最终写入下游用户标签同步表（t_ods_comm_security_user_tag_sync_hi）供安全分析使用。

**输入表**：
- `internal_platform_db.t_sh_event_log_v2_xab00014231_pyspark_254`

**数据范围与过滤条件（业务说法）**：
- 运行日期 ds 固定为 '20260513'（沙箱化日期，原任务由调度框架传入）。
- 从输入表中读取 ds = '20260513' 分区的全量数据，不做额外过滤。

**计算规则（需体现在 SQL/PySpark 中）**：
1. **字段映射与类型转换**：
   - server_ip、tag_name、ip、ip_md5、ip_c_segment、manufacture、model、language、region、sdk_version、ip_country、ip_province、ip_city、ip_district → 原样透传
   - `time` → log_time（字段重命名）
   - src → CAST(src AS INT)
   - phonetype → CAST(phonetype AS INT)
   - apn → CAST(apn AS INT)
   - auth_type → CAST(auth_type AS INT)
   - call_type → CAST(call_type AS INT)
   - duration → CAST(duration AS INT)

2. **敏感字段加密**（原逻辑：OnlineCrypt 解密 → IdCrypt 重新加密；沙箱改写为 sha2 哈希）：
   - phonenum → sha2(phonenum, 256) AS phonenum_enc
   - self_phone → sha2(self_phone, 256) AS self_phone_enc
   - imei → sha2(imei, 256) AS imei_enc
   - imsi → sha2(imsi, 256) AS imsi_enc
   - phonenum_reg → sha2(phonenum_reg, 256) AS phonenum_reg_enc
   - android_id → sha2(android_id, 256) AS android_id_enc

**输出要求**：
- 目标表：`internal_platform_db.t_ods_comm_security_user_tag_sync_hi_pyspark_254`
- 写入策略：INSERT OVERWRITE TABLE，使用显式分区写入 partition(ds='20260513')
- 如果目标表不存在，请先按 Hive 标准建表（ORC 存储，分区列 ds），再写入数据。