--- id: offline-compute_PySpark_pyspark_015 name: 用户标签同步ETL category: offline-compute/PySpark timeout_seconds: 900 modality: pure-text engine: pyspark --- ## Prompt 我需要你生成一段 PySpark 代码,完成"用户标签同步ETL"的数据加工任务。 **业务背景与目标**:安全平台每天从 event_log 日志中采集用户设备与标签数据(t_sh_event_log_v2_xab00014231),数据中包含手机号、IMEI、IMSI、AndroidID 等敏感信息,这些字段在原始日志中已经过在线加密(OnlineCrypt)存储为加密字段。本任务需要将加密字段解密后,使用加密算法重新加密,同时对数据类型字段做 INT 转换,最终写入下游用户标签同步表(t_ods_comm_security_user_tag_sync_hi)供安全分析使用。 **输入表**: - `internal_platform_db.t_sh_event_log_v2_xab00014231_pyspark_254` **数据范围与过滤条件(业务说法)**: - 运行日期 ds 固定为 '20260513'(沙箱化日期,原任务由调度框架传入)。 - 从输入表中读取 ds = '20260513' 分区的全量数据,不做额外过滤。 **计算规则(需体现在 SQL/PySpark 中)**: 1. **字段映射与类型转换**: - server_ip、tag_name、ip、ip_md5、ip_c_segment、manufacture、model、language、region、sdk_version、ip_country、ip_province、ip_city、ip_district → 原样透传 - `time` → log_time(字段重命名) - src → CAST(src AS INT) - phonetype → CAST(phonetype AS INT) - apn → CAST(apn AS INT) - auth_type → CAST(auth_type AS INT) - call_type → CAST(call_type AS INT) - duration → CAST(duration AS INT) 2. **敏感字段加密**(原逻辑:OnlineCrypt 解密 → IdCrypt 重新加密;沙箱改写为 sha2 哈希): - phonenum → sha2(phonenum, 256) AS phonenum_enc - self_phone → sha2(self_phone, 256) AS self_phone_enc - imei → sha2(imei, 256) AS imei_enc - imsi → sha2(imsi, 256) AS imsi_enc - phonenum_reg → sha2(phonenum_reg, 256) AS phonenum_reg_enc - android_id → sha2(android_id, 256) AS android_id_enc **输出要求**: - 目标表:`internal_platform_db.t_ods_comm_security_user_tag_sync_hi_pyspark_254` - 写入策略:INSERT OVERWRITE TABLE,使用显式分区写入 partition(ds='20260513') - 如果目标表不存在,请先按 Hive 标准建表(ORC 存储,分区列 ds),再写入数据。