--- id: offline-compute_PySpark_pyspark_013 name: 银行XURL安全关系关联 category: offline-compute/PySpark timeout_seconds: 900 modality: pure-text engine: pyspark --- ## Prompt 我需要你生成一段 PySpark 代码,从平台 URL 安全关系中提取银行X相关的贷中和意愿用户样本。 **业务背景与目标**:安全部门维护了一份平台 guid 与 URL 的关系表,记录了用户访问过的 URL 及其 cgi 信息。风控业务需要从这份关系表中筛选出访问过银行X(bankx.com.cn)特定页面的用户,按贷款阶段分为"贷中用户"和"意愿用户"两类,输出到贷款用户样本表中,供下游风控模型使用。 **输入表**: - `internal_platform_db.t_dwd_urlsafe_rela_guid_url_di_pyspark_101` **数据范围与过滤条件**: - 运行日期 ds 固定为 20260513(BIGINT 类型) - 域名过滤:domain = 'bankx.com.cn' - 站点过滤:site = 'm1.bankx.com.cn' **计算规则**: 1. **贷中用户识别**:cgi 包含 `http://m1.bankx.com.cn/BankX_MBSERVER/NEW/APP/MOBILE-BANK-H5/LOANS/WXMAIN/LOAN-REPAY-PLAN`,loan_stage 标记为 'in-loan' 2. **意愿用户识别**:cgi 包含以下任一 URL 模式(18 个 will_cgis),loan_stage 标记为 'will': - LOANS/MAIN/XWMINI, LOANS/AUTHORIZATION, LOANS/DATA-SELF-ATTESTATION-CHECK, LOANS/DATA-SELF-ATTESTATION-EDIT, LOANS/MAIN/XWMINI-RESULT - FEIMA 系列路径 3. 两类用户分别选取字段:uid(来自 guid), loan_type='unknown', city='unknown', industry='unknown', entity_name='unknown', legal_person='unknown', loan_stage, details(来自 url) 4. 各用户组内按 uid 去重 5. Union 合并后,整体按 uid 去重 6. 写入时同时指定分区值:ds=20260513, data_source='social', id_type='guid' **输出要求**: - 目标表:`internal_platform_db.t_rta_loan_url_samples_pyspark_101` - 分区字段:ds BIGINT, data_source STRING, id_type STRING - 写入策略:先建表(ORC 存储,8 个非分区列 + 3 个分区列),再 INSERT OVERWRITE TABLE PARTITION(ds=..., data_source=..., id_type=...) SELECT * FROM tmp_view