dicemy's picture
Upload 655 files
e8c001c verified
|
Raw
History Blame Contribute Delete
2.11 kB
---
id: offline-compute_PySpark_pyspark_013
name: 银行XURL安全关系关联
category: offline-compute/PySpark
timeout_seconds: 900
modality: pure-text
engine: pyspark
---
## Prompt
我需要你生成一段 PySpark 代码,从平台 URL 安全关系中提取银行X相关的贷中和意愿用户样本。
**业务背景与目标**:安全部门维护了一份平台 guid 与 URL 的关系表,记录了用户访问过的 URL 及其 cgi 信息。风控业务需要从这份关系表中筛选出访问过银行X(bankx.com.cn)特定页面的用户,按贷款阶段分为"贷中用户"和"意愿用户"两类,输出到贷款用户样本表中,供下游风控模型使用。
**输入表**
- `internal_platform_db.t_dwd_urlsafe_rela_guid_url_di_pyspark_101`
**数据范围与过滤条件**
- 运行日期 ds 固定为 20260513(BIGINT 类型)
- 域名过滤:domain = 'bankx.com.cn'
- 站点过滤:site = 'm1.bankx.com.cn'
**计算规则**
1. **贷中用户识别**:cgi 包含 `http://m1.bankx.com.cn/BankX_MBSERVER/NEW/APP/MOBILE-BANK-H5/LOANS/WXMAIN/LOAN-REPAY-PLAN`,loan_stage 标记为 'in-loan'
2. **意愿用户识别**:cgi 包含以下任一 URL 模式(18 个 will_cgis),loan_stage 标记为 'will':
- LOANS/MAIN/XWMINI, LOANS/AUTHORIZATION, LOANS/DATA-SELF-ATTESTATION-CHECK, LOANS/DATA-SELF-ATTESTATION-EDIT, LOANS/MAIN/XWMINI-RESULT
- FEIMA 系列路径
3. 两类用户分别选取字段:uid(来自 guid), loan_type='unknown', city='unknown', industry='unknown', entity_name='unknown', legal_person='unknown', loan_stage, details(来自 url)
4. 各用户组内按 uid 去重
5. Union 合并后,整体按 uid 去重
6. 写入时同时指定分区值:ds=20260513, data_source='social', id_type='guid'
**输出要求**
- 目标表:`internal_platform_db.t_rta_loan_url_samples_pyspark_101`
- 分区字段:ds BIGINT, data_source STRING, id_type STRING
- 写入策略:先建表(ORC 存储,8 个非分区列 + 3 个分区列),再 INSERT OVERWRITE TABLE PARTITION(ds=..., data_source=..., id_type=...) SELECT * FROM tmp_view