| --- |
| id: offline-compute_PySpark_pyspark_020 |
| name: 小程序H5监控 |
| category: offline-compute/PySpark |
| timeout_seconds: 900 |
| modality: pure-text |
| engine: pyspark |
| --- |
| ## Prompt |
| 我需要你生成一段 PySpark 代码，实现小程序打开第三方 H5 页面的大盘监控指标计算（Mini-Program H5 Monitoring）。 |
|
|
| **业务背景与目标**：小程序开放平台需要监控小程序内打开第三方 H5 页面的整体情况，包括 PV、UV、域名数、链接数等核心指标，按整体大盘和 Top100 小程序两个维度分别统计，同时按域名归属关系（同主体/关联主体/第三方）进行细分，产出结构化监控指标表。 |
|
|
| **输入表**： |
| - `internal_platform_db.ods_daily_miniapp_h5_expand_raw_pyspark_212` |
| - `internal_platform_db.ods_daily_miniapp_h5_top100_pv_raw_pyspark_212` |
|
|
| **数据范围与过滤条件**： |
| - 运行日期 ds 固定为 '20260513'（日分区） |
| - ods_daily_miniapp_h5_expand_raw 提供全量 H5 访问明细 |
| - ods_daily_miniapp_h5_top100_pv_raw 提供 Top100 PV 小程序的 H5 访问明细 |
| - url 列重命名为 url_wop（无参数 URL） |
|
|
| **处理逻辑**： |
| 1. 从 expand_raw 表计算整体大盘指标：total PV=总行数, total UV=去重 useruin, total domain=去重 domain, total url_wop=去重 url_wop，stat_type='total' |
| 2. 从 top100_raw 表按 appid 分组计算：PV=count, UV=去重 useruin, domain=去重 domain, url_wop=去重 url_wop，stat_type='total_top' |
| 3. 从 expand_raw 表按 related（域名归属关系）分组计算：PV=count, UV=去重 useruin, domain=去重 domain, url_wop=去重 url_wop，stat_type='contactor_{related}' |
| 4. 从 top100_raw 表按 appid+related 分组计算同样指标，stat_type='contactor_{related}_top' |
| 5. 使用 pandas merge 将各维度指标合并为统一格式 |
| 6. 添加 ds 列（BIGINT 类型），生成最终结果 |
|
|
| **输出要求**： |
| - 目标表：`internal_platform_db.ods_daily_miniapp_webview_total_pyspark_212` |
| - 写入策略：INSERT OVERWRITE TABLE |
| - 输出列：ds（BIGINT，日期）, appid（STRING，小程序appid，大盘级为空字符串）, pv（BIGINT，页面浏览量）, uv（BIGINT，独立访客数）, domain（BIGINT，域名数）, url_wop（BIGINT，去参链接数）, stat_type（STRING，统计类型：total/total_top/contactor_{related}/contactor_{related}_top） |
|
|
