--- id: offline-compute_PySpark_pyspark_020 name: 小程序H5监控 category: offline-compute/PySpark timeout_seconds: 900 modality: pure-text engine: pyspark --- ## Prompt 我需要你生成一段 PySpark 代码,实现小程序打开第三方 H5 页面的大盘监控指标计算(Mini-Program H5 Monitoring)。 **业务背景与目标**:小程序开放平台需要监控小程序内打开第三方 H5 页面的整体情况,包括 PV、UV、域名数、链接数等核心指标,按整体大盘和 Top100 小程序两个维度分别统计,同时按域名归属关系(同主体/关联主体/第三方)进行细分,产出结构化监控指标表。 **输入表**: - `internal_platform_db.ods_daily_miniapp_h5_expand_raw_pyspark_212` - `internal_platform_db.ods_daily_miniapp_h5_top100_pv_raw_pyspark_212` **数据范围与过滤条件**: - 运行日期 ds 固定为 '20260513'(日分区) - ods_daily_miniapp_h5_expand_raw 提供全量 H5 访问明细 - ods_daily_miniapp_h5_top100_pv_raw 提供 Top100 PV 小程序的 H5 访问明细 - url 列重命名为 url_wop(无参数 URL) **处理逻辑**: 1. 从 expand_raw 表计算整体大盘指标:total PV=总行数, total UV=去重 useruin, total domain=去重 domain, total url_wop=去重 url_wop,stat_type='total' 2. 从 top100_raw 表按 appid 分组计算:PV=count, UV=去重 useruin, domain=去重 domain, url_wop=去重 url_wop,stat_type='total_top' 3. 从 expand_raw 表按 related(域名归属关系)分组计算:PV=count, UV=去重 useruin, domain=去重 domain, url_wop=去重 url_wop,stat_type='contactor_{related}' 4. 从 top100_raw 表按 appid+related 分组计算同样指标,stat_type='contactor_{related}_top' 5. 使用 pandas merge 将各维度指标合并为统一格式 6. 添加 ds 列(BIGINT 类型),生成最终结果 **输出要求**: - 目标表:`internal_platform_db.ods_daily_miniapp_webview_total_pyspark_212` - 写入策略:INSERT OVERWRITE TABLE - 输出列:ds(BIGINT,日期), appid(STRING,小程序appid,大盘级为空字符串), pv(BIGINT,页面浏览量), uv(BIGINT,独立访客数), domain(BIGINT,域名数), url_wop(BIGINT,去参链接数), stat_type(STRING,统计类型:total/total_top/contactor_{related}/contactor_{related}_top)