tasks/offline-compute/PySpark/pyspark_012/task.md

metadata

id: offline-compute_PySpark_pyspark_012
name: 网页解析结果Top500详情统计
category: offline-compute/PySpark
timeout_seconds: 900
modality: pure-text
engine: pyspark

Prompt

我需要你生成一段 PySpark 代码，对网页解析结果进行质量统计，产出 Top500 站点的详情日报表。

业务背景与目标：每天都会对大量网页进行解析，解析结果记录在 ai_engine_classify_parse_result_daily 表中。安全部门需要按站点维度统计解析质量，包括成功/失败解析数、索引页占比、短内容占比、各错误步骤分布等，并与站点优先级信息关联，生成一张按日期和站点粒度的解析质量详情表。

输入表：

• internal_platform_db.sec_app_hy_top_500_sites_tag_v1_pyspark_100
• internal_platform_db.ai_engine_classify_parse_result_daily_pyspark_100

数据范围与过滤条件：

• 运行日期 today_str 固定为 '20260513'
• 数据范围：date_key 从 '20260508' 到 '20260513'（最近 5 天）

计算规则：

1. 从 parse_html JSON 字段中提取 content 字段（使用 from_json + schema_of_json）
2. 计算 content_length = length(content)
3. 按 (date_key, host, fld) 分组聚合：
   • 成功解析数 successful_parses、失败解析数 failed_parses、总解析数 total_parses
   • 索引页数 index_page_count（web_type='索引页'）、索引页比例 index_page_count_rate = index_page_count/total_parses
   • 短内容数 short_content_count（content_length < 50）、短内容比例 short_content_count_rate = short_content_count/successful_parses
   • 各错误步骤计数：error_step_1_count、error_step_2_count、error_step_3_count
4. LEFT JOIN 关联 priority_info：匹配条件为 source_fld = priority_info.fld OR source_host = priority_info.host
5. 去重：dropDuplicates(["date_key", "host", "fld", "priority", "successful_parses", "total_parses", "index_page_count"])

输出要求：

• 目标表：internal_platform_db.ai_engine_classify_parse_result_daily_detail_pyspark_100
• 写入策略：先建表（ORC 存储，16 列），再使用 df.write.mode("overwrite").insertInto() 写入
• 输出列：date_key, host, fld, is_host, priority, successful_parses, failed_parses, total_parses, index_page_count, index_page_count_rate, short_content_count, short_content_count_rate, error_step_1_count, error_step_2_count, error_step_3_count, error_info_list