tasks/offline-compute/HiveSQL/hivesql_002/task.md

metadata

id: offline-compute_HiveSQL_hivesql_002
name: 统计数据平台WDNotebook Ray类型管道任务中运行时间跨自然天的实例明细。从`wedat
category: offline-compute/HiveSQL
timeout_seconds: 600
modality: pure-text
engine: hivesql

Prompt

任务目标：统计数据平台WDNotebook Ray类型管道任务中运行时间跨自然天的实例明细，按自然天拆分并关联GPU指标。

输入：

• internal_platform_db.notebook_span_info_query_engine_005
• internal_platform_db.dwd_gputj_service_instance_map_query_engine_005
• internal_platform_db.dwd_ml_platform_instance_podname_query_engine_005
• internal_platform_db.gputj_gpu_info_parsed_agg_1min_query_engine_005
• internal_platform_db.notebook_engine_info_query_engine_005

处理规则：

1. 时间过滤：20260504-20260507，从notebook_span_info筛选在20260507有记录且跨天的trace_id。
2. 业务过滤：计算类型='ray'，服务名='notebook-runner'；span名称限定：'runner.execute'、'execute.code'、'execute.code.cell'、'client.execute.code'、'runner.killed'、'set.permanent.compute'、'create.non.permanent.compute'；GPU表过滤无效记录。
3. 跨天拆分：将跨天实例按自然天拆分，每条记录对应一天内的开始和结束时间。
4. 派生字段：
   • instance_run_time：(end_time - start_time)/1000（秒），基于'runner.execute'
   • code_run_time：代码执行相关span总时长（秒）
   • resource_wait_time：资源创建相关span总时长（秒）
   • apply_for_gpu_count：SUM(replicas * num_gpu)，按trace_id
   • gpu_util：k8s_container_vgpu_gpu_util_sum / k8s_container_vgpu_gpu_util_count
   • gpu_count：k8s_container_resource_request_gpu_sum / k8s_container_resource_request_gpu_count
5. 表关联：
   • 拆分结果按trace_id左关联notebook_engine_info获取serving_id
   • 通过instance_uuid关联dwd_gputj_service_instance_map与dwd_ml_platform_instance_podname，再按serving_id=service_id左关联得到pod_name
   • 按pod_name左关联gputj_gpu_info_parsed_agg_1min，条件为pkg_agg_time落在实例运行窗口内（优先instance_start_time到instance_end_time，否则code_start_time到code_end_time）

输出要求：

• 输出表：internal_platform_db.dwd_notebook_instance_pod_cross_day_detail_d_cand_query_engine_005
• 字段顺序：dt:STRING; trace_id:STRING; datawd_project_id:STRING; datawd_task_id:STRING; datawd_task_instance_id:STRING; compute_type:STRING; status_code:INT; instance_run_time:INT; code_run_time:INT; resource_wait_time:INT; code_start_time:STRING; code_end_time:STRING; instance_start_time:STRING; instance_end_time:STRING; serving_id:STRING; is_permanent:BOOLEAN; apply_for_gpu_count:INT; pod_name:STRING; pkg_agg_time:STRING; gpu_util:DOUBLE; gpu_count:INT; p_date:STRING
• 分区字段：dt

写入要求：写入dt='20260507'分区。

请将最终 HiveSQL 写入 result.sql 并执行。