tasks/offline-compute/MySQL/mysql_012/task.md

metadata

id: offline-compute_MySQL_mysql_012
name: Notebook管道任务GPU利用率分钟级统计
category: offline-compute/MySQL
timeout_seconds: 1800
modality: pure-text
engine: mysql

Prompt

任务目标：按任务实例+分钟粒度统计 Notebook 管道任务的 GPU 利用率，区分实例整体利用率与代码运行时段利用率。

输入：

• 表：internal_platform_db.dwd_notebook_instance_pod_detail_d_mysql_012（Notebook 实例 Pod 明细表）

（表结构与字段含义请自行连接数据库查询确认）

• 过滤条件：dt = '20260507'

处理规则：

• 无 Join，单表处理
• 分组：按 trace_id, p_date, pkg_agg_time 分组
• 聚合口径：
  • datawd_project_id ~ apply_for_gpu_count：取 MAX
  • code_gpu_count：SUM(IF(gpu_util IS NOT NULL, COALESCE(gpu_count, 0), gpu_count))
  • instance_gpu_util：AVG(CASE WHEN gpu_count IS NOT NULL THEN COALESCE(gpu_util, 0) ELSE NULL END)（注意：当分组内所有行的 gpu_count 均为 NULL 时，CASE 表达式均返回 NULL，AVG 无有效行参与，结果为 NULL）
  • code_gpu_util：AVG(CASE WHEN code_start_time IS NOT NULL AND code_end_time IS NOT NULL AND pkg_agg_time >= code_start_time AND pkg_agg_time <= code_end_time AND gpu_count IS NOT NULL THEN COALESCE(gpu_util, 0) ELSE NULL END)
  • is_code_running：MAX(CASE WHEN code_start_time IS NOT NULL AND code_end_time IS NOT NULL AND pkg_agg_time >= code_start_time AND pkg_agg_time <= code_end_time THEN 1 ELSE 0 END)
  • used_gpu_count：SUM(COALESCE(gpu_util, 0) * COALESCE(gpu_count, 0) / 100)
  • code_used_gpu_count：SUM(CASE WHEN code_start_time IS NOT NULL AND code_end_time IS NOT NULL AND pkg_agg_time >= code_start_time AND pkg_agg_time <= code_end_time THEN COALESCE(gpu_util, 0) * COALESCE(gpu_count, 0) / 100 ELSE 0 END)

输出要求：

• 输出表：internal_platform_db.dws_notebook_instance_execute_minute_stat_d_cand_mysql_012
• 表注释：Notebook 管道任务实例分钟级运行统计信息
• 输出字段（按顺序）：dt VARCHAR(8)、trace_id VARCHAR(256)、p_date VARCHAR(256)、pkg_agg_time VARCHAR(256)、datawd_project_id VARCHAR(256)、datawd_task_id VARCHAR(256)、datawd_task_instance_id VARCHAR(256)、compute_type VARCHAR(256)、status_code INT、instance_run_time INT、code_run_time INT、resource_wait_time INT、code_start_time VARCHAR(256)、code_end_time VARCHAR(256)、instance_start_time VARCHAR(256)、instance_end_time VARCHAR(256)、serving_id VARCHAR(256)、is_permanent TINYINT(1)、apply_for_gpu_count INT、code_gpu_count INT、instance_gpu_util DOUBLE、code_gpu_util DOUBLE、is_code_running INT、used_gpu_count DOUBLE、code_used_gpu_count DOUBLE

写入要求：

• 使用 INSERT INTO ... SELECT ... 将结果写入输出表
• 若目标表不存在，先按 MySQL InnoDB 标准建表（ENGINE=InnoDB DEFAULT CHARSET=utf8mb4），再写入
• 请使用标准 MySQL 语法，不要使用 Hive/Spark SQL 方言（如不要使用 INSERT OVERWRITE、不要使用 STORED AS ORC、不要使用分区表语法）

环境与执行说明：

• 你的最终产出必须写入文件 /tmp_workspace/result.py，不能写 result.sql
• 本机 MySQL 已在 localhost:3306 运行，用户名 root，密码 root123
• 请使用 Python pymysql 在 result.py 中执行 SQL（不要用 mysql 命令行）
• 脚本需要包含完整的建表（如目标表不存在）+ 写入数据的逻辑
• 写出 result.py 后，你必须自己执行 python3 /tmp_workspace/result.py 验证它能成功运行并产出正确数据