| --- |
| id: offline-compute_MySQL_mysql_012 |
| name: Notebook管道任务GPU利用率分钟级统计 |
| category: offline-compute/MySQL |
| timeout_seconds: 1800 |
| modality: pure-text |
| engine: mysql |
| --- |
| ## Prompt |
| 任务目标:按任务实例+分钟粒度统计 Notebook 管道任务的 GPU 利用率,区分实例整体利用率与代码运行时段利用率。 |
|
|
| 输入: |
| - 表:`internal_platform_db.dwd_notebook_instance_pod_detail_d_mysql_012`(Notebook 实例 Pod 明细表) |
|
|
| (表结构与字段含义请自行连接数据库查询确认) |
|
|
| - 过滤条件:`dt = '20260507'` |
|
|
| 处理规则: |
| - 无 Join,单表处理 |
| - 分组:按 `trace_id`, `p_date`, `pkg_agg_time` 分组 |
| - 聚合口径: |
| - `datawd_project_id` ~ `apply_for_gpu_count`:取 `MAX` |
| - `code_gpu_count`:`SUM(IF(gpu_util IS NOT NULL, COALESCE(gpu_count, 0), gpu_count))` |
| - `instance_gpu_util`:`AVG(CASE WHEN gpu_count IS NOT NULL THEN COALESCE(gpu_util, 0) ELSE NULL END)`(注意:当分组内所有行的 gpu_count 均为 NULL 时,CASE 表达式均返回 NULL,AVG 无有效行参与,结果为 NULL) |
| - `code_gpu_util`:`AVG(CASE WHEN code_start_time IS NOT NULL AND code_end_time IS NOT NULL AND pkg_agg_time >= code_start_time AND pkg_agg_time <= code_end_time AND gpu_count IS NOT NULL THEN COALESCE(gpu_util, 0) ELSE NULL END)` |
| - `is_code_running`:`MAX(CASE WHEN code_start_time IS NOT NULL AND code_end_time IS NOT NULL AND pkg_agg_time >= code_start_time AND pkg_agg_time <= code_end_time THEN 1 ELSE 0 END)` |
| - `used_gpu_count`:`SUM(COALESCE(gpu_util, 0) * COALESCE(gpu_count, 0) / 100)` |
| - `code_used_gpu_count`:`SUM(CASE WHEN code_start_time IS NOT NULL AND code_end_time IS NOT NULL AND pkg_agg_time >= code_start_time AND pkg_agg_time <= code_end_time THEN COALESCE(gpu_util, 0) * COALESCE(gpu_count, 0) / 100 ELSE 0 END)` |
|
|
| 输出要求: |
| - 输出表:`internal_platform_db.dws_notebook_instance_execute_minute_stat_d_cand_mysql_012` |
| - 表注释:Notebook 管道任务实例分钟级运行统计信息 |
| - 输出字段(按顺序):`dt` VARCHAR(8)、`trace_id` VARCHAR(256)、`p_date` VARCHAR(256)、`pkg_agg_time` VARCHAR(256)、`datawd_project_id` VARCHAR(256)、`datawd_task_id` VARCHAR(256)、`datawd_task_instance_id` VARCHAR(256)、`compute_type` VARCHAR(256)、`status_code` INT、`instance_run_time` INT、`code_run_time` INT、`resource_wait_time` INT、`code_start_time` VARCHAR(256)、`code_end_time` VARCHAR(256)、`instance_start_time` VARCHAR(256)、`instance_end_time` VARCHAR(256)、`serving_id` VARCHAR(256)、`is_permanent` TINYINT(1)、`apply_for_gpu_count` INT、`code_gpu_count` INT、`instance_gpu_util` DOUBLE、`code_gpu_util` DOUBLE、`is_code_running` INT、`used_gpu_count` DOUBLE、`code_used_gpu_count` DOUBLE |
|
|
| 写入要求: |
| - 使用 `INSERT INTO ... SELECT ...` 将结果写入输出表 |
| - 若目标表不存在,先按 MySQL InnoDB 标准建表(`ENGINE=InnoDB DEFAULT CHARSET=utf8mb4`),再写入 |
| - 请使用标准 MySQL 语法,不要使用 Hive/Spark SQL 方言(如不要使用 `INSERT OVERWRITE`、不要使用 `STORED AS ORC`、不要使用分区表语法) |
|
|
| **环境与执行说明**: |
| - 你的最终产出必须写入文件 `/tmp_workspace/result.py`,不能写 result.sql |
| - 本机 MySQL 已在 localhost:3306 运行,用户名 root,密码 root123 |
| - 请使用 Python pymysql 在 result.py 中执行 SQL(不要用 mysql 命令行) |
| - 脚本需要包含完整的建表(如目标表不存在)+ 写入数据的逻辑 |
| - 写出 result.py 后,你必须自己执行 `python3 /tmp_workspace/result.py` 验证它能成功运行并产出正确数据 |
|
|