dicemy's picture
Upload 655 files
e8c001c verified
|
Raw
History Blame Contribute Delete
3.62 kB
---
id: offline-compute_MySQL_mysql_012
name: Notebook管道任务GPU利用率分钟级统计
category: offline-compute/MySQL
timeout_seconds: 1800
modality: pure-text
engine: mysql
---
## Prompt
任务目标:按任务实例+分钟粒度统计 Notebook 管道任务的 GPU 利用率,区分实例整体利用率与代码运行时段利用率。
输入:
- 表:`internal_platform_db.dwd_notebook_instance_pod_detail_d_mysql_012`(Notebook 实例 Pod 明细表)
(表结构与字段含义请自行连接数据库查询确认)
- 过滤条件:`dt = '20260507'`
处理规则:
- 无 Join,单表处理
- 分组:按 `trace_id`, `p_date`, `pkg_agg_time` 分组
- 聚合口径:
- `datawd_project_id` ~ `apply_for_gpu_count`:取 `MAX`
- `code_gpu_count``SUM(IF(gpu_util IS NOT NULL, COALESCE(gpu_count, 0), gpu_count))`
- `instance_gpu_util``AVG(CASE WHEN gpu_count IS NOT NULL THEN COALESCE(gpu_util, 0) ELSE NULL END)`(注意:当分组内所有行的 gpu_count 均为 NULL 时,CASE 表达式均返回 NULL,AVG 无有效行参与,结果为 NULL)
- `code_gpu_util`:`AVG(CASE WHEN code_start_time IS NOT NULL AND code_end_time IS NOT NULL AND pkg_agg_time >= code_start_time AND pkg_agg_time <= code_end_time AND gpu_count IS NOT NULL THEN COALESCE(gpu_util, 0) ELSE NULL END)`
- `is_code_running`:`MAX(CASE WHEN code_start_time IS NOT NULL AND code_end_time IS NOT NULL AND pkg_agg_time >= code_start_time AND pkg_agg_time <= code_end_time THEN 1 ELSE 0 END)`
- `used_gpu_count`:`SUM(COALESCE(gpu_util, 0) * COALESCE(gpu_count, 0) / 100)`
- `code_used_gpu_count`:`SUM(CASE WHEN code_start_time IS NOT NULL AND code_end_time IS NOT NULL AND pkg_agg_time >= code_start_time AND pkg_agg_time <= code_end_time THEN COALESCE(gpu_util, 0) * COALESCE(gpu_count, 0) / 100 ELSE 0 END)`
输出要求:
- 输出表:`internal_platform_db.dws_notebook_instance_execute_minute_stat_d_cand_mysql_012`
- 表注释:Notebook 管道任务实例分钟级运行统计信息
- 输出字段(按顺序):`dt` VARCHAR(8)、`trace_id` VARCHAR(256)、`p_date` VARCHAR(256)、`pkg_agg_time` VARCHAR(256)、`datawd_project_id` VARCHAR(256)、`datawd_task_id` VARCHAR(256)、`datawd_task_instance_id` VARCHAR(256)、`compute_type` VARCHAR(256)、`status_code` INT、`instance_run_time` INT、`code_run_time` INT、`resource_wait_time` INT、`code_start_time` VARCHAR(256)、`code_end_time` VARCHAR(256)、`instance_start_time` VARCHAR(256)、`instance_end_time` VARCHAR(256)、`serving_id` VARCHAR(256)、`is_permanent` TINYINT(1)、`apply_for_gpu_count` INT、`code_gpu_count` INT、`instance_gpu_util` DOUBLE、`code_gpu_util` DOUBLE、`is_code_running` INT、`used_gpu_count` DOUBLE、`code_used_gpu_count` DOUBLE
写入要求:
- 使用 `INSERT INTO ... SELECT ...` 将结果写入输出表
- 若目标表不存在,先按 MySQL InnoDB 标准建表(`ENGINE=InnoDB DEFAULT CHARSET=utf8mb4`),再写入
- 请使用标准 MySQL 语法,不要使用 Hive/Spark SQL 方言(如不要使用 `INSERT OVERWRITE`、不要使用 `STORED AS ORC`、不要使用分区表语法)
**环境与执行说明**
- 你的最终产出必须写入文件 `/tmp_workspace/result.py`,不能写 result.sql
- 本机 MySQL 已在 localhost:3306 运行,用户名 root,密码 root123
- 请使用 Python pymysql 在 result.py 中执行 SQL(不要用 mysql 命令行)
- 脚本需要包含完整的建表(如目标表不存在)+ 写入数据的逻辑
- 写出 result.py 后,你必须自己执行 `python3 /tmp_workspace/result.py` 验证它能成功运行并产出正确数据