| --- |
| id: offline-compute_MySQL_mysql_003 |
| name: 离线推理任务特征宽表构建 |
| category: offline-compute/MySQL |
| timeout_seconds: 1800 |
| modality: pure-text |
| engine: mysql |
| --- |
| ## Prompt |
| 我需要你生成一段 MySQL 代码,创建离线推理任务特征宽表,汇总dt='2026050700'分区内非终态或近期结束的静态模型JOB类型推理任务的特征信息,包含任务基本信息、各阶段耗时、数据集处理情况、实例排队等待时长、提交人和镜像版本。 |
|
|
| **输入**: |
| 1. `internal_platform_db.aide_offline_inference_info_fixed_mysql_003`(主表,按dt字段分区过滤) |
| 2. `internal_platform_db.aide_offline_inference_dataset_info_h_mysql_003` |
| 3. `internal_platform_db.aide_offline_inference_stage_info_h_mysql_003` |
| 4. `internal_platform_db.aide_offline_inference_pipeline_time_mysql_003` |
| 5. `internal_platform_db.aide_offline_inference_file_info_h_mysql_003`(按dt字段过滤当前小时分区) |
| 6. `internal_platform_db.aide_mould_h_mysql_003` |
| 7. `internal_platform_db.task_instance_wait_time_stats_mysql_003`(按dt字段取最新分区数据) |
|
|
| **处理规则**: |
| 1. 主表过滤条件:处理dt='2026050700'分区数据;base='JOB';model_type='STATIC_MODEL';create_time早于dt解析后的下小时开始时间(即'2026-05-07 01:00:00');status为非终态(NOT IN ('FINISH','KILL','FAILED'))或update_time在dt解析前1小时内(即>='2026-05-06 23:00:00') |
| 2. 表关联方式:所有表通过任务ID(id、offline_inference_id、task_id、file_id)与主表LEFT JOIN,注意:stage_info_h和dataset_info_h与主表为一对多关系,LEFT JOIN不做聚合,同一主表行会产生多行输出(笛卡尔膨胀) |
| 3. 特殊关联规则: |
| - 等待时长表:先用任务名和阶段ID拼接服务名(格式:任务名_阶段ID_OFFLINE),再与服务名关联 |
| - 模型表:从主表model_ids字段用JSON提取mould_id(JSON_EXTRACT(model_ids, '$.mould_id'))进行关联 |
| 4. 聚合计算规则: |
| - 流水线耗时按task_id分组:总耗时=SUM(time_cost_in_second);任务下发耗时=SUM(CASE WHEN step_desc='任务下发' THEN time_cost_in_second ELSE 0 END);离线推理耗时=SUM(CASE WHEN step_desc='离线推理' THEN time_cost_in_second ELSE 0 END);仅统计已完成步骤(end_time IS NOT NULL) |
| - 实例等待时长按service_name分组:取最新分区数据;最大首次等待时长=MAX(first_wait_time);平均首次等待时长=AVG(first_wait_time) |
| - 数据集统计:激活数、完成数、错误数按offline_inference_id分组计数 |
| - 文件信息:取当前小时分区下每个文件的最新一条记录(ROW_NUMBER按update_time降序) |
| - 模型信息:从model_ids用JSON提取mould_id和mould_name |
| - 服务名派生:CONCAT(任务名, '_', 阶段ID, '_OFFLINE') |
| - 计数标识ct:固定值1 |
| 5. 输出字段顺序:dt, create_time, ct, id, name, servingName, base, status, submit_type, mould_id, mould_name, time_cost_in_second, dataset_act_num, dataset_fin_num, dataset_err_num, max_instance_first_wait_time, avg_instance_first_wait_time, task_dispatch_time, offline_inference_time, inference_config, submit_operator, submit_time, image_tag |
| |
| **输出要求**: |
| - 目标表:`internal_platform_db.dwd_aide_offline_inference_feature_cand_mysql_003` |
| - 输出23个字段,字段类型根据源表推断 |
| - 如果目标表不存在,请先按MySQL InnoDB标准建表,再写入数据 |
| - 请使用标准MySQL语法,不要使用Hive/Spark SQL方言 |
|
|
| **环境与执行说明**: |
| - 你的最终产出必须写入文件 `/tmp_workspace/result.py`,不能写 result.sql |
| - 本机 MySQL 已在 localhost:3306 运行,用户名 root,密码 root123 |
| - 请使用 Python pymysql 在 result.py 中执行 SQL(不要用 mysql 命令行) |
| - 脚本需要包含完整的建表(如目标表不存在)+ 写入数据的逻辑 |
| - 写出 result.py 后,你必须自己执行 `python3 /tmp_workspace/result.py` 验证它能成功运行并产出正确数据 |
|
|