Datasets:
File size: 4,016 Bytes
e8c001c | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 | ---
id: offline-compute_MySQL_mysql_003
name: 离线推理任务特征宽表构建
category: offline-compute/MySQL
timeout_seconds: 1800
modality: pure-text
engine: mysql
---
## Prompt
我需要你生成一段 MySQL 代码,创建离线推理任务特征宽表,汇总dt='2026050700'分区内非终态或近期结束的静态模型JOB类型推理任务的特征信息,包含任务基本信息、各阶段耗时、数据集处理情况、实例排队等待时长、提交人和镜像版本。
**输入**:
1. `internal_platform_db.aide_offline_inference_info_fixed_mysql_003`(主表,按dt字段分区过滤)
2. `internal_platform_db.aide_offline_inference_dataset_info_h_mysql_003`
3. `internal_platform_db.aide_offline_inference_stage_info_h_mysql_003`
4. `internal_platform_db.aide_offline_inference_pipeline_time_mysql_003`
5. `internal_platform_db.aide_offline_inference_file_info_h_mysql_003`(按dt字段过滤当前小时分区)
6. `internal_platform_db.aide_mould_h_mysql_003`
7. `internal_platform_db.task_instance_wait_time_stats_mysql_003`(按dt字段取最新分区数据)
**处理规则**:
1. 主表过滤条件:处理dt='2026050700'分区数据;base='JOB';model_type='STATIC_MODEL';create_time早于dt解析后的下小时开始时间(即'2026-05-07 01:00:00');status为非终态(NOT IN ('FINISH','KILL','FAILED'))或update_time在dt解析前1小时内(即>='2026-05-06 23:00:00')
2. 表关联方式:所有表通过任务ID(id、offline_inference_id、task_id、file_id)与主表LEFT JOIN,注意:stage_info_h和dataset_info_h与主表为一对多关系,LEFT JOIN不做聚合,同一主表行会产生多行输出(笛卡尔膨胀)
3. 特殊关联规则:
- 等待时长表:先用任务名和阶段ID拼接服务名(格式:任务名_阶段ID_OFFLINE),再与服务名关联
- 模型表:从主表model_ids字段用JSON提取mould_id(JSON_EXTRACT(model_ids, '$.mould_id'))进行关联
4. 聚合计算规则:
- 流水线耗时按task_id分组:总耗时=SUM(time_cost_in_second);任务下发耗时=SUM(CASE WHEN step_desc='任务下发' THEN time_cost_in_second ELSE 0 END);离线推理耗时=SUM(CASE WHEN step_desc='离线推理' THEN time_cost_in_second ELSE 0 END);仅统计已完成步骤(end_time IS NOT NULL)
- 实例等待时长按service_name分组:取最新分区数据;最大首次等待时长=MAX(first_wait_time);平均首次等待时长=AVG(first_wait_time)
- 数据集统计:激活数、完成数、错误数按offline_inference_id分组计数
- 文件信息:取当前小时分区下每个文件的最新一条记录(ROW_NUMBER按update_time降序)
- 模型信息:从model_ids用JSON提取mould_id和mould_name
- 服务名派生:CONCAT(任务名, '_', 阶段ID, '_OFFLINE')
- 计数标识ct:固定值1
5. 输出字段顺序:dt, create_time, ct, id, name, servingName, base, status, submit_type, mould_id, mould_name, time_cost_in_second, dataset_act_num, dataset_fin_num, dataset_err_num, max_instance_first_wait_time, avg_instance_first_wait_time, task_dispatch_time, offline_inference_time, inference_config, submit_operator, submit_time, image_tag
**输出要求**:
- 目标表:`internal_platform_db.dwd_aide_offline_inference_feature_cand_mysql_003`
- 输出23个字段,字段类型根据源表推断
- 如果目标表不存在,请先按MySQL InnoDB标准建表,再写入数据
- 请使用标准MySQL语法,不要使用Hive/Spark SQL方言
**环境与执行说明**:
- 你的最终产出必须写入文件 `/tmp_workspace/result.py`,不能写 result.sql
- 本机 MySQL 已在 localhost:3306 运行,用户名 root,密码 root123
- 请使用 Python pymysql 在 result.py 中执行 SQL(不要用 mysql 命令行)
- 脚本需要包含完整的建表(如目标表不存在)+ 写入数据的逻辑
- 写出 result.py 后,你必须自己执行 `python3 /tmp_workspace/result.py` 验证它能成功运行并产出正确数据
|