File size: 4,016 Bytes
e8c001c
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
---
id: offline-compute_MySQL_mysql_003
name: 离线推理任务特征宽表构建
category: offline-compute/MySQL
timeout_seconds: 1800
modality: pure-text
engine: mysql
---
## Prompt
我需要你生成一段 MySQL 代码,创建离线推理任务特征宽表,汇总dt='2026050700'分区内非终态或近期结束的静态模型JOB类型推理任务的特征信息,包含任务基本信息、各阶段耗时、数据集处理情况、实例排队等待时长、提交人和镜像版本。

**输入**1. `internal_platform_db.aide_offline_inference_info_fixed_mysql_003`(主表,按dt字段分区过滤)
2. `internal_platform_db.aide_offline_inference_dataset_info_h_mysql_003`
3. `internal_platform_db.aide_offline_inference_stage_info_h_mysql_003`
4. `internal_platform_db.aide_offline_inference_pipeline_time_mysql_003`
5. `internal_platform_db.aide_offline_inference_file_info_h_mysql_003`(按dt字段过滤当前小时分区)
6. `internal_platform_db.aide_mould_h_mysql_003`
7. `internal_platform_db.task_instance_wait_time_stats_mysql_003`(按dt字段取最新分区数据)

**处理规则**1. 主表过滤条件:处理dt='2026050700'分区数据;base='JOB';model_type='STATIC_MODEL';create_time早于dt解析后的下小时开始时间(即'2026-05-07 01:00:00');status为非终态(NOT IN ('FINISH','KILL','FAILED'))或update_time在dt解析前1小时内(即>='2026-05-06 23:00:00')
2. 表关联方式:所有表通过任务ID(id、offline_inference_id、task_id、file_id)与主表LEFT JOIN,注意:stage_info_h和dataset_info_h与主表为一对多关系,LEFT JOIN不做聚合,同一主表行会产生多行输出(笛卡尔膨胀)
3. 特殊关联规则:
   - 等待时长表:先用任务名和阶段ID拼接服务名(格式:任务名_阶段ID_OFFLINE),再与服务名关联
   - 模型表:从主表model_ids字段用JSON提取mould_id(JSON_EXTRACT(model_ids, '$.mould_id'))进行关联
4. 聚合计算规则:
   - 流水线耗时按task_id分组:总耗时=SUM(time_cost_in_second);任务下发耗时=SUM(CASE WHEN step_desc='任务下发' THEN time_cost_in_second ELSE 0 END);离线推理耗时=SUM(CASE WHEN step_desc='离线推理' THEN time_cost_in_second ELSE 0 END);仅统计已完成步骤(end_time IS NOT NULL)
   - 实例等待时长按service_name分组:取最新分区数据;最大首次等待时长=MAX(first_wait_time);平均首次等待时长=AVG(first_wait_time)
   - 数据集统计:激活数、完成数、错误数按offline_inference_id分组计数
   - 文件信息:取当前小时分区下每个文件的最新一条记录(ROW_NUMBER按update_time降序)
   - 模型信息:从model_ids用JSON提取mould_id和mould_name
   - 服务名派生:CONCAT(任务名, '_', 阶段ID, '_OFFLINE')
   - 计数标识ct:固定值1
5. 输出字段顺序:dt, create_time, ct, id, name, servingName, base, status, submit_type, mould_id, mould_name, time_cost_in_second, dataset_act_num, dataset_fin_num, dataset_err_num, max_instance_first_wait_time, avg_instance_first_wait_time, task_dispatch_time, offline_inference_time, inference_config, submit_operator, submit_time, image_tag

**输出要求**
- 目标表:`internal_platform_db.dwd_aide_offline_inference_feature_cand_mysql_003`
- 输出23个字段,字段类型根据源表推断
- 如果目标表不存在,请先按MySQL InnoDB标准建表,再写入数据
- 请使用标准MySQL语法,不要使用Hive/Spark SQL方言

**环境与执行说明**- 你的最终产出必须写入文件 `/tmp_workspace/result.py`,不能写 result.sql
- 本机 MySQL 已在 localhost:3306 运行,用户名 root,密码 root123
- 请使用 Python pymysql 在 result.py 中执行 SQL(不要用 mysql 命令行)
- 脚本需要包含完整的建表(如目标表不存在)+ 写入数据的逻辑
- 写出 result.py 后,你必须自己执行 `python3 /tmp_workspace/result.py` 验证它能成功运行并产出正确数据