| CREATE TABLE IF NOT EXISTS internal_platform_db.nextgen_platform_dsl_spark_props_fht0 ( |
| `databus_imp_date` STRING COMMENT 'partition fields', |
| `spark_props` STRING COMMENT 'spark properties', |
| `app_id` STRING COMMENT 'NoComment', |
| `timestamp` BIGINT COMMENT 'NoComment', |
| `spark_yarn_queue` STRING COMMENT 'NoComment', |
| `spark_executor_cores` BIGINT COMMENT 'NoComment', |
| `spark_driver_host` STRING COMMENT 'NoComment', |
| `spark_app_id` STRING COMMENT 'NoComment', |
| `spark_app_name` STRING COMMENT 'NoComment', |
| `spark_app_starttime` BIGINT COMMENT 'NoComment', |
| `spark_driver_extrajavaoptions` STRING COMMENT 'NoComment', |
| `spark_driver_memory` STRING COMMENT 'NoComment', |
| `spark_driver_port` BIGINT COMMENT 'NoComment', |
| `spark_dynamicallocation_enabled` STRING COMMENT 'NoComment', |
| `spark_dynamicallocation_maxexecutors` BIGINT COMMENT 'NoComment', |
| `spark_dynamicallocation_minexecutors` BIGINT COMMENT 'NoComment', |
| `spark_dynamicallocation_schedulerbacklogtimeout` STRING COMMENT 'NoComment', |
| `spark_dynamicallocation_shuffletracking_enabled` STRING COMMENT 'NoComment', |
| `spark_dynamicallocation_sustainedschedulerbacklogtimeout` STRING COMMENT 'NoComment', |
| `spark_eventlog_compress` STRING COMMENT 'NoComment', |
| `spark_eventlog_compression_codec` STRING COMMENT 'NoComment', |
| `spark_eventlog_dir` STRING COMMENT 'NoComment', |
| `spark_eventlog_enabled` STRING COMMENT 'NoComment', |
| `spark_eventlog_file_permission` BIGINT COMMENT 'NoComment', |
| `spark_executor_extrajavaoptions` STRING COMMENT 'NoComment', |
| `spark_executor_id` STRING COMMENT 'NoComment', |
| `spark_executor_memory` STRING COMMENT 'NoComment', |
| `spark_executor_memoryoverhead` BIGINT COMMENT 'NoComment', |
| `spark_executorenv_pythonpath` STRING COMMENT 'NoComment', |
| `spark_extralisteners` STRING COMMENT 'NoComment', |
| `spark_hadoop_hive_exec_dynamic_partition` STRING COMMENT 'NoComment', |
| `spark_hadoop_hive_exec_dynamic_partition_mode` STRING COMMENT 'NoComment', |
| `spark_hadoop_io_compression_codecs` STRING COMMENT 'NoComment', |
| `spark_hadoop_tauth_allow_without_login` STRING COMMENT 'NoComment', |
| `spark_hadoop_yarn_application_classpath` STRING COMMENT 'NoComment', |
| `spark_history_fs_logdirectory` STRING COMMENT 'NoComment', |
| `spark_hive_client_loader_isolated` STRING COMMENT 'NoComment', |
| `spark_metrics_jars` STRING COMMENT 'NoComment', |
| `spark_livy_spark_major_version` STRING COMMENT 'NoComment', |
| `spark_livy_query_engine_ip` STRING COMMENT 'NoComment', |
| `spark_livy_query_engine_port` BIGINT COMMENT 'NoComment', |
| `spark_livy_query_engine_session_id` STRING COMMENT 'NoComment', |
| `spark_livy_query_engine_submit_time` BIGINT COMMENT 'NoComment', |
| `spark_master` STRING COMMENT 'NoComment', |
| `spark_repl_class_outputdir` STRING COMMENT 'NoComment', |
| `spark_repl_class_uri` STRING COMMENT 'NoComment', |
| `spark_scheduler_mode` STRING COMMENT 'NoComment', |
| `spark_security_credentials_hive_enabled` STRING COMMENT 'NoComment', |
| `spark_serializer` STRING COMMENT 'NoComment', |
| `spark_shuffle_useoldfetchprotocol` STRING COMMENT 'NoComment', |
| `spark_sql_adaptive_advisorypartitionsizeinbytes` STRING COMMENT 'NoComment', |
| `spark_sql_adaptive_coalescepartitions_enabled` STRING COMMENT 'NoComment', |
| `spark_sql_adaptive_coalescepartitions_minpartitionnum` BIGINT COMMENT 'NoComment', |
| `spark_sql_adaptive_enabled` STRING COMMENT 'NoComment', |
| `spark_sql_audit_platform` STRING COMMENT 'NoComment', |
| `spark_sql_audit_databus_bid` STRING COMMENT 'NoComment', |
| `spark_sql_audit_databus_sender_maxretrytimes` BIGINT COMMENT 'NoComment', |
| `spark_sql_audit_databus_tdmanagerip` STRING COMMENT 'NoComment', |
| `spark_sql_audit_databus_tid` STRING COMMENT 'NoComment', |
| `spark_sql_audit_databus_timeout` BIGINT COMMENT 'NoComment', |
| `spark_sql_catalog_iceberg_catalog` STRING COMMENT 'NoComment', |
| `spark_sql_catalog_iceberg_catalog_type` STRING COMMENT 'NoComment', |
| `spark_sql_catalog_iceberg_catalog_uri` STRING COMMENT 'NoComment', |
| `spark_sql_catalog_spark_catalog` STRING COMMENT 'NoComment', |
| `spark_sql_catalogimplementation` STRING COMMENT 'NoComment', |
| `spark_sql_database_default` STRING COMMENT 'NoComment', |
| `spark_sql_extensions` STRING COMMENT 'NoComment', |
| `spark_sql_hive_casesensitiveinferencemode` STRING COMMENT 'NoComment', |
| `spark_sql_orc_compression_codec` STRING COMMENT 'NoComment', |
| `spark_sql_queryexecutionlisteners` STRING COMMENT 'NoComment', |
| `spark_sql_warehouse_dir` STRING COMMENT 'NoComment', |
| `spark_stderr_log_path` STRING COMMENT 'NoComment', |
| `spark_stdout_log_path` STRING COMMENT 'NoComment', |
| `spark_submit_deploymode` STRING COMMENT 'NoComment', |
| `spark_submit_pyfiles` STRING COMMENT 'NoComment', |
| `spark_ui_filters` STRING COMMENT 'NoComment', |
| `spark_ui_port` BIGINT COMMENT 'NoComment', |
| `spark_yarn_app_container_log_dir` STRING COMMENT 'NoComment', |
| `spark_yarn_app_id` STRING COMMENT 'NoComment', |
| `spark_yarn_archive` STRING COMMENT 'NoComment', |
| `spark_yarn_dist_archives` STRING COMMENT 'NoComment', |
| `spark_yarn_dist_files` STRING COMMENT 'NoComment', |
| `spark_yarn_dist_jars` STRING COMMENT 'NoComment', |
| `spark_yarn_dist_pyfiles` STRING COMMENT 'NoComment', |
| `spark_yarn_ispython` STRING COMMENT 'NoComment', |
| `spark_yarn_maxappattempts` BIGINT COMMENT 'NoComment', |
| `spark_yarn_populatehadoopclasspath` STRING COMMENT 'NoComment', |
| `spark_yarn_secondary_jars` STRING COMMENT 'NoComment', |
| `spark_yarn_stagingdir` STRING COMMENT 'NoComment', |
| `spark_yarn_submit_waitappcompletion` STRING COMMENT 'NoComment', |
| `spark_yarn_tags` STRING COMMENT 'NoComment', |
| `spark_hdfs_inputpaths` STRING COMMENT 'NoComment', |
| `spark_hdfs_outputpaths` STRING COMMENT 'NoComment', |
| `spark_hadoop_usp_param` STRING COMMENT 'NoComment', |
| `spark_task_shuffle_size` BIGINT COMMENT 'NoComment', |
| `spark_partition_max` BIGINT COMMENT 'NoComment', |
| `spark_default_parallelism` BIGINT COMMENT 'NoComment', |
| `spark_memory_fraction` STRING COMMENT 'NoComment', |
| `spark_memory_storagefraction` STRING COMMENT 'NoComment', |
| `spark_task_cpus` STRING COMMENT 'NoComment', |
| `spark_dynamicallocation_initialexecutors` BIGINT COMMENT 'NoComment', |
| `spark_dynamicallocation_executorrelease_time` BIGINT COMMENT 'NoComment', |
| `spark_dynamicallocation_executoridletimeout` BIGINT COMMENT 'NoComment', |
| `spark_shuffle_spill_batchsize` BIGINT COMMENT 'NoComment', |
| `spark_shuffle_service_enabled` STRING COMMENT 'NoComment', |
| `spark_shuffle_internal_digest_enabled` STRING COMMENT 'NoComment', |
| `spark_shuffle_internal_digest_debug_enabled` STRING COMMENT 'NoComment', |
| `spark_shuffle_io_serverthreads` BIGINT COMMENT 'NoComment', |
| `spark_shuffle_max_block_size_inmemory` BIGINT COMMENT 'NoComment', |
| `spark_shuffle_io_backlog` BIGINT COMMENT 'NoComment', |
| `spark_shuffle_spill_initialmemorythreshold` BIGINT COMMENT 'NoComment', |
| `spark_join_shuffle_sort` BIGINT COMMENT 'NoComment', |
| `spark_shuffle_compress` STRING COMMENT 'NoComment', |
| `spark_shuffle_file_buffer` STRING COMMENT 'NoComment', |
| `spark_shuffle_spill_compress` STRING COMMENT 'NoComment', |
| `spark_sql_sortmergejoinexec_buffer_spill_threshold` BIGINT COMMENT 'NoComment', |
| `spark_sql_distinct_external` STRING COMMENT 'NoComment', |
| `spark_sql_crossjoin_enabled` STRING COMMENT 'NoComment', |
| `spark_sql_relation_ignoredefaultpartition` STRING COMMENT 'NoComment', |
| `spark_sql_grouping_dw_compatibility` STRING COMMENT '是否启用 数据仓库DW 兼容性的分组操作', |
| `spark_sql_orderbyordinal` STRING COMMENT '是否按照列的序号进行 ORDER BY 操作', |
| `spark_sql_aggregate_external` STRING COMMENT '是否使用外部排序进行聚合操作', |
| `spark_sql_planner_sortmergejoin` STRING COMMENT '是否使用 SortMergeJoin 进行查询计划', |
| `spark_sql_groupbyordinal` STRING COMMENT '是否使用外部排序进行聚合操作', |
| `spark_sql_prefer_use_session_newaddpartition` STRING COMMENT '是否使用SortMergeJoin进行查询计划', |
| `spark_sql_check_partition_exist` STRING COMMENT '是否按照列的序号进行GROUP BY操作', |
| `spark_sql_autobroadcastjointhreshold` STRING COMMENT '是否优先使用会话级别的新添加分区', |
| `spark_sql_shuffle_partitions` STRING COMMENT '是否检查分区是否存在', |
| `spark_sql_adaptive_coalescepartitions_parallelismfirst` STRING COMMENT '自动广播连接操作的阈值', |
| `spark_sql_adaptive_coalescepartitions_minpartitionsize` STRING COMMENT 'Shuffle操作的分区数', |
| `spark_io_compression_codec` STRING COMMENT 'IO压缩编解码器', |
| `spark_io_compression_zstd_buffersize` STRING COMMENT 'Zstandard 压缩的缓冲区大小', |
| `spark_kryoserializer_max_buffer_mb` BIGINT COMMENT 'Kryo 序列化器的最大缓冲区大小', |
| `spark_merge_smallfiles` STRING COMMENT '是否合并小文件', |
| `spark_broadcast_compress` STRING COMMENT '是否压缩广播变量', |
| `spark_speculation` STRING COMMENT '是否启用任务推测执行', |
| `spark_metrics_taskbuffer_size` BIGINT COMMENT '度量指标的任务缓冲区大小', |
| `spark_metrics_executorbuffer_size` BIGINT COMMENT '度量指标的Executor缓冲区大小', |
| `spark_is_pyspark` STRING COMMENT '是否在PySpark环境中运行', |
| `spark_hdfs_inputpaths_stats_enable` STRING COMMENT '是否启用HDFS输入路径的统计信息', |
| `spark_reducer_maxthreainflight` BIGINT COMMENT 'Reducer 的最大并发线程数', |
| `spark_driver_allowmultiplecontexts` STRING COMMENT '是否允许多个Spark上下文', |
| `spark_hadoop_distributed_config_preferred` STRING COMMENT 'Hadoop 分布式配置的首选项', |
| `spark_blacklist_enabled` STRING COMMENT '是否启用黑名单', |
| `spark_yarn_historyserver_address` STRING COMMENT 'YARN historyServer服务器的地址', |
| `spark_driver_cores` STRING COMMENT 'Spark Driver使用的CPU 核心数', |
| `spark_executor_instances` STRING COMMENT 'Executor的实例数', |
| `spark_hdfs_inputpaths_num` STRING COMMENT 'HDFS输入路径的数量', |
| `spark_shuffle_manager` STRING COMMENT 'Shuffle管理器', |
| `spark_metrics_user_platform_config` STRING COMMENT '用户平台配置的度量指标', |
| `spark_metrics_autotune_config` STRING COMMENT '自动调优配置的度量指标', |
| `spark_metrics_autotune_experiment_id` STRING COMMENT '自动调优实验的ID', |
| `hive_session_id` STRING COMMENT 'Hive会话的ID', |
| `hive_query_id` STRING COMMENT 'Hive查询的ID', |
| `spark_memory_offheap_enabled` STRING COMMENT '是否启用堆外内存', |
| `spark_memory_offheap_size` STRING COMMENT '堆外内存的大小', |
| `spark_memory_uselegacymode` STRING COMMENT '是否使用传统模式的内存管理', |
| `spark_cleaner_periodicgc_interval` STRING COMMENT '周期性垃圾回收的间隔时间', |
| `spark_locality_wait` STRING COMMENT '本地性等待时间', |
| `spark_locality_wait_node` STRING COMMENT '本地性等待节点', |
| `spark_locality_wait_process` STRING COMMENT '本地性等待进程', |
| `spark_locality_wait_rack` STRING COMMENT '本地性等待机架', |
| `spark_hadoop_cache_executor_fs_hdfs_impl` STRING COMMENT '读取hdfs的服务实现' |
| ) STORED AS ORC; |
|
|
| CREATE TABLE IF NOT EXISTS internal_platform_db.ods_spark_props_extra ( |
| `dt` STRING COMMENT '分区列', |
| `app_id` STRING COMMENT 'app_id', |
| `timestamp` STRING COMMENT '上报时间', |
| `spark_hadoop_mapreduce_input_fileinputformat_split_minsize` STRING COMMENT '', |
| `spark_hadoop_mapreduce_input_fileinputformat_split_maxsize` STRING COMMENT '', |
| `spark_hadoop_mapreduce_input_fileinputformat_split_minsize_per_node` STRING COMMENT '', |
| `spark_hadoop_mapreduce_input_fileinputformat_split_minsize_per_rack` STRING COMMENT '', |
| `spark_executor_auto_set` STRING COMMENT '', |
| `spark_executor_process_partitions_per_stage` STRING COMMENT '', |
| `spark_executor_process_input_size` STRING COMMENT '', |
| `spark_stage_update_interval` STRING COMMENT '', |
| `spark_partition_min` STRING COMMENT '', |
| `mapreduce_input_fileinputformat_split_minsize` STRING COMMENT '', |
| `mapreduce_input_fileinputformat_split_maxsize` STRING COMMENT '', |
| `mapreduce_input_fileinputformat_split_minsize_per_node` STRING COMMENT '', |
| `mapreduce_input_fileinputformat_split_minsize_per_rack` STRING COMMENT '', |
| `spark_hadoop_fs_hcfs_adapter_user_appid` STRING COMMENT '', |
| `spark_hadoop_cache_executor_fs_abstractfilesystem_hdfs_impl` STRING COMMENT '', |
| `spark_hadoop_cache_executor_fs_hdfs_impl` STRING COMMENT '', |
| `spark_shuffle_sort_bypassmergethreshold` STRING COMMENT '', |
| `spark_shuffle_consolidatefiles` STRING COMMENT '', |
| `spark_shuffle_memoryfraction` STRING COMMENT '', |
| `spark_shuffle_io_retrywait` STRING COMMENT '', |
| `spark_reducer_maxsizeinflight` STRING COMMENT '', |
| `spark_mapred_min_split_size` STRING COMMENT '', |
| `spark_mapred_max_split_size` STRING COMMENT '', |
| `spark_driver_maxresultsize` STRING COMMENT '', |
| `spark_network_timeout` STRING COMMENT '', |
| `spark_speculation_quantile` STRING COMMENT '', |
| `spark_files_ignorecorruptfiles` STRING COMMENT '', |
| `spark_files_ignoremissingfiles` STRING COMMENT '', |
| `spark_executor_heartbeatinterval` STRING COMMENT '', |
| `spark_task_maxfailures` STRING COMMENT '', |
| `spark_sql_files_maxpartitionbytes` STRING COMMENT '', |
| `spark_sql_debug_maxtostringfields` STRING COMMENT '', |
| `spark_sql_maxmetadatastringlength` STRING COMMENT '', |
| `spark_sql_iceberg_planning_preserve_data_grouping` STRING COMMENT '', |
| `spark_sql_iceberg_write_distribution_aqe_enabled` STRING COMMENT '', |
| `spark_sql_iceberg_check_ordering` STRING COMMENT '', |
| `spark_sql_adaptive_forceapply` STRING COMMENT '', |
| `spark_sql_adaptive_autobroadcastjointhreshold` STRING COMMENT '', |
| `spark_sql_adaptive_forceoptimizeskewedjoin` STRING COMMENT '', |
| `spark_sql_adaptive_skewjoin_enabled` STRING COMMENT '', |
| `spark_sql_adaptive_coalescepartitions_parallelismfirst` STRING COMMENT '', |
| `spark_sql_adaptive_skewjoin_skewedpartitionthresholdinbytes` STRING COMMENT '', |
| `spark_sql_hive_convertmetastoreorc` STRING COMMENT '', |
| `spark_metrics_velox` STRING COMMENT '验证配置到sr和hive', |
| `spark_hdfs_outputpaths_append` STRING COMMENT '指定追加模式下的HDFS输出路径', |
| `spark_hdfs_outputpaths_stats` STRING COMMENT '存储统计信息或指标数据的HDFS输出路径', |
| `spark_hdfs_job_lineage` STRING COMMENT '记录数据血缘（data lineage）信息的路径', |
| `dw_username` STRING COMMENT '数据仓库DW（平台C数据仓库，ProviderC Data Warehouse）平台的用户名', |
| `spark_submitter` STRING COMMENT '提交Spark作业的用户或系统标识', |
| `spark_hadoop_dw_username` STRING COMMENT '在Hadoop配置中覆盖数据仓库DW用户名的字段', |
| `usp_param` STRING COMMENT '用户自定义参数，用于传递作业级别的自定义配置', |
| `job_platform` STRING COMMENT '标识作业运行的平台（如数据仓库DW、Spark on YARN等）', |
| `spark_executorenv_excustom_job_info` STRING COMMENT '通过Spark执行器环境变量传递的自定义作业信息', |
| `spark_app_nextgen_platform_algo_config_recommendation` STRING COMMENT '算法调优标识', |
| `spark_hadoop_mapreduce_output_fileoutputformat_compress` STRING COMMENT '是否启用 MapReduce 输出文件压缩（true/false）', |
| `spark_hadoop_mapreduce_output_fileoutputformat_compress_codec` STRING COMMENT 'MapReduce 输出压缩编解码器（如 org.apache.hadoop.io.compress.GzipCodec）', |
| `spark_hive_exec_compress_output` STRING COMMENT '是否启用 Hive 执行输出压缩（true/false）', |
| `spark_sql_files_opencostinbytes` STRING COMMENT '文件打开成本阈值（字节），用于判断文件是否合并读取', |
| `spark_sql_files_minpartitionnum` STRING COMMENT '文件读取的最小分区数，控制并行度下限', |
| `spark_sql_hive_convertmetastoreorc_on_insert` STRING COMMENT '插入数据时是否转换 Hive Metastore ORC 格式（true/false）', |
| `spark_sql_hive_udf_enabled` STRING COMMENT '是否启用 Hive UDF 支持（true/false）', |
| `spark_sql_thive_udf_register_enabled` STRING COMMENT '是否启用 Thrift Hive UDF 注册（true/false）', |
| `spark_sql_thive_nullsemantic_enabled` STRING COMMENT '是否启用 Thrift Hive 空值语义兼容（true/false）', |
| `spark_sql_thive_typecoercion_stringtointegral_enabled` STRING COMMENT '是否启用字符串到整数类型的自动转换（true/false）', |
| `spark_sql_thive_typecoercion_stringtonumeric_enabled` STRING COMMENT '是否启用字符串到数值类型的自动转换（true/false）', |
| `spark_sql_thive_udf_excludes` STRING COMMENT '需要排除的 Thrift Hive UDF 列表（逗号分隔）', |
| `spark_hadoop_hive_spark_speculative_path_ignore` STRING COMMENT 'Spark 推测执行时忽略的 Hive 路径规则', |
| `spark_sql_join_key_null_support` STRING COMMENT '是否支持 Join 键为 NULL 值（true/false）', |
| `spark_sql_storeassignmentpolicy` STRING COMMENT 'SQL 存储赋值策略（如 ANSI、LEGACY）', |
| `spark_sql_builtin_udf_preloads` STRING COMMENT '启动时预加载的内置 UDF 列表（逗号分隔）', |
| `spark_hadoop_orc_force_positional_evolution` STRING COMMENT '是否强制 ORC 格式按位置演进（true/false）', |
| `spark_hadoop_orc_stripe_size` STRING COMMENT 'ORC 文件 Stripe 大小（字节）', |
| `spark_hadoop_orc_rows_between_memory_checks` STRING COMMENT 'ORC 读写时内存检查的间隔行数', |
| `spark_sql_sortmergejoinexec_buffer_in_memory_threshold` STRING COMMENT 'SortMergeJoin 内存缓冲阈值（字节）', |
| `spark_sql_windowexec_buffer_spill_threshold` STRING COMMENT 'Window 算子缓冲溢出阈值（字节）', |
| `spark_sql_codegen_wholestage` STRING COMMENT '是否启用全阶段代码生成（Whole-Stage CodeGen，true/false）', |
| `spark_sql_adaptive_insert_repartition` STRING COMMENT '自适应插入时是否自动重分区（true/false）', |
| `spark_sql_adaptive_coalescepartitions_minpartitionsize` STRING COMMENT '自适应合并分区的最小分区大小（字节）', |
| `spark_sql_adaptive_skewjoin_skewedpartitionfactor` STRING COMMENT '倾斜 Join 的倾斜分区判断因子（默认10）', |
| `spark_shuffle_push_maxblocksizetopush` STRING COMMENT 'Shuffle Push 支持的最大块大小（字节）', |
| `spark_shuffle_push_maxblockbatchsize` STRING COMMENT 'Shuffle Push 的块批量大小（字节）', |
| `spark_shuffle_io_connectiontimeout` STRING COMMENT 'Shuffle IO 连接超时时间（毫秒）', |
| `spark_shuffle_io_clientthreads` STRING COMMENT 'Shuffle IO 客户端线程数', |
| `spark_reducer_maxreqsinflight` STRING COMMENT 'Reducer 同时发起的最大请求数', |
| `spark_network_maxremoteblocksizefetchtomem` STRING COMMENT '远程块抓取到内存的最大大小（字节）', |
| `spark_yarn_allocation_am_maxmemory` STRING COMMENT 'YARN 上 ApplicationMaster 的最大内存（MB）', |
| `spark_yarn_allocation_executor_maxmemory` STRING COMMENT 'YARN 上 Executor 的最大内存（MB）', |
| `spark_python_worker_memory` STRING COMMENT 'Python Worker 进程的内存限制（如 4g）', |
| `spark_sql_iceberg_split_size` STRING COMMENT 'Iceberg 表读取的 Split 大小（字节）', |
| `spark_sql_iceberg_handle_timestamp_without_timezone` STRING COMMENT '是否处理无时区的时间戳类型（true/false）', |
| `spark_sql_write_use_table_distribution_and_ordering` STRING COMMENT '写入时是否使用表的分布和排序规则（true/false）', |
| `spark_hadoop_mapreduce_fileoutputcommitter_marksuccessfuljobs` STRING COMMENT 'FileOutputCommitter 是否标记成功作业（true/false）', |
| `spark_scheduler_maxregisteredresourceswaitingtime` STRING COMMENT '资源注册的最大等待时间（毫秒）' |
| ) STORED AS ORC; |
|
|
| CREATE TABLE IF NOT EXISTS internal_platform_db.deep_tuning_rule_hit_app_info ( |
| `databus_imp_date` STRING COMMENT '分区', |
| `app_id` STRING COMMENT 'app_id', |
| `spark_version` STRING COMMENT 'spark版本', |
| `app_time_usage` STRING COMMENT 'app运行时间', |
| `start_time` STRING COMMENT 'app开始时间', |
| `end_time` STRING COMMENT 'app结束时间', |
| `usp_task_id` STRING COMMENT '任务id', |
| `task_num` STRING COMMENT 'app中最大stage_task数', |
| `stage_time` STRING COMMENT '该stage运行时间', |
| `stage_type` STRING COMMENT '该stage类型', |
| `task_time_50th` STRING COMMENT '该stage50%task运行时间', |
| `task_time_90th` STRING COMMENT '该stage90%task运行时间' |
| ) STORED AS ORC; |
|
|
| CREATE TABLE IF NOT EXISTS internal_platform_db.nextgen_platform_dsl_us_task_detail_fdt0 ( |
| `databus_imp_date` STRING COMMENT 'partition fields', |
| `task_id` STRING COMMENT 'NoComment', |
| `task_type` STRING COMMENT 'NoComment', |
| `task_name` STRING COMMENT 'NoComment', |
| `broker_ip` STRING COMMENT 'NoComment', |
| `cycle_unit` STRING COMMENT 'NoComment', |
| `cycle_num` STRING COMMENT 'NoComment', |
| `start_date` STRING COMMENT 'NoComment', |
| `end_date` STRING COMMENT 'NoComment', |
| `self_depend` STRING COMMENT 'NoComment', |
| `task_action` STRING COMMENT 'NoComment', |
| `delay_time` STRING COMMENT 'NoComment', |
| `startup_time` STRING COMMENT 'NoComment', |
| `alive_wait` STRING COMMENT 'NoComment', |
| `retriable` STRING COMMENT 'NoComment', |
| `status` STRING COMMENT 'NoComment', |
| `task_priority` STRING COMMENT 'NoComment', |
| `task_group` STRING COMMENT 'NoComment', |
| `notes` STRING COMMENT 'NoComment', |
| `in_charge` STRING COMMENT 'NoComment', |
| `create_time` STRING COMMENT 'NoComment', |
| `last_update` STRING COMMENT 'NoComment', |
| `source_server` STRING COMMENT 'NoComment', |
| `target_server` STRING COMMENT 'NoComment', |
| `creater` STRING COMMENT 'NoComment', |
| `try_limit` STRING COMMENT 'NoComment', |
| `product_id` STRING COMMENT 'NoComment', |
| `bg_id` STRING COMMENT 'NoComment', |
| `dw_appgroup` STRING COMMENT 'NoComment', |
| `visible` STRING COMMENT 'NoComment', |
| `exec_engine` STRING COMMENT 'NoComment', |
| `gaia_id` STRING COMMENT 'gaia集群id', |
| `autotune_type` STRING COMMENT '智能调优状态(0 关闭 1 开启)', |
| `autotune_close_lastupdate_time` STRING COMMENT '最后一次关闭智能调优时间', |
| `autotune_open_lastupdate_time` STRING COMMENT '最后一次开启智能调优时间', |
| `autotune_open_first_update_time` STRING COMMENT '第一次开启智能调优时间', |
| `timestamp` BIGINT COMMENT '发送时间13位时间戳', |
| `project_id` STRING COMMENT 'NoComment', |
| `parent_ids` STRING COMMENT '父任务ID', |
| `region_type` STRING COMMENT '海外版SG，内地版' |
| ) STORED AS ORC; |
|
|
| CREATE TABLE IF NOT EXISTS internal_platform_db.nextgen_platform_dsl_gputj_task_detail_fdt0 ( |
| `databus_imp_date` STRING COMMENT 'partition fields', |
| `task_id` STRING COMMENT '任务ID#工程ID_工作流ID_节点ID', |
| `task_type` STRING COMMENT '任务类型，spark、pyspark等', |
| `bg_name` STRING COMMENT '任务所属应用组BG名称', |
| `product_name` STRING COMMENT '任务所属应用组产品名称', |
| `app_group_id` STRING COMMENT '任务所属应用组ID', |
| `cluster_gaia_id` STRING COMMENT '任务所属spark集群ID', |
| `user_name` STRING COMMENT '任务负责人', |
| `cycle_unit` STRING COMMENT '调度周期(需要转us枚举)', |
| `task_status` STRING COMMENT '任务状态：如新建、正常、冻结(需要转us枚举)', |
| `create_time` STRING COMMENT '创建时间', |
| `last_update` STRING COMMENT '最后更新时间(如果是新建#last_update=create_time)', |
| `autotune_type` STRING COMMENT '数据上报时刻是否开启自动调参，0未开启，1开启', |
| `autotune_close_lastupdate_time` STRING COMMENT '最后一次关闭自动调参的时间，13位时间戳', |
| `autotune_open_lastupdate_time` STRING COMMENT '最后一次开启自动调参的时间，13位时间戳', |
| `autotune_open_first_update_time` STRING COMMENT '首次开启自动调参的时间，13位时间戳', |
| `timestamp` BIGINT COMMENT '发送时间，13位时间戳', |
| `task_name` STRING COMMENT '任务名称', |
| `environment` STRING COMMENT 'GPU调度平台TJ环境', |
| `project_name` STRING COMMENT '工程名称', |
| `model_flow_name` STRING COMMENT '工作流名称', |
| `workspace_name` STRING COMMENT 'model_flow_name' |
| ) STORED AS ORC; |
|
|
| CREATE TABLE IF NOT EXISTS internal_platform_db.app_group_product_info_history ( |
| `dt` STRING COMMENT '', |
| `username` STRING COMMENT '', |
| `application_group` STRING COMMENT '', |
| `application_group_owner` INT COMMENT '', |
| `product_id` INT COMMENT '', |
| `product_name` STRING COMMENT '', |
| `product_owner` INT COMMENT '', |
| `obs_product_id` INT COMMENT '', |
| `obs_product_name` STRING COMMENT '', |
| `obs_product_owner` INT COMMENT '', |
| `department` STRING COMMENT '', |
| `plan_product_id` INT COMMENT '', |
| `plan_product_name` STRING COMMENT '', |
| `plan_product_owner` INT COMMENT '', |
| `application_group_numbers` STRING COMMENT '', |
| `application_group_owners` STRING COMMENT '', |
| `product_owners` STRING COMMENT '', |
| `obs_product_owners` STRING COMMENT '', |
| `plan_product_owners` STRING COMMENT '', |
| `bg` STRING COMMENT '', |
| `id` INT COMMENT '' |
| ) STORED AS ORC; |
|
|
