Datasets:
File size: 25,522 Bytes
e8c001c | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 | CREATE TABLE IF NOT EXISTS internal_platform_db.nextgen_platform_dsl_spark_props_fht0 (
`databus_imp_date` STRING COMMENT 'partition fields',
`spark_props` STRING COMMENT 'spark properties',
`app_id` STRING COMMENT 'NoComment',
`timestamp` BIGINT COMMENT 'NoComment',
`spark_yarn_queue` STRING COMMENT 'NoComment',
`spark_executor_cores` BIGINT COMMENT 'NoComment',
`spark_driver_host` STRING COMMENT 'NoComment',
`spark_app_id` STRING COMMENT 'NoComment',
`spark_app_name` STRING COMMENT 'NoComment',
`spark_app_starttime` BIGINT COMMENT 'NoComment',
`spark_driver_extrajavaoptions` STRING COMMENT 'NoComment',
`spark_driver_memory` STRING COMMENT 'NoComment',
`spark_driver_port` BIGINT COMMENT 'NoComment',
`spark_dynamicallocation_enabled` STRING COMMENT 'NoComment',
`spark_dynamicallocation_maxexecutors` BIGINT COMMENT 'NoComment',
`spark_dynamicallocation_minexecutors` BIGINT COMMENT 'NoComment',
`spark_dynamicallocation_schedulerbacklogtimeout` STRING COMMENT 'NoComment',
`spark_dynamicallocation_shuffletracking_enabled` STRING COMMENT 'NoComment',
`spark_dynamicallocation_sustainedschedulerbacklogtimeout` STRING COMMENT 'NoComment',
`spark_eventlog_compress` STRING COMMENT 'NoComment',
`spark_eventlog_compression_codec` STRING COMMENT 'NoComment',
`spark_eventlog_dir` STRING COMMENT 'NoComment',
`spark_eventlog_enabled` STRING COMMENT 'NoComment',
`spark_eventlog_file_permission` BIGINT COMMENT 'NoComment',
`spark_executor_extrajavaoptions` STRING COMMENT 'NoComment',
`spark_executor_id` STRING COMMENT 'NoComment',
`spark_executor_memory` STRING COMMENT 'NoComment',
`spark_executor_memoryoverhead` BIGINT COMMENT 'NoComment',
`spark_executorenv_pythonpath` STRING COMMENT 'NoComment',
`spark_extralisteners` STRING COMMENT 'NoComment',
`spark_hadoop_hive_exec_dynamic_partition` STRING COMMENT 'NoComment',
`spark_hadoop_hive_exec_dynamic_partition_mode` STRING COMMENT 'NoComment',
`spark_hadoop_io_compression_codecs` STRING COMMENT 'NoComment',
`spark_hadoop_tauth_allow_without_login` STRING COMMENT 'NoComment',
`spark_hadoop_yarn_application_classpath` STRING COMMENT 'NoComment',
`spark_history_fs_logdirectory` STRING COMMENT 'NoComment',
`spark_hive_client_loader_isolated` STRING COMMENT 'NoComment',
`spark_metrics_jars` STRING COMMENT 'NoComment',
`spark_livy_spark_major_version` STRING COMMENT 'NoComment',
`spark_livy_query_engine_ip` STRING COMMENT 'NoComment',
`spark_livy_query_engine_port` BIGINT COMMENT 'NoComment',
`spark_livy_query_engine_session_id` STRING COMMENT 'NoComment',
`spark_livy_query_engine_submit_time` BIGINT COMMENT 'NoComment',
`spark_master` STRING COMMENT 'NoComment',
`spark_repl_class_outputdir` STRING COMMENT 'NoComment',
`spark_repl_class_uri` STRING COMMENT 'NoComment',
`spark_scheduler_mode` STRING COMMENT 'NoComment',
`spark_security_credentials_hive_enabled` STRING COMMENT 'NoComment',
`spark_serializer` STRING COMMENT 'NoComment',
`spark_shuffle_useoldfetchprotocol` STRING COMMENT 'NoComment',
`spark_sql_adaptive_advisorypartitionsizeinbytes` STRING COMMENT 'NoComment',
`spark_sql_adaptive_coalescepartitions_enabled` STRING COMMENT 'NoComment',
`spark_sql_adaptive_coalescepartitions_minpartitionnum` BIGINT COMMENT 'NoComment',
`spark_sql_adaptive_enabled` STRING COMMENT 'NoComment',
`spark_sql_audit_platform` STRING COMMENT 'NoComment',
`spark_sql_audit_databus_bid` STRING COMMENT 'NoComment',
`spark_sql_audit_databus_sender_maxretrytimes` BIGINT COMMENT 'NoComment',
`spark_sql_audit_databus_tdmanagerip` STRING COMMENT 'NoComment',
`spark_sql_audit_databus_tid` STRING COMMENT 'NoComment',
`spark_sql_audit_databus_timeout` BIGINT COMMENT 'NoComment',
`spark_sql_catalog_iceberg_catalog` STRING COMMENT 'NoComment',
`spark_sql_catalog_iceberg_catalog_type` STRING COMMENT 'NoComment',
`spark_sql_catalog_iceberg_catalog_uri` STRING COMMENT 'NoComment',
`spark_sql_catalog_spark_catalog` STRING COMMENT 'NoComment',
`spark_sql_catalogimplementation` STRING COMMENT 'NoComment',
`spark_sql_database_default` STRING COMMENT 'NoComment',
`spark_sql_extensions` STRING COMMENT 'NoComment',
`spark_sql_hive_casesensitiveinferencemode` STRING COMMENT 'NoComment',
`spark_sql_orc_compression_codec` STRING COMMENT 'NoComment',
`spark_sql_queryexecutionlisteners` STRING COMMENT 'NoComment',
`spark_sql_warehouse_dir` STRING COMMENT 'NoComment',
`spark_stderr_log_path` STRING COMMENT 'NoComment',
`spark_stdout_log_path` STRING COMMENT 'NoComment',
`spark_submit_deploymode` STRING COMMENT 'NoComment',
`spark_submit_pyfiles` STRING COMMENT 'NoComment',
`spark_ui_filters` STRING COMMENT 'NoComment',
`spark_ui_port` BIGINT COMMENT 'NoComment',
`spark_yarn_app_container_log_dir` STRING COMMENT 'NoComment',
`spark_yarn_app_id` STRING COMMENT 'NoComment',
`spark_yarn_archive` STRING COMMENT 'NoComment',
`spark_yarn_dist_archives` STRING COMMENT 'NoComment',
`spark_yarn_dist_files` STRING COMMENT 'NoComment',
`spark_yarn_dist_jars` STRING COMMENT 'NoComment',
`spark_yarn_dist_pyfiles` STRING COMMENT 'NoComment',
`spark_yarn_ispython` STRING COMMENT 'NoComment',
`spark_yarn_maxappattempts` BIGINT COMMENT 'NoComment',
`spark_yarn_populatehadoopclasspath` STRING COMMENT 'NoComment',
`spark_yarn_secondary_jars` STRING COMMENT 'NoComment',
`spark_yarn_stagingdir` STRING COMMENT 'NoComment',
`spark_yarn_submit_waitappcompletion` STRING COMMENT 'NoComment',
`spark_yarn_tags` STRING COMMENT 'NoComment',
`spark_hdfs_inputpaths` STRING COMMENT 'NoComment',
`spark_hdfs_outputpaths` STRING COMMENT 'NoComment',
`spark_hadoop_usp_param` STRING COMMENT 'NoComment',
`spark_task_shuffle_size` BIGINT COMMENT 'NoComment',
`spark_partition_max` BIGINT COMMENT 'NoComment',
`spark_default_parallelism` BIGINT COMMENT 'NoComment',
`spark_memory_fraction` STRING COMMENT 'NoComment',
`spark_memory_storagefraction` STRING COMMENT 'NoComment',
`spark_task_cpus` STRING COMMENT 'NoComment',
`spark_dynamicallocation_initialexecutors` BIGINT COMMENT 'NoComment',
`spark_dynamicallocation_executorrelease_time` BIGINT COMMENT 'NoComment',
`spark_dynamicallocation_executoridletimeout` BIGINT COMMENT 'NoComment',
`spark_shuffle_spill_batchsize` BIGINT COMMENT 'NoComment',
`spark_shuffle_service_enabled` STRING COMMENT 'NoComment',
`spark_shuffle_internal_digest_enabled` STRING COMMENT 'NoComment',
`spark_shuffle_internal_digest_debug_enabled` STRING COMMENT 'NoComment',
`spark_shuffle_io_serverthreads` BIGINT COMMENT 'NoComment',
`spark_shuffle_max_block_size_inmemory` BIGINT COMMENT 'NoComment',
`spark_shuffle_io_backlog` BIGINT COMMENT 'NoComment',
`spark_shuffle_spill_initialmemorythreshold` BIGINT COMMENT 'NoComment',
`spark_join_shuffle_sort` BIGINT COMMENT 'NoComment',
`spark_shuffle_compress` STRING COMMENT 'NoComment',
`spark_shuffle_file_buffer` STRING COMMENT 'NoComment',
`spark_shuffle_spill_compress` STRING COMMENT 'NoComment',
`spark_sql_sortmergejoinexec_buffer_spill_threshold` BIGINT COMMENT 'NoComment',
`spark_sql_distinct_external` STRING COMMENT 'NoComment',
`spark_sql_crossjoin_enabled` STRING COMMENT 'NoComment',
`spark_sql_relation_ignoredefaultpartition` STRING COMMENT 'NoComment',
`spark_sql_grouping_dw_compatibility` STRING COMMENT '是否启用 数据仓库DW 兼容性的分组操作',
`spark_sql_orderbyordinal` STRING COMMENT '是否按照列的序号进行 ORDER BY 操作',
`spark_sql_aggregate_external` STRING COMMENT '是否使用外部排序进行聚合操作',
`spark_sql_planner_sortmergejoin` STRING COMMENT '是否使用 SortMergeJoin 进行查询计划',
`spark_sql_groupbyordinal` STRING COMMENT '是否使用外部排序进行聚合操作',
`spark_sql_prefer_use_session_newaddpartition` STRING COMMENT '是否使用SortMergeJoin进行查询计划',
`spark_sql_check_partition_exist` STRING COMMENT '是否按照列的序号进行GROUP BY操作',
`spark_sql_autobroadcastjointhreshold` STRING COMMENT '是否优先使用会话级别的新添加分区',
`spark_sql_shuffle_partitions` STRING COMMENT '是否检查分区是否存在',
`spark_sql_adaptive_coalescepartitions_parallelismfirst` STRING COMMENT '自动广播连接操作的阈值',
`spark_sql_adaptive_coalescepartitions_minpartitionsize` STRING COMMENT 'Shuffle操作的分区数',
`spark_io_compression_codec` STRING COMMENT 'IO压缩编解码器',
`spark_io_compression_zstd_buffersize` STRING COMMENT 'Zstandard 压缩的缓冲区大小',
`spark_kryoserializer_max_buffer_mb` BIGINT COMMENT 'Kryo 序列化器的最大缓冲区大小',
`spark_merge_smallfiles` STRING COMMENT '是否合并小文件',
`spark_broadcast_compress` STRING COMMENT '是否压缩广播变量',
`spark_speculation` STRING COMMENT '是否启用任务推测执行',
`spark_metrics_taskbuffer_size` BIGINT COMMENT '度量指标的任务缓冲区大小',
`spark_metrics_executorbuffer_size` BIGINT COMMENT '度量指标的Executor缓冲区大小',
`spark_is_pyspark` STRING COMMENT '是否在PySpark环境中运行',
`spark_hdfs_inputpaths_stats_enable` STRING COMMENT '是否启用HDFS输入路径的统计信息',
`spark_reducer_maxthreainflight` BIGINT COMMENT 'Reducer 的最大并发线程数',
`spark_driver_allowmultiplecontexts` STRING COMMENT '是否允许多个Spark上下文',
`spark_hadoop_distributed_config_preferred` STRING COMMENT 'Hadoop 分布式配置的首选项',
`spark_blacklist_enabled` STRING COMMENT '是否启用黑名单',
`spark_yarn_historyserver_address` STRING COMMENT 'YARN historyServer服务器的地址',
`spark_driver_cores` STRING COMMENT 'Spark Driver使用的CPU 核心数',
`spark_executor_instances` STRING COMMENT 'Executor的实例数',
`spark_hdfs_inputpaths_num` STRING COMMENT 'HDFS输入路径的数量',
`spark_shuffle_manager` STRING COMMENT 'Shuffle管理器',
`spark_metrics_user_platform_config` STRING COMMENT '用户平台配置的度量指标',
`spark_metrics_autotune_config` STRING COMMENT '自动调优配置的度量指标',
`spark_metrics_autotune_experiment_id` STRING COMMENT '自动调优实验的ID',
`hive_session_id` STRING COMMENT 'Hive会话的ID',
`hive_query_id` STRING COMMENT 'Hive查询的ID',
`spark_memory_offheap_enabled` STRING COMMENT '是否启用堆外内存',
`spark_memory_offheap_size` STRING COMMENT '堆外内存的大小',
`spark_memory_uselegacymode` STRING COMMENT '是否使用传统模式的内存管理',
`spark_cleaner_periodicgc_interval` STRING COMMENT '周期性垃圾回收的间隔时间',
`spark_locality_wait` STRING COMMENT '本地性等待时间',
`spark_locality_wait_node` STRING COMMENT '本地性等待节点',
`spark_locality_wait_process` STRING COMMENT '本地性等待进程',
`spark_locality_wait_rack` STRING COMMENT '本地性等待机架',
`spark_hadoop_cache_executor_fs_hdfs_impl` STRING COMMENT '读取hdfs的服务实现'
) STORED AS ORC;
CREATE TABLE IF NOT EXISTS internal_platform_db.ods_spark_props_extra (
`dt` STRING COMMENT '分区列',
`app_id` STRING COMMENT 'app_id',
`timestamp` STRING COMMENT '上报时间',
`spark_hadoop_mapreduce_input_fileinputformat_split_minsize` STRING COMMENT '',
`spark_hadoop_mapreduce_input_fileinputformat_split_maxsize` STRING COMMENT '',
`spark_hadoop_mapreduce_input_fileinputformat_split_minsize_per_node` STRING COMMENT '',
`spark_hadoop_mapreduce_input_fileinputformat_split_minsize_per_rack` STRING COMMENT '',
`spark_executor_auto_set` STRING COMMENT '',
`spark_executor_process_partitions_per_stage` STRING COMMENT '',
`spark_executor_process_input_size` STRING COMMENT '',
`spark_stage_update_interval` STRING COMMENT '',
`spark_partition_min` STRING COMMENT '',
`mapreduce_input_fileinputformat_split_minsize` STRING COMMENT '',
`mapreduce_input_fileinputformat_split_maxsize` STRING COMMENT '',
`mapreduce_input_fileinputformat_split_minsize_per_node` STRING COMMENT '',
`mapreduce_input_fileinputformat_split_minsize_per_rack` STRING COMMENT '',
`spark_hadoop_fs_hcfs_adapter_user_appid` STRING COMMENT '',
`spark_hadoop_cache_executor_fs_abstractfilesystem_hdfs_impl` STRING COMMENT '',
`spark_hadoop_cache_executor_fs_hdfs_impl` STRING COMMENT '',
`spark_shuffle_sort_bypassmergethreshold` STRING COMMENT '',
`spark_shuffle_consolidatefiles` STRING COMMENT '',
`spark_shuffle_memoryfraction` STRING COMMENT '',
`spark_shuffle_io_retrywait` STRING COMMENT '',
`spark_reducer_maxsizeinflight` STRING COMMENT '',
`spark_mapred_min_split_size` STRING COMMENT '',
`spark_mapred_max_split_size` STRING COMMENT '',
`spark_driver_maxresultsize` STRING COMMENT '',
`spark_network_timeout` STRING COMMENT '',
`spark_speculation_quantile` STRING COMMENT '',
`spark_files_ignorecorruptfiles` STRING COMMENT '',
`spark_files_ignoremissingfiles` STRING COMMENT '',
`spark_executor_heartbeatinterval` STRING COMMENT '',
`spark_task_maxfailures` STRING COMMENT '',
`spark_sql_files_maxpartitionbytes` STRING COMMENT '',
`spark_sql_debug_maxtostringfields` STRING COMMENT '',
`spark_sql_maxmetadatastringlength` STRING COMMENT '',
`spark_sql_iceberg_planning_preserve_data_grouping` STRING COMMENT '',
`spark_sql_iceberg_write_distribution_aqe_enabled` STRING COMMENT '',
`spark_sql_iceberg_check_ordering` STRING COMMENT '',
`spark_sql_adaptive_forceapply` STRING COMMENT '',
`spark_sql_adaptive_autobroadcastjointhreshold` STRING COMMENT '',
`spark_sql_adaptive_forceoptimizeskewedjoin` STRING COMMENT '',
`spark_sql_adaptive_skewjoin_enabled` STRING COMMENT '',
`spark_sql_adaptive_coalescepartitions_parallelismfirst` STRING COMMENT '',
`spark_sql_adaptive_skewjoin_skewedpartitionthresholdinbytes` STRING COMMENT '',
`spark_sql_hive_convertmetastoreorc` STRING COMMENT '',
`spark_metrics_velox` STRING COMMENT '验证配置到sr和hive',
`spark_hdfs_outputpaths_append` STRING COMMENT '指定追加模式下的HDFS输出路径',
`spark_hdfs_outputpaths_stats` STRING COMMENT '存储统计信息或指标数据的HDFS输出路径',
`spark_hdfs_job_lineage` STRING COMMENT '记录数据血缘（data lineage）信息的路径',
`dw_username` STRING COMMENT '数据仓库DW（平台C数据仓库，ProviderC Data Warehouse）平台的用户名',
`spark_submitter` STRING COMMENT '提交Spark作业的用户或系统标识',
`spark_hadoop_dw_username` STRING COMMENT '在Hadoop配置中覆盖数据仓库DW用户名的字段',
`usp_param` STRING COMMENT '用户自定义参数，用于传递作业级别的自定义配置',
`job_platform` STRING COMMENT '标识作业运行的平台（如数据仓库DW、Spark on YARN等）',
`spark_executorenv_excustom_job_info` STRING COMMENT '通过Spark执行器环境变量传递的自定义作业信息',
`spark_app_nextgen_platform_algo_config_recommendation` STRING COMMENT '算法调优标识',
`spark_hadoop_mapreduce_output_fileoutputformat_compress` STRING COMMENT '是否启用 MapReduce 输出文件压缩（true/false）',
`spark_hadoop_mapreduce_output_fileoutputformat_compress_codec` STRING COMMENT 'MapReduce 输出压缩编解码器（如 org.apache.hadoop.io.compress.GzipCodec）',
`spark_hive_exec_compress_output` STRING COMMENT '是否启用 Hive 执行输出压缩（true/false）',
`spark_sql_files_opencostinbytes` STRING COMMENT '文件打开成本阈值（字节），用于判断文件是否合并读取',
`spark_sql_files_minpartitionnum` STRING COMMENT '文件读取的最小分区数，控制并行度下限',
`spark_sql_hive_convertmetastoreorc_on_insert` STRING COMMENT '插入数据时是否转换 Hive Metastore ORC 格式（true/false）',
`spark_sql_hive_udf_enabled` STRING COMMENT '是否启用 Hive UDF 支持（true/false）',
`spark_sql_thive_udf_register_enabled` STRING COMMENT '是否启用 Thrift Hive UDF 注册（true/false）',
`spark_sql_thive_nullsemantic_enabled` STRING COMMENT '是否启用 Thrift Hive 空值语义兼容（true/false）',
`spark_sql_thive_typecoercion_stringtointegral_enabled` STRING COMMENT '是否启用字符串到整数类型的自动转换（true/false）',
`spark_sql_thive_typecoercion_stringtonumeric_enabled` STRING COMMENT '是否启用字符串到数值类型的自动转换（true/false）',
`spark_sql_thive_udf_excludes` STRING COMMENT '需要排除的 Thrift Hive UDF 列表（逗号分隔）',
`spark_hadoop_hive_spark_speculative_path_ignore` STRING COMMENT 'Spark 推测执行时忽略的 Hive 路径规则',
`spark_sql_join_key_null_support` STRING COMMENT '是否支持 Join 键为 NULL 值（true/false）',
`spark_sql_storeassignmentpolicy` STRING COMMENT 'SQL 存储赋值策略（如 ANSI、LEGACY）',
`spark_sql_builtin_udf_preloads` STRING COMMENT '启动时预加载的内置 UDF 列表（逗号分隔）',
`spark_hadoop_orc_force_positional_evolution` STRING COMMENT '是否强制 ORC 格式按位置演进（true/false）',
`spark_hadoop_orc_stripe_size` STRING COMMENT 'ORC 文件 Stripe 大小（字节）',
`spark_hadoop_orc_rows_between_memory_checks` STRING COMMENT 'ORC 读写时内存检查的间隔行数',
`spark_sql_sortmergejoinexec_buffer_in_memory_threshold` STRING COMMENT 'SortMergeJoin 内存缓冲阈值（字节）',
`spark_sql_windowexec_buffer_spill_threshold` STRING COMMENT 'Window 算子缓冲溢出阈值（字节）',
`spark_sql_codegen_wholestage` STRING COMMENT '是否启用全阶段代码生成（Whole-Stage CodeGen，true/false）',
`spark_sql_adaptive_insert_repartition` STRING COMMENT '自适应插入时是否自动重分区（true/false）',
`spark_sql_adaptive_coalescepartitions_minpartitionsize` STRING COMMENT '自适应合并分区的最小分区大小（字节）',
`spark_sql_adaptive_skewjoin_skewedpartitionfactor` STRING COMMENT '倾斜 Join 的倾斜分区判断因子（默认10）',
`spark_shuffle_push_maxblocksizetopush` STRING COMMENT 'Shuffle Push 支持的最大块大小（字节）',
`spark_shuffle_push_maxblockbatchsize` STRING COMMENT 'Shuffle Push 的块批量大小（字节）',
`spark_shuffle_io_connectiontimeout` STRING COMMENT 'Shuffle IO 连接超时时间（毫秒）',
`spark_shuffle_io_clientthreads` STRING COMMENT 'Shuffle IO 客户端线程数',
`spark_reducer_maxreqsinflight` STRING COMMENT 'Reducer 同时发起的最大请求数',
`spark_network_maxremoteblocksizefetchtomem` STRING COMMENT '远程块抓取到内存的最大大小（字节）',
`spark_yarn_allocation_am_maxmemory` STRING COMMENT 'YARN 上 ApplicationMaster 的最大内存（MB）',
`spark_yarn_allocation_executor_maxmemory` STRING COMMENT 'YARN 上 Executor 的最大内存（MB）',
`spark_python_worker_memory` STRING COMMENT 'Python Worker 进程的内存限制（如 4g）',
`spark_sql_iceberg_split_size` STRING COMMENT 'Iceberg 表读取的 Split 大小（字节）',
`spark_sql_iceberg_handle_timestamp_without_timezone` STRING COMMENT '是否处理无时区的时间戳类型（true/false）',
`spark_sql_write_use_table_distribution_and_ordering` STRING COMMENT '写入时是否使用表的分布和排序规则（true/false）',
`spark_hadoop_mapreduce_fileoutputcommitter_marksuccessfuljobs` STRING COMMENT 'FileOutputCommitter 是否标记成功作业（true/false）',
`spark_scheduler_maxregisteredresourceswaitingtime` STRING COMMENT '资源注册的最大等待时间（毫秒）'
) STORED AS ORC;
CREATE TABLE IF NOT EXISTS internal_platform_db.deep_tuning_rule_hit_app_info (
`databus_imp_date` STRING COMMENT '分区',
`app_id` STRING COMMENT 'app_id',
`spark_version` STRING COMMENT 'spark版本',
`app_time_usage` STRING COMMENT 'app运行时间',
`start_time` STRING COMMENT 'app开始时间',
`end_time` STRING COMMENT 'app结束时间',
`usp_task_id` STRING COMMENT '任务id',
`task_num` STRING COMMENT 'app中最大stage_task数',
`stage_time` STRING COMMENT '该stage运行时间',
`stage_type` STRING COMMENT '该stage类型',
`task_time_50th` STRING COMMENT '该stage50%task运行时间',
`task_time_90th` STRING COMMENT '该stage90%task运行时间'
) STORED AS ORC;
CREATE TABLE IF NOT EXISTS internal_platform_db.nextgen_platform_dsl_us_task_detail_fdt0 (
`databus_imp_date` STRING COMMENT 'partition fields',
`task_id` STRING COMMENT 'NoComment',
`task_type` STRING COMMENT 'NoComment',
`task_name` STRING COMMENT 'NoComment',
`broker_ip` STRING COMMENT 'NoComment',
`cycle_unit` STRING COMMENT 'NoComment',
`cycle_num` STRING COMMENT 'NoComment',
`start_date` STRING COMMENT 'NoComment',
`end_date` STRING COMMENT 'NoComment',
`self_depend` STRING COMMENT 'NoComment',
`task_action` STRING COMMENT 'NoComment',
`delay_time` STRING COMMENT 'NoComment',
`startup_time` STRING COMMENT 'NoComment',
`alive_wait` STRING COMMENT 'NoComment',
`retriable` STRING COMMENT 'NoComment',
`status` STRING COMMENT 'NoComment',
`task_priority` STRING COMMENT 'NoComment',
`task_group` STRING COMMENT 'NoComment',
`notes` STRING COMMENT 'NoComment',
`in_charge` STRING COMMENT 'NoComment',
`create_time` STRING COMMENT 'NoComment',
`last_update` STRING COMMENT 'NoComment',
`source_server` STRING COMMENT 'NoComment',
`target_server` STRING COMMENT 'NoComment',
`creater` STRING COMMENT 'NoComment',
`try_limit` STRING COMMENT 'NoComment',
`product_id` STRING COMMENT 'NoComment',
`bg_id` STRING COMMENT 'NoComment',
`dw_appgroup` STRING COMMENT 'NoComment',
`visible` STRING COMMENT 'NoComment',
`exec_engine` STRING COMMENT 'NoComment',
`gaia_id` STRING COMMENT 'gaia集群id',
`autotune_type` STRING COMMENT '智能调优状态(0 关闭 1 开启)',
`autotune_close_lastupdate_time` STRING COMMENT '最后一次关闭智能调优时间',
`autotune_open_lastupdate_time` STRING COMMENT '最后一次开启智能调优时间',
`autotune_open_first_update_time` STRING COMMENT '第一次开启智能调优时间',
`timestamp` BIGINT COMMENT '发送时间13位时间戳',
`project_id` STRING COMMENT 'NoComment',
`parent_ids` STRING COMMENT '父任务ID',
`region_type` STRING COMMENT '海外版SG，内地版'
) STORED AS ORC;
CREATE TABLE IF NOT EXISTS internal_platform_db.nextgen_platform_dsl_gputj_task_detail_fdt0 (
`databus_imp_date` STRING COMMENT 'partition fields',
`task_id` STRING COMMENT '任务ID#工程ID_工作流ID_节点ID',
`task_type` STRING COMMENT '任务类型，spark、pyspark等',
`bg_name` STRING COMMENT '任务所属应用组BG名称',
`product_name` STRING COMMENT '任务所属应用组产品名称',
`app_group_id` STRING COMMENT '任务所属应用组ID',
`cluster_gaia_id` STRING COMMENT '任务所属spark集群ID',
`user_name` STRING COMMENT '任务负责人',
`cycle_unit` STRING COMMENT '调度周期(需要转us枚举)',
`task_status` STRING COMMENT '任务状态：如新建、正常、冻结(需要转us枚举)',
`create_time` STRING COMMENT '创建时间',
`last_update` STRING COMMENT '最后更新时间(如果是新建#last_update=create_time)',
`autotune_type` STRING COMMENT '数据上报时刻是否开启自动调参，0未开启，1开启',
`autotune_close_lastupdate_time` STRING COMMENT '最后一次关闭自动调参的时间，13位时间戳',
`autotune_open_lastupdate_time` STRING COMMENT '最后一次开启自动调参的时间，13位时间戳',
`autotune_open_first_update_time` STRING COMMENT '首次开启自动调参的时间，13位时间戳',
`timestamp` BIGINT COMMENT '发送时间，13位时间戳',
`task_name` STRING COMMENT '任务名称',
`environment` STRING COMMENT 'GPU调度平台TJ环境',
`project_name` STRING COMMENT '工程名称',
`model_flow_name` STRING COMMENT '工作流名称',
`workspace_name` STRING COMMENT 'model_flow_name'
) STORED AS ORC;
CREATE TABLE IF NOT EXISTS internal_platform_db.app_group_product_info_history (
`dt` STRING COMMENT '',
`username` STRING COMMENT '',
`application_group` STRING COMMENT '',
`application_group_owner` INT COMMENT '',
`product_id` INT COMMENT '',
`product_name` STRING COMMENT '',
`product_owner` INT COMMENT '',
`obs_product_id` INT COMMENT '',
`obs_product_name` STRING COMMENT '',
`obs_product_owner` INT COMMENT '',
`department` STRING COMMENT '',
`plan_product_id` INT COMMENT '',
`plan_product_name` STRING COMMENT '',
`plan_product_owner` INT COMMENT '',
`application_group_numbers` STRING COMMENT '',
`application_group_owners` STRING COMMENT '',
`product_owners` STRING COMMENT '',
`obs_product_owners` STRING COMMENT '',
`plan_product_owners` STRING COMMENT '',
`bg` STRING COMMENT '',
`id` INT COMMENT ''
) STORED AS ORC;
|