File size: 11,434 Bytes
e8c001c
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
CREATE TABLE IF NOT EXISTS internal_platform_db.ads_sec_ec_sup_ec_tele_item_hi (
    `p_hour` STRING COMMENT '小时分区',
    `uniqu_id` STRING COMMENT '业务唯一标识id(平台名称+店铺名称+商品ID+数据来源+yyyymmdd)md5值',
    `id` STRING COMMENT '商品id',
    `name` STRING COMMENT '名称',
    `sub_title` STRING COMMENT '子标题',
    `property` STRING COMMENT '商品属性',
    `sku_list` STRING COMMENT '商品SKU集合',
    `desc_info` STRING COMMENT '描述',
    `url` STRING COMMENT '商品url链接',
    `status` INT COMMENT '商品状态:1上架 0下架',
    `sale_price` DOUBLE COMMENT '价格,单位元',
    `sale_qty` BIGINT COMMENT '销量',
    `stock_qty` BIGINT COMMENT '库存数量',
    `score` DOUBLE COMMENT '评分',
    `main_image_url` STRING COMMENT '商品主图链接',
    `sub_image_url` STRING COMMENT '商品副图链接:最多10张,用逗号隔开',
    `category_level1_id` BIGINT COMMENT '一级类目id',
    `category_level1_name` STRING COMMENT '一级类目名称',
    `category_level2_id` BIGINT COMMENT '二级类目id',
    `category_level2_name` STRING COMMENT '二级类目名称',
    `category_level3_id` BIGINT COMMENT '三级类目id',
    `category_level3_name` STRING COMMENT '三级类目名称',
    `shop_uniqu_id` STRING COMMENT '店铺唯一标识(关联店铺表唯一字段)',
    `shop_id` STRING COMMENT '店铺id',
    `shop_name` STRING COMMENT '店铺名称',
    `shop_url` STRING COMMENT '店铺url链接',
    `platform_id` INT COMMENT '商品所在平台代号',
    `platform_name` STRING COMMENT '商品所在平台名称',
    `shipping_address` STRING COMMENT '发货地址',
    `price_text` STRING COMMENT '完整价格文本信息(能采集到价格,此字段可为空)',
    `flag` INT COMMENT '标记字段,第一次复采标记1,第二次复采标记2',
    `need_cutpic` INT COMMENT '是否要求截图(1 是,0 否)',
    `is_ocr` INT COMMENT '是否OCR(1 是,0 否)',
    `soe_flag` INT COMMENT '活动标,存在标记1',
    `data_channel` INT COMMENT '渠道来源标识 1:PC ,2:APP,3:小程序',
    `data_method` INT COMMENT '采集方式:1关键词;2类目;3店铺;4:链接;5:列表反馈',
    `data_source` STRING COMMENT '数据来源:BC/AL/SJS/WB',
    `detail_image_url` STRING COMMENT '详情图片,至多20张,用逗号隔开',
    `service_guarantee` STRING COMMENT '服务保障',
    `brand_id` INT COMMENT '标准品牌id',
    `brand_name` STRING COMMENT '标准品牌名称',
    `is_ad` INT COMMENT '是否广告(1 是,0否)',
    `is_selfoperated` INT COMMENT '是否自营(1 是,0否)',
    `create_time` TIMESTAMP COMMENT '数据入库时间',
    `task_id` STRING COMMENT '任务ID',
    `batch_id` STRING COMMENT '批次ID',
    `category_level1_original` STRING COMMENT '原始一级类目名称',
    `category_level2_original` STRING COMMENT '原始二级类目名称',
    `category_level3_original` STRING COMMENT '原始三级类目名称',
    `brand_name_original` STRING COMMENT '原始品牌名',
    `product_name` STRING COMMENT '产品名称',
    `approval_number` STRING COMMENT '批准文号(注册/备案)',
    `ccc_certificate_number` STRING COMMENT '3C证书编号',
    `efficacy` STRING COMMENT '功效',
    `production_place` STRING COMMENT '产地',
    `manufacturer` STRING COMMENT '生产企业',
    `production_license_number` STRING COMMENT '生产许可证编号',
    `factory_name` STRING COMMENT '厂名',
    `factory_address` STRING COMMENT '厂址',
    `brand_authorization_image_url` STRING COMMENT '品牌授权图',
    `is_virtual` INT COMMENT '是否虚拟商品(1 是,0 否)',
    `is_invoice` INT COMMENT '是否有发票(1 是,0 否)',
    `is_guarantee` INT COMMENT '是否有保修(1 是,0 否)',
    `is_free_ship` INT COMMENT '是否包邮(1 是,0 否)',
    `comments_cnt` BIGINT COMMENT '全部评论数',
    `industry_id` INT COMMENT '行业id',
    `industry_name` STRING COMMENT '行业名称',
    `high_remark_cnt` BIGINT COMMENT '好评数',
    `med_remark_cnt` BIGINT COMMENT '中评数',
    `bad_remark_cnt` BIGINT COMMENT '差评数',
    `main_image_ocr` STRING COMMENT '主图OCR',
    `sub_image_ocr` STRING COMMENT '副图OCR',
    `detail_image_ocr` STRING COMMENT '详情图OCR',
    `ml_category_tag` STRING COMMENT '机器学习分类标签',
    `sku_cnt` INT COMMENT 'sku数量',
    `license_collection_status` INT COMMENT '营业执照采集情况(0 没展示执照;1 代表 有执照爬虫并且爬虫采集到了;2 代表 有执照,但是爬虫没有采集到;3 代表 爬虫没判断出来是否 展示执照;4 有展示标准营业执照)',
    `required_quality_score` BIGINT COMMENT '入库字段质量得分',
    `core_quality_score` BIGINT COMMENT '核心字段质量得分,一个字段2分',
    `other_quality_score` BIGINT COMMENT '其他字段质量得分,一个字段1分',
    `screenshot_url` STRING COMMENT '商详截图链接',
    `screenshot_seed_info` STRING COMMENT '截图透传参数信息',
    `screenshot_flag` INT COMMENT '是否需要截图标识,1为需截图,0为不需截图',
    `job_id` STRING COMMENT '新蓝军jobID',
    `data_method_keyword` STRING COMMENT '采集方式关键词'
) STORED AS ORC;

CREATE TABLE IF NOT EXISTS internal_platform_db.ads_sec_ec_sup_ec_tele_security_platform_lk_extensive_item (
    `p_date` STRING COMMENT '日分区',
    `uniqu_id` STRING COMMENT '业务唯一标识id(平台名称+店铺名称+商品ID+数据来源+yyyymmdd)md5值',
    `id` STRING COMMENT '商品id',
    `name` STRING COMMENT '名称',
    `sub_title` STRING COMMENT '子标题',
    `property` STRING COMMENT '商品属性',
    `sku_list` STRING COMMENT '商品SKU集合',
    `desc_info` STRING COMMENT '描述',
    `url` STRING COMMENT '商品url链接',
    `status` INT COMMENT '商品状态:1上架 0下架',
    `price` DOUBLE COMMENT '价格,单位元',
    `sale_qty` BIGINT COMMENT '销量',
    `stock_qty` BIGINT COMMENT '库存数量',
    `main_image_url` STRING COMMENT '商品主图链接',
    `sub_image_url` STRING COMMENT '商品副图链接:最多10张,用逗号隔开',
    `category_level1_id` BIGINT COMMENT '一级类目id',
    `category_level1_name` STRING COMMENT '一级类目名称',
    `category_level2_id` BIGINT COMMENT '二级类目id',
    `category_level2_name` STRING COMMENT '二级类目名称',
    `category_level3_id` BIGINT COMMENT '三级类目id',
    `category_level3_name` STRING COMMENT '三级类目名称',
    `shop_uniqu_id` STRING COMMENT 'MD5(shop_id+platform_id)',
    `shop_id` STRING COMMENT '店铺id',
    `shop_name` STRING COMMENT '店铺名称',
    `shop_url` STRING COMMENT '店铺url链接',
    `platform_id` INT COMMENT '商品所在平台代号',
    `platform_name` STRING COMMENT '商品所在平台名称',
    `shipping_address` STRING COMMENT '发货地址',
    `price_text` STRING COMMENT '完整价格文本信息(能采集到价格,此字段可为空)',
    `flag` INT COMMENT '标记字段,第一次复采标记1,第二次复采标记2',
    `need_cutpic` INT COMMENT '是否要求截图(1 是,0 否)',
    `is_ocr` INT COMMENT '是否OCR(1 是,0 否)',
    `soe_flag` INT COMMENT '活动标,存在标记1',
    `data_channel` INT COMMENT '渠道来源标识 1:PC ,2:APP,3:小程序',
    `data_method` INT COMMENT '采集方式:1关键词;2类目;3店铺;4:链接;5:列表反馈',
    `data_source` STRING COMMENT '数据来源:BC/AL/SJS/WB',
    `detail_image_url` STRING COMMENT '详情图片,至多20张,用逗号隔开',
    `service_guarantee` STRING COMMENT '服务保障',
    `brand_id` INT COMMENT '标准品牌id',
    `brand_name` STRING COMMENT '标准品牌名称',
    `is_ad` INT COMMENT '是否广告(1 是,0否)',
    `is_selfoperated` INT COMMENT '是否自营(1 是,0否)',
    `create_time` TIMESTAMP COMMENT '数据入库时间',
    `task_id` STRING COMMENT '任务ID',
    `batch_id` STRING COMMENT '批次ID',
    `category_level1_original` STRING COMMENT '原始一级类目名称',
    `category_level2_original` STRING COMMENT '原始二级类目名称',
    `category_level3_original` STRING COMMENT '原始三级类目名称',
    `brand_name_original` STRING COMMENT '原始品牌名',
    `product_name` STRING COMMENT '产品名称',
    `approval_number` STRING COMMENT '批准文号(注册/备案)',
    `ccc_certificate_number` STRING COMMENT '3C证书编号',
    `efficacy` STRING COMMENT '功效',
    `production_place` STRING COMMENT '产地',
    `manufacturer` STRING COMMENT '生产企业',
    `production_license_number` STRING COMMENT '生产许可证编号',
    `factory_name` STRING COMMENT '厂名',
    `factory_address` STRING COMMENT '厂址',
    `brand_authorization_image_url` STRING COMMENT '品牌授权图',
    `is_virtual` INT COMMENT '是否虚拟商品(1 是,0 否)',
    `is_invoice` INT COMMENT '是否有发票(1 是,0 否)',
    `is_guarantee` INT COMMENT '是否有保修(1 是,0 否)',
    `is_free_ship` INT COMMENT '是否包邮(1 是,0 否)',
    `comments_cnt` BIGINT COMMENT '全部评论数',
    `industry_id` INT COMMENT '行业id',
    `industry_name` STRING COMMENT '行业名称',
    `high_remark_cnt` BIGINT COMMENT '好评数',
    `med_remark_cnt` BIGINT COMMENT '中评数',
    `bad_remark_cnt` BIGINT COMMENT '差评数',
    `main_image_ocr` STRING COMMENT '主图OCR',
    `sub_image_ocr` STRING COMMENT '副图OCR',
    `detail_image_ocr` STRING COMMENT '详情图OCR',
    `ml_category_tag` STRING COMMENT '机器学习分类标签',
    `logo_brand` STRING COMMENT 'logo算法识别品牌名称',
    `similarity_img_url` STRING COMMENT '以图比图样本库图片URL',
    `sku_cnt` INT COMMENT 'sku数量',
    `license_collection_status` INT COMMENT '营业执照采集情况(0 没展示执照;1 代表 有执照爬虫并且爬虫采集到了;2 代表 有执照,但是爬虫没有采集到;3 代表 爬虫没判断出来是否 展示执照;4 有展示标准营业执照)',
    `data_method_keyword` STRING COMMENT '采集关键词,例如:类目采集填具体类目,链接采集填链接,关键词采集填关键词',
    `task_name` STRING COMMENT '字段内容:常规任务、2025双十一,2025双十二',
    `screenshot_url` STRING COMMENT '商品截图URL',
    `required_quality_score` BIGINT COMMENT '入库字段质量得分',
    `core_quality_score` BIGINT COMMENT '核心字段质量得分',
    `other_quality_score` BIGINT COMMENT '其他字段质量得分',
    `ext_province` STRING COMMENT '泛化采集-省份',
    `ext_city` STRING COMMENT '泛化采集-城市',
    `ext_area` STRING COMMENT '泛化采集-区县',
    `ext_company_name` STRING COMMENT '泛化采集-公司主体名称',
    `ext_company_province` STRING COMMENT '泛化采集-店铺主体所在地省份',
    `ext_company_city` STRING COMMENT '泛化采集-店铺主体所在城市',
    `ext_company_area` STRING COMMENT '泛化采集-店铺主体所在地区',
    `ext_brand_category` STRING COMMENT '泛化采集-品牌类别',
    `ext_origin_url` STRING COMMENT '泛化采集-商品爬取源URL',
    `ext_shop_addr` STRING COMMENT '泛化采集-店铺详细地址'
) STORED AS ORC;