Datasets:
File size: 2,021 Bytes
e8c001c | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 | ---
id: online-compute_FlinkSQL_flinksql_020
name: 窗口去重 (TVF Dedup)
category: online-compute/FlinkSQL
timeout_seconds: 600
modality: pure-text
engine: flink-sql
---
## Prompt
我需要你写一段 Flink SQL,用 datagen 内置连接器模拟事件流,使用 TUMBLE TVF 窗口表值函数 + ROW_NUMBER 做窗口去重,每个窗口内每个用户只保留最早的一条事件。
**业务背景与目标**:用 datagen 内置表生成用户事件流,共 5000 行/秒。字段包括 user_id(用户 ID,1~10000)、event_id(事件 ID)、event_type(事件类型,1~8)。使用 LOCALTIMESTAMP 作为事件时间,设置 10 秒 Watermark 延迟。
使用 TUMBLE 表值函数(TABLE(TUMBLE(...)))将事件分配到 5 分钟滚动窗口,然后在每个(window_start, user_id)分区内,按事件时间升序使用 ROW_NUMBER() 编号,只保留每个窗口每个用户的第一条事件(rn = 1),最后输出到 console。
**源表定义**:
- `event_source`(datagen 连接器):
- user_id INT:用户 ID,随机取值 1~10000
- event_id BIGINT:事件 ID,随机取值
- event_type INT:事件类型,随机取值 1~8
- event_time:使用 LOCALTIMESTAMP 生成事件时间,设置 WATERMARK 延迟 10 秒
- 生成速率:rows-per-second = 5000
**输出表定义**:
- `console_output`(print 连接器):
- window_start TIMESTAMP(3):窗口起始时间
- window_end TIMESTAMP(3):窗口结束时间
- user_id INT:用户 ID
- event_id BIGINT:事件 ID
- event_type INT:事件类型
**去重逻辑**:
- 窗口:TUMBLE TVF 5 分钟滚动窗口
- 排序:ROW_NUMBER() OVER (PARTITION BY window_start, user_id ORDER BY event_time ASC)
- 过滤:WHERE rn = 1 保留每个窗口每个用户的第一条事件
- 窗口时间字段可从 TVF 的 window_start 和 window_end 获得
**输出要求**:
- 使用 INSERT INTO console_output 将结果输出
- 输出字段顺序:window_start, window_end, user_id, event_id, event_type
|