File size: 2,021 Bytes
e8c001c
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
---
id: online-compute_FlinkSQL_flinksql_020
name: 窗口去重 (TVF Dedup)
category: online-compute/FlinkSQL
timeout_seconds: 600
modality: pure-text
engine: flink-sql
---
## Prompt
我需要你写一段 Flink SQL,用 datagen 内置连接器模拟事件流,使用 TUMBLE TVF 窗口表值函数 + ROW_NUMBER 做窗口去重,每个窗口内每个用户只保留最早的一条事件。

**业务背景与目标**:用 datagen 内置表生成用户事件流,共 5000 行/秒。字段包括 user_id(用户 ID,1~10000)、event_id(事件 ID)、event_type(事件类型,1~8)。使用 LOCALTIMESTAMP 作为事件时间,设置 10 秒 Watermark 延迟。

使用 TUMBLE 表值函数(TABLE(TUMBLE(...)))将事件分配到 5 分钟滚动窗口,然后在每个(window_start, user_id)分区内,按事件时间升序使用 ROW_NUMBER() 编号,只保留每个窗口每个用户的第一条事件(rn = 1),最后输出到 console。

**源表定义**
- `event_source`(datagen 连接器):
  - user_id INT:用户 ID,随机取值 1~10000
  - event_id BIGINT:事件 ID,随机取值
  - event_type INT:事件类型,随机取值 1~8
  - event_time:使用 LOCALTIMESTAMP 生成事件时间,设置 WATERMARK 延迟 10 秒
  - 生成速率:rows-per-second = 5000

**输出表定义**- `console_output`(print 连接器):
  - window_start TIMESTAMP(3):窗口起始时间
  - window_end TIMESTAMP(3):窗口结束时间
  - user_id INT:用户 ID
  - event_id BIGINT:事件 ID
  - event_type INT:事件类型

**去重逻辑**
- 窗口:TUMBLE TVF 5 分钟滚动窗口
- 排序:ROW_NUMBER() OVER (PARTITION BY window_start, user_id ORDER BY event_time ASC)
- 过滤:WHERE rn = 1 保留每个窗口每个用户的第一条事件
- 窗口时间字段可从 TVF 的 window_start 和 window_end 获得

**输出要求**
- 使用 INSERT INTO console_output 将结果输出
- 输出字段顺序:window_start, window_end, user_id, event_id, event_type