| --- |
| id: online-compute_FlinkSQL_flinksql_020 |
| name: 窗口去重 (TVF Dedup) |
| category: online-compute/FlinkSQL |
| timeout_seconds: 600 |
| modality: pure-text |
| engine: flink-sql |
| --- |
| ## Prompt |
| 我需要你写一段 Flink SQL，用 datagen 内置连接器模拟事件流，使用 TUMBLE TVF 窗口表值函数 + ROW_NUMBER 做窗口去重，每个窗口内每个用户只保留最早的一条事件。 |
| |
| **业务背景与目标**：用 datagen 内置表生成用户事件流，共 5000 行/秒。字段包括 user_id（用户 ID，1~10000）、event_id（事件 ID）、event_type（事件类型，1~8）。使用 LOCALTIMESTAMP 作为事件时间，设置 10 秒 Watermark 延迟。 |
|
|
| 使用 TUMBLE 表值函数（TABLE(TUMBLE(...))）将事件分配到 5 分钟滚动窗口，然后在每个（window_start, user_id）分区内，按事件时间升序使用 ROW_NUMBER() 编号，只保留每个窗口每个用户的第一条事件（rn = 1），最后输出到 console。 |
| |
| **源表定义**： |
| - `event_source`（datagen 连接器）： |
| - user_id INT：用户 ID，随机取值 1~10000 |
| - event_id BIGINT：事件 ID，随机取值 |
| - event_type INT：事件类型，随机取值 1~8 |
| - event_time：使用 LOCALTIMESTAMP 生成事件时间，设置 WATERMARK 延迟 10 秒 |
| - 生成速率：rows-per-second = 5000 |
|
|
| **输出表定义**： |
| - `console_output`（print 连接器）： |
| - window_start TIMESTAMP(3)：窗口起始时间 |
| - window_end TIMESTAMP(3)：窗口结束时间 |
| - user_id INT：用户 ID |
| - event_id BIGINT：事件 ID |
| - event_type INT：事件类型 |
| |
| **去重逻辑**： |
| - 窗口：TUMBLE TVF 5 分钟滚动窗口 |
| - 排序：ROW_NUMBER() OVER (PARTITION BY window_start, user_id ORDER BY event_time ASC) |
| - 过滤：WHERE rn = 1 保留每个窗口每个用户的第一条事件 |
| - 窗口时间字段可从 TVF 的 window_start 和 window_end 获得 |
| |
| **输出要求**： |
| - 使用 INSERT INTO console_output 将结果输出 |
| - 输出字段顺序：window_start, window_end, user_id, event_id, event_type |
| |
| |
