Long-Tail Scenario Generation 展示说明
本文档用于展示当前 GPUDrive 长尾场景生成系统的闭环流程、每个阶段的产物路径、文件内容结构，以及这些文件在系统中的作用。
1. 整体闭环
当前系统可以概括为四个阶段：
Search Agent
-> 搜索并保存候选危险场景
Converter Agent
-> 将仿真轨迹转换成 LLM 可读案例
Evaluator Agent
-> 评估场景危险性、自然性、交互合理性和价值
Optimizer Agent
-> 根据评估结果推荐下一轮搜索参数
核心思想是：不是只追求“碰撞数量”，而是追求“自然、合理、危险、可解释、有价值”的长尾场景。
2. Search Agent 产物
文件路径
每一轮搜索会写入一个 round 目录，例如第二轮：
search_outputs/round_002/search/
多卡并行时，每张 GPU 对应一个 shard：
search_outputs/round_002/search/shard_000/
search_outputs/round_002/search/shard_001/
search_outputs/round_002/search/shard_002/
search_outputs/round_002/search/shard_003/
每个 shard 下的主要文件：
events.jsonl
event_traces.jsonl
summary.json
events.jsonl
events.jsonl 是轻量级事件索引，一行代表一个候选长尾场景。
典型结构：
{
"shard_id": 0,
"batch_idx": 0,
"world_idx": 15,
"scenario_file": "tfrecord-00475-of-01000_425.json",
"controlled_agents": 5,
"risk_agents": [1, 4, 38],
"collision": true,
"near_miss": true,
"offroad": true,
"first_collision_step": 61,
"first_offroad_step": 38,
"min_distance_m": 1.3015,
"min_distance_step": 63,
"min_distance_risk_agent": 4,
"min_distance_partner_agent": 21,
"collided_agents": [4],
"offroad_agents": [4],
"goal_agents": 5
}
作用：
- 快速记录哪些 world 出现了 collision、near-miss、offroad 等事件。
- 快速统计搜索阶段产生了多少候选危险场景。
- 作为后续可视化和人工定位的索引。
它回答的是：“这一轮搜到了哪些候选事件？”
event_traces.jsonl
event_traces.jsonl 是更完整的轨迹记录，一行代表一个候选事件。
主要内容包括：
source:
shard_id, batch_idx, world_idx, scenario_file
outcome:
collision, near_miss, offroad
first_collision_step
first_offroad_step
min_distance_m
risk_agents:
当前 world 中被赋予 risk_taker 风格的车辆 id
agent_traces:
每个相关 agent 的逐帧状态
包括 x, y, heading, speed, valid, done 等
pairwise_trace:
关键车辆对之间的逐帧距离、相对速度、closing speed 等
map_context:
事件附近的道路元素、车道线、边界等
quality_metrics:
初步自然性和交互质量指标
作用：
- 保存真实评估所需的轨迹数据。
- 后续不依赖视频判断场景，而是基于轨迹和交互指标进行结构化评估。
- 为 Converter Agent 提供完整输入。
它回答的是：“这个候选事件具体是怎么发生的？”
summary.json
summary.json 是当前 shard 的搜索统计。
常见内容：
num_worlds
num_batches
num_events
collision_count
near_miss_count
offroad_count
event_rate
作用：
- 快速查看单个 shard 的搜索结果。
- 检查搜索任务是否正常完成。
- 粗略比较不同参数下候选事件数量。
它回答的是：“这一张卡跑出的总体情况如何？”
3. Converter Agent 产物
文件路径
Converter Agent 将 event_traces.jsonl 转换成 LLM 可读案例。
路径示例：
search_outputs/round_002/llm_cases/shard_000/
search_outputs/round_002/llm_cases/shard_001/
search_outputs/round_002/llm_cases/shard_002/
search_outputs/round_002/llm_cases/shard_003/
主要文件：
llm_cases.jsonl
case_cards/
summary.json
llm_cases.jsonl
llm_cases.jsonl 是 Evaluator Agent 的主要输入，一行代表一个结构化场景案例。
主要结构：
case_id:
唯一案例 id
source:
来自哪个 shard、batch、world、scenario_file
outcome:
是否 collision、near_miss、offroad
首次事件发生 step
primary_pair:
当前事件中最关键的一对车辆
包括 risk agent、partner agent、选择原因
primary_interaction_metrics:
min_clean_distance_m
min_ttc_s
time_ttc_below_1s
event_relative_speed_mps
event_closing_speed_mps
timeline:
事件前后若干关键时间点的车辆状态
context_agents:
周围车辆的简化状态
naturalness_checks:
max_speed_mps
max_accel_mps2
max_yaw_rate_radps
large_displacement_flags
map_context:
事件附近道路环境
作用：
- 将复杂的多车逐帧轨迹压缩成 LLM 和规则系统都能理解的结构化文本/JSON。
- 过滤
done=true后的污染帧，并要求valid=true，避免仿真结束后的无效位置影响评估。 - 自动选择 primary pair，让评估聚焦于最关键的交互车辆对。
它回答的是：“如何把仿真轨迹变成可评估的交通事件描述？”
primary pair 的意义
一个 world 中可能有很多车，但真正决定场景价值的通常是一对关键交互车辆。
primary pair 的选择优先级：
1. risk agent 直接参与碰撞的车辆对
2. 最小距离对应的 risk-agent 车辆对
3. 碰撞车辆对
4. 其他最接近的交互车辆对
作用：
- 让 Evaluator Agent 聚焦主要冲突对象。
- 避免被无关车辆干扰。
- 让 LLM 评估时更容易判断这个事件是否自然、合理、有价值。
case_cards/
case_cards/ 保存 Markdown 版案例卡。
示例路径：
search_outputs/round_002/llm_cases/shard_000/case_cards/
作用：
- 给人快速浏览。
- 展示单个事件的关键指标、时间线、车辆关系。
- 可用于人工抽查 Evaluator Agent 的判断是否合理。
summary.json
记录转换统计，例如：
input_events
converted_cases
written_cards
skipped_cases
作用：
- 检查转换是否完整。
- 对比 Search Agent 产出的事件数量和最终可评估 case 数量。
4. Evaluator Agent 产物
文件路径
Evaluator Agent 对 llm_cases.jsonl 进行规则评估和 LLM 评估。
路径示例：
search_outputs/round_002/evaluator_agent/shard_000/
search_outputs/round_002/evaluator_agent/shard_001/
search_outputs/round_002/evaluator_agent/shard_002/
search_outputs/round_002/evaluator_agent/shard_003/
主要文件：
all_evaluations.jsonl
accepted_cases.jsonl
rejected_cases.jsonl
summary.json
optimizer_metrics.json
raw_responses/
all_evaluations.jsonl
all_evaluations.jsonl 保存所有案例的完整评估结果。
主要结构：
case:
原始 llm case
local_eval:
本地规则评估结果
llm_eval:
DeepSeek / LLM 返回的评估结果
final_eval:
融合后的最终评估结果
final_eval 中的重要字段：
accepted:
是否接受该场景
high_value:
是否为高价值场景
criticality_score:
危险程度
naturalness_score:
运动自然性
interaction_score:
交互合理性
scenario_value_score:
场景价值
danger_level:
危险等级
scenario_type:
场景类型
artifact_flags:
伪影标记
rejection_reasons:
拒绝原因
optimization_feedback:
给 Optimizer Agent 的反馈信号
作用：
- 给每个场景一个结构化评估结果。
- 判断场景是否真正危险、自然、合理。
- 为后续筛选和优化提供数据。
它回答的是：“这个场景到底有没有价值？”
accepted_cases.jsonl
保存通过评估的案例。
通过条件不是简单的“发生碰撞”，而是综合考虑：
危险性
运动自然性
交互合理性
risk agent 是否真正参与
是否存在明显伪影
场景是否有分析价值
作用：
- 作为最终可展示、可保存、可进一步分析的高质量候选集。
- 用于后续可视化或构建长尾数据集。
rejected_cases.jsonl
保存被拒绝的案例。
常见拒绝原因：
车辆运动不自然
速度或加速度异常
车辆轨迹有跳变
risk agent 没有真正参与冲突
offroad 早于 collision，场景价值较低
done 后状态污染
碰撞缺少交互因果
作用：
- 帮助分析当前搜索策略的缺陷。
- 给 Optimizer Agent 提供负反馈。
- 避免系统只追求碰撞数量而产生大量低质量事件。
optimizer_metrics.json
这是 Evaluator Agent 输出给 Optimizer Agent 的核心文件。
路径示例：
search_outputs/round_002/evaluator_agent/shard_000/optimizer_metrics.json
核心结构：
current_search_parameters:
risk_collision_weight
risk_goal_weight
risk_offroad_weight
risk_agents_per_world
normal_mode
deterministic
objective_metrics:
total_evaluated
accepted_count
rejected_count
high_value_count
accepted_rate
high_value_rate
natural_critical_rate
risk_direct_involved_rate
risk_direct_accept_rate
hard_artifact_record_rate
semantic_diversity_entropy
composite_objective
score_stats:
criticality_score
naturalness_score
interaction_score
scenario_value_score
metric_stats:
clean_min_distance_m
min_ttc_s
event_relative_speed_mps
event_closing_speed_mps
max_speed_mps
max_accel_mps2
max_yaw_rate_radps
counts:
scenario_type
artifact_flags
rejection_reasons
optimization_feedback
optimizer_ready_records:
top cases used as compact feedback examples
作用：
- 汇总一个 shard 的整体质量。
- 作为 Optimizer Agent 的训练样本。
- 衡量一轮搜索是否比上一轮更好。
它回答的是：“当前这组搜索参数整体表现怎么样？”
5. Optimizer Agent 产物
文件路径
Optimizer Agent 读取一轮或多轮的 optimizer_metrics.json，学习参数到质量指标的映射，并推荐下一轮搜索参数。
路径示例：
search_outputs/round_002/optimizer_agent/mlp_next/
主要文件：
optimizer_plan.json
candidate_predictions.jsonl
best_recommendation.env
recommended_search_commands.sh
optimizer_plan.json
完整优化计划。
主要内容：
metrics_paths:
使用了哪些 optimizer_metrics.json
history_samples:
历史搜索参数和对应质量指标
candidate_grid:
当前可搜索的参数空间
training:
MLP surrogate model 的训练状态
recommendations:
推荐的下一轮参数
作用：
- 记录 Optimizer Agent 的完整决策过程。
- 可解释为什么推荐下一组参数。
- 支持复盘每一轮闭环优化。
candidate_predictions.jsonl
保存每个候选参数组合的预测结果。
典型字段：
risk_collision_weight
risk_goal_weight
risk_offroad_weight
risk_agents_per_world
normal_mode
deterministic
predicted_composite_objective
predicted_accepted_rate
predicted_high_value_rate
predicted_hard_artifact_rate
作用：
- 查看 MLP surrogate model 对不同参数组合的预测。
- 分析哪些参数更可能生成高质量长尾场景。
- 支持 top-k 推荐和 exploration。
best_recommendation.env
下一轮搜索可直接加载的参数文件。
示例：
RISK_COLLISION_WEIGHT=-0.2
RISK_GOAL_WEIGHT=1.6
RISK_OFFROAD_WEIGHT=-0.8
RISK_AGENTS_PER_WORLD=1
NORMAL_MODE=expert
DETERMINISTIC=0
作用：
- 直接用于下一轮 Search Agent。
- 闭环系统中最直接的优化输出。
recommended_search_commands.sh
自动生成的搜索命令。
作用：
- 方便直接提交下一轮实验。
- 避免手工复制参数出错。
6. 每轮之间如何比较是否变好
不要只看碰撞数量。碰撞数量变多只说明候选池变大，不代表场景质量一定更好。
核心比较文件：
search_outputs/round_001/evaluator_agent/shard_*/optimizer_metrics.json
search_outputs/round_002/evaluator_agent/shard_*/optimizer_metrics.json
推荐展示指标：
composite_objective
主指标，越高越好
accepted_rate
Evaluator Agent 接受比例，越高越好
high_value_rate
高价值场景比例，越高越好
natural_critical_rate
同时危险且自然的场景比例，越高越好
risk_direct_accept_rate
risk agent 直接参与并被接受的比例，越高越好
hard_artifact_record_rate
明显伪影比例，越低越好
semantic_diversity_entropy
场景类型多样性，过低说明模式坍塌
如果第二轮出现：
LLM case 数量增加
accepted_rate 不下降或上升
high_value_rate 上升
natural_critical_rate 上升
hard_artifact_record_rate 不上升或下降
composite_objective 上升
则可以说明闭环优化在产生更高质量的长尾场景。
7. 展示时推荐讲法
可以这样概括：
我们首先基于 GPUDrive 并行运行大量世界，并使用 reward-conditioned policy
给车辆赋予不同驾驶风格。Search Agent 会搜索 collision、near-miss、
offroad 等候选长尾事件，并保存轻量事件索引 events.jsonl 和完整轨迹
event_traces.jsonl。
随后，Converter Agent 将复杂的多车逐帧轨迹转换为 LLM 可读的结构化案例
llm_cases.jsonl。转换过程中会清理 done 后的无效帧，并自动选择最关键的
primary pair。
Evaluator Agent 进一步从危险性、运动自然性、交互合理性、场景价值和伪影率
等维度评估每个案例，输出 accepted/rejected cases 和 optimizer_metrics.json。
最后，Optimizer Agent 使用这些评估指标训练一个 MLP surrogate model，
预测不同 reward-condition 参数的效果，并推荐下一轮搜索参数。这样系统形成
自动生成、自动评估、自动优化的闭环多 Agent 长尾数据生成流程。
一句话总结：
我们的目标不是生成更多碰撞，而是自动生成更多自然、合理、危险且有价值的长尾交互场景。
8. 各文件一句话速查
events.jsonl
轻量事件索引，记录搜到了哪些候选危险事件。
event_traces.jsonl
完整轨迹记录，保存评估所需的多车状态和交互数据。
llm_cases.jsonl
LLM 可读案例，将复杂轨迹压缩成结构化交通事件。
case_cards/
Markdown 案例卡，方便人工快速浏览。
all_evaluations.jsonl
所有案例的完整评估结果。
accepted_cases.jsonl
通过评估的高质量候选场景。
rejected_cases.jsonl
被拒绝的低质量或伪影场景。
optimizer_metrics.json
当前搜索参数的质量汇总，是 Optimizer Agent 的输入。
optimizer_plan.json
Optimizer Agent 的完整优化计划。
candidate_predictions.jsonl
每个候选参数组合的预测效果。
best_recommendation.env
下一轮搜索直接加载的推荐参数。
recommended_search_commands.sh
下一轮可直接提交的搜索命令。