| # Long-Tail Scenario Generation 展示说明 |
|
|
| 本文档用于展示当前 GPUDrive 长尾场景生成系统的闭环流程、每个阶段的产物路径、文件内容结构，以及这些文件在系统中的作用。 |
|
|
| ## 1. 整体闭环 |
|
|
| 当前系统可以概括为四个阶段： |
|
|
| ```text |
| Search Agent |
| -> 搜索并保存候选危险场景 |
| |
| Converter Agent |
| -> 将仿真轨迹转换成 LLM 可读案例 |
| |
| Evaluator Agent |
| -> 评估场景危险性、自然性、交互合理性和价值 |
| |
| Optimizer Agent |
| -> 根据评估结果推荐下一轮搜索参数 |
| ``` |
|
|
| 核心思想是：不是只追求“碰撞数量”，而是追求“自然、合理、危险、可解释、有价值”的长尾场景。 |
|
|
| ## 2. Search Agent 产物 |
|
|
| ### 文件路径 |
|
|
| 每一轮搜索会写入一个 round 目录，例如第二轮： |
|
|
| ```text |
| search_outputs/round_002/search/ |
| ``` |
|
|
| 多卡并行时，每张 GPU 对应一个 shard： |
|
|
| ```text |
| search_outputs/round_002/search/shard_000/ |
| search_outputs/round_002/search/shard_001/ |
| search_outputs/round_002/search/shard_002/ |
| search_outputs/round_002/search/shard_003/ |
| ``` |
|
|
| 每个 shard 下的主要文件： |
|
|
| ```text |
| events.jsonl |
| event_traces.jsonl |
| summary.json |
| ``` |
|
|
| ### events.jsonl |
|
|
| `events.jsonl` 是轻量级事件索引，一行代表一个候选长尾场景。 |
|
|
| 典型结构： |
|
|
| ```json |
| { |
| "shard_id": 0, |
| "batch_idx": 0, |
| "world_idx": 15, |
| "scenario_file": "tfrecord-00475-of-01000_425.json", |
| "controlled_agents": 5, |
| "risk_agents": [1, 4, 38], |
| "collision": true, |
| "near_miss": true, |
| "offroad": true, |
| "first_collision_step": 61, |
| "first_offroad_step": 38, |
| "min_distance_m": 1.3015, |
| "min_distance_step": 63, |
| "min_distance_risk_agent": 4, |
| "min_distance_partner_agent": 21, |
| "collided_agents": [4], |
| "offroad_agents": [4], |
| "goal_agents": 5 |
| } |
| ``` |
|
|
| 作用： |
|
|
| - 快速记录哪些 world 出现了 collision、near-miss、offroad 等事件。 |
| - 快速统计搜索阶段产生了多少候选危险场景。 |
| - 作为后续可视化和人工定位的索引。 |
|
|
| 它回答的是：“这一轮搜到了哪些候选事件？” |
|
|
| ### event_traces.jsonl |
| |
| `event_traces.jsonl` 是更完整的轨迹记录，一行代表一个候选事件。 |
|
|
| 主要内容包括： |
|
|
| ```text |
| source: |
| shard_id, batch_idx, world_idx, scenario_file |
| |
| outcome: |
| collision, near_miss, offroad |
| first_collision_step |
| first_offroad_step |
| min_distance_m |
| |
| risk_agents: |
| 当前 world 中被赋予 risk_taker 风格的车辆 id |
| |
| agent_traces: |
| 每个相关 agent 的逐帧状态 |
| 包括 x, y, heading, speed, valid, done 等 |
| |
| pairwise_trace: |
| 关键车辆对之间的逐帧距离、相对速度、closing speed 等 |
| |
| map_context: |
| 事件附近的道路元素、车道线、边界等 |
| |
| quality_metrics: |
| 初步自然性和交互质量指标 |
| ``` |
|
|
| 作用： |
|
|
| - 保存真实评估所需的轨迹数据。 |
| - 后续不依赖视频判断场景，而是基于轨迹和交互指标进行结构化评估。 |
| - 为 Converter Agent 提供完整输入。 |
|
|
| 它回答的是：“这个候选事件具体是怎么发生的？” |
|
|
| ### summary.json |
|
|
| `summary.json` 是当前 shard 的搜索统计。 |
|
|
| 常见内容： |
|
|
| ```text |
| num_worlds |
| num_batches |
| num_events |
| collision_count |
| near_miss_count |
| offroad_count |
| event_rate |
| ``` |
|
|
| 作用： |
|
|
| - 快速查看单个 shard 的搜索结果。 |
| - 检查搜索任务是否正常完成。 |
| - 粗略比较不同参数下候选事件数量。 |
|
|
| 它回答的是：“这一张卡跑出的总体情况如何？” |
|
|
| ## 3. Converter Agent 产物 |
|
|
| ### 文件路径 |
|
|
| Converter Agent 将 `event_traces.jsonl` 转换成 LLM 可读案例。 |
|
|
| 路径示例： |
|
|
| ```text |
| search_outputs/round_002/llm_cases/shard_000/ |
| search_outputs/round_002/llm_cases/shard_001/ |
| search_outputs/round_002/llm_cases/shard_002/ |
| search_outputs/round_002/llm_cases/shard_003/ |
| ``` |
|
|
| 主要文件： |
|
|
| ```text |
| llm_cases.jsonl |
| case_cards/ |
| summary.json |
| ``` |
|
|
| ### llm_cases.jsonl |
| |
| `llm_cases.jsonl` 是 Evaluator Agent 的主要输入，一行代表一个结构化场景案例。 |
|
|
| 主要结构： |
|
|
| ```text |
| case_id: |
| 唯一案例 id |
| |
| source: |
| 来自哪个 shard、batch、world、scenario_file |
| |
| outcome: |
| 是否 collision、near_miss、offroad |
| 首次事件发生 step |
| |
| primary_pair: |
| 当前事件中最关键的一对车辆 |
| 包括 risk agent、partner agent、选择原因 |
| |
| primary_interaction_metrics: |
| min_clean_distance_m |
| min_ttc_s |
| time_ttc_below_1s |
| event_relative_speed_mps |
| event_closing_speed_mps |
| |
| timeline: |
| 事件前后若干关键时间点的车辆状态 |
| |
| context_agents: |
| 周围车辆的简化状态 |
| |
| naturalness_checks: |
| max_speed_mps |
| max_accel_mps2 |
| max_yaw_rate_radps |
| large_displacement_flags |
| |
| map_context: |
| 事件附近道路环境 |
| ``` |
|
|
| 作用： |
|
|
| - 将复杂的多车逐帧轨迹压缩成 LLM 和规则系统都能理解的结构化文本/JSON。 |
| - 过滤 `done=true` 后的污染帧，并要求 `valid=true`，避免仿真结束后的无效位置影响评估。 |
| - 自动选择 primary pair，让评估聚焦于最关键的交互车辆对。 |
|
|
| 它回答的是：“如何把仿真轨迹变成可评估的交通事件描述？” |
|
|
| ### primary pair 的意义 |
|
|
| 一个 world 中可能有很多车，但真正决定场景价值的通常是一对关键交互车辆。 |
|
|
| primary pair 的选择优先级： |
|
|
| ```text |
| 1. risk agent 直接参与碰撞的车辆对 |
| 2. 最小距离对应的 risk-agent 车辆对 |
| 3. 碰撞车辆对 |
| 4. 其他最接近的交互车辆对 |
| ``` |
|
|
| 作用： |
|
|
| - 让 Evaluator Agent 聚焦主要冲突对象。 |
| - 避免被无关车辆干扰。 |
| - 让 LLM 评估时更容易判断这个事件是否自然、合理、有价值。 |
|
|
| ### case_cards/ |
| |
| `case_cards/` 保存 Markdown 版案例卡。 |
|
|
| 示例路径： |
|
|
| ```text |
| search_outputs/round_002/llm_cases/shard_000/case_cards/ |
| ``` |
|
|
| 作用： |
|
|
| - 给人快速浏览。 |
| - 展示单个事件的关键指标、时间线、车辆关系。 |
| - 可用于人工抽查 Evaluator Agent 的判断是否合理。 |
|
|
| ### summary.json |
|
|
| 记录转换统计，例如： |
|
|
| ```text |
| input_events |
| converted_cases |
| written_cards |
| skipped_cases |
| ``` |
|
|
| 作用： |
|
|
| - 检查转换是否完整。 |
| - 对比 Search Agent 产出的事件数量和最终可评估 case 数量。 |
|
|
| ## 4. Evaluator Agent 产物 |
|
|
| ### 文件路径 |
|
|
| Evaluator Agent 对 `llm_cases.jsonl` 进行规则评估和 LLM 评估。 |
|
|
| 路径示例： |
|
|
| ```text |
| search_outputs/round_002/evaluator_agent/shard_000/ |
| search_outputs/round_002/evaluator_agent/shard_001/ |
| search_outputs/round_002/evaluator_agent/shard_002/ |
| search_outputs/round_002/evaluator_agent/shard_003/ |
| ``` |
|
|
| 主要文件： |
|
|
| ```text |
| all_evaluations.jsonl |
| accepted_cases.jsonl |
| rejected_cases.jsonl |
| summary.json |
| optimizer_metrics.json |
| raw_responses/ |
| ``` |
|
|
| ### all_evaluations.jsonl |
| |
| `all_evaluations.jsonl` 保存所有案例的完整评估结果。 |
|
|
| 主要结构： |
|
|
| ```text |
| case: |
| 原始 llm case |
| |
| local_eval: |
| 本地规则评估结果 |
| |
| llm_eval: |
| DeepSeek / LLM 返回的评估结果 |
| |
| final_eval: |
| 融合后的最终评估结果 |
| ``` |
|
|
| `final_eval` 中的重要字段： |
|
|
| ```text |
| accepted: |
| 是否接受该场景 |
| |
| high_value: |
| 是否为高价值场景 |
| |
| criticality_score: |
| 危险程度 |
| |
| naturalness_score: |
| 运动自然性 |
| |
| interaction_score: |
| 交互合理性 |
| |
| scenario_value_score: |
| 场景价值 |
| |
| danger_level: |
| 危险等级 |
| |
| scenario_type: |
| 场景类型 |
| |
| artifact_flags: |
| 伪影标记 |
| |
| rejection_reasons: |
| 拒绝原因 |
| |
| optimization_feedback: |
| 给 Optimizer Agent 的反馈信号 |
| ``` |
|
|
| 作用： |
|
|
| - 给每个场景一个结构化评估结果。 |
| - 判断场景是否真正危险、自然、合理。 |
| - 为后续筛选和优化提供数据。 |
|
|
| 它回答的是：“这个场景到底有没有价值？” |
|
|
| ### accepted_cases.jsonl |
| |
| 保存通过评估的案例。 |
| |
| 通过条件不是简单的“发生碰撞”，而是综合考虑： |
| |
| ```text |
| 危险性 |
| 运动自然性 |
| 交互合理性 |
| risk agent 是否真正参与 |
| 是否存在明显伪影 |
| 场景是否有分析价值 |
| ``` |
| |
| 作用： |
| |
| - 作为最终可展示、可保存、可进一步分析的高质量候选集。 |
| - 用于后续可视化或构建长尾数据集。 |
| |
| ### rejected_cases.jsonl |
|
|
| 保存被拒绝的案例。 |
|
|
| 常见拒绝原因： |
|
|
| ```text |
| 车辆运动不自然 |
| 速度或加速度异常 |
| 车辆轨迹有跳变 |
| risk agent 没有真正参与冲突 |
| offroad 早于 collision，场景价值较低 |
| done 后状态污染 |
| 碰撞缺少交互因果 |
| ``` |
|
|
| 作用： |
|
|
| - 帮助分析当前搜索策略的缺陷。 |
| - 给 Optimizer Agent 提供负反馈。 |
| - 避免系统只追求碰撞数量而产生大量低质量事件。 |
|
|
| ### optimizer_metrics.json |
| |
| 这是 Evaluator Agent 输出给 Optimizer Agent 的核心文件。 |
| |
| 路径示例： |
| |
| ```text |
| search_outputs/round_002/evaluator_agent/shard_000/optimizer_metrics.json |
| ``` |
| |
| 核心结构： |
| |
| ```text |
| current_search_parameters: |
| risk_collision_weight |
| risk_goal_weight |
| risk_offroad_weight |
| risk_agents_per_world |
| normal_mode |
| deterministic |
|
|
| objective_metrics: |
| total_evaluated |
| accepted_count |
| rejected_count |
| high_value_count |
| accepted_rate |
| high_value_rate |
| natural_critical_rate |
| risk_direct_involved_rate |
| risk_direct_accept_rate |
| hard_artifact_record_rate |
| semantic_diversity_entropy |
| composite_objective |
| |
| score_stats: |
| criticality_score |
| naturalness_score |
| interaction_score |
| scenario_value_score |
| |
| metric_stats: |
| clean_min_distance_m |
| min_ttc_s |
| event_relative_speed_mps |
| event_closing_speed_mps |
| max_speed_mps |
| max_accel_mps2 |
| max_yaw_rate_radps |
|
|
| counts: |
| scenario_type |
| artifact_flags |
| rejection_reasons |
| optimization_feedback |
|
|
| optimizer_ready_records: |
| top cases used as compact feedback examples |
| ``` |
| |
| 作用： |
| |
| - 汇总一个 shard 的整体质量。 |
| - 作为 Optimizer Agent 的训练样本。 |
| - 衡量一轮搜索是否比上一轮更好。 |
| |
| 它回答的是：“当前这组搜索参数整体表现怎么样？” |
| |
| ## 5. Optimizer Agent 产物 |
| |
| ### 文件路径 |
| |
| Optimizer Agent 读取一轮或多轮的 `optimizer_metrics.json`，学习参数到质量指标的映射，并推荐下一轮搜索参数。 |
| |
| 路径示例： |
| |
| ```text |
| search_outputs/round_002/optimizer_agent/mlp_next/ |
| ``` |
| |
| 主要文件： |
| |
| ```text |
| optimizer_plan.json |
| candidate_predictions.jsonl |
| best_recommendation.env |
| recommended_search_commands.sh |
| ``` |
| |
| ### optimizer_plan.json |
|
|
| 完整优化计划。 |
|
|
| 主要内容： |
|
|
| ```text |
| metrics_paths: |
| 使用了哪些 optimizer_metrics.json |
| |
| history_samples: |
| 历史搜索参数和对应质量指标 |
| |
| candidate_grid: |
| 当前可搜索的参数空间 |
| |
| training: |
| MLP surrogate model 的训练状态 |
| |
| recommendations: |
| 推荐的下一轮参数 |
| ``` |
|
|
| 作用： |
|
|
| - 记录 Optimizer Agent 的完整决策过程。 |
| - 可解释为什么推荐下一组参数。 |
| - 支持复盘每一轮闭环优化。 |
|
|
| ### candidate_predictions.jsonl |
| |
| 保存每个候选参数组合的预测结果。 |
| |
| 典型字段： |
| |
| ```text |
| risk_collision_weight |
| risk_goal_weight |
| risk_offroad_weight |
| risk_agents_per_world |
| normal_mode |
| deterministic |
| predicted_composite_objective |
| predicted_accepted_rate |
| predicted_high_value_rate |
| predicted_hard_artifact_rate |
| ``` |
| |
| 作用： |
| |
| - 查看 MLP surrogate model 对不同参数组合的预测。 |
| - 分析哪些参数更可能生成高质量长尾场景。 |
| - 支持 top-k 推荐和 exploration。 |
| |
| ### best_recommendation.env |
|
|
| 下一轮搜索可直接加载的参数文件。 |
|
|
| 示例： |
|
|
| ```bash |
| RISK_COLLISION_WEIGHT=-0.2 |
| RISK_GOAL_WEIGHT=1.6 |
| RISK_OFFROAD_WEIGHT=-0.8 |
| RISK_AGENTS_PER_WORLD=1 |
| NORMAL_MODE=expert |
| DETERMINISTIC=0 |
| ``` |
|
|
| 作用： |
|
|
| - 直接用于下一轮 Search Agent。 |
| - 闭环系统中最直接的优化输出。 |
|
|
| ### recommended_search_commands.sh |
|
|
| 自动生成的搜索命令。 |
|
|
| 作用： |
|
|
| - 方便直接提交下一轮实验。 |
| - 避免手工复制参数出错。 |
|
|
| ## 6. 每轮之间如何比较是否变好 |
|
|
| 不要只看碰撞数量。碰撞数量变多只说明候选池变大，不代表场景质量一定更好。 |
|
|
| 核心比较文件： |
|
|
| ```text |
| search_outputs/round_001/evaluator_agent/shard_*/optimizer_metrics.json |
| search_outputs/round_002/evaluator_agent/shard_*/optimizer_metrics.json |
| ``` |
|
|
| 推荐展示指标： |
|
|
| ```text |
| composite_objective |
| 主指标，越高越好 |
| |
| accepted_rate |
| Evaluator Agent 接受比例，越高越好 |
| |
| high_value_rate |
| 高价值场景比例，越高越好 |
| |
| natural_critical_rate |
| 同时危险且自然的场景比例，越高越好 |
| |
| risk_direct_accept_rate |
| risk agent 直接参与并被接受的比例，越高越好 |
| |
| hard_artifact_record_rate |
| 明显伪影比例，越低越好 |
| |
| semantic_diversity_entropy |
| 场景类型多样性，过低说明模式坍塌 |
| ``` |
|
|
| 如果第二轮出现： |
|
|
| ```text |
| LLM case 数量增加 |
| accepted_rate 不下降或上升 |
| high_value_rate 上升 |
| natural_critical_rate 上升 |
| hard_artifact_record_rate 不上升或下降 |
| composite_objective 上升 |
| ``` |
|
|
| 则可以说明闭环优化在产生更高质量的长尾场景。 |
|
|
| ## 7. 展示时推荐讲法 |
|
|
| 可以这样概括： |
|
|
| ```text |
| 我们首先基于 GPUDrive 并行运行大量世界，并使用 reward-conditioned policy |
| 给车辆赋予不同驾驶风格。Search Agent 会搜索 collision、near-miss、 |
| offroad 等候选长尾事件，并保存轻量事件索引 events.jsonl 和完整轨迹 |
| event_traces.jsonl。 |
| |
| 随后，Converter Agent 将复杂的多车逐帧轨迹转换为 LLM 可读的结构化案例 |
| llm_cases.jsonl。转换过程中会清理 done 后的无效帧，并自动选择最关键的 |
| primary pair。 |
| |
| Evaluator Agent 进一步从危险性、运动自然性、交互合理性、场景价值和伪影率 |
| 等维度评估每个案例，输出 accepted/rejected cases 和 optimizer_metrics.json。 |
| |
| 最后，Optimizer Agent 使用这些评估指标训练一个 MLP surrogate model， |
| 预测不同 reward-condition 参数的效果，并推荐下一轮搜索参数。这样系统形成 |
| 自动生成、自动评估、自动优化的闭环多 Agent 长尾数据生成流程。 |
| ``` |
|
|
| 一句话总结： |
|
|
| ```text |
| 我们的目标不是生成更多碰撞，而是自动生成更多自然、合理、危险且有价值的长尾交互场景。 |
| ``` |
|
|
| ## 8. 各文件一句话速查 |
|
|
| ```text |
| events.jsonl |
| 轻量事件索引，记录搜到了哪些候选危险事件。 |
| |
| event_traces.jsonl |
| 完整轨迹记录，保存评估所需的多车状态和交互数据。 |
| |
| llm_cases.jsonl |
| LLM 可读案例，将复杂轨迹压缩成结构化交通事件。 |
| |
| case_cards/ |
| Markdown 案例卡，方便人工快速浏览。 |
| |
| all_evaluations.jsonl |
| 所有案例的完整评估结果。 |
| |
| accepted_cases.jsonl |
| 通过评估的高质量候选场景。 |
| |
| rejected_cases.jsonl |
| 被拒绝的低质量或伪影场景。 |
| |
| optimizer_metrics.json |
| 当前搜索参数的质量汇总，是 Optimizer Agent 的输入。 |
| |
| optimizer_plan.json |
| Optimizer Agent 的完整优化计划。 |
| |
| candidate_predictions.jsonl |
| 每个候选参数组合的预测效果。 |
| |
| best_recommendation.env |
| 下一轮搜索直接加载的推荐参数。 |
| |
| recommended_search_commands.sh |
| 下一轮可直接提交的搜索命令。 |
| ``` |
|
|
