# Long-Tail Scenario Generation 展示说明 本文档用于展示当前 GPUDrive 长尾场景生成系统的闭环流程、每个阶段的产物路径、文件内容结构，以及这些文件在系统中的作用。 ## 1. 整体闭环 当前系统可以概括为四个阶段： ```text Search Agent -> 搜索并保存候选危险场景 Converter Agent -> 将仿真轨迹转换成 LLM 可读案例 Evaluator Agent -> 评估场景危险性、自然性、交互合理性和价值 Optimizer Agent -> 根据评估结果推荐下一轮搜索参数 ``` 核心思想是：不是只追求“碰撞数量”，而是追求“自然、合理、危险、可解释、有价值”的长尾场景。 ## 2. Search Agent 产物 ### 文件路径 每一轮搜索会写入一个 round 目录，例如第二轮： ```text search_outputs/round_002/search/ ``` 多卡并行时，每张 GPU 对应一个 shard： ```text search_outputs/round_002/search/shard_000/ search_outputs/round_002/search/shard_001/ search_outputs/round_002/search/shard_002/ search_outputs/round_002/search/shard_003/ ``` 每个 shard 下的主要文件： ```text events.jsonl event_traces.jsonl summary.json ``` ### events.jsonl `events.jsonl` 是轻量级事件索引，一行代表一个候选长尾场景。 典型结构： ```json { "shard_id": 0, "batch_idx": 0, "world_idx": 15, "scenario_file": "tfrecord-00475-of-01000_425.json", "controlled_agents": 5, "risk_agents": [1, 4, 38], "collision": true, "near_miss": true, "offroad": true, "first_collision_step": 61, "first_offroad_step": 38, "min_distance_m": 1.3015, "min_distance_step": 63, "min_distance_risk_agent": 4, "min_distance_partner_agent": 21, "collided_agents": [4], "offroad_agents": [4], "goal_agents": 5 } ``` 作用： - 快速记录哪些 world 出现了 collision、near-miss、offroad 等事件。 - 快速统计搜索阶段产生了多少候选危险场景。 - 作为后续可视化和人工定位的索引。 它回答的是：“这一轮搜到了哪些候选事件？” ### event_traces.jsonl `event_traces.jsonl` 是更完整的轨迹记录，一行代表一个候选事件。 主要内容包括： ```text source: shard_id, batch_idx, world_idx, scenario_file outcome: collision, near_miss, offroad first_collision_step first_offroad_step min_distance_m risk_agents: 当前 world 中被赋予 risk_taker 风格的车辆 id agent_traces: 每个相关 agent 的逐帧状态 包括 x, y, heading, speed, valid, done 等 pairwise_trace: 关键车辆对之间的逐帧距离、相对速度、closing speed 等 map_context: 事件附近的道路元素、车道线、边界等 quality_metrics: 初步自然性和交互质量指标 ``` 作用： - 保存真实评估所需的轨迹数据。 - 后续不依赖视频判断场景，而是基于轨迹和交互指标进行结构化评估。 - 为 Converter Agent 提供完整输入。 它回答的是：“这个候选事件具体是怎么发生的？” ### summary.json `summary.json` 是当前 shard 的搜索统计。 常见内容： ```text num_worlds num_batches num_events collision_count near_miss_count offroad_count event_rate ``` 作用： - 快速查看单个 shard 的搜索结果。 - 检查搜索任务是否正常完成。 - 粗略比较不同参数下候选事件数量。 它回答的是：“这一张卡跑出的总体情况如何？” ## 3. Converter Agent 产物 ### 文件路径 Converter Agent 将 `event_traces.jsonl` 转换成 LLM 可读案例。 路径示例： ```text search_outputs/round_002/llm_cases/shard_000/ search_outputs/round_002/llm_cases/shard_001/ search_outputs/round_002/llm_cases/shard_002/ search_outputs/round_002/llm_cases/shard_003/ ``` 主要文件： ```text llm_cases.jsonl case_cards/ summary.json ``` ### llm_cases.jsonl `llm_cases.jsonl` 是 Evaluator Agent 的主要输入，一行代表一个结构化场景案例。 主要结构： ```text case_id: 唯一案例 id source: 来自哪个 shard、batch、world、scenario_file outcome: 是否 collision、near_miss、offroad 首次事件发生 step primary_pair: 当前事件中最关键的一对车辆 包括 risk agent、partner agent、选择原因 primary_interaction_metrics: min_clean_distance_m min_ttc_s time_ttc_below_1s event_relative_speed_mps event_closing_speed_mps timeline: 事件前后若干关键时间点的车辆状态 context_agents: 周围车辆的简化状态 naturalness_checks: max_speed_mps max_accel_mps2 max_yaw_rate_radps large_displacement_flags map_context: 事件附近道路环境 ``` 作用： - 将复杂的多车逐帧轨迹压缩成 LLM 和规则系统都能理解的结构化文本/JSON。 - 过滤 `done=true` 后的污染帧，并要求 `valid=true`，避免仿真结束后的无效位置影响评估。 - 自动选择 primary pair，让评估聚焦于最关键的交互车辆对。 它回答的是：“如何把仿真轨迹变成可评估的交通事件描述？” ### primary pair 的意义 一个 world 中可能有很多车，但真正决定场景价值的通常是一对关键交互车辆。 primary pair 的选择优先级： ```text 1. risk agent 直接参与碰撞的车辆对 2. 最小距离对应的 risk-agent 车辆对 3. 碰撞车辆对 4. 其他最接近的交互车辆对 ``` 作用： - 让 Evaluator Agent 聚焦主要冲突对象。 - 避免被无关车辆干扰。 - 让 LLM 评估时更容易判断这个事件是否自然、合理、有价值。 ### case_cards/ `case_cards/` 保存 Markdown 版案例卡。 示例路径： ```text search_outputs/round_002/llm_cases/shard_000/case_cards/ ``` 作用： - 给人快速浏览。 - 展示单个事件的关键指标、时间线、车辆关系。 - 可用于人工抽查 Evaluator Agent 的判断是否合理。 ### summary.json 记录转换统计，例如： ```text input_events converted_cases written_cards skipped_cases ``` 作用： - 检查转换是否完整。 - 对比 Search Agent 产出的事件数量和最终可评估 case 数量。 ## 4. Evaluator Agent 产物 ### 文件路径 Evaluator Agent 对 `llm_cases.jsonl` 进行规则评估和 LLM 评估。 路径示例： ```text search_outputs/round_002/evaluator_agent/shard_000/ search_outputs/round_002/evaluator_agent/shard_001/ search_outputs/round_002/evaluator_agent/shard_002/ search_outputs/round_002/evaluator_agent/shard_003/ ``` 主要文件： ```text all_evaluations.jsonl accepted_cases.jsonl rejected_cases.jsonl summary.json optimizer_metrics.json raw_responses/ ``` ### all_evaluations.jsonl `all_evaluations.jsonl` 保存所有案例的完整评估结果。 主要结构： ```text case: 原始 llm case local_eval: 本地规则评估结果 llm_eval: DeepSeek / LLM 返回的评估结果 final_eval: 融合后的最终评估结果 ``` `final_eval` 中的重要字段： ```text accepted: 是否接受该场景 high_value: 是否为高价值场景 criticality_score: 危险程度 naturalness_score: 运动自然性 interaction_score: 交互合理性 scenario_value_score: 场景价值 danger_level: 危险等级 scenario_type: 场景类型 artifact_flags: 伪影标记 rejection_reasons: 拒绝原因 optimization_feedback: 给 Optimizer Agent 的反馈信号 ``` 作用： - 给每个场景一个结构化评估结果。 - 判断场景是否真正危险、自然、合理。 - 为后续筛选和优化提供数据。 它回答的是：“这个场景到底有没有价值？” ### accepted_cases.jsonl 保存通过评估的案例。 通过条件不是简单的“发生碰撞”，而是综合考虑： ```text 危险性 运动自然性 交互合理性 risk agent 是否真正参与 是否存在明显伪影 场景是否有分析价值 ``` 作用： - 作为最终可展示、可保存、可进一步分析的高质量候选集。 - 用于后续可视化或构建长尾数据集。 ### rejected_cases.jsonl 保存被拒绝的案例。 常见拒绝原因： ```text 车辆运动不自然 速度或加速度异常 车辆轨迹有跳变 risk agent 没有真正参与冲突 offroad 早于 collision，场景价值较低 done 后状态污染 碰撞缺少交互因果 ``` 作用： - 帮助分析当前搜索策略的缺陷。 - 给 Optimizer Agent 提供负反馈。 - 避免系统只追求碰撞数量而产生大量低质量事件。 ### optimizer_metrics.json 这是 Evaluator Agent 输出给 Optimizer Agent 的核心文件。 路径示例： ```text search_outputs/round_002/evaluator_agent/shard_000/optimizer_metrics.json ``` 核心结构： ```text current_search_parameters: risk_collision_weight risk_goal_weight risk_offroad_weight risk_agents_per_world normal_mode deterministic objective_metrics: total_evaluated accepted_count rejected_count high_value_count accepted_rate high_value_rate natural_critical_rate risk_direct_involved_rate risk_direct_accept_rate hard_artifact_record_rate semantic_diversity_entropy composite_objective score_stats: criticality_score naturalness_score interaction_score scenario_value_score metric_stats: clean_min_distance_m min_ttc_s event_relative_speed_mps event_closing_speed_mps max_speed_mps max_accel_mps2 max_yaw_rate_radps counts: scenario_type artifact_flags rejection_reasons optimization_feedback optimizer_ready_records: top cases used as compact feedback examples ``` 作用： - 汇总一个 shard 的整体质量。 - 作为 Optimizer Agent 的训练样本。 - 衡量一轮搜索是否比上一轮更好。 它回答的是：“当前这组搜索参数整体表现怎么样？” ## 5. Optimizer Agent 产物 ### 文件路径 Optimizer Agent 读取一轮或多轮的 `optimizer_metrics.json`，学习参数到质量指标的映射，并推荐下一轮搜索参数。 路径示例： ```text search_outputs/round_002/optimizer_agent/mlp_next/ ``` 主要文件： ```text optimizer_plan.json candidate_predictions.jsonl best_recommendation.env recommended_search_commands.sh ``` ### optimizer_plan.json 完整优化计划。 主要内容： ```text metrics_paths: 使用了哪些 optimizer_metrics.json history_samples: 历史搜索参数和对应质量指标 candidate_grid: 当前可搜索的参数空间 training: MLP surrogate model 的训练状态 recommendations: 推荐的下一轮参数 ``` 作用： - 记录 Optimizer Agent 的完整决策过程。 - 可解释为什么推荐下一组参数。 - 支持复盘每一轮闭环优化。 ### candidate_predictions.jsonl 保存每个候选参数组合的预测结果。 典型字段： ```text risk_collision_weight risk_goal_weight risk_offroad_weight risk_agents_per_world normal_mode deterministic predicted_composite_objective predicted_accepted_rate predicted_high_value_rate predicted_hard_artifact_rate ``` 作用： - 查看 MLP surrogate model 对不同参数组合的预测。 - 分析哪些参数更可能生成高质量长尾场景。 - 支持 top-k 推荐和 exploration。 ### best_recommendation.env 下一轮搜索可直接加载的参数文件。 示例： ```bash RISK_COLLISION_WEIGHT=-0.2 RISK_GOAL_WEIGHT=1.6 RISK_OFFROAD_WEIGHT=-0.8 RISK_AGENTS_PER_WORLD=1 NORMAL_MODE=expert DETERMINISTIC=0 ``` 作用： - 直接用于下一轮 Search Agent。 - 闭环系统中最直接的优化输出。 ### recommended_search_commands.sh 自动生成的搜索命令。 作用： - 方便直接提交下一轮实验。 - 避免手工复制参数出错。 ## 6. 每轮之间如何比较是否变好 不要只看碰撞数量。碰撞数量变多只说明候选池变大，不代表场景质量一定更好。 核心比较文件： ```text search_outputs/round_001/evaluator_agent/shard_*/optimizer_metrics.json search_outputs/round_002/evaluator_agent/shard_*/optimizer_metrics.json ``` 推荐展示指标： ```text composite_objective 主指标，越高越好 accepted_rate Evaluator Agent 接受比例，越高越好 high_value_rate 高价值场景比例，越高越好 natural_critical_rate 同时危险且自然的场景比例，越高越好 risk_direct_accept_rate risk agent 直接参与并被接受的比例，越高越好 hard_artifact_record_rate 明显伪影比例，越低越好 semantic_diversity_entropy 场景类型多样性，过低说明模式坍塌 ``` 如果第二轮出现： ```text LLM case 数量增加 accepted_rate 不下降或上升 high_value_rate 上升 natural_critical_rate 上升 hard_artifact_record_rate 不上升或下降 composite_objective 上升 ``` 则可以说明闭环优化在产生更高质量的长尾场景。 ## 7. 展示时推荐讲法 可以这样概括： ```text 我们首先基于 GPUDrive 并行运行大量世界，并使用 reward-conditioned policy 给车辆赋予不同驾驶风格。Search Agent 会搜索 collision、near-miss、 offroad 等候选长尾事件，并保存轻量事件索引 events.jsonl 和完整轨迹 event_traces.jsonl。 随后，Converter Agent 将复杂的多车逐帧轨迹转换为 LLM 可读的结构化案例 llm_cases.jsonl。转换过程中会清理 done 后的无效帧，并自动选择最关键的 primary pair。 Evaluator Agent 进一步从危险性、运动自然性、交互合理性、场景价值和伪影率 等维度评估每个案例，输出 accepted/rejected cases 和 optimizer_metrics.json。 最后，Optimizer Agent 使用这些评估指标训练一个 MLP surrogate model， 预测不同 reward-condition 参数的效果，并推荐下一轮搜索参数。这样系统形成 自动生成、自动评估、自动优化的闭环多 Agent 长尾数据生成流程。 ``` 一句话总结： ```text 我们的目标不是生成更多碰撞，而是自动生成更多自然、合理、危险且有价值的长尾交互场景。 ``` ## 8. 各文件一句话速查 ```text events.jsonl 轻量事件索引，记录搜到了哪些候选危险事件。 event_traces.jsonl 完整轨迹记录，保存评估所需的多车状态和交互数据。 llm_cases.jsonl LLM 可读案例，将复杂轨迹压缩成结构化交通事件。 case_cards/ Markdown 案例卡，方便人工快速浏览。 all_evaluations.jsonl 所有案例的完整评估结果。 accepted_cases.jsonl 通过评估的高质量候选场景。 rejected_cases.jsonl 被拒绝的低质量或伪影场景。 optimizer_metrics.json 当前搜索参数的质量汇总，是 Optimizer Agent 的输入。 optimizer_plan.json Optimizer Agent 的完整优化计划。 candidate_predictions.jsonl 每个候选参数组合的预测效果。 best_recommendation.env 下一轮搜索直接加载的推荐参数。 recommended_search_commands.sh 下一轮可直接提交的搜索命令。 ```