File size: 3,488 Bytes
4c32b9f | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 | # 测试结果转换工具
这个工具可以将PPO训练过程中保存的测试结果从one-hot向量格式转换为更直观的10x10字母矩阵格式,方便LLM分析。
## 功能
- 将observation中的one-hot编码转换回字母(A-E, X)
- 重建10x10的网格地图
- 将归一化的位置坐标转换回实际坐标
- 在网格中标记agent的当前位置(用@表示)
- 保留所有原始的统计信息和轨迹数据
## 使用方法
### 1. 转换单个文件
```bash
python convert_test_results.py /path/to/test_iter_732.json
```
这会在同一目录下生成 `test_iter_732_readable.json`
### 2. 指定输出文件
```bash
python convert_test_results.py /path/to/test_iter_732.json -o /path/to/output.json
```
### 3. 批量转换目录中的所有测试文件
```bash
python convert_test_results.py /path/to/runs/directory -a
```
这会递归查找所有 `test_iter_*.json` 文件并转换它们。
### 4. 自定义批量转换的文件模式
```bash
python convert_test_results.py /path/to/runs/directory -a -p "test_*.json"
```
## 示例
### 转换EASY难度的所有测试结果
```bash
python convert_test_results.py runs/Ultrahorizon-v0__ppo_ultrahorizon__1_EASY__1761810199 -a
```
### 转换特定的测试文件
```bash
python convert_test_results.py runs/Ultrahorizon-v0__ppo_ultrahorizon__1_EASY__1761810199/test_iter_732.json
```
## 输出格式
转换后的JSON文件包含:
```json
{
"iteration": 732,
"global_step": 1497088,
"training_progress": 0.1,
"test_results": {
"episode_returns": [...],
"episode_lengths": [...],
"final_scores": [...],
"mean_return": 123.45,
"trajectories": [
{
"actions": [0, 1, 2, ...],
"rewards": [1.0, -0.5, ...],
"dones": [false, false, ...],
"observations": [
{
"step": 0,
"position": {"x": 5, "y": 3},
"energy": 20.0,
"score": 0.0,
"steps": 0.0,
"grid": [
["A", "B", "C", ...],
["D", "E", "X", ...],
...
],
"grid_string": " 0 1 2 3 4 5 6 7 8 9\n -------------------\n0|A B C D E X A B C D \n1|E X A B C D E X A B \n...",
"action": "right",
"reward": 1.0
},
...
]
}
]
}
}
```
## 网格可视化
每个observation都包含 `grid_string` 字段,显示10x10的网格:
```
0 1 2 3 4 5 6 7 8 9
-------------------
0|A B C D E X A B C D
1|E X A B C D E X A B
2|C D E X A B C D E X
3|A B C D E @ A B C D <- @ 表示agent位置
4|E X A B C D E X A B
5|C D E X A B C D E X
6|A B C D E X A B C D
7|E X A B C D E X A B
8|C D E X A B C D E X
9|A B C D E X A B C D
```
## 观察向量结构
原始observation是605维向量:
- **位置 (2维)**: x, y 坐标,归一化到 [0, 1]
- **能量 (1维)**: 归一化到 [0, 1],原始范围约为 [0, 20]
- **分数 (1维)**: 当前累积分数
- **步数 (1维)**: 归一化到 [0, 1],原始范围为 [0, 30]
- **网格状态 (600维)**: 10x10网格,每个格子6维one-hot编码(A, B, C, D, E, X)
## 动作映射
- 0: up (向上)
- 1: down (向下)
- 2: left (向左)
- 3: right (向右)
## 注意事项
1. 转换后的文件会比原始文件大,因为包含了可读的字符串表示
2. 网格坐标系:y=0在顶部,y=9在底部
3. agent位置用 `@` 标记在grid_string中
4. 所有原始数据(actions, rewards, dones)都会保留
|