File size: 3,488 Bytes
4c32b9f
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
# 测试结果转换工具

这个工具可以将PPO训练过程中保存的测试结果从one-hot向量格式转换为更直观的10x10字母矩阵格式,方便LLM分析。

## 功能

- 将observation中的one-hot编码转换回字母(A-E, X)
- 重建10x10的网格地图
- 将归一化的位置坐标转换回实际坐标
- 在网格中标记agent的当前位置(用@表示)
- 保留所有原始的统计信息和轨迹数据

## 使用方法

### 1. 转换单个文件

```bash
python convert_test_results.py /path/to/test_iter_732.json
```

这会在同一目录下生成 `test_iter_732_readable.json`

### 2. 指定输出文件

```bash
python convert_test_results.py /path/to/test_iter_732.json -o /path/to/output.json
```

### 3. 批量转换目录中的所有测试文件

```bash
python convert_test_results.py /path/to/runs/directory -a
```

这会递归查找所有 `test_iter_*.json` 文件并转换它们。

### 4. 自定义批量转换的文件模式

```bash
python convert_test_results.py /path/to/runs/directory -a -p "test_*.json"
```

## 示例

### 转换EASY难度的所有测试结果

```bash
python convert_test_results.py runs/Ultrahorizon-v0__ppo_ultrahorizon__1_EASY__1761810199 -a
```

### 转换特定的测试文件

```bash
python convert_test_results.py runs/Ultrahorizon-v0__ppo_ultrahorizon__1_EASY__1761810199/test_iter_732.json
```

## 输出格式

转换后的JSON文件包含:

```json
{
  "iteration": 732,
  "global_step": 1497088,
  "training_progress": 0.1,
  "test_results": {
    "episode_returns": [...],
    "episode_lengths": [...],
    "final_scores": [...],
    "mean_return": 123.45,
    "trajectories": [
      {
        "actions": [0, 1, 2, ...],
        "rewards": [1.0, -0.5, ...],
        "dones": [false, false, ...],
        "observations": [
          {
            "step": 0,
            "position": {"x": 5, "y": 3},
            "energy": 20.0,
            "score": 0.0,
            "steps": 0.0,
            "grid": [
              ["A", "B", "C", ...],
              ["D", "E", "X", ...],
              ...
            ],
            "grid_string": "  0 1 2 3 4 5 6 7 8 9\n  -------------------\n0|A B C D E X A B C D \n1|E X A B C D E X A B \n...",
            "action": "right",
            "reward": 1.0
          },
          ...
        ]
      }
    ]
  }
}
```

## 网格可视化

每个observation都包含 `grid_string` 字段,显示10x10的网格:

```
  0 1 2 3 4 5 6 7 8 9
  -------------------
0|A B C D E X A B C D 
1|E X A B C D E X A B 
2|C D E X A B C D E X 
3|A B C D E @ A B C D   <- @ 表示agent位置
4|E X A B C D E X A B 
5|C D E X A B C D E X 
6|A B C D E X A B C D 
7|E X A B C D E X A B 
8|C D E X A B C D E X 
9|A B C D E X A B C D 
```

## 观察向量结构

原始observation是605维向量:
- **位置 (2维)**: x, y 坐标,归一化到 [0, 1]
- **能量 (1维)**: 归一化到 [0, 1],原始范围约为 [0, 20]
- **分数 (1维)**: 当前累积分数
- **步数 (1维)**: 归一化到 [0, 1],原始范围为 [0, 30]
- **网格状态 (600维)**: 10x10网格,每个格子6维one-hot编码(A, B, C, D, E, X)

## 动作映射

- 0: up (向上)
- 1: down (向下)
- 2: left (向左)
- 3: right (向右)

## 注意事项

1. 转换后的文件会比原始文件大,因为包含了可读的字符串表示
2. 网格坐标系:y=0在顶部,y=9在底部
3. agent位置用 `@` 标记在grid_string中
4. 所有原始数据(actions, rewards, dones)都会保留