Shadowell/arc3-testset-envs

ARC-AGI-3 自建正式测试集

这里是 ts01 到 ts200 的正式 arcengine 测试游戏，共 200 个游戏、2000 个关卡。每关都有真实状态、step、render、终局判定和固定 64×64 观察帧，可由官方 arc_agi.Arcade 直接发现和运行。

分段	代号	游戏数	关卡数	审查素材	生成器
主测试集	ts01–ts100	100	1000	前 10 个游戏附矩阵、标准解逐步帧和图片	testset.py + testset_extended.py
盲测扩展	ts101–ts200	100	1000	无（纯评测，防解法泄漏）	testset_blind200.py

这批数据是 HyperARC 自建测试集，不是 Kaggle 官方公开游戏，也不应冒充隐藏评测数据。正式环境使用与 25 个公开游戏一致的 ARCBaseGame 生命周期和本地加载布局。求解器只会收到当前画面、合法动作、关卡进度和终局状态；中文机制名、目标矩阵、标准解和逐步答案帧都不会通过环境接口传给它。

机制覆盖

主测试集（ts01–ts100）

代号范围	机制族	游戏数	关卡数
ts01–ts05	空间变换与几何	5	50
ts06–ts10	因果状态机与按钮逻辑	5	50
ts11–ts15	重力、物理与动态传播	5	50
ts16–ts20	拓扑与连通性	5	50
ts21–ts25	资源约束与规划	5	50
ts26–ts30	构造合成与物流编排	5	50
ts31–ts35	约束满足与排布	5	50
ts36–ts40	隐藏信息与记忆	5	50
ts41–ts45	符号语言与语义解码	5	50
ts46–ts50	模式归纳与序列演化	5	50
ts51–ts55	规则切换与上下文依赖	5	50
ts56–ts60	多主体协作与轻对抗	5	50
ts61–ts65	计数度量与数量守恒	5	50
ts66–ts70	坐标系与相对参照	5	50
ts71–ts75	局部规则与自动机生长	5	50
ts76–ts80	排序、调度与优先级	5	50
ts81–ts85	工具使用与可供性发现	5	50
ts86–ts90	错误修复与可逆推理	5	50
ts91–ts95	层级抽象与宏动作	5	50
ts96–ts100	泛化扰动与鲁棒识别	5	50

盲测扩展（ts101–ts200）

20 个机制族，每族 5 个游戏变体，每游戏 10 关。机制实现为程序化规则，不提供标准解和审查帧：

代号范围	机制族	游戏数	关卡数
ts101–ts105	量子相位与传送门	5	50
ts106–ts110	流体动力学与浮力	5	50
ts111–ts115	组合逻辑与布尔门	5	50
ts116–ts120	拓扑编织与绳结	5	50
ts121–ts125	自适应迷宫与滑动墙	5	50
ts126–ts130	颜色混合与光谱合成	5	50
ts131–ts135	多体引力与轨道控制	5	50
ts136–ts140	时序因果与延迟触发	5	50
ts141–ts145	资源平衡与能量守恒	5	50
ts146–ts150	高级推箱与联动机械	5	50
ts151–ts155	对称破缺与晶格修复	5	50
ts156–ts160	记忆配对与隐式密码	5	50
ts161–ts165	生命游戏变体与细胞群	5	50
ts166–ts170	多智能体合作与驱赶	5	50
ts171–ts175	局部代数与置换群	5	50
ts176–ts180	动态阻抗与电流寻路	5	50
ts181–ts185	几何折纸与空间投影	5	50
ts186–ts190	温度相变与状态跃迁	5	50
ts191–ts195	弹性碰撞与动量传递	5	50
ts196–ts200	终极自适应复合谜题	5	50

主测试集全部游戏名称和逐项机制说明见 docs/arc3-testset-game-designs.md。

文件结构

data/arc3_testset/
├── manifest.json                 # 全部 200 个游戏的环境索引和 16 色颜色表
├── environment_files/            # 官方 Arcade 可扫描的正式环境根目录（ts01-ts200）
│   ├── ts01/204acc91/
│   │   ├── metadata.json          # 环境版本和正式加载信息
│   │   └── ts01.py                # ARCBaseGame 游戏入口
│   └── ts101/ebea0102/            # 盲测扩展游戏结构相同
└── games/                         # ts01-ts10 的生成、审查和答案校验素材
    └── ts01/
        ├── game.json             # 游戏规则和 10 关索引
        ├── overview.png          # 10 关总览
        ├── levels/01.json        # 一关的矩阵和完整标准解轨迹
        └── images/01.png         # 左侧初始帧，右侧目标帧

games/ 中前 10 个游戏的每份审查关卡文件包含：

• 游戏代号、名称、分类和机制说明。
• 颜色编号与对象含义。
• 可用动作编号和中文动作名。
• 64×64 初始帧矩阵与目标帧矩阵。
• 标准解动作序列。
• 从初始状态到目标状态的全部 64×64 逐步帧。

所有画面先在 16×16 逻辑网格上设计，再将每个逻辑格放大为 4×4 像素，因此最终观察帧固定为 64×64。颜色值限定在 0 到 15。

games/ 内的答案资料用于生成和审查，不应作为求解器输入。正式访问时只把 environment_files/ 配置为 ENVIRONMENTS_DIR。

直接运行现有求解器

.arc3_local/.venv/bin/python scripts/run_arc3_eval.py \
  --environments-dir data/arc3_testset/environment_files \
  --actions 20000 \
  --agent hyperarc

图片总览

总览图按两行五列排列 10 个关卡。每个小图内部，左侧是初始帧，右侧是目标帧，中间灰线用于分隔。

重新生成

PYTHONPATH=src python3 scripts/build_arc3_testset.py

生成逻辑位于 src/hyperarc/arc3/testset.py、src/hyperarc/arc3/testset_extended.py 和 src/hyperarc/arc3/testset_blind200.py。scripts/build_arc3_testset.py 一条命令重新生成全部 200 个正式环境（2000 个运行时关卡）、manifest 和前 10 个游戏的 100 份审查矩阵与 110 张图片。生成器按关卡内容哈希写入 <game_id>/<version>/ 版本目录，并自动清理不再由当前代码产出的旧版本目录，因此重跑是幂等的。正式环境版本号会随关卡内容哈希变化。

专项验证：

PYTHONPATH=src .arc3_local/.venv/bin/python -m pytest \
  tests/test_arc3_synthetic_testset.py \
  tests/test_arc3_testset_arcade.py -q