common/source/starBenchserver/docs/benchmark-server-guide.md

将一个 benchmark 接入 Bench Server

这份指南面向新增或整理仿真 benchmark 的贡献者。目标不是把原生 Python API 原样暴露给模型，而是建立可复现、可审计的机器人交互边界：模型根据声明的观测生成动作，服务执行动作并保留原生评分。

先看架构图解，再按本文实施。线协议以 SERVER_PROTOCOL.md 为准，目录与验收要求以 SERVICE_CONVENTIONS.md 为准。本文不另建一套协议。

1. 先明确边界

服务化有两个目的：隔离仿真神谕信息；让策略面向机器人能力，而不是依赖 simulator 内部特权。

评测对象是完整 agent 方法，可组合多个通用模型、规划、记忆与工具。 直接控制限制环境权限和执行接口，不限制内部思考方式；按服务协议接入， Python Policy／SDK 是可选便利。沿用原生执行预算，推理开销单独披露。 详见 方法接入。

• 可以公开协议声明的 RGB、机器人自身关节、末端位姿及其他允许的传感器观测。说明数据是测量值、估计值，还是上一条命令；不能把夹爪目标当成实测开度。
• 不向模型公开物体真值、隐藏 reset 配置、奖励、成功谓词、私有日志或原生环境句柄。评分由原生评测端产生，不由模型看视频自评。
• 固定的机器人运动学、IK 和原生控制器可以执行动作；服务不得根据物体真值选抓点、规划任务或插入另一个策略代替模型。
• 复用 RoboDojo 的组织方式，不照搬它的 EEF 动作。SIMPLE 是人形机器人；各 benchmark 保留自己的关节、末端、导航或其他原生动作语义。

sim/real 共用的是接口设计原则，不是统一动作维度或现成的硬件后端。需要逐项对齐传感器来源、单位、坐标系、控制周期、观测新鲜度和执行反馈。仿真等待推理时可以暂停推进，真机不能暂停物理世界；硬件看门狗、失联保持、急停、复位授权与评分必须另行实现和验证。当前 realRobots 是接入参考，不是已经验收的统一硬件服务。

2. 按职责放置文件

benchmarks/simBenchmarks/<Benchmark>/
├── README.md                       # 安装、启动与当前支持范围
├── EVALUATION_PROTOCOL.md          # 任务、观测、动作、计数、评分
├── server.py                      # benchmark 自有启动入口；供统一选择器委托，import 无副作用
├── server.example.json            # 部署参数，不放密钥或个人路径
├── bench_server/
│   ├── adapter.py                 # 公开契约与原生执行的衔接
│   ├── protocol/                  # 需要时放任务 catalog、计划与校验
│   └── native_worker_client.py    # 需要独立原生进程时使用
├── environment/                   # 原生运行、安装、版本与资产检查
└── checks/                        # 本 benchmark 的接口与回归测试

AgentPolicies/<agent>/             # 模型调用、prompt、记忆、决策循环
└── results/<benchmark>/           # 该模型的报告与证据索引

benchkit/sim_server/                # 共享传输、会话、序列与 artifact 机制
benchkit/                           # 公共契约、记录、源码冻结、审计和报告

bench_server/protocol/task_catalog.json 这类文件是评测协议数据，不是训练数据，也不是资产安装配置。任务不需要各复制一个 server；同一接口的新任务扩展 catalog 和原生绑定即可。并非每个 benchmark 都必须有相同文件名或独立 worker，避免添加空层和兼容转发壳。

模型侧的 trusted driver 持有服务凭据，负责把模型动作提交给服务、保存结果；模型 Actor 只接收公开观测和反馈。benchkit/sim_server 是两端复用的通信库，不是第三个决策服务。benchkit/campaigns 的中央任务组织能力本版保留，但当前仍执行冻结的本地 adapter，还没有整合远程服务调度。不能再复制一份通信实现到 benchmarks/simBenchmarks/service/。

当前源码根目录是 benchmarks/、AgentPolicies/、benchkit/，不保留旧入口兼容壳。 旧部署仍可能看见被 Git 忽略的缓存、视频或历史索引；这不代表旧源码入口仍然有效， 也不应直接删除这些文件。参见目录迁移说明。

3. 先核实原生协议，再写 adapter

从上游实际 evaluator、环境实现和固定配置取得定义，不凭任务名称猜默认值。在 EVALUATION_PROTOCOL.md 中记录下表，并链接对应源码版本或资产 manifest。

要核实的内容	必须写清楚
版本与环境	原生仓库 revision、Python/SDK、资产版本、许可、GPU 与渲染要求。资产和解释器路径由操作者配置，不硬编码某位用户的目录。
任务与计划	task ID、任务数、变体/layout、每例 seed/初始化、尝试次数、顺序，以及当前实现的子集。
观测	相机名称、顺序、尺寸、颜色和时间语义；机器人 state 的每个字段及来源；公开白名单和私有字段。
动作	维度、字段顺序、单位、坐标系、绝对/增量、四元数顺序、夹爪语义、原生有效域及控制器。
控制与终止	一次控制对应几个 physics ticks、控制频率、horizon 的实际单位、何时检查边界、原生成功/失败/截断条件。
评分	原生 success 与部分分数的来源和更新时机，是否存在有副作用的评分调用，以及最终结果怎样保存。

fast 是预先声明的小计划，每个选定 case 只尝试一次；保留失败，不按结果补抽。full 必须覆盖已核实的原生任务/变体/episode 矩阵。没有验证完整矩阵时，明确写“不支持 full”，不能只提高 horizon 就称为 full。

增加观测、改变动作含义或控制时序，需要明确的新协议身份、实现与验证。端口、GPU、资产路径等部署参数可以配置；一个 JSON selector 本身不能创造新协议。

版本应分开记录：公共通信是 starvla-rsi.sim-server/v1；RoboDojo 当前机器人协议是 robodojo-direct-v2-rgb-proprio28-eef16-robot-feedback-v1；模型侧当前 Direct 方法是 codex-direct/v3。它们分别描述通信、机器人能力和 agent 方法，并不需要同步升版。 能接入同一服务不等于复现旧方法的成功率；也不要将 Dojo 的 EEF16 接口套用到 SIMPLE 等其他机器人。

绝对关节目标接口还应检查机器人自身状态是否足够明确。原生观测里的某个 joint_action 字段若是驱动目标，不能把它当成实测编码器，也不能因此认定 没有可用的机器人状态；继续查证原生机器人是否另有实测关节接口。一个 state 向量可以同时含实测关节角和上次夹爪命令，但字段名、来源及单位必须分别说明。 有意采用 RGB-only 也应明确声明其限制；补充机器人状态需升级协议，不能回写旧轮次。

4. 实现原生桥接与公共入口

实现 BenchmarkAdapter 和 EpisodeSession，参考 RoboDojo adapter，但保留本 benchmark 的原生语义。

接口	责任
descriptor / observation_spec / action_spec	声明版本、能力与动作/观测规格。
episodes(seed, limit)	返回确定的 EpisodeSpec 计划；不 reset、不推进环境。
open_episode(episode)	绑定已声明的 case，构造 session；不能接受模型提供的隐藏 reset 参数。
reset()	初始化一次，输出公开 Observation；私有元数据留在评测端。
step(action)	执行一条协议动作，返回公开观测与终止状态；不要把原生 info 字典整体透传。
metrics() / artifacts() / close()	提供私有原生结果与证据并释放资源；读取评分不能额外推进任务或重复触发有副作用的 scorer。

需要独立 Python/SDK 时，将执行放进 environment/ 下的私有 worker，由 bench_server 连接。它不是第二个公开策略接口。import、factory 构造、服务启动和 describe 均不得触发原生 reset、控制或模型调用。

根目录 server.py 提供 main(argv=None) 和惰性的 adapter factory，调用现有的 shared launcher。工厂校验参数白名单，不静默接受拼错的字段。完整命名 panel 使用 require_complete_schedule=True，防止 --episodes 截断计划。仓库内的协议文件、worker 和版本定义通过源码清单及 supplemental_sources 纳入冻结；部署时的原生运行/资产 manifest 另存为评测端私有来源证据。只能排除声明过的运行缓存，不能排除动作、评分或视频证据。

将实际采用的预算公开到 describe：budget_mode、environment_step_cap，以及适用的 max_policy_calls、replan_interval；协议强制控制前缀时声明 required_replan_interval。注明哪些是 benchmark 限定，哪些允许 driver 配置；不能已在内部实施控制上限，对外却只留下未解释的空值。

动作约束放在哪一端

服务验证协议本身：字段、类型、维度、有限值、单位四元数等确有要求的格式，以及原生接口的合法域。不要额外发明关节 soft limit、裁剪、5 cm 步长或“至少 50 次才能放弃”等策略偏好；这些可选约束归 AgentPolicies/<agent>。保持原生控制器自身行为，真实硬件的安全控制也不能被策略绕过。

在支持动作拒绝反馈的协议中，纯校验失败应在任何执行与 sequence 消耗之前拒绝，返回 invalid_action 和 executed=false。下一次计数的决策调用可以根据同一份已确认观测修正动作，不能通过被拒绝的动作免费获得新观测。当前参考 driver 为此配置有限决策调用保护上限；它不是全仓库统一的模型推理预算。若执行可能已经发生，或发生模型服务/CLI/原生运行错误，不能伪装成一次安全的动作拒绝。

5. 复用一次性会话和可靠计数

共享传输采用带认证的 JSON RPC，wire ID 为 starvla-rsi.sim-server/v1。公开给模型的是观测/动作契约；完整管理 RPC 只交给 trusted driver。

describe → open（认领固定 case）→ reset（一次，sequence=0）
         → step（严格递增的 sequence）… → finish → read_artifact

• 在原生创建/初始化前先认领 case；初始化失败也留下已认领的错误记录，不能自动重新入队。
• 每个服务实例同时只有一个 active episode。并行评测使用独立实例、输出目录与资源分配，不共享可变环境。
• 网络超时或 ACK 丢失不代表动作未执行。不能盲目重放 step 或 reset；执行结果不确定时停止并保留证据。
• metrics 属于评测端；finish 闭合后固定文件清单，按相对路径、普通文件和 SHA-256 校验证据传输。
• 当前服务仅支持绑定 127.0.0.1 / loopback。密钥只交给服务和 driver，跨节点使用受控转发。进程分离不等于 OS sandbox；不受信任 Actor 还需要文件、凭据和进程权限隔离。

独立记录决策调用数、可测的模型推理请求与组件用量、已执行动作决策数、客户端 ACK 控制数、原生执行控制数与 physics ticks。一次决策可以使用多个模型、发出多条控制，但没有全仓库通用的“五步一次决策”。被拒绝、stop-only 和异常调用也要按实际记录计入调用统计，不能和已执行决策混为一谈。

动作 chunk 长度、同一目标重复几次、何时重新思考由 policy 和 trusted driver 选择。 共享 step 请求只接受一条动作，不接收“替模型重复 N 次”的指令；每条控制都有自己的 sequence 和 ACK。原生物理子步、固定插值、终止与总执行预算仍归 benchmark。 已有 decision-budget 耦合轨道或 required_replan_interval 约定应显式迁移，不能在整理目录时改变。

特别测试 horizon 的最后一步：原生动作可能执行后，终止判定或回传才报错。此时原生计数与 ACK 计数可以不同；不能把已执行控制抹成 0，也不能将基础设施错误写成“正常达到 horizon”。无法确认的量标为未知，不补造计数。

6. 注册、打包与启动

接入不止新增一个 server.py。按本 benchmark 的实际情况核对：

• 在 统一服务选择器 的显式表中登记 canonical ID、module 和仓库文档路径；不把未实现项或硬件占位列为可启动服务。只惰性委托已有 server.main(argv)，不能绕过它重新建 factory。
• 服务通过自身的 SUPPLEMENTAL_FILES 声明完整 adapter、协议与 worker 文件；共享服务源码采用 source snapshot 的独立 service 范围，不依赖其他 benchmark 或模型文件。若同时支持既有中央 campaign，再更新 registry、benchmark plans 与 evaluation 范围的源码清单；只有服务入口不等于已有 campaign 支持。
• pyproject.toml 纳入所需 Python 包及 JSON 等协议数据；从安装后的包运行，不只在源码目录里碰巧成功。
• 统一回归入口 注册本地 checks，并通过 服务约定测试。
• 更新本 benchmark 的 README、评测协议、部署参数示例和 SERVICE_SUPPORT.md；明确实现范围、已验证层级和未解决问题。

先按该 benchmark 的 environment/ 说明安装环境。数据许可需单独满足；服务可 import 不等于资产、渲染或原生初始化已就绪。检查正确的 Python、依赖路径、GPU/渲染设备和真实画面，避免把黑帧当作正常观测。

以现有 RoboDojo 为例，在仓库根目录或已安装环境中启动（先完成其 环境准备）：

# 通过安全的环境注入方式设置 RSI_SIM_SERVER_TOKEN；勿把真实密钥写入配置或 Git。
# /absolute/... 是占位路径，需替换为本次部署配置和全新的输出目录。
rsi-bench serve --benchmark robodojo \
  --parameters /absolute/robodojo-server.json \
  --seed 20260907 --port 8765 \
  --output-dir /absolute/new-run/server

token 要求 32–256 个 URL-safe 字符。先验证启动和 describe 无原生副作用，再使用模型目录下的 driver 连接服务；不要绕过 server 直接操作仿真做“等价测试”。具体 runner 参数见 运行指南 和对应模型的说明，不复制 RoboDojo 的任务、预算或控制频率到其他 benchmark。

7. 按证据层级验收

采用“实现 → 独立审核 → 回归验证 → 修正”的循环。审核者检查观测白名单、隐藏 scorer、动作语义和计数，不仅检查目录是否整齐。每一层分别报告，上一层通过不能代替下一层。

层级	最低检查	不代表什么
离线契约与回归	import 无副作用；参数与 schema；计划确定性；重复 claim/sequence；动作拒绝不执行；评分不泄露；close、故障、计数和 artifact 校验。	不代表 simulator、资产或模型能运行。
原生短交互	经授权新开独立诊断 run，不调用模型或任务求解策略；通过 server 真实 reset、至少 1–2 次控制、检查 RGB/state、关闭并保留原生日志及媒体。	不代表任务成功或完整评测通过。
模型单例	预声明 task/case/seed、协议和预算，通过同一 server 完成一次尝试；保留成功、任务失败或基础设施错误。	不代表全 benchmark 的 SR。
原生完整矩阵	核实任务、变体、种子、horizon、控制器、观测及评分条件，与原生 full schedule 对齐。	条件不同的结果不能直接声称复现参考 SR。

统一回归命令示例，替换为已注册的 benchmark group；输出目录必须是新的：

python -B -m benchkit.checks.run_regressions \
  --group benchmark_service --group RoboDojo \
  --output /absolute/new-check-report

不要因测试失败静默重跑正式 case。先保存闭合错误和原因，修复后在获准的新轮次中使用新 run ID；旧结果不覆盖。短交互测试也不能混入正式 SR 分母。

模型首轮主动放弃、0 个控制步，可能是一份有效的失败记录，但没有验证模型的 机器人动作链路。应核查实际发送的图像/state/动作契约、模型原始停止输出和 停止解析分支，区分能力不足、策略选择与观测接口缺失；不能仅凭“进程正常退出” 就称模型控制验收通过，也不要强制输出盲目动作来凑验收步数。

8. 发布前检查

• 公共主线是选择 benchmark → agent 接入 → 查看交互和结果。rsi-bench list 列服务，rsi-bench serve --benchmark <id> --help 显示对应启动参数；源码运行可用 python -m benchkit.sim_server.cli。不是新增中央决策层，也不统一不同机器人的动作空间。
• 交互记录可选、默认启用，不是参评或发布门槛；basic_result 无事件／源码快照也能导出结果。客户端关闭保存不等于原生 server 停止录像；参见 记录能力。
• 当前默认长期视觉产物是 server 保存的原生视频，client 保存清单与位置引用，不自动下载第二份。帧图像在运行中仍可供模型使用；服务闭合并通过视频文件完整性与数量检查后才移除可清理帧，缺失视频时保留帧，清理失败时保留剩余帧并记录已移除项。服务 --retain-frame-images 和客户端 --copy-server-media 是分别配置的显式选项。
• 公共文档不依赖 project_readmes/、个人绝对路径、SSH 别名或未说明的手工补丁。
• 源码、环境清单、协议和任务计划可追溯；模型身份与实际可核验的调用证据分开，未知项不补造。
• 发布报告位于 AgentPolicies/<agent>/results/<benchmark>/，优先展示任务、策略调用输入、已记录输出、动作与反馈、计数、终止和结果。闭合 client-run 可用 interaction_history 导出自包含 HTML/JSON；首版不复制媒体或补造原始会话，详见 运行指南。
• 内容哈希、源码冻结和一致性审计作为内部支撑保留，不是用户看交互的前置手工流程。上游 Git revision、环境/控制器与资产来源等有用复现信息可公开，但只采用已记录且明确允许的字段。原始视频、日志和缓存按规则忽略或持久化，不递归发布私有 metadata/info。
• 密钥只留在操作者的安全凭据存储与受信任进程中；不得写入 Git、源码快照、模型输入或 artifact 清单。
• 任务/布局、调用次数、控制步、终止原因、原生 success 与部分分数分别可查。40/100 原生部分分数不是 40% 成功率；报告计划、尝试、完成和错误数量，不藏失败样本。
• 将本次验收的具体协议、范围、结果和剩余阻塞写清楚。“13 个开发态服务入口”不等于“13 个 benchmark 已完整验证”，最新范围查 支持矩阵。

新增模型通常只改 AgentPolicies/；新增任务通常扩展 benchmark 的协议数据和原生绑定；新增动作/观测语义要改协议；新增通用报告才进入 benchkit/。保持这些边界，才能继续扩展 benchmark，而不为每个模型复制一套仿真代码。