Jiahao28 commited on
Commit
8022243
·
verified ·
1 Parent(s): 15773bc

Add Advantage Estimator (adv-flatten-fold-run16) value model weights

Browse files
README.md ADDED
@@ -0,0 +1,81 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: apache-2.0
3
+ base_model: openpi/pi0.5 # 按实际基础 checkpoint 填写
4
+ tags:
5
+ - robotics
6
+ - imitation-learning
7
+ - manipulation
8
+ - advantage-estimator
9
+ - stage-advantage
10
+ - kai0
11
+ pipeline_tag: reinforcement-learning
12
+ ---
13
+
14
+ # χ₀ (kai0) — Advantage Estimator(价值模型)
15
+
16
+ 本仓库发布 **Advantage Estimator**(π₀.₅ 价值模型变体)权重,用于
17
+ **Advantage-Weighted Behavior Cloning(AWBC)** 与 **阶段分割(Stage Segmentation)**。
18
+
19
+ > 仅含模型权重(`model.safetensors` + `metadata.pt`)。不含训练优化器状态 `optimizer.pt`。
20
+
21
+ ## 文件清单
22
+
23
+ | 路径 | 说明 |
24
+ | --- | --- |
25
+ | `adv-flatten-fold-run16/model.safetensors` | 模型权重(~7.5 GB,PyTorch `safetensors`) |
26
+ | `adv-flatten-fold-run16/metadata.pt` | 训练元信息(config / exp_name / 训练步数 / 超参数) |
27
+
28
+ > 训练时保存的 `optimizer.pt`(~13.5 GB)为优化器状态,**未随本仓库发布**,对推理无影响。
29
+
30
+ ## 模型信息
31
+
32
+ | 项 | 值 |
33
+ | --- | --- |
34
+ | 模型类型 | Advantage Estimator(π₀.₅ 变体,仅保留价值/进度回归头) |
35
+ | 基于 | π₀.₅ 基础 checkpoint(见 `metadata.pt` / `pytorch_weight_path`) |
36
+ | 训练步数 | 20000 |
37
+ | 训练损失 | `loss_value_weight=1.0`,`loss_action_weight=0.0`(禁用动作损失) |
38
+ | 归一化 | `skip_norm_stats=True`(价值模型不依赖 norm_stats) |
39
+ | 输出 | 每帧 `absolute_value`(0~1 累计进度) |
40
+ | Config | `ADVANTAGE_TORCH_KAI0_FLATTEN_FOLD_FULL_FINETUNE_MIX_02` |
41
+ | exp_name | `full_finetune_460_run_16` |
42
+
43
+ ## 用途
44
+
45
+ ### AWBC 训练
46
+ 价值模型预测每帧优势,经 `stage_advantage/annotation/gt_label.py` 离散化为正/负标签
47
+ 写入 `task_index` / `tasks.jsonl`,再用于 Advantage-Weighted Behavior Cloning
48
+ (`prompt_from_task=True`)。
49
+
50
+ ### 阶段分割
51
+ `absolute_value`(0~1 累计进度)可把任务切成 K 个阶段,用于 subtask 级别成功判定与评估。
52
+
53
+ ## 使用方式
54
+
55
+ 推理侧将 `ckpt_dir` 指向本权重目录、`ckpt_steps=20000`(编辑
56
+ `stage_advantage/annotation/eval.py` 的 `MODELS_CONFIG_MAP`),然后:
57
+
58
+ ```bash
59
+ uv run python stage_advantage/annotation/eval.py Task-A KAI0 /path/to/dataset
60
+ ```
61
+
62
+ ## 评估(阶段分割,Fold Box,K=16,100 episodes,seed=42)
63
+
64
+ | 指标 | 值 |
65
+ | --- | --- |
66
+ | Frame Accuracy | 51.0%(±12.2%) |
67
+ | Stage IoU | 48.1% |
68
+ | Boundary MAE | 60.1 帧(~2.0 s) |
69
+ | Boundary Acc @±30f | 66.8% |
70
+ | Boundary Acc @±50f | 77.7% |
71
+
72
+ ## 版本说明
73
+
74
+ - `adv-flatten-fold-run16/`(本仓库,推荐):`full_finetune_460_run_16`,报告所用。
75
+ - 早期版本 `run_15`(`full_finetune_460_run_15`)权重不同,暂未随本仓库发布,请勿混用。
76
+
77
+ ## 出处与许可
78
+
79
+ - 项目:**χ₀ (kai0)** —— 双臂衣物操作模仿学习框架(基于 [openpi](https://github.com/Physical-Intelligence/openpi))
80
+ - 上游许可:Apache-2.0(本项目);PaliGemma 相关组件见 `LICENSE_GEMMA.txt`(Gemma Terms of Use)
81
+ - 关联资源:代码见开源仓库;策略模型见 `OpenDriveLab-org/Kai0`
adv-flatten-fold-run16/metadata.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a89b6d428f268ed2c12733f89a10025bcfa4387ebce38b602926a0fe44c35cf7
3
+ size 6579
adv-flatten-fold-run16/model.safetensors ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:172a0cec2743b75f3269177a97f8890d6707a7482c58d4c48e90fd54e1f850c8
3
+ size 7481492908