FINAL v4-allchannels checkpoint @ 60k global steps (11.5M samples, 163-dataset physical-ai stream)

tinyvla_b200/ckpt_v4_global60k/README.md

@@ -0,0 +1,27 @@
+# v4-allchannels ФИНАЛ: 60k глобальных шагов на nvidia/physical-ai
+
+Завершён 2026-09-01. Итог прогона physical_ai_v4 (см. tinyvla_b200/B200.md).
+
+## Архитектура
+TinyVLA-2 v4 "all-channels": демо K=3 в attention stream LM (vlm_native) +
+числовой дескриптор морфологии (conditioning=morph, 6 GR00T-семейств) +
+текст робота. Инициализация от tinyvla2/pretrain_C_qwen_morph
+(state_proj 16->256 и голова 8->64 переинициализированы).
+
+## Обучение
+Стриминг с хаба: 163 LeRobot-v2.x датасета коллекции nvidia/physical-ai,
+214.7M исходных кадров, 10 Гц, native actions, per-source нормализация.
+60 000 глобальных шагов x eff.batch 192 = 11.5M семплов (~13% эпохи пула).
+Финальный train-loss (flow MSE) ~0.10-0.16.
+Прогон шёл в 3 сегмента (2 OOM даталоадера + отсутствовавший set_epoch;
+все фиксы в tinyvla_b200/): LR-расписание перезапускалось на резюмах.
+Железо: 1x H100 SXM (vast 8.5ч + RunPod ~30ч), ~130 семплов/с.
+
+## Использование
+```python
+from tinyvla.modeling_tinyvla import TinyVLAPolicy  # src из tinyvla_b200/
+policy = TinyVLAPolicy.from_pretrained("<этот каталог>")
+```
+Контракт входа и известные ограничения — как у ckpt_v4_global20k
+(zero-shot на чужой эмбодимент не работает; демо-канал не валидирован
+на контент-чувствительность).

tinyvla_b200/ckpt_v4_global60k/config.json

@@ -0,0 +1,107 @@
+{
+    "type": "tinyvla",
+    "n_obs_steps": 1,
+    "input_features": {
+        "observation.images.cam0": {
+            "type": "VISUAL",
+            "shape": [
+                3,
+                256,
+                256
+            ]
+        },
+        "observation.images.cam1": {
+            "type": "VISUAL",
+            "shape": [
+                3,
+                256,
+                256
+            ]
+        },
+        "observation.state": {
+            "type": "STATE",
+            "shape": [
+                256
+            ]
+        }
+    },
+    "output_features": {
+        "action": {
+            "type": "ACTION",
+            "shape": [
+                64
+            ]
+        }
+    },
+    "device": "cuda",
+    "use_amp": false,
+    "use_peft": false,
+    "push_to_hub": true,
+    "repo_id": null,
+    "private": null,
+    "tags": null,
+    "license": null,
+    "pretrained_path": null,
+    "pretrained_revision": null,
+    "chunk_size": 50,
+    "n_action_steps": 50,
+    "normalization_mapping": {
+        "VISUAL": "IDENTITY",
+        "STATE": "MEAN_STD",
+        "ACTION": "MEAN_STD"
+    },
+    "max_state_dim": 256,
+    "max_action_dim": 64,
+    "num_embodiments": 16,
+    "max_cameras": 3,
+    "conditioning": "morph",
+    "morph_tokens": 2,
+    "morph_to_slow": false,
+    "num_morph_readout": 4,
+    "morph_text_max_len": 32,
+    "use_demo_conditioning": false,
+    "n_support": 3,
+    "support_other_task": true,
+    "demo_tokens_per_example": 4,
+    "demo_visual_groups": 4,
+    "demo_action_keys": 8,
+    "demo_hidden_mult": 4,
+    "vlm_native": true,
+    "num_action_readout": 16,
+    "demo_action_keys_lm": 4,
+    "demo_only": false,
+    "action_space": "native",
+    "image_size": 256,
+    "freeze_vision_encoder": true,
+    "lm_model_name": "Qwen/Qwen3.5-0.8B",
+    "lm_num_layers": 12,
+    "num_readout_tokens": 8,
+    "freeze_lm": false,
+    "tokenizer_max_length": 48,
+    "pad_language_to": "longest",
+    "expert_dim": 512,
+    "expert_layers": 12,
+    "expert_heads": 8,
+    "use_semantic_latent": true,
+    "use_spatial_tokens": true,
+    "spatial_vocab": 1024,
+    "spatial_loss_weight": 0.0,
+    "num_denoise_steps": 10,
+    "flow_beta_alpha": 1.5,
+    "flow_beta_beta": 1.0,
+    "min_period": 0.004,
+    "max_period": 4.0,
+    "staleness_prob": 0.0,
+    "staleness_max_s": 2.0,
+    "optimizer_lr": 0.0001,
+    "optimizer_betas": [
+        0.9,
+        0.95
+    ],
+    "optimizer_eps": 1e-08,
+    "optimizer_weight_decay": 1e-10,
+    "optimizer_grad_clip_norm": 10.0,
+    "scheduler_warmup_steps": 1000,
+    "scheduler_decay_steps": 40000,
+    "scheduler_decay_lr": 2.5e-06
+}

tinyvla_b200/ckpt_v4_global60k/model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cf429b5c0980b03bd5c5a56853d4a54a88b5a367dcbd2e82f9a51641f2751254
+size 2579973864