Upload run_cmp_multimodel.sh with huggingface_hub

run_cmp_multimodel.sh

@@ -0,0 +1,681 @@
+#!/usr/bin/env bash
+# ModelArts entrypoint:CMP A2 试点 —— Wan2.2-TI2V-5B 在 graded_pitch_chain 的
+# 9 档剂量 × 4 个种子上生成,看它的"倒几张"曲线是跟着剂量走还是一条平线。
+#
+# 这一版把今天(2026-07-31/08-01)踩过的坑全部前置成硬门:
+#   1. import 自检放在权重下载**之前** —— 缺包 30 秒知道,不是 40 分钟后
+#   2. 权重下载后**按文件逐个核对大小** —— snapshot_download 连不上远端时会把
+#      已有本地目录当成功返回,不校验就会拿着残缺权重往下跑
+#   3. 工作目录写 /cache(7.8TB),不写 /home/ma-user(/,300GB 且节点级共享)
+#   4. 关 Xet 并直接卸掉 hf-xet —— 它会绕开镜像直连 AWS 美国 CDN
+#   5. NVIDIA_DRIVER_CAPABILITIES 不加 graphics(会挂在容器初始化)
+set -euo pipefail
+
+WORK="${CMP_WORK:-/cache/cmp}/shard${SHARD_INDEX:-0}"
+OUT="${CMP_OUT_DIR:-/home/ma-user/modelarts/outputs/result_0}"
+export HF_HOME="${HF_HOME:-/cache/hf}"
+# mkdir 失败要**当场说清是谁的目录**。平台建 input 的 local_dir 时以 root 建父目录,
+# 而这里是 ma-user;裸 `set -e` 退出只会留下一行 Permission denied,查了三轮才定位
+# (2026-08-03)。而且 /cache 是节点级共享,root 属主的残留目录会毒到后续作业。
+for D in "$WORK" "$OUT" "$HF_HOME"; do
+  if ! mkdir -p "$D" 2>/dev/null; then
+    echo "[entry] FATAL 建不了目录 $D — 当前用户 $(id -un)($(id -u)) ;父目录属主/权限:"
+    P="$D"; while [[ "$P" != "/" ]]; do
+      [[ -e "$P" ]] && { ls -ld "$P"; break; }; P=$(dirname "$P")
+    done
+    exit 7
+  fi
+done
+
+echo "[entry] work=$WORK out=$OUT shard=${SHARD_INDEX:-0}/${SHARD_COUNT:-1}"
+nvidia-smi --query-gpu=index,name,memory.total,driver_version --format=csv,noheader || true
+echo "[entry] nproc=$(nproc)  盘: $(df -BG --output=avail "$WORK" | tail -1 | tr -d ' ') 可用"
+
+export HF_ENDPOINT="${HF_ENDPOINT:-https://hf-mirror.com}"
+export HF_HUB_ENABLE_HF_TRANSFER=0
+export HF_HUB_DISABLE_XET=1
+pip uninstall -y hf-xet >/dev/null 2>&1 || true
+
+# ---- 依赖
+python3 -c "import torch;print(f'[entry] 镜像自带 torch {torch.__version__} cuda={torch.cuda.is_available()}',flush=True)"
+export PIP_DEFAULT_TIMEOUT=20
+probe() { local a=(); [[ -n "$1" ]] && a=(-i "$1"); timeout 30 pip download --no-deps --no-cache-dir -d /tmp/_probe "${a[@]}" six >/dev/null 2>&1; }
+IDX=""; for c in "" "https://pypi.tuna.tsinghua.edu.cn/simple" "https://mirrors.aliyun.com/pypi/simple"; do
+  if probe "$c"; then IDX="$c"; echo "[entry] pip 源: ${c:-<镜像默认>}"; break; fi
+done
+IDXA=(); [[ -n "$IDX" ]] && IDXA=(-i "$IDX")
+export PIP_DEFAULT_TIMEOUT=60
+t0=$SECONDS
+# transformers 卡在 [4.49, 4.52):下界要 Qwen2_5_VLModel,上界 4.52+ 用
+# torch.distributed.tensor.DTensor 而 torch 2.4 没有(2026-08-01 两轮自检各撞一头)
+# ---- 为什么必须升级 torch:两个版本区间不相交(2026-08-02 实测)
+#   镜像 torch 2.4 能配的 diffusers <= 0.35.x
+#     (0.36+ 的 transformer_kandinsky 模块级 import torch.nn.attention.flex_attention,
+#      而 flex_attention 是 torch 2.5 才有,且该模块被 models/transformers/__init__ 急切导入)
+#   Wan2.2 TI2V-5B 需要的 diffusers >= 0.36
+#     (0.35.1 的 pipeline 不给 VAE 做 patch 化,3 通道喂进 12 通道卷积 →
+#      RuntimeError: expected input to have 12 channels, but got 3)
+# 所以补丁补不出来,只能把 torch 抬上去。PyPI 的 torch 2.6.0 默认构建就是 cu124,与镜像一致。
+if [[ "${CMP_TORCH_UPGRADE:-1}" == "1" ]]; then
+  t1=$SECONDS
+  pip install "${IDXA[@]}" --progress-bar off -U "torch==2.6.0" "torchvision==0.21.0" || true
+  echo "[entry] torch 升级用时 $((SECONDS-t1))s"
+  python3 -c "import torch;print(f'[entry] torch 现在是 {torch.__version__} cuda={torch.cuda.is_available()}',flush=True)"
+
+  # flash-attn 2.8.3 与 xformers 都是按 torch 2.4 的 ABI 编译的,升级后会因符号缺失挂掉。
+  # 不能 import 的就卸掉 —— 留着它 diffusers 导入时会被带崩。
+  for m in flash_attn xformers; do
+    if python3 -c "import $m" 2>/dev/null; then
+      echo "[entry] $m 升级后仍可导入,保留"
+    else
+      echo "[entry] $m 升级后已失效(按 torch 2.4 编译),卸掉"
+      pip uninstall -y "$(echo $m | tr _ -)" >/dev/null 2>&1 || true
+    fi
+  done
+
+  # 试装与 torch 2.6 匹配的 flash-attn 预编译轮子;拿不到就退回 torch 自带的 flash 内核。
+  # 注意:torch 的 SDPA 本身就含 FlashAttention-2 内核,退回 _native_flash 并不丢加速。
+  if ! python3 -c "import flash_attn" 2>/dev/null; then
+    for ABI in FALSE TRUE; do
+      U="https://github.com/Dao-AILab/flash-attention/releases/download/v2.8.3/flash_attn-2.8.3+cu12torch2.6cxx11abi${ABI}-cp310-cp310-linux_x86_64.whl"
+      if timeout 300 pip install --no-deps --progress-bar off "$U" >/dev/null 2>&1; then
+        python3 -c "import flash_attn" 2>/dev/null && { echo "[entry] flash-attn 预编译轮子装上了 (abi$ABI)"; break; }
+      fi
+      echo "[entry] flash-attn 轮子 abi$ABI 不可用"
+    done
+  fi
+fi
+
+# diffusers 用 0.39.0:本地 wan venv 正是这个版本 + torch 2.6,已实测能跑通
+# Wan2.2 TI2V-5B(生成首帧与条件帧逐像素平均差 2.11/255)
+pip install "${IDXA[@]}" --progress-bar off \
+    "diffusers==0.39.0" einops safetensors sentencepiece protobuf ftfy \
+    imageio "imageio[ffmpeg]" accelerate "transformers>=4.52,<4.58" || true
+# ⚠️ 上界从 <4.52 抬到 <4.58。原来那个 pin 是 torch 升级前的遗留,它**正好把
+# HunyuanVideo-1.5 挡死** —— 它的 text_encoder 类 Qwen2_5_VLTextModel 在 4.51.3 没有、
+# 4.52.4 才有,权重下完 54GB 才会在 import 那步炸。
+# 下界抬到 4.52 同时也满足 Cosmos3(它真实下限是 4.49:pipeline 调 apply_chat_template(),
+# 而模板以独立的 chat_template.jinja 存在,4.49 才把它加进 resolved_vocab_files)
+# 和 LTX-2(4.50,Gemma3ForConditionalGeneration)。
+# 上界 4.58 是因为 diffusers 0.39 与 transformers 4.52~4.57 已验证共存;再高没验过。
+python3 -c "import diffusers,torch;print(f'[entry] diffusers {diffusers.__version__} / torch {torch.__version__}',flush=True)" || true
+
+echo "[entry] 依赖安装用时 $((SECONDS-t0))s"
+
+# ---- 取 bundle(首帧 + jobs.json + 生成脚本,几 MB)
+if [[ ! -f "$WORK/jobs.json" ]]; then
+  echo "[entry] 从 HF 拉 bundle $CMP_CODE_REPO"
+  python3 - <<PY
+import os, tarfile
+from huggingface_hub import hf_hub_download
+p = hf_hub_download(repo_id="${CMP_CODE_REPO}", repo_type="dataset",
+                    filename="cmp_a2_bundle.tar.gz", local_dir="/tmp/cmpb")
+with tarfile.open(p) as t: t.extractall("${WORK}")
+print("[entry] bundle 解包完成", flush=True)
+PY
+fi
+cd "$WORK"
+ls -la | head -8
+
+# ---- torch 2.4 兼容补丁,必须在任何 import diffusers 之前
+# diffusers 0.39 的版本 guard 写成 `torch.__version__ >= "2.4.0"`(字符串比较),
+# 2.4.0 正好通过,于是用了真的 custom_op —— 而 torch 2.4 的 infer_schema 解析不了
+# 它那个 `float | None` 签名。把阈值抬到 2.5.0,让 diffusers 走它自己的 no-op 兜底。
+# 详见 torch24_compat.py 里记录的三条已排除的错误做法。
+python3 torch24_compat.py
+
+# ---- import 自检(必须在权重下载之前)
+echo "[entry] ---- import 自检"
+python3 - <<'PYSELF'
+import importlib, sys
+bad = []
+for m in ["torch", "diffusers", "transformers", "einops", "safetensors",
+          "imageio", "PIL", "accelerate"]:
+    try:
+        importlib.import_module(m); print(f"  ok   {m}", flush=True)
+    except Exception as e:
+        bad.append(m); print(f"  FAIL {m}: {type(e).__name__}: {e}", flush=True)
+from diffusers import WanImageToVideoPipeline, AutoencoderKLWan   # 点名要用的两个类
+import torch
+assert torch.cuda.is_available(), "cuda 不可用"
+if bad:
+    raise SystemExit(f"[entry] FATAL import 自检未过: {bad}")
+
+# ---- 注意力后端:声明了要用 flash 就必须**实跑一次**确认,不能只看环境变量。
+# 这里**不 fail-fast**,而是把三种可能都测一遍再报 —— 一轮自检把全貌拿到,
+# 免得"修一个发现一个"又来回好几轮(前面已经为此耗了 6 轮)。
+import os
+from diffusers.models import attention_dispatch as _ad
+want = os.environ.get("DIFFUSERS_ATTN_BACKEND", "native")
+print(f"[entry] 声明后端={want}  flash可用={_ad._CAN_USE_FLASH_ATTN} "
+      f"flash3可用={_ad._CAN_USE_FLASH_ATTN_3}", flush=True)
+
+q = torch.randn(1, 8, 64, 64, device="cuda", dtype=torch.bfloat16)
+# ① 外部 flash-attn 包
+try:
+    import flash_attn
+    qq = q.permute(0, 2, 1, 3).contiguous()          # (B, S, H, D)
+    o = flash_attn.flash_attn_func(qq, qq, qq)
+    assert torch.isfinite(o).all()
+    print(f"[entry] ① 外部 flash-attn {flash_attn.__version__} 实跑通过 {tuple(o.shape)}", flush=True)
+except Exception as e:
+    print(f"[entry] ① 外部 flash-attn 不可用: {type(e).__name__}: {str(e)[:90]}", flush=True)
+# ② torch 自带 SDPA 的 flash 内核(torch 2.6 的 SDPA 里就含 FlashAttention-2)
+try:
+    from torch.nn.attention import SDPBackend, sdpa_kernel
+    with sdpa_kernel(SDPBackend.FLASH_ATTENTION):
+        o2 = torch.nn.functional.scaled_dot_product_attention(q, q, q)
+    assert torch.isfinite(o2).all()
+    print(f"[entry] ② torch SDPA flash 内核实跑通过 {tuple(o2.shape)}", flush=True)
+except Exception as e:
+    print(f"[entry] ② torch SDPA flash 内核不可用: {type(e).__name__}: {str(e)[:90]}", flush=True)
+
+# ---- ③ 带 mask 的注意力(这一条 2026-08-03 吃过大亏)
+# HunyuanVideo-1.5(Qwen2.5-VL)与 LTX-2(Gemma3)的文本编码器会把 padding mask
+# 一路传进 attention,而 flash-attn 2 内核**不接受 attn_mask**,直接抛
+# `ValueError: attn_mask is not supported for flash-attn 2.`。
+# 上一轮这两个作业各自下完 54GB/144GB 权重、跑到第一条才炸。这里 1 秒钟就能看出来。
+try:
+    m = torch.ones(1, 1, 64, 64, device="cuda", dtype=torch.bool)
+    o3 = torch.nn.functional.scaled_dot_product_attention(q, q, q, attn_mask=m)
+    assert torch.isfinite(o3).all()
+    print(f"[entry] ③ 带 mask 的 SDPA 实跑通过 {tuple(o3.shape)}", flush=True)
+except Exception as e:
+    print(f"[entry] ③ 带 mask 的 SDPA 不可用: {type(e).__name__}: {str(e)[:90]}", flush=True)
+if want == "flash":
+    print("[entry] ⚠️ 本作业声明 flash 后端。若该模型的文本编码器会传 attn_mask"
+          "(HunyuanVideo-1.5 / LTX-2 就会),生成会抛 "
+          "`attn_mask is not supported for flash-attn 2.` —— 这类模型的规格里"
+          "必须写 attn_backend='native'。", flush=True)
+
+print(f"[entry] import 自检通过 (torch {torch.__version__})", flush=True)
+PYSELF
+if [[ "${CMP_SELFTEST_ONLY:-0}" == "1" ]]; then
+  echo "[entry] CMP_SELFTEST_ONLY=1,自检完毕提前退出(不下权重)"; exit 0
+fi
+
+# ---- 权重:优先用**挂载的 OBS 缓存**,没挂载才从 hf-mirror 下
+# 上一轮 canary 已经把权重同步到 OBS 了(hunyuan 54.2GB / LTX-2 143.7GB)。
+# 重跑时挂回来,省掉 53~67 分钟的下载。挂载点由 submit 指到 /cache(7.8TB),
+# **不能落 /home/ma-user** —— 那是 300GB 且节点级共享,144GB 进去就危险。
+MOUNT="${CMP_MODEL_MOUNT:-}"
+if [[ -n "$MOUNT" ]]; then
+  echo "[entry] 用挂载的权重缓存:$MOUNT"
+  if [[ ! -f "$MOUNT/model_index.json" ]]; then
+    echo "[entry] FATAL 挂载点里没有 model_index.json,挂错前缀了:$MOUNT"; ls -la "$MOUNT" | head -20; exit 8
+  fi
+  # 验收:挂载不是下载,平台同步中断不会报错,必须自己核字节数
+  GOT=$(du -sb "$MOUNT" | cut -f1)
+  WANT=$(python3 -c "print(int(float('${CMP_WEIGHTS_GB:-0}')*1e9*0.95))")
+  echo "[entry] 挂载权重 $((GOT/1000000000))GB,下限 $((WANT/1000000000))GB(规格 ${CMP_WEIGHTS_GB:-?}GB 的 95%)"
+  if [[ "$GOT" -lt "$WANT" ]]; then
+    echo "[entry] FATAL 挂载的权重不完整,拒绝往下跑"; exit 8
+  fi
+  export CMP_MODEL_DIR="$MOUNT"
+  export CMP_CACHE_WEIGHTS=0          # 已经在 OBS 了,不要再复制回去
+  echo "[entry] 权重验收通过,跳过下载"
+else
+python3 - <<'PY'
+import os, time
+from huggingface_hub import snapshot_download, HfApi
+REPO = os.environ.get("CMP_MODEL_REPO", "Wan-AI/Wan2.2-TI2V-5B-Diffusers")
+LOCAL = os.environ["CMP_MODEL_DIR"]
+# ⚠️ allow_patterns:有的仓整仓远大于 diffusers 布局真正需要的部分。
+# LTX-2 整仓 314.35GB,其中 169.66GB 是根目录的 ComfyUI 单文件权重
+# (ltx-2-19b-{dev,distilled,dev-fp8,distilled-fp8,dev-fp4}.safetensors),
+# diffusers 一个都不读。不设白名单就是下 314GB。
+import fnmatch
+_ap = os.environ.get("CMP_ALLOW_PATTERNS", "").strip()
+ALLOW = [x for x in _ap.split("|") if x] or None
+if ALLOW:
+    print(f"[entry] 定向下载,白名单 {ALLOW}", flush=True)
+
+def retried(fn, what, attempts=8):
+    for i in range(attempts):
+        try:
+            return fn()
+        except Exception as e:
+            if i == attempts - 1: raise
+            w = min(60, 5 * 2 ** i)
+            print(f"[entry] {what} 第 {i+1} 次失败({type(e).__name__}),{w}s 后续传重试", flush=True)
+            time.sleep(w)
+
+exp = retried(lambda: {f.rfilename: (f.size or 0) for f in
+                       HfApi(endpoint=os.environ["HF_ENDPOINT"]).model_info(
+                           REPO, files_metadata=True).siblings}, "取文件清单")
+if ALLOW:
+    n0, g0 = len(exp), sum(exp.values()) / 1e9
+    exp = {k: v for k, v in exp.items() if any(fnmatch.fnmatch(k, p) for p in ALLOW)}
+    print(f"[entry] 白名单过滤:{n0} 个文件 / {g0:.1f}GB "
+          f"-> {len(exp)} 个 / {sum(exp.values())/1e9:.1f}GB", flush=True)
+    if not exp:
+        raise SystemExit("[entry] FATAL 白名单把文件全过滤掉了,模式写错了")
+
+def missing():
+    bad = []
+    for n, s in exp.items():
+        p = os.path.join(LOCAL, n)
+        if not os.path.exists(p) or (s and os.path.getsize(p) != s):
+            bad.append(n)
+    return bad
+
+t = time.time()
+for attempt in range(8):
+    retried(lambda: snapshot_download(REPO, local_dir=LOCAL, max_workers=4,
+                                      allow_patterns=ALLOW), "权重")
+    bad = missing()
+    if not bad: break
+    print(f"[entry] 验收第 {attempt+1} 轮:{len(bad)}/{len(exp)} 个文件不齐,例如 {bad[:2]}", flush=True)
+    time.sleep(10)
+else:
+    raise SystemExit(f"[entry] FATAL 权重始终不完整,缺 {missing()[:5]}")
+tot = sum(exp.values())
+print(f"[entry] 权重就位并验收通过 {time.time()-t:.0f}s "
+      f"({len(exp)} 个文件 / {tot/1e9:.1f}GB)", flush=True)
+PY
+fi
+# set -u 下引用未设置的变量会直接退出,连 `|| true` 都救不回来,所以给默认值
+du -sh "${CMP_MODEL_DIR:-/nonexistent}" 2>/dev/null || true
+
+# ---- 分支:双臂训练(uniform vs weighted)。latent 缓存随包带,云上不跑 VAE。
+if [[ "${CMP_TASK:-gen}" == "train" ]]; then
+  echo "[entry] ==== CMP_TASK=train:臂 ${CMP_TRAIN_ARM:-weighted}"
+  # latent 缓存(90 条,89MB)随包带 —— 云上**不跑 VAE**,预处理一次做完复用
+  if [[ ! -d "$WORK/latents" ]]; then
+    echo "[entry] 从 HF 拉 latent 缓存"
+    python3 - <<PY
+import tarfile
+from huggingface_hub import hf_hub_download
+p = hf_hub_download(repo_id="${CMP_CODE_REPO}", repo_type="dataset",
+                    filename="latents.tar.gz", local_dir="/tmp/lat")
+with tarfile.open(p) as t: t.extractall("${WORK}")
+print("[entry] latent 解包完成", flush=True)
+PY
+  fi
+  NL=$(ls "$WORK/latents"/*.npz 2>/dev/null | wc -l)
+  echo "[entry] latent 缓存 $NL 条"
+  [[ "$NL" -ge 80 ]] || { echo "[entry] FATAL latent 只有 $NL 条,不完整"; exit 30; }
+  pip install "${IDXA[@]}" --progress-bar off peft >/dev/null 2>&1 \
+    && echo "[entry] peft 就位" || { echo "[entry] FATAL peft 装不上"; exit 31; }
+  # ⚠️ 符号约定自检必须先过。写反了模型朝反方向训,loss 照样下降,不会报任何错。
+  python3 -u "$WORK/train_stopmask.py" selftest || {
+    echo "[entry] FATAL 流匹配符号自检未过,拒绝开训"; exit 32; }
+  # ⚠️ 文本嵌入**必须在云上现编**:分词器和文本编码器只有模型目录里有(34GB,不随包带)。
+  # 2026-08-06 之前这一步根本不存在,训练用的是 build_kwargs 里给探针准备的全零占位 ——
+  # 等于"在没有文本的世界里训,拿有文本的世界去测"。T3 那四个 LoRA 就是这么来的。
+  # 提示词表可切换:语言通道臂(lang)用 prompts_lang.json(里面写明了 k),
+  # 其余臂用 prompts.json(base,过泄漏扫描)。**这是 lang 与对照臂唯一的差**。
+  PROMPTS="$WORK/${CMP_TRAIN_PROMPTS:-prompts.json}"
+  [[ -f "$PROMPTS" ]] || { echo "[entry] FATAL 提示词表不存在:$PROMPTS"; exit 34; }
+  echo "[entry] 提示词表 = $(basename "$PROMPTS")  $(python3 -c "
+import json;d=json.load(open('$PROMPTS'));print(len(d),'条');
+import itertools;print('  样例尾部 …'+list(d.values())[0][-70:])")"
+  python3 -u "$WORK/train_stopmask.py" text \
+    --model "$CMP_MODEL_DIR" --out "$WORK" --prompts "$PROMPTS" || {
+    echo "[entry] FATAL 文本嵌入没编出来,拒绝开训(不许退回全零占位)"; exit 34; }
+  TOUT="$OUT/train"
+  set +e
+  python3 -u "$WORK/train_stopmask.py" train --arm "${CMP_TRAIN_ARM:-weighted}" \
+    --model "$CMP_MODEL_DIR" --out "$WORK" --layers "$WORK/phase_layers" \
+    --manifest "$WORK/train_manifest.json" --prompts "$PROMPTS" \
+    --kvals "$WORK/kvals.json" --sigma-bias "${CMP_TRAIN_SIGMA_BIAS:-uniform}" \
+    --steps "${CMP_TRAIN_STEPS:-3000}" --lr "${CMP_TRAIN_LR:-1e-4}" \
+    --rank "${CMP_TRAIN_RANK:-32}" --seed "${CMP_TRAIN_SEED:-0}" 2>&1 \
+    | grep -a --line-buffered -vE "^\s*$|it/s\]"
+  TRC=${PIPESTATUS[0]}
+  set -e
+  echo "[entry] 训练退出码 = $TRC"
+  cp -r "$WORK/lora_${CMP_TRAIN_ARM:-weighted}" "$OUT/" 2>/dev/null || true
+  cp "$WORK"/loss_*.json "$WORK"/prompt_index.json "$WORK"/cond_proj_*.safetensors "$OUT/" 2>/dev/null || true
+  N=$(find "$OUT" -name '*.safetensors' | wc -l)
+  echo "[entry] LoRA 权重 $N 个"
+  [[ "$TRC" -eq 0 && "$N" -gt 0 ]] || { echo "[entry] FATAL 训练失败(码 $TRC,权重 $N)"; exit 33; }
+  echo "[entry] DONE"; exit 0
+fi
+
+# ---- 分支:C 实验(因果干预)。到目前为止全是观察(固定视频上跑探针),这是第一个因果实验。
+# 前置(依赖链/权重校验/注意力自检)照旧复用,只换最后一步。
+if [[ "${CMP_TASK:-gen}" == "intervene" ]]; then
+  echo "[entry] ==== CMP_TASK=intervene:因果干预(模式 ${CMP_IV_MODE:-none})"
+  IVOUT="$OUT/iv"; mkdir -p "$IVOUT"
+  ARGS=(--jobs "$WORK/jobs.json" --images "$WORK/images" --out "$IVOUT"
+        --specs "$WORK/model_specs.py" --model "$CMP_MODEL_DIR"
+        --model-key "$CMP_MODEL_KEY" --mode "${CMP_IV_MODE:-none}")
+  [[ -n "${CMP_IV_DIRECTION:-}" ]] && ARGS+=(--direction "$WORK/${CMP_IV_DIRECTION}")
+  [[ -n "${CMP_IV_ALPHAS:-}"    ]] && ARGS+=(--alphas "$CMP_IV_ALPHAS")
+  [[ -n "${CMP_IV_STEPS:-}"     ]] && ARGS+=(--steps "$CMP_IV_STEPS")
+  [[ -n "${CMP_IV_SEEDS:-}"     ]] && ARGS+=(--seeds "$CMP_IV_SEEDS")
+  [[ -n "${CMP_IV_LIMIT:-}"     ]] && ARGS+=(--limit "$CMP_IV_LIMIT")
+  [[ "${CMP_IV_CHECK_NOOP:-0}" == "1" ]] && ARGS+=(--check-noop)
+  set +e
+  python3 -u "$WORK/intervene_gen.py" "${ARGS[@]}" 2>&1 \
+    | grep -a --line-buffered -vE "^\s*$|it/s\]|Loading pipeline"
+  IRC=${PIPESTATUS[0]}
+  set -e
+  echo "[entry] 干预退出码 = $IRC"
+  # 空转自检那一趟不产 mp4,退出码 0 就算过;其余模式必须有产物
+  if [[ "${CMP_IV_CHECK_NOOP:-0}" == "1" ]]; then
+    [[ "$IRC" -eq 0 ]] || { echo "[entry] FATAL 空转自检未过(退出码 $IRC)——"
+                            echo "        挂钩子本身在改东西,或采样里有未固定的随机源。"
+                            echo "        **这一关不过,后面任何干预结果都不可信。**"; exit 13; }
+    echo "[entry] ✅ 空转自检通过"
+  else
+    N=$(find "$IVOUT" -name '*.mp4' | wc -l)
+    echo "[entry] 干预产物 $N 个 mp4"
+    [[ "$IRC" -eq 0 && "$N" -gt 0 ]] || { echo "[entry] FATAL 干预失败(码 $IRC,产物 $N)"; exit 14; }
+  fi
+  echo "[entry] DONE"
+  exit 0
+fi
+
+# ---- 分支:B 实验(DiT 接触探针)。走到这里前置全都跑过了 ——
+# 依赖链、权重逐文件校验、注意力后端实跑,一条都不重写。只把最后一步换掉。
+if [[ "${CMP_TASK:-gen}" == "probe" ]]; then
+  echo "[entry] ==== CMP_TASK=probe:跑 DiT 接触探针,不生成视频"
+  DZ="$WORK/cmp288_dataset.zip"
+  if [[ ! -f "$DZ" ]]; then
+    echo "[entry] 从 HF 拉参考数据集 ${CMP_DATA_REPO}"
+    python3 - <<PY
+from huggingface_hub import hf_hub_download
+import shutil
+p = hf_hub_download(repo_id="${CMP_DATA_REPO}", repo_type="dataset",
+                    filename="cmp288_dataset.zip", local_dir="/tmp/cmpdata")
+shutil.copy(p, "${DZ}")
+print("[entry] 数据集就位", flush=True)
+PY
+  fi
+  # 大小核对:snapshot/hf_hub_download 断线时会把残缺文件当成功返回(权重那边吃过)
+  SZ=$(stat -c %s "$DZ")
+  if [[ "$SZ" -lt 200000000 ]]; then
+    echo "[entry] FATAL 数据集只有 $SZ 字节,不完整(应 ~228MB)"; exit 11
+  fi
+  echo "[entry] 数据集 $((SZ/1000000)) MB"
+  NPZ="$OUT/feats_${CMP_MODEL_KEY}.npz"
+  set +e
+  python3 -u "$WORK/dit_contact_probe.py" extract \
+    --model "$CMP_MODEL_DIR" --zip "$DZ" --n "${CMP_PROBE_N:-40}" --npz "$NPZ" \
+    --phys-labels "$WORK/phys_labels.json" 2>&1 \
+    | grep -a --line-buffered -vE "^\s*$|Loading pipeline|it/s\]|clip_output"
+  PRC=${PIPESTATUS[0]}
+  set -e
+  echo "[entry] 抽特征退出码 = $PRC"
+
+  # ---- 分析也在云上做。特征 npz 有 1.6~2 GB,拉回本地再算是白耗带宽,
+  # 而且下载没完就开跑会读到半个文件(2026-08-06 踩过:BadZipFile)。
+  # 这里直接出结果 JSON(几 KB),本地只回收它。
+  if [[ "$PRC" -eq 0 ]]; then
+    echo "[entry] ---- 装分析依赖并跑探针"
+    pip install "${IDXA[@]}" --progress-bar off scikit-learn scipy >/dev/null 2>&1 \
+      && echo "[entry] scikit-learn/scipy 就位" || echo "[entry] ⚠️ 分析依赖装不上"
+    RES="$OUT/result_${CMP_MODEL_KEY}.json"
+    set +e
+    python3 -u "$WORK/dit_contact_probe.py" probe --npz "$NPZ" --out "$RES" 2>&1 \
+      | grep -a --line-buffered -vE "LinAlgWarning|ill-conditioned|return linalg|ConstantInputWarning|r = spearmanr"
+    ARC=${PIPESTATUS[0]}
+    set -e
+    echo "[entry] 探针分析退出码 = $ARC(2=自检未过,结果仍会落盘)"
+    [[ -s "$RES" ]] && echo "[entry] 结果 $(stat -c %s "$RES") 字节 -> $(basename "$RES")" \
+                    || echo "[entry] ⚠️ 结果 JSON 没落盘"
+
+    # ---- 逐跳 kill test:方法第二件事的生死判据。
+    # 标签是本地从轨迹 npz 的**速度**算好随包带的(容器里没有轨迹)——
+    # 不能就地用位移凑,那会把牛顿摆族 48 个标签标反(中间球位移≈0 但冲量穿过去了)。
+    HRES="$OUT/hop_${CMP_MODEL_KEY}.json"
+    set +e
+    python3 -u "$WORK/hop_probe.py" --npz "$NPZ" --zip "$DZ" \
+      --hop-labels "$WORK/hop_labels.json" --out "$HRES" 2>&1 \
+      | grep -a --line-buffered -vE "LinAlgWarning|ill-conditioned|return linalg|ConstantInputWarning"
+    HRC=${PIPESTATUS[0]}
+    set -e
+    echo "[entry] 逐跳探针退出码 = $HRC"
+    [[ -s "$HRES" ]] && echo "[entry] 逐跳结果 $(stat -c %s "$HRES") 字节" \
+                     || echo "[entry] ⚠️ 逐跳结果没落盘"
+  fi
+  if [[ "${CMP_CACHE_WEIGHTS:-1}" == "1" ]]; then
+    WDST="$OUT/weights/$(basename "$CMP_MODEL_DIR")"
+    echo "[entry] 把权重复制到 outputs 供平台同步到 OBS -> $WDST"
+    mkdir -p "$WDST"; cp -r "$CMP_MODEL_DIR/." "$WDST/" || true
+  fi
+  # 产物门:npz 必须存在且不是空壳。探针失败时留个 0 字节文件比没有更坏。
+  if [[ "$PRC" -ne 0 || ! -s "$NPZ" ]]; then
+    echo "[entry] FATAL 探针失败(退出码 $PRC,npz $(stat -c %s "$NPZ" 2>/dev/null || echo 无))"
+    exit 12
+  fi
+  echo "[entry] 探针产物 $(du -h "$NPZ" | cut -f1)"
+  echo "[entry] DONE"
+  exit 0
+fi
+
+# ---- 分支:统一模型的理解侧探针(同一权重的另一半分支)
+# und_sft 复用同一条分支:环境准备(升 transformers、配平 torchaudio)一模一样,
+# 只有最后跑哪个脚本不同。分成两条分支就得把那套准备抄一遍,迟早漂移。
+if [[ "${CMP_TASK:-gen}" == "understand" || "${CMP_TASK:-gen}" == "und_sft" ]]; then
+  echo "[entry] ==== CMP_TASK=${CMP_TASK}:理解侧(不生成视频)"
+  # 理解侧**不用 diffusers**,可以自由升级 transformers。
+  # cosmos3_omni 这个 model_type 是 4.57.0.dev0 之后才进主干的,容器默认的
+  # <4.58 pin(为迁就 diffusers 0.39)正好把它挡在门外。
+  echo "[entry] 理解侧升级 transformers(不影响生成分支,本作业不加载 diffusers)"
+  pip install "${IDXA[@]}" --progress-bar off -U "transformers>=5.0" >/dev/null 2>&1 || true
+  python3 -c "import transformers;print('[entry] transformers 现在是',transformers.__version__)"
+  python3 -c "
+from transformers.models.auto.configuration_auto import CONFIG_MAPPING_NAMES as M
+assert 'cosmos3_omni' in M, '这个 transformers 仍然不认识 cosmos3_omni'
+print('[entry] cosmos3_omni 已被 transformers 认识 ��')" || {
+    echo '[entry] FATAL transformers 升级后仍不支持 cosmos3_omni'; exit 40; }
+
+  # ⚠️ torchaudio 的 ABI 雷(实测炸过一次,uuid 4562564d):
+  # 本脚本上面把 torch 升到了 2.6.0,但**没升 torchaudio** —— 容器自带的那个是
+  # 按 torch 2.4 编的。transformers 5.x 的 audio_utils.py 里是
+  #     if is_torchaudio_available(): import torchaudio
+  # 判可用只看 spec 找不找得到(包还在,找得到)-> 真去 import -> dlopen
+  # libtorchaudio.so -> undefined symbol at::_ops::fft_irfft -> 整个
+  # `from transformers import AutoProcessor` 炸掉,跟模型一点关系没有。
+  # 先按 torch 版本配对装;配不上就**卸掉**(卸了 is_torchaudio_available() 变
+  # False,那个 import 直接被跳过)。我们只喂图+文,不需要音频。
+  pip install "${IDXA[@]}" --progress-bar off "torchaudio==2.6.0" >/dev/null 2>&1 || true
+  python3 -c "from transformers import AutoProcessor" 2>/dev/null \
+    && echo "[entry] AutoProcessor 可导入(torchaudio 已配平)✅" || {
+      echo "[entry] torchaudio 仍不配平,卸掉它(理解侧不需要音频)"
+      pip uninstall -y torchaudio >/dev/null 2>&1 || true
+      python3 -c "from transformers import AutoProcessor
+print('[entry] AutoProcessor 可导入(torchaudio 已卸)✅')" || {
+        echo '[entry] FATAL 卸掉 torchaudio 后 AutoProcessor 仍导不进来'; exit 41; }; }
+  if [[ "${CMP_TASK}" == "und_sft" ]]; then
+    # ---- E1:整数监督的 LoRA SFT
+    pip install "${IDXA[@]}" --progress-bar off peft >/dev/null 2>&1 \
+      || { echo "[entry] FATAL peft 装不上"; exit 42; }
+    python3 -c "import peft;print('[entry] peft',peft.__version__)"
+    PACK="$WORK/e1_understand_sft"
+    [[ -d "$PACK/images" ]] || { echo "[entry] FATAL 包里没有 e1_understand_sft/images"; exit 43; }
+    echo "[entry] 训练包:$(ls "$PACK"/jobs_*.json | wc -l) 个索引,$(ls "$PACK/images" | wc -l) 张首帧"
+    export CMP_UND_PACK="$PACK" CMP_OUT="$OUT/und_sft"
+    set +e
+    python3 -u "$WORK/train_understand.py" 2>&1 \
+      | grep -a --line-buffered -E "^\[und-sft\]|^\[eval|^  |^====|Traceback|Error|error|^ +File \"|^[A-Za-z_.]+Error"
+    SRC=${PIPESTATUS[0]}
+    set -e
+    echo "[entry] SFT 退出码 = $SRC(21=梯度不通 22=权重没变 23=标签退化 24=模块名不符 25=掩码边界错)"
+    N=$(find "$OUT" -name 'eval_*.json' | wc -l)
+    [[ "$SRC" -eq 0 && "$N" -gt 0 ]] || { echo "[entry] FATAL SFT 失败(码 $SRC,产物 $N)"; exit 44; }
+    echo "[entry] DONE"; exit 0
+  fi
+  export CMP_JOBS="$WORK/jobs.json" CMP_IMAGES="$WORK/images" CMP_OUT="$OUT/understand"
+  set +e
+  python3 -u "$WORK/cosmos3_understand.py" 2>&1 \
+    | grep -a --line-buffered -E "^\[und\]|Traceback|Error|error|^ +File \"|^ +[a-zA-Z_]|^[A-Za-z_.]+Error"
+  URC=${PIPESTATUS[0]}
+  set -e
+  echo "[entry] 理解侧退出码 = $URC(21=可解析率不足)"
+  N=$(find "$OUT" -name 'understand_*.json' | wc -l)
+  [[ "$URC" -eq 0 && "$N" -gt 0 ]] || { echo "[entry] FATAL 理解侧失败(码 $URC,产物 $N)"; exit 39; }
+  echo "[entry] DONE"; exit 0
+fi
+
+# ---- 分支:存在性实验。正确结局在不在模型自己的分布里(不加任何条件)。
+if [[ "${CMP_TASK:-gen}" == "exist" ]]; then
+  echo "[entry] ==== CMP_TASK=exist:存在性实验 N=${CMP_EXIST_N:-16}"
+  NG=$(ls "$WORK/gt"/*.mp4 2>/dev/null | wc -l); NI=$(ls "$WORK/images"/*.png 2>/dev/null | wc -l)
+  echo "[entry] 参考 $NG 条,首帧 $NI 张"
+  [[ "$NG" -gt 0 && "$NI" -gt 0 ]] || { echo "[entry] FATAL 缺参考或首帧"; exit 96; }
+  export CMP_OUT="$OUT/exist" CMP_FLIP_WORK="$WORK"
+  set +e
+  python3 -u "$WORK/existence_probe.py" 2>&1 \
+    | grep -a --line-buffered -E "^\[exist\]|^ +|^判读|Traceback|Error|error|Errno|No such|Module|Import|Cannot|cannot|CUDA out of memory|未知|失败|^[A-Za-z_.]+(Error|Exception)"
+  ERC=${PIPESTATUS[0]}
+  set -e
+  echo "[entry] 存在性实验退出码 = $ERC(95=读数器标定不干净)"
+  N=$(find "$OUT" -name 'exist_*.json' | wc -l)
+  [[ "$ERC" -eq 0 && "$N" -gt 0 ]] || { echo "[entry] FATAL 存在性实验失败(码 $ERC,产物 $N)"; exit 97; }
+  echo "[entry] DONE"; exit 0
+fi
+
+# ---- 分支:相位侵蚀先导。在我们自己的场景上验《两步之内的物理》。
+# 不训练、不注入,只是把同一条件在不同总步数下各生成一遍,量频谱。
+if [[ "${CMP_TASK:-gen}" == "phase" ]]; then
+  echo "[entry] ==== CMP_TASK=phase:相位侵蚀先导(步数扫描 + 频谱)"
+  NG=$(ls "$WORK/gt"/*.mp4 2>/dev/null | wc -l)
+  NI=$(ls "$WORK/images"/*.png 2>/dev/null | wc -l)
+  echo "[entry] 真值 $NG 条,首帧 $NI 张"
+  [[ "$NG" -gt 0 && "$NI" -gt 0 ]] || { echo "[entry] FATAL 缺真值或首帧"; exit 92; }
+  export CMP_OUT="$OUT/phase" CMP_FLIP_WORK="$WORK"
+  set +e
+  python3 -u "$WORK/phase_erosion_probe.py" 2>&1 \
+    | grep -a --line-buffered -E "^\[phase\]|^ +|^曲线|^论文|^步数|^去噪步|Traceback|Error|error|Errno|No such|Module|Import|Cannot|cannot|CUDA out of memory|未知|失败|FATAL|^[A-Za-z_.]+(Error|Exception)"
+  PRC=${PIPESTATUS[0]}
+  set -e
+  echo "[entry] 相位先导退出码 = $PRC(91=latent 形状不一致)"
+  N=$(find "$OUT" -name 'phase_probe.json' | wc -l)
+  [[ "$PRC" -eq 0 && "$N" -gt 0 ]] || { echo "[entry] FATAL 相位先导失败(码 $PRC,产物 $N)"; exit 93; }
+  echo "[entry] DONE"; exit 0
+fi
+
+# ---- 分支:隐变量剂量包的翻转测试。六臂同题,loss 判不了生死,只有对象级翻转能。
+if [[ "${CMP_TASK:-gen}" == "hdflip" ]]; then
+  ARM="${CMP_FLIP_ARM:-base}"
+  echo "[entry] ==== CMP_TASK=hdflip:翻转测试 臂=$ARM"
+  [[ -f "$WORK/flip_jobs.json" ]] || { echo "[entry] FATAL 缺 flip_jobs.json"; exit 81; }
+  NI=$(ls "$WORK/images"/*.png 2>/dev/null | wc -l)
+  echo "[entry] 首帧 $NI 张"
+  if [[ "$ARM" != "base" ]]; then
+    [[ -d "$WORK/lora_$ARM" ]] || { echo "[entry] FATAL 缺 lora_$ARM"; exit 82; }
+    echo "[entry] LoRA 目录 lora_$ARM:$(ls "$WORK/lora_$ARM" | tr '\n' ' ')"
+  fi
+  pip install "${IDXA[@]}" --progress-bar off peft >/dev/null 2>&1 || true
+  export CMP_OUT="$OUT/hdflip" CMP_FLIP_WORK="$WORK"
+  set +e
+  # ⚠️ 过滤器要**放得够宽**。上一轮 Python 一个字都没露出来,排查全靠猜 ——
+  # 少了 Errno / No such file / Module / Import 这些常见开头。
+  python3 -u "$WORK/hd_flip_gen.py" 2>&1 \
+    | grep -a --line-buffered -E "^\[flip\]|^ +|Traceback|Error|error|Errno|No such|Module|Import|Cannot|cannot|CUDA out of memory|未知|失败|FATAL|^[A-Za-z_.]+(Error|Exception)"
+  FRC=${PIPESTATUS[0]}
+  set -e
+  echo "[entry] 翻转测试退出码 = $FRC(71=缺LoRA 72=权重没变 73=缺提示 74=条件相同)"
+  N=$(find "$OUT" -name 'hdflip_*.json' | wc -l)
+  [[ "$FRC" -eq 0 && "$N" -gt 0 ]] || { echo "[entry] FATAL 翻转测试失败(码 $FRC,产物 $N)"; exit 83; }
+  echo "[entry] DONE"; exit 0
+fi
+
+# ---- 分支:VACE 翻转探针。把接触时间表渲成控制视频,走**被预训练过**的端口。
+# 目的只有一个:把"比特率太低(0.64%)"与"走错了口"这两个竞争解释分开。
+# 零训练 —— VACE 本来就该听控制视频。
+if [[ "${CMP_TASK:-gen}" == "vaceflip" ]]; then
+  echo "[entry] ==== CMP_TASK=vaceflip:VACE 控制视频翻转探针(不训练)"
+  NC=$(ls "$WORK/vace_flip_pack/control"/*.mp4 2>/dev/null | wc -l)
+  NI=$(ls "$WORK/vace_flip_pack/images"/*.png 2>/dev/null | wc -l)
+  echo "[entry] 控制视频 $NC 条,首帧 $NI 张"
+  [[ "$NC" -gt 0 && "$NI" -gt 0 ]] || { echo "[entry] FATAL 包里没有控制视频/首帧"; exit 62; }
+  export CMP_VACE_PACK="$WORK/vace_flip_pack" CMP_OUT="$OUT/vaceflip"
+  set +e
+  python3 -u "$WORK/vace_flip_gen.py" 2>&1 \
+    | grep -a --line-buffered -E "^\[vace\]|^ |Traceback|Error|error|CUDA out of memory|^[A-Za-z_.]+Error"
+  VRC=${PIPESTATUS[0]}
+  set -e
+  echo "[entry] VACE 探针退出码 = $VRC(61=端口没接上)"
+  N=$(find "$OUT" -name 'vaceflip_*.json' | wc -l)
+  [[ "$VRC" -eq 0 && "$N" -gt 0 ]] || { echo "[entry] FATAL VACE 探针失败(码 $VRC,产物 $N)"; exit 63; }
+  echo "[entry] DONE"; exit 0
+fi
+
+# ---- 分支:渲染泄漏 σ 扫描。把真值 latent 在第 k 步注进去,量物理还剩多少。
+if [[ "${CMP_TASK:-gen}" == "leak" ]]; then
+  echo "[entry] ==== CMP_TASK=leak:渲染泄漏 σ 扫描(注入步 ${CMP_LEAK_STEPS:-默认})"
+  NR=$(ls "$WORK/refs"/*.mp4 2>/dev/null | wc -l)
+  echo "[entry] 真值视频 $NR 条"
+  [[ "$NR" -gt 0 ]] || { echo "[entry] FATAL 包里没有 refs/*.mp4,泄漏实验没有输入"; exit 36; }
+  export CMP_JOBS="$WORK/jobs.json" CMP_IMAGES="$WORK/images" \
+         CMP_REFS="$WORK/refs" CMP_OUT="$OUT/leak" CMP_SPECS="$WORK/model_specs.py"
+  set +e
+  python3 -u "$WORK/cmp_leak_gen.py" 2>&1 \
+    | grep -a --line-buffered -E "^\[leak\]|Traceback|Error|error|CUDA out of memory|^ +File \"|^ +[a-zA-Z_]|^[A-Za-z_.]+Error"
+  LRC=${PIPESTATUS[0]}
+  set -e
+  echo "[entry] 泄漏脚本退出码 = $LRC(13=注入没生效 14=σ 方向反了)"
+  N=$(find "$OUT" -name '*.mp4' | wc -l)
+  echo "[entry] 产物 $N 个 mp4"
+  [[ "$LRC" -eq 0 && "$N" -gt 0 ]] || { echo "[entry] FATAL 泄漏实验失败(码 $LRC,产物 $N)"; exit 37; }
+  echo "[entry] DONE"; exit 0
+fi
+
+# ---- 生成
+export CMP_JOBS="$WORK/jobs.json" CMP_IMAGES="$WORK/images" CMP_OUT="$OUT/gen"
+export CMP_SPECS="$WORK/model_specs.py"
+# ---- 评测臂:CMP_LORA_ARM 给臂名(uniform_s0 / weighted_s1 / …),空=跑未微调的基座。
+# 合并由 lora_merge.py 做,**不走 peft**:T2 那 4 个作业就是被 peft 包装改掉返回类型弄死的。
+# 合并不生效会抛异常,不会静默跑一个没挂 LoRA 的模型冒充"微调后"。
+if [[ -n "${CMP_LORA_ARM:-}" ]]; then
+  export CMP_LORA="$WORK/lora/${CMP_LORA_ARM}"
+  if [[ ! -f "$CMP_LORA/adapter_model.safetensors" ]]; then
+    echo "[entry] FATAL 找不到 LoRA:$CMP_LORA"; ls -R "$WORK/lora" 2>/dev/null | head -20; exit 35
+  fi
+  echo "[entry] 评测臂 = $CMP_LORA_ARM  ($(du -h "$CMP_LORA/adapter_model.safetensors" | cut -f1))"
+  # 相位条件自动探测:包里有该臂的 cond_proj 就必须连图层一起挂;缺图层 = FATAL,
+  # 不许静默跑成"只有 LoRA 没有��件"的半吊子。
+  if [[ -f "$WORK/cond_proj/${CMP_LORA_ARM}.safetensors" ]]; then
+    [[ -d "$WORK/layers" ]] || { echo "[entry] FATAL 有 cond_proj 没有 layers/ 目录"; exit 38; }
+    export CMP_COND_PROJ="$WORK/cond_proj/${CMP_LORA_ARM}.safetensors"
+    export CMP_PHASE_DIR="$WORK/layers"
+    echo "[entry] 相位条件已启用:$CMP_COND_PROJ + $(ls "$WORK/layers" | wc -l) 份图层"
+  else
+    echo "[entry] 无 cond_proj(纯 LoRA 臂)"
+  fi
+else
+  echo "[entry] 评测臂 = base(未微调基座)"
+fi
+# 流场输运自动探测(与 LoRA/相位条件独立;flows/ 在包里就启用)
+if [[ -d "$WORK/flows" ]]; then
+  export CMP_FLOW_DIR="$WORK/flows"
+  echo "[entry] 流场输运已启用:$(ls "$WORK/flows" | wc -l) 份流场(模式 ${CMP_FLOW_MODE:-init})"
+fi
+# 管道里 grep 会把 python 的退出码吃掉(pipefail 也只看最后一个非零),
+# 所以用 PIPESTATUS 单独取出来显式报告 —— 否则 python 崩了日志里只是"少了几个 mp4"
+set +e
+# ⚠️ 过滤器必须留住**缩进的调用栈行**(`  File "...", line N, in fn`)。
+# 原来的 `^\[gen\]|Traceback|Error` 只留了首行和末行,中间调用栈全被吃掉 ——
+# 结果 OOM 只看得到"要分配 23 GiB",看不到是谁分配的,白白多跑了两轮
+# (2026-08-03 HunyuanVideo-1.5)。
+# ⚠️ `--line-buffered` 不能省。grep 的输出不是 tty 时按块缓冲(4KB),
+# 整个生成过程的 [gen] 进度会攒着不吐,要等作业结束才一次性出现 ——
+# 对 hunyuan/wan21 那种几小时的作业,等于全程看不见进度,也判断不了是慢还是卡死
+# (2026-08-03 实测:跑了 30 分钟的作业日志停在 `du -sh` 那一行)。
+python3 -u "$WORK/cmp_multimodel_gen.py" 2>&1 \
+  | grep -a --line-buffered -E "^\[gen\]|Traceback|Error|error|CUDA out of memory|^ +File \"|^ +[a-zA-Z_]|^[A-Za-z_.]+Error"
+GEN_RC=${PIPESTATUS[0]}
+set -e
+echo "[entry] 生成脚本退出码 = $GEN_RC"
+
+# ---- 把权重同步到 OBS(下次作业挂载复用,不用再从 hf-mirror 下)
+# 写进 outputs 目录,平台会同步到 --output-root。CMP_CACHE_WEIGHTS=0 可关掉。
+if [[ "${CMP_CACHE_WEIGHTS:-1}" == "1" ]]; then
+  WDST="$OUT/weights/$(basename "$CMP_MODEL_DIR")"
+  echo "[entry] 把权重复制到 outputs 供平台同步到 OBS -> $WDST"
+  mkdir -p "$WDST"
+  t1=$SECONDS
+  cp -r "$CMP_MODEL_DIR/." "$WDST/" && echo "[entry] 权重复制用时 $((SECONDS-t1))s,$(du -sh "$WDST" | cut -f1)"
+fi
+
+N=$(find "$OUT" -name '*.mp4' | wc -l)
+echo "[entry] 产物 $N 个 mp4"
+if [[ "$GEN_RC" -ne 0 || "$N" -eq 0 ]]; then
+  echo "[entry] FATAL 生成失败(退出码 $GEN_RC,产物 $N)"; exit 9
+fi
+echo "[entry] DONE"