Upload ltx2_4k_experiments/reports/ltx2_repro_4k_three_stage_4096x2304_report.md with huggingface_hub
Browse files
ltx2_4k_experiments/reports/ltx2_repro_4k_three_stage_4096x2304_report.md
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# LTX-2 复现实验报告
|
| 2 |
+
|
| 3 |
+
- 生成时间：2026-05-21 07:06:58
|
| 4 |
+
- Conda 环境：`ltx2_repro`
|
| 5 |
+
- 仓库路径：`/lustre/fs11/portfolios/nvr/projects/nvr_elm_llm/users/shyang/ltx2`
|
| 6 |
+
- 输出目录：`/lustre/fs11/portfolios/nvr/projects/nvr_elm_llm/users/shyang/ltx2/outputs/ltx2_repro_4k_three_stage_4096x2304`
|
| 7 |
+
- 基准设置：`4096x2304`，`121` 帧，`24` FPS，非蒸馏 pipeline 使用 `30` denoise steps。
|
| 8 |
+
- 默认运行精度/卸载：核心非 LoRA pipeline 使用 `fp8-cast` / `none`；LoRA 相关 pipeline 使用 `none` / `cpu`，避免当前 GPU 架构上的 FP8 LoRA fusion 不兼容。
|
| 9 |
+
|
| 10 |
+
## 涉及模型
|
| 11 |
+
|
| 12 |
+
- `full_checkpoint`：`models/ltx2/LTX-2.3/ltx-2.3-22b-dev.safetensors`（存在）
|
| 13 |
+
- `distilled_checkpoint`：`models/ltx2/LTX-2.3/ltx-2.3-22b-distilled-1.1.safetensors`（存在）
|
| 14 |
+
- `distilled_lora`：`models/ltx2/LTX-2.3/ltx-2.3-22b-distilled-lora-384-1.1.safetensors`（存在）
|
| 15 |
+
- `spatial_upsampler`：`models/ltx2/LTX-2.3/ltx-2.3-spatial-upscaler-x2-1.1.safetensors`（存在）
|
| 16 |
+
- `gemma_root`：`models/ltx2/gemma-3-12b-it-qat-q4_0-unquantized`（存在）
|
| 17 |
+
- `lipdub_lora`：`models/ltx2/LTX-2.3-22b-IC-LoRA-LipDub/ltx-2.3-22b-ic-lora-lipdub-0.9.safetensors`（缺失）
|
| 18 |
+
- `hdr_lora_glob`：`models/ltx2/LTX-2.3-22b-IC-LoRA-HDR/*hdr*.safetensors`（缺失）
|
| 19 |
+
- `hdr_text_embeddings_glob`：`models/ltx2/LTX-2.3-22b-IC-LoRA-HDR/*emb*.safetensors`（缺失）
|
| 20 |
+
|
| 21 |
+
## 排除项
|
| 22 |
+
|
| 23 |
+
按用户要求，camera/style/pose/motion 等控制相关 LoRA 不复现。本次将以下控制 LoRA pipeline 作为排除项：
|
| 24 |
+
- `ic_lora`
|
| 25 |
+
|
| 26 |
+
## Pipeline 结果
|
| 27 |
+
|
| 28 |
+
### TI2VidThreeStagesPipeline
|
| 29 |
+
|
| 30 |
+
- Pipeline：`ti2vid_three_stages_4k`
|
| 31 |
+
- 具体流程：三阶段 T2V/I2V：1/4 分辨率生成，连续两次 spatial upsampler + distilled LoRA 精修到 4K 级目标分辨率。
|
| 32 |
+
- 控制信号：文本 prompt。
|
| 33 |
+
- 成功数量：1/8
|
| 34 |
+
- 平均单视频总时间：838.80 s
|
| 35 |
+
- 平均纯 DiT 时间：620.63 s
|
| 36 |
+
- 平均纯 DiT FPS：0.19 frames/s
|
| 37 |
+
|
| 38 |
+
| Stage | 分辨率 | denoise steps | loop | 平均 DiT 时间(s) | 平均 DiT FPS |
|
| 39 |
+
|---|---:|---:|---|---:|---:|
|
| 40 |
+
| `stage_1_generate` | `1024x576` | `30` | `euler_denoising_loop` | 248.29 | 0.49 |
|
| 41 |
+
| `stage_2_refine` | `2048x1152` | `3` | `euler_denoising_loop` | 35.97 | 3.36 |
|
| 42 |
+
| `stage_3_refine` | `4096x2304` | `3` | `euler_denoising_loop` | 336.36 | 0.36 |
|
| 43 |
+
|
| 44 |
+
| # | 状态 | output video path | 实际视频元数据 | 单视频总时间(s) | 纯 DiT 时间(s) | 纯 DiT FPS | 控制信号摘要 |
|
| 45 |
+
|---:|---|---|---|---:|---:|---:|---|
|
| 46 |
+
| 0 | success | `outputs/ltx2_repro_4k_three_stage_4096x2304/ti2vid_three_stages_4k/ti2vid_three_stages_4k_00.mp4` | 4096x2304, 24.00 FPS, 121 frames | 838.80 | 620.63 | 0.19 | prompt=A close-up tabletop shot of a glass marble rolling across a brushed metal surface, tiny reflections shifting as it passes under soft studio lights. |
|
| 47 |
+
|