Blame for code/README.md

# 视频深度：Depth Anything V2

精简版提供视频逐帧深度推理、原分辨率 `.npy`、帧对应表和预览视频；可选逐帧真实内参与 ARKit 重力对齐坡度。默认使用 **Depth Anything V2 Metric VKITTI Small** 权重和 518 输入尺寸。不包含分割、cost、服务器配置或原始传感器数据。

## 下载与运行

建议 Python 3.10+。先按运行机器安装匹配的 PyTorch / torchvision（GPU 机器需要 CUDA 版本），再安装其余依赖。

```bash
hf download Sirenna0796/depth --repo-type dataset --include "code/*" --local-dir depth-repo
cd depth-repo/code
pip install -r requirements.txt
python infer.py --video /path/to/wide.mp4 --frames-csv /path/to/frames.csv --out outputs/005
```

首次运行自动从官方 HF 模型仓库下载约 95 MB 权重。已有权重时可加 `--checkpoint /path/to/depth_anything_v2_metric_vkitti_vits.pth`。有 CUDA 自动使用 GPU，否则使用 CPU。

先处理两帧试用：

```bash
python infer.py --video wide.mp4 --frames-csv frames.csv --limit 2 --out outputs/trial
```

`--frames-csv` 可省略；提供时必须含按顺序从 0 开始的 `frame_idx` 和以秒为单位的 `stamp`。每个视频帧独立推理，关键帧标记不用于跳帧。输出目录应为空。CSV 原字段会保留；导出的时间戳优先使用原 `stamp`。预览视频按输入名义 FPS 播放，精确时间以 CSV 为准。

## 输出与读取

```text
outputs/005/
  depth/frame000000.npy ...
  frames.csv
  run.json
  depth.mp4
  preview.mp4
```

深度数组是原视频尺寸的 `float32 [H,W]`，数值为模型预测的米。预览固定映射 0–50 米到 TURBO 色图，超出范围仅在显示时截断；原始数组不截断。预览为 MPEG-4 MP4，长边缩小以节约空间。如需网页兼容的 H.264，可使用 FFmpeg：

```bash
ffmpeg -i outputs/005/preview.mp4 -c:v libx264 -pix_fmt yuv420p -movflags +faststart outputs/005/preview_h264.mp4
```

```python
import numpy as np

depth = np.load('outputs/005/depth/frame000042.npy')
print(depth.shape, depth.dtype)
print('中心像素深度（预测米）:', depth[depth.shape[0] // 2, depth.shape[1] // 2])
```

要直接读取已发布的结果：

```python
from huggingface_hub import hf_hub_download
import numpy as np

path = hf_hub_download('Sirenna0796/depth',
                      'newdata/004/depth/frame000042.npy', repo_type='dataset')
depth = np.load(path)
```

单目模型的米制输出是预测值，不是 LiDAR 实测；RGB 深度推理无需相机内参。内参用于深度后的几何计算，不会自动校准模型深度尺度。本版不进行 LiDAR 配准。

## 加入逐帧真实内参

针对前面提供的 `camera_intrinsics.csv`，提取与原始视频分辨率对应的 `native_*_px` 字段：

```bash
python prepare_geometry.py --intrinsics camera_intrinsics.csv --out geometry.csv
python infer.py --video wide.mp4 --frames-csv frames.csv --geometry-csv geometry.csv --out outputs/intrinsics
```

此模式使用真实内参反投影，以假定的相机 `-Y` 为向上方向，输出 `terrain/frameXXXXXX.npz`，含 `slope_degrees_proxy` 和 `valid`。坡度仍为代理量。

## 加入 ARKit 重力对齐

使用同一序列的原始文件，转换器会跳过 CSV 的 `#` 注释行、核对帧时间与跟踪状态，并归一化四元数：

```bash
python prepare_geometry.py --intrinsics camera_intrinsics.csv --poses arkit_pose.csv --alignment frame_alignment.csv --parameters camera_parameters.json --out geometry_arkit.csv
python infer.py --video wide.mp4 --frames-csv frames.csv --geometry-csv geometry_arkit.csv --out outputs/arkit
```

适用约定为：相机位姿 `T_world_camera`，世界坐标 Y 向上且按重力对齐，导出的相机坐标已经是 OpenCV RDF（右、下、前）。向上方向使用 `R_world_camera.T @ [0,1,0]`，不要重复执行 ARKit 原生相机轴转换。转换器不导出世界位置。

此模式输出 `slope_degrees` 与 `valid`，坡度有重力参考。预览变为 RGB / 深度 / 坡度三栏。局部法向来自 21 像素窗口、sigma=4 的平滑反投影点云；无效及边界区域由 `valid` 标出。这些坡度仍是模型深度推导的估计，深度尺度未实测验证。

`geometry.csv` 的格式为：

```csv
frame_idx,width,height,fx,fy,cx,cy
0,1920,1080,1265.0327,1265.0327,963.0861,547.5121
```

ARKit 模式额外包含 `stamp,up_x,up_y,up_z`。每行对应一个视频帧，内参分辨率必须与视频匹配。上述转换器默认取原分辨率内参；若视频已经缩放或裁剪，需要按实际像素变换生成匹配的 geometry CSV。不同序列的参数不能混用。

读取坡度：

```python
import numpy as np

with np.load('outputs/arkit/terrain/frame000042.npz') as data:
    slope = data['slope_degrees'].astype(np.float32)
    valid = data['valid']
    print('有效像素坡度中位数:', np.median(slope[valid]))
```

## 来源

`depth_anything_v2/` 保留项目当前使用的官方 metric 模型源码，见 [DepthAnything/Depth-Anything-V2](https://github.com/DepthAnything/Depth-Anything-V2/tree/main/metric_depth)。Small 模型权重来自 [官方 VKITTI Small 仓库](https://huggingface.co/depth-anything/Depth-Anything-V2-Metric-VKITTI-Small)。上游 Apache-2.0 许可保留于 `LICENSE.depth-anything-v2`，源码内已有的版权声明保持原样。