Download code/README.md from Sirenna0796/depth: direct link, hf CLI and curl.
- Browser
- Download file 5.38 kB
-
https://huggingface.co/datasets/Sirenna0796/depth/resolve/main/code/README.md
- Command line
-
hf download hf://datasets/Sirenna0796/depth/code/README.md
-
curl -L -o README.md https://huggingface.co/datasets/Sirenna0796/depth/resolve/main/code/README.md
视频深度:Depth Anything V2
精简版提供视频逐帧深度推理、原分辨率 .npy、帧对应表和预览视频;可选逐帧真实内参与 ARKit 重力对齐坡度。默认使用 Depth Anything V2 Metric VKITTI Small 权重和 518 输入尺寸。不包含分割、cost、服务器配置或原始传感器数据。
下载与运行
建议 Python 3.10+。先按运行机器安装匹配的 PyTorch / torchvision(GPU 机器需要 CUDA 版本),再安装其余依赖。
hf download Sirenna0796/depth --repo-type dataset --include "code/*" --local-dir depth-repo
cd depth-repo/code
pip install -r requirements.txt
python infer.py --video /path/to/wide.mp4 --frames-csv /path/to/frames.csv --out outputs/005
首次运行自动从官方 HF 模型仓库下载约 95 MB 权重。已有权重时可加 --checkpoint /path/to/depth_anything_v2_metric_vkitti_vits.pth。有 CUDA 自动使用 GPU,否则使用 CPU。
先处理两帧试用:
python infer.py --video wide.mp4 --frames-csv frames.csv --limit 2 --out outputs/trial
--frames-csv 可省略;提供时必须含按顺序从 0 开始的 frame_idx 和以秒为单位的 stamp。每个视频帧独立推理,关键帧标记不用于跳帧。输出目录应为空。CSV 原字段会保留;导出的时间戳优先使用原 stamp。预览视频按输入名义 FPS 播放,精确时间以 CSV 为准。
输出与读取
outputs/005/
depth/frame000000.npy ...
frames.csv
run.json
depth.mp4
preview.mp4
深度数组是原视频尺寸的 float32 [H,W],数值为模型预测的米。预览固定映射 0–50 米到 TURBO 色图,超出范围仅在显示时截断;原始数组不截断。预览为 MPEG-4 MP4,长边缩小以节约空间。如需网页兼容的 H.264,可使用 FFmpeg:
ffmpeg -i outputs/005/preview.mp4 -c:v libx264 -pix_fmt yuv420p -movflags +faststart outputs/005/preview_h264.mp4
import numpy as np
depth = np.load('outputs/005/depth/frame000042.npy')
print(depth.shape, depth.dtype)
print('中心像素深度(预测米):', depth[depth.shape[0] // 2, depth.shape[1] // 2])
要直接读取已发布的结果:
from huggingface_hub import hf_hub_download
import numpy as np
path = hf_hub_download('Sirenna0796/depth',
'newdata/004/depth/frame000042.npy', repo_type='dataset')
depth = np.load(path)
单目模型的米制输出是预测值,不是 LiDAR 实测;RGB 深度推理无需相机内参。内参用于深度后的几何计算,不会自动校准模型深度尺度。本版不进行 LiDAR 配准。
加入逐帧真实内参
针对前面提供的 camera_intrinsics.csv,提取与原始视频分辨率对应的 native_*_px 字段:
python prepare_geometry.py --intrinsics camera_intrinsics.csv --out geometry.csv
python infer.py --video wide.mp4 --frames-csv frames.csv --geometry-csv geometry.csv --out outputs/intrinsics
此模式使用真实内参反投影,以假定的相机 -Y 为向上方向,输出 terrain/frameXXXXXX.npz,含 slope_degrees_proxy 和 valid。坡度仍为代理量。
加入 ARKit 重力对齐
使用同一序列的原始文件,转换器会跳过 CSV 的 # 注释行、核对帧时间与跟踪状态,并归一化四元数:
python prepare_geometry.py --intrinsics camera_intrinsics.csv --poses arkit_pose.csv --alignment frame_alignment.csv --parameters camera_parameters.json --out geometry_arkit.csv
python infer.py --video wide.mp4 --frames-csv frames.csv --geometry-csv geometry_arkit.csv --out outputs/arkit
适用约定为:相机位姿 T_world_camera,世界坐标 Y 向上且按重力对齐,导出的相机坐标已经是 OpenCV RDF(右、下、前)。向上方向使用 R_world_camera.T @ [0,1,0],不要重复执行 ARKit 原生相机轴转换。转换器不导出世界位置。
此模式输出 slope_degrees 与 valid,坡度有重力参考。预览变为 RGB / 深度 / 坡度三栏。局部法向来自 21 像素窗口、sigma=4 的平滑反投影点云;无效及边界区域由 valid 标出。这些坡度仍是模型深度推导的估计,深度尺度未实测验证。
geometry.csv 的格式为:
frame_idx,width,height,fx,fy,cx,cy
0,1920,1080,1265.0327,1265.0327,963.0861,547.5121
ARKit 模式额外包含 stamp,up_x,up_y,up_z。每行对应一个视频帧,内参分辨率必须与视频匹配。上述转换器默认取原分辨率内参;若视频已经缩放或裁剪,需要按实际像素变换生成匹配的 geometry CSV。不同序列的参数不能混用。
读取坡度:
import numpy as np
with np.load('outputs/arkit/terrain/frame000042.npz') as data:
slope = data['slope_degrees'].astype(np.float32)
valid = data['valid']
print('有效像素坡度中位数:', np.median(slope[valid]))
来源
depth_anything_v2/ 保留项目当前使用的官方 metric 模型源码,见 DepthAnything/Depth-Anything-V2。Small 模型权重来自 官方 VKITTI Small 仓库。上游 Apache-2.0 许可保留于 LICENSE.depth-anything-v2,源码内已有的版权声明保持原样。