xiaomoguhzz's picture
Add files using upload-large-folder tool
eba0a14 verified

ProxyCLIP TPAMI 环境配置指南

本文件夹包含项目一键迁移所需的所有配置文件和脚本。

📁 文件列表

文件 用途
setup_env.sh 一键配置 Python 环境
requirements.txt pip 依赖列表
pyproject.toml uv 项目配置
environment.yml conda 环境配置
install_local_packages.sh 安装本地包脚本
upload_to_hf.py 上传权重/数据集到 HuggingFace
download_from_hf.py 从 HuggingFace 下载权重/数据集
update_paths.py 批量更新配置文件路径
DATASETS_AND_WEIGHTS.md 数据集和权重详细说明

🚀 快速开始

方式一:使用 uv 一键配置(推荐)

cd env_setup
chmod +x setup_env.sh

# 默认配置 (CUDA 11.8, Python 3.10)
./setup_env.sh

# 自定义 CUDA 版本
./setup_env.sh --cuda-version 12.1

# 自定义环境名称
./setup_env.sh --env-name my_env --cuda-version 12.4

方式二:手动配置

1. 安装 PyTorch

根据你的 CUDA 版本选择:

# CUDA 11.8
pip install torch==2.0.0 torchvision==0.15.1 --index-url https://download.pytorch.org/whl/cu118

# CUDA 12.1
pip install torch==2.1.0 torchvision==0.16.0 --index-url https://download.pytorch.org/whl/cu121

# CUDA 12.4
pip install torch==2.4.0 torchvision==0.19.0 --index-url https://download.pytorch.org/whl/cu124

2. 安装核心依赖

pip install -r env_setup/requirements.txt

3. 安装本地包

# 安装 clipself (CLIP 修改版)
cd clipself && pip install -e . && cd ..

# 安装 segment_anything
cd segment_anything && pip install -e . && cd ..

# 安装 imagecorruptions (鲁棒性测试)
cd imagecorruptions && pip install -e . && cd ..

依赖说明

核心依赖

包名 版本 用途
torch 2.0.0+ 深度学习框架
torchvision 0.15.1+ 视觉处理
mmcv 2.1.0 OpenMMLab 基础库
mmengine 0.10.4 OpenMMLab 引擎
mmsegmentation 1.2.2 语义分割框架
timm 1.0.0+ 预训练模型
einops 0.8.0+ 张量操作
Pillow 9.4.0+ 图像处理
opencv-python 4.8.0+ 计算机视觉

本地包

  • clipself: 修改版 OpenCLIP,支持密集特征提取
  • segment_anything: Meta SAM 模型
  • imagecorruptions: 图像损坏模拟,用于鲁棒性测试

数据准备

数据集目录结构

data/
├── ADEChallengeData2016/      # ADE20K
├── VOCdevkit/                  # PASCAL VOC
│   └── VOC2012/
├── cityscapes/                 # Cityscapes
└── coco_stuff164k/             # COCO-Stuff 164K

预训练模型

SAM 模型权重放置位置:

sam_ckpts/
├── sam_vit_b_01ec64.pth
└── sam_vit_l_0b3195.pth

DINOv2 模型会通过 torch.hub 自动下载到 ~/.cache/torch/hub/

验证安装

python -c "
import torch
import mmseg
import open_clip
print(f'PyTorch: {torch.__version__}')
print(f'CUDA: {torch.cuda.is_available()}')
print(f'MMSeg: {mmseg.__version__}')
print('Installation successful!')
"

运行评估

# ADE20K
python eval.py --config configs/proxyclip/cfg_ade20k.py

# PASCAL Context 59
python eval.py --config configs/proxyclip/cfg_voc_context59.py

# Cityscapes
python eval.py --config configs/proxyclip/cfg_cityscapes.py

常见问题

Q: CUDA 版本不匹配

检查你的 NVIDIA 驱动支持的最高 CUDA 版本:

nvidia-smi

Q: mmcv 安装失败

尝试使用预编译版本:

pip install mmcv==2.1.0 -f https://download.openmmlab.com/mmcv/dist/cu118/torch2.0/index.html

Q: 内存不足

减小 batch size 或使用更小的 crop size:

# 在配置文件中修改
slide_crop=224  # 减小 crop size

🔄 完整迁移流程

在旧机器上(上传)

cd env_setup

# 1. 上传权重到 HuggingFace(预览)
python upload_to_hf.py --upload-weights --dry-run

# 2. 确认后实际上传
python upload_to_hf.py --upload-weights

# 3. (可选) 上传数据集
python upload_to_hf.py --upload-datasets

在新机器上(下载)

# 1. 克隆项目
git clone <your-repo-url>
cd ProxyCLIP_TPAMI/env_setup

# 2. 配置环境
chmod +x setup_env.sh
./setup_env.sh --cuda-version 11.8  # 根据新机器调整

# 3. 激活环境
source ../.venv_proxyclip_tpami/bin/activate

# 4. 下载权重
python download_from_hf.py --download-weights --weights-dir ../checkpoints

# 5. 下载数据集 (或手动准备)
python download_from_hf.py --download-datasets --datasets-dir /path/to/datasets

# 6. 更新配置文件中的路径
python update_paths.py \
    --dataset-root /path/to/datasets \
    --checkpoint-root ../checkpoints

# 7. 运行测试
cd ..
python eval.py --config configs/proxyclip/cfg_ade20k.py

HuggingFace 仓库

仓库 内容 地址
权重 SAM, TinyCLIP, DeCLIP 等 xiaomoguhzz/xiaomogu_pami
数据集 标注文件压缩包 (不含图片) xiaomoguhzz/xiaomogu_pami_dataset

数据集说明

HuggingFace 数据集仓库只包含标注文件,原始图片需从官方渠道下载。

详见 DATASETS_AND_WEIGHTS.md