| # ProxyCLIP TPAMI 环境配置指南 |
|
|
| 本文件夹包含项目一键迁移所需的所有配置文件和脚本。 |
|
|
| ## 📁 文件列表 |
|
|
| | 文件 | 用途 | |
| |------|------| |
| | `setup_env.sh` | 一键配置 Python 环境 | |
| | `requirements.txt` | pip 依赖列表 | |
| | `pyproject.toml` | uv 项目配置 | |
| | `environment.yml` | conda 环境配置 | |
| | `install_local_packages.sh` | 安装本地包脚本 | |
| | `upload_to_hf.py` | 上传权重/数据集到 HuggingFace | |
| | `download_from_hf.py` | 从 HuggingFace 下载权重/数据集 | |
| | `update_paths.py` | 批量更新配置文件路径 | |
| | `DATASETS_AND_WEIGHTS.md` | 数据集和权重详细说明 | |
|
|
| ## 🚀 快速开始 |
|
|
| ### 方式一:使用 uv 一键配置(推荐) |
|
|
| ```bash |
| cd env_setup |
| chmod +x setup_env.sh |
| |
| # 默认配置 (CUDA 11.8, Python 3.10) |
| ./setup_env.sh |
| |
| # 自定义 CUDA 版本 |
| ./setup_env.sh --cuda-version 12.1 |
| |
| # 自定义环境名称 |
| ./setup_env.sh --env-name my_env --cuda-version 12.4 |
| ``` |
|
|
| ### 方式二:手动配置 |
|
|
| #### 1. 安装 PyTorch |
|
|
| 根据你的 CUDA 版本选择: |
|
|
| ```bash |
| # CUDA 11.8 |
| pip install torch==2.0.0 torchvision==0.15.1 --index-url https://download.pytorch.org/whl/cu118 |
| |
| # CUDA 12.1 |
| pip install torch==2.1.0 torchvision==0.16.0 --index-url https://download.pytorch.org/whl/cu121 |
| |
| # CUDA 12.4 |
| pip install torch==2.4.0 torchvision==0.19.0 --index-url https://download.pytorch.org/whl/cu124 |
| ``` |
|
|
| #### 2. 安装核心依赖 |
|
|
| ```bash |
| pip install -r env_setup/requirements.txt |
| ``` |
|
|
| #### 3. 安装本地包 |
|
|
| ```bash |
| # 安装 clipself (CLIP 修改版) |
| cd clipself && pip install -e . && cd .. |
| |
| # 安装 segment_anything |
| cd segment_anything && pip install -e . && cd .. |
| |
| # 安装 imagecorruptions (鲁棒性测试) |
| cd imagecorruptions && pip install -e . && cd .. |
| ``` |
|
|
| ## 依赖说明 |
|
|
| ### 核心依赖 |
|
|
| | 包名 | 版本 | 用途 | |
| |------|------|------| |
| | torch | 2.0.0+ | 深度学习框架 | |
| | torchvision | 0.15.1+ | 视觉处理 | |
| | mmcv | 2.1.0 | OpenMMLab 基础库 | |
| | mmengine | 0.10.4 | OpenMMLab 引擎 | |
| | mmsegmentation | 1.2.2 | 语义分割框架 | |
| | timm | 1.0.0+ | 预训练模型 | |
| | einops | 0.8.0+ | 张量操作 | |
| | Pillow | 9.4.0+ | 图像处理 | |
| | opencv-python | 4.8.0+ | 计算机视觉 | |
|
|
| ### 本地包 |
|
|
| - **clipself**: 修改版 OpenCLIP,支持密集特征提取 |
| - **segment_anything**: Meta SAM 模型 |
| - **imagecorruptions**: 图像损坏模拟,用于鲁棒性测试 |
| |
| ## 数据准备 |
| |
| ### 数据集目录结构 |
| |
| ``` |
| data/ |
| ├── ADEChallengeData2016/ # ADE20K |
| ├── VOCdevkit/ # PASCAL VOC |
| │ └── VOC2012/ |
| ├── cityscapes/ # Cityscapes |
| └── coco_stuff164k/ # COCO-Stuff 164K |
| ``` |
| |
| ### 预训练模型 |
| |
| SAM 模型权重放置位置: |
| ``` |
| sam_ckpts/ |
| ├── sam_vit_b_01ec64.pth |
| └── sam_vit_l_0b3195.pth |
| ``` |
| |
| DINOv2 模型会通过 `torch.hub` 自动下载到 `~/.cache/torch/hub/` |
| |
| ## 验证安装 |
| |
| ```bash |
| python -c " |
| import torch |
| import mmseg |
| import open_clip |
| print(f'PyTorch: {torch.__version__}') |
| print(f'CUDA: {torch.cuda.is_available()}') |
| print(f'MMSeg: {mmseg.__version__}') |
| print('Installation successful!') |
| " |
| ``` |
| |
| ## 运行评估 |
| |
| ```bash |
| # ADE20K |
| python eval.py --config configs/proxyclip/cfg_ade20k.py |
| |
| # PASCAL Context 59 |
| python eval.py --config configs/proxyclip/cfg_voc_context59.py |
| |
| # Cityscapes |
| python eval.py --config configs/proxyclip/cfg_cityscapes.py |
| ``` |
| |
| ## 常见问题 |
| |
| ### Q: CUDA 版本不匹配 |
| |
| 检查你的 NVIDIA 驱动支持的最高 CUDA 版本: |
| ```bash |
| nvidia-smi |
| ``` |
| |
| ### Q: mmcv 安装失败 |
| |
| 尝试使用预编译版本: |
| ```bash |
| pip install mmcv==2.1.0 -f https://download.openmmlab.com/mmcv/dist/cu118/torch2.0/index.html |
| ``` |
| |
| ### Q: 内存不足 |
| |
| 减小 batch size 或使用更小的 crop size: |
| ```python |
| # 在配置文件中修改 |
| slide_crop=224 # 减小 crop size |
| ``` |
| |
| --- |
| |
| ## 🔄 完整迁移流程 |
| |
| ### 在旧机器上(上传) |
| |
| ```bash |
| cd env_setup |
| |
| # 1. 上传权重到 HuggingFace(预览) |
| python upload_to_hf.py --upload-weights --dry-run |
| |
| # 2. 确认后实际上传 |
| python upload_to_hf.py --upload-weights |
| |
| # 3. (可选) 上传数据集 |
| python upload_to_hf.py --upload-datasets |
| ``` |
| |
| ### 在新机器上(下载) |
| |
| ```bash |
| # 1. 克隆项目 |
| git clone <your-repo-url> |
| cd ProxyCLIP_TPAMI/env_setup |
| |
| # 2. 配置环境 |
| chmod +x setup_env.sh |
| ./setup_env.sh --cuda-version 11.8 # 根据新机器调整 |
| |
| # 3. 激活环境 |
| source ../.venv_proxyclip_tpami/bin/activate |
| |
| # 4. 下载权重 |
| python download_from_hf.py --download-weights --weights-dir ../checkpoints |
| |
| # 5. 下载数据集 (或手动准备) |
| python download_from_hf.py --download-datasets --datasets-dir /path/to/datasets |
| |
| # 6. 更新配置文件中的路径 |
| python update_paths.py \ |
| --dataset-root /path/to/datasets \ |
| --checkpoint-root ../checkpoints |
| |
| # 7. 运行测试 |
| cd .. |
| python eval.py --config configs/proxyclip/cfg_ade20k.py |
| ``` |
| |
| ### HuggingFace 仓库 |
| |
| | 仓库 | 内容 | 地址 | |
| |------|------|------| |
| | 权重 | SAM, TinyCLIP, DeCLIP 等 | `xiaomoguhzz/xiaomogu_pami` | |
| | 数据集 | 标注文件压缩包 (不含图片) | `xiaomoguhzz/xiaomogu_pami_dataset` | |
| |
| ### 数据集说明 |
| |
| HuggingFace 数据集仓库只包含**标注文件**,原始图片需从官方渠道下载。 |
| |
| 详见 [DATASETS_AND_WEIGHTS.md](./DATASETS_AND_WEIGHTS.md) |
| |