xiaomoguhzz's picture
Add files using upload-large-folder tool
eba0a14 verified
# ProxyCLIP TPAMI 环境配置指南
本文件夹包含项目一键迁移所需的所有配置文件和脚本。
## 📁 文件列表
| 文件 | 用途 |
|------|------|
| `setup_env.sh` | 一键配置 Python 环境 |
| `requirements.txt` | pip 依赖列表 |
| `pyproject.toml` | uv 项目配置 |
| `environment.yml` | conda 环境配置 |
| `install_local_packages.sh` | 安装本地包脚本 |
| `upload_to_hf.py` | 上传权重/数据集到 HuggingFace |
| `download_from_hf.py` | 从 HuggingFace 下载权重/数据集 |
| `update_paths.py` | 批量更新配置文件路径 |
| `DATASETS_AND_WEIGHTS.md` | 数据集和权重详细说明 |
## 🚀 快速开始
### 方式一:使用 uv 一键配置(推荐)
```bash
cd env_setup
chmod +x setup_env.sh
# 默认配置 (CUDA 11.8, Python 3.10)
./setup_env.sh
# 自定义 CUDA 版本
./setup_env.sh --cuda-version 12.1
# 自定义环境名称
./setup_env.sh --env-name my_env --cuda-version 12.4
```
### 方式二:手动配置
#### 1. 安装 PyTorch
根据你的 CUDA 版本选择:
```bash
# CUDA 11.8
pip install torch==2.0.0 torchvision==0.15.1 --index-url https://download.pytorch.org/whl/cu118
# CUDA 12.1
pip install torch==2.1.0 torchvision==0.16.0 --index-url https://download.pytorch.org/whl/cu121
# CUDA 12.4
pip install torch==2.4.0 torchvision==0.19.0 --index-url https://download.pytorch.org/whl/cu124
```
#### 2. 安装核心依赖
```bash
pip install -r env_setup/requirements.txt
```
#### 3. 安装本地包
```bash
# 安装 clipself (CLIP 修改版)
cd clipself && pip install -e . && cd ..
# 安装 segment_anything
cd segment_anything && pip install -e . && cd ..
# 安装 imagecorruptions (鲁棒性测试)
cd imagecorruptions && pip install -e . && cd ..
```
## 依赖说明
### 核心依赖
| 包名 | 版本 | 用途 |
|------|------|------|
| torch | 2.0.0+ | 深度学习框架 |
| torchvision | 0.15.1+ | 视觉处理 |
| mmcv | 2.1.0 | OpenMMLab 基础库 |
| mmengine | 0.10.4 | OpenMMLab 引擎 |
| mmsegmentation | 1.2.2 | 语义分割框架 |
| timm | 1.0.0+ | 预训练模型 |
| einops | 0.8.0+ | 张量操作 |
| Pillow | 9.4.0+ | 图像处理 |
| opencv-python | 4.8.0+ | 计算机视觉 |
### 本地包
- **clipself**: 修改版 OpenCLIP,支持密集特征提取
- **segment_anything**: Meta SAM 模型
- **imagecorruptions**: 图像损坏模拟,用于鲁棒性测试
## 数据准备
### 数据集目录结构
```
data/
├── ADEChallengeData2016/ # ADE20K
├── VOCdevkit/ # PASCAL VOC
│ └── VOC2012/
├── cityscapes/ # Cityscapes
└── coco_stuff164k/ # COCO-Stuff 164K
```
### 预训练模型
SAM 模型权重放置位置:
```
sam_ckpts/
├── sam_vit_b_01ec64.pth
└── sam_vit_l_0b3195.pth
```
DINOv2 模型会通过 `torch.hub` 自动下载到 `~/.cache/torch/hub/`
## 验证安装
```bash
python -c "
import torch
import mmseg
import open_clip
print(f'PyTorch: {torch.__version__}')
print(f'CUDA: {torch.cuda.is_available()}')
print(f'MMSeg: {mmseg.__version__}')
print('Installation successful!')
"
```
## 运行评估
```bash
# ADE20K
python eval.py --config configs/proxyclip/cfg_ade20k.py
# PASCAL Context 59
python eval.py --config configs/proxyclip/cfg_voc_context59.py
# Cityscapes
python eval.py --config configs/proxyclip/cfg_cityscapes.py
```
## 常见问题
### Q: CUDA 版本不匹配
检查你的 NVIDIA 驱动支持的最高 CUDA 版本:
```bash
nvidia-smi
```
### Q: mmcv 安装失败
尝试使用预编译版本:
```bash
pip install mmcv==2.1.0 -f https://download.openmmlab.com/mmcv/dist/cu118/torch2.0/index.html
```
### Q: 内存不足
减小 batch size 或使用更小的 crop size:
```python
# 在配置文件中修改
slide_crop=224 # 减小 crop size
```
---
## 🔄 完整迁移流程
### 在旧机器上(上传)
```bash
cd env_setup
# 1. 上传权重到 HuggingFace(预览)
python upload_to_hf.py --upload-weights --dry-run
# 2. 确认后实际上传
python upload_to_hf.py --upload-weights
# 3. (可选) 上传数据集
python upload_to_hf.py --upload-datasets
```
### 在新机器上(下载)
```bash
# 1. 克隆项目
git clone <your-repo-url>
cd ProxyCLIP_TPAMI/env_setup
# 2. 配置环境
chmod +x setup_env.sh
./setup_env.sh --cuda-version 11.8 # 根据新机器调整
# 3. 激活环境
source ../.venv_proxyclip_tpami/bin/activate
# 4. 下载权重
python download_from_hf.py --download-weights --weights-dir ../checkpoints
# 5. 下载数据集 (或手动准备)
python download_from_hf.py --download-datasets --datasets-dir /path/to/datasets
# 6. 更新配置文件中的路径
python update_paths.py \
--dataset-root /path/to/datasets \
--checkpoint-root ../checkpoints
# 7. 运行测试
cd ..
python eval.py --config configs/proxyclip/cfg_ade20k.py
```
### HuggingFace 仓库
| 仓库 | 内容 | 地址 |
|------|------|------|
| 权重 | SAM, TinyCLIP, DeCLIP 等 | `xiaomoguhzz/xiaomogu_pami` |
| 数据集 | 标注文件压缩包 (不含图片) | `xiaomoguhzz/xiaomogu_pami_dataset` |
### 数据集说明
HuggingFace 数据集仓库只包含**标注文件**,原始图片需从官方渠道下载。
详见 [DATASETS_AND_WEIGHTS.md](./DATASETS_AND_WEIGHTS.md)