Upload code/detection_trt/README.md with huggingface_hub

code/detection_trt/README.md

@@ -0,0 +1,253 @@
+# TRT 加速检测器性能对比实验
+
+本模块用于对比 DeCLIP (csa模式) 和 CLIP (vanilla模式) 在 TensorRT 加速前后的速度和精度。
+
+## 目录结构
+
+```
+detection_trt/
+├── README.md                 # 本文档
+├── install_mmdeploy.sh       # MMDeploy 安装脚本
+├── configs/
+│   ├── __init__.py
+│   ├── fvit_tensorrt_fp16.py # TRT FP16 部署配置
+│   └── custom_modules.py     # 自定义模块注册 (ONNX 导出适配)
+├── convert_model.py          # 模型转换脚本 (PyTorch -> ONNX -> TRT)
+├── benchmark_speed.py        # 速度测试脚本
+├── eval_panoptic.py          # COCO Panoptic 评估脚本
+├── run_all.sh                # 一键运行脚本
+├── engines/                  # TRT 引擎输出目录
+└── results/                  # 评估结果输出目录
+```
+
+## 实验矩阵
+
+| 模型 | Backbone Mode | 推理后端 | 精度 | COCO Panoptic | 速度 |
+|------|---------------|----------|------|---------------|------|
+| CLIP | vanilla | PyTorch FP32 | 测试 | 测试 | 测试 |
+| CLIP | vanilla | PyTorch FP16 | 测试 | 测试 | 测试 |
+| CLIP | vanilla | TRT-FP16 | 测试 | 测试 | 测试 |
+| DeCLIP | csa | PyTorch FP32 | 测试 | 测试 | 测试 |
+| DeCLIP | csa | PyTorch FP16 | 测试 | 测试 | 测试 |
+| DeCLIP | csa | TRT-FP16 | 测试 | 测试 | 测试 |
+
+## 依赖安装
+
+### 1. 基础依赖
+
+```bash
+pip install onnx onnxruntime onnx-simplifier
+```
+
+### 2. TensorRT
+
+TensorRT 需要与 CUDA 版本匹配：
+
+```bash
+# CUDA 12.x
+pip install tensorrt
+
+# 或者从 NVIDIA 官网下载安装
+# https://developer.nvidia.com/tensorrt
+```
+
+### 3. PyCUDA (TRT 推理需要)
+
+```bash
+pip install pycuda
+```
+
+### 4. MMDeploy (可选)
+
+```bash
+bash install_mmdeploy.sh
+```
+
+## 快速开始
+
+### 一键运行
+
+```bash
+cd detection_trt
+bash run_all.sh
+```
+
+### 分步运行
+
+#### 1. 模型转换
+
+```bash
+# 转换 CLIP (vanilla 模式)
+python convert_model.py \
+    --model-type clip \
+    --mode vanilla \
+    --checkpoint /path/to/EVA02_CLIP_B_psz16_s8B.pt \
+    --image-size 560 \
+    --fp16 \
+    --verify
+
+# 转换 DeCLIP (csa 模式)
+python convert_model.py \
+    --model-type declip \
+    --mode csa \
+    --checkpoint /path/to/EVA02_CLIP_B_psz16_s8B.pt \
+    --image-size 560 \
+    --fp16 \
+    --verify
+```
+
+#### 2. 速度测试
+
+```bash
+# PyTorch 速度测试
+python benchmark_speed.py \
+    --pytorch-model /path/to/checkpoint.pt \
+    --mode csa \
+    --image-size 560 560
+
+# TensorRT 速度测试
+python benchmark_speed.py \
+    --trt-engine engines/declip_csa_560_fp16.engine \
+    --mode csa \
+    --image-size 560 560
+```
+
+#### 3. 精度评估
+
+```bash
+# PyTorch 精度评估
+python eval_panoptic.py \
+    --backend pytorch \
+    --checkpoint /path/to/checkpoint.pt \
+    --mode csa \
+    --coco-root /path/to/coco
+
+# TensorRT 精度评估
+python eval_panoptic.py \
+    --backend tensorrt \
+    --engine engines/declip_csa_560_fp16.engine \
+    --mode csa \
+    --coco-root /path/to/coco
+```
+
+## 配置说明
+
+### fvit_tensorrt_fp16.py
+
+主要配置项：
+
+```python
+# TRT 后端配置
+backend_config = dict(
+    type='tensorrt',
+    common_config=dict(fp16_mode=True),
+    model_inputs=[dict(input_shapes=dict(...))]
+)
+
+# EVA-CLIP 特定配置
+evaclip_config = dict(
+    model_name='EVA02-CLIP-B-16',
+    image_size=560,
+    feature_mode='csa',  # 或 'vanilla'
+    disable_xformers=True,  # ONNX 导出需要禁用
+)
+```
+
+### custom_modules.py
+
+处理 EVA-CLIP 的 ONNX 导出兼容性：
+
+1. **Attention.forward**: 禁用 xformers，使用标准 attention
+2. **Attention.ss_attn**: 处理 DeCLIP 的 csa 模式
+3. **encode_dense**: 简化推理逻辑
+
+## 输出说明
+
+### 速度测试结果
+
+```json
+{
+    "model_name": "EVA02-CLIP-B-16",
+    "mode": "csa",
+    "backend": "tensorrt",
+    "precision": "fp16",
+    "image_size": [560, 560],
+    "batch_size": 1,
+    "latency_mean_ms": 12.5,
+    "latency_std_ms": 0.3,
+    "throughput_fps": 80.0
+}
+```
+
+### 精度评估结果
+
+```json
+{
+    "model_name": "EVA02-CLIP-B-16",
+    "mode": "csa",
+    "backend": "pytorch",
+    "rois_thing_macc1": 0.75,
+    "rois_thing_macc5": 0.92,
+    "rois_stuff_macc1": 0.68,
+    "rois_stuff_macc5": 0.88
+}
+```
+
+## 关键技术点
+
+### 1. ONNX 导出适配
+
+EVA-CLIP 使用了一些不兼容 ONNX 的操作：
+
+- **xformers**: 需要禁用，使用标准 PyTorch attention
+- **RoPE 位置编码**: 需要处理动态形状
+- **环境变量检查**: 需要移除 `os.getenv()` 调用
+
+### 2. 动态形状支持
+
+TRT 引擎支持动态输入尺寸：
+
+```python
+profile.set_shape(input_name, 
+    min_shape=(1, 3, 560, 560),
+    opt_shape=(1, 3, 560, 560),
+    max_shape=(1, 3, 800, 1333)
+)
+```
+
+### 3. 精度对齐
+
+TRT 转换后需要验证输出与 PyTorch 一致：
+
+- FP32: 误差 < 1e-5
+- FP16: 误差 < 1e-3
+
+## 常见问题
+
+### Q1: ONNX 导��失败
+
+检查是否禁用了 xformers：
+
+```python
+from configs.custom_modules import disable_xformers_for_export
+model = disable_xformers_for_export(model)
+```
+
+### Q2: TRT 构建失败
+
+1. 检查 CUDA/TensorRT 版本匹配
+2. 增加 workspace 大小: `--workspace 8`
+3. 检查输入形状是否合理
+
+### Q3: 精度下降明显
+
+1. 检查是否正确加载了模型权重
+2. 尝试使用 FP32 精度进行对比
+3. 检查输入预处理是否一致
+
+## 参考
+
+- [MMDeploy 文档](https://mmdeploy.readthedocs.io/)
+- [TensorRT 文档](https://docs.nvidia.com/deeplearning/tensorrt/)
+- [EVA-CLIP 代码](https://github.com/baaivision/EVA)
+- [DeCLIP 论文](https://arxiv.org/)