Datasets:
File size: 3,485 Bytes
5ac6ab2 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 | ---
license: mit
tags:
- feature-extraction
- dinov2
- ai-generated-image-detection
---
# SQuaDE 特征缓存 — DINOv2 ViT-g
[kelvinchua/squade-vitg](https://huggingface.co/kelvinchua/squade-vitg) 三个版本的
训练与评测所用的**冻结骨干特征**。传这个的唯一理由是省掉重抽的 GPU 时间
（全量 28 万行约 3.5 小时）。
⚠️ **这些特征绑死在一套配置上**：`facebook/dinov2-giant` + crop 504 + bf16 +
全层统一 `model.norm`。换骨干、换裁剪尺寸、换归一化方式，全部作废，必须从图像重抽。
---
## 内容
| 目录 | 行数 | 层 | 体积 | 说明 |
|---|---:|---|---:|---|
| `mix2_vg6/` | 289,626 | 6 层 | 15.0 GB | **v3 的训练缓存**（自建 + 官方 val 70% + val_hard 70%） |
| `mix_vg6/` | 287,876 | 6 层 | 14.9 GB | v2 的训练缓存（自建 + 官方 val 70%） |
| `s6x_vg6/` | 280,876 | 6 层 | 14.5 GB | 纯自建，不含任何官方数据 |
| `vg_val/` | 10,000 | **41 层** | 3.5 GB | 官方 val 全层，做层级探针用 |
| `vg_transfer/` | 12,500 | **41 层** | 4.4 GB | 官方 val + val_hard 全层 |
6 层 = `[14, 21, 26, 27, 33, 37]`，即浅组 `{14,21,27}` 与深组 `{26,33,37}` 的并集。
行数上 `s6x_vg6 ⊂ mix_vg6 ⊂ mix2_vg6`，但**行序不同**，训练时的打乱依赖行序，
要精确复现某一版就用对应那一份。
## 每份的文件
```
features.npy (N, L, 4608) fp16 每层 cls|mean(patch)|std(patch) 拼接
prenorm.npy (N, L, 2) fp32 归一化**之前**的 patch token L2 范数的均值与标准差
meta.csv image_id / label / split / deg_* 码字
config.json backbone / layers / crop_size / 指纹
```
`prenorm` 那两个标量是有意保留的：LayerNorm 是逐 token 的，会抹掉绝对激活强度，
而压缩与加性噪声的能量证据恰好住在那里。
## 用法
```python
import numpy as np, csv, json
f = np.load("mix2_vg6/features.npy", mmap_mode="r") # 一定用 mmap,15 GB
rows = list(csv.DictReader(open("mix2_vg6/meta.csv")))
cfg = json.load(open("mix2_vg6/config.json"))
li = cfg["layers"].index(27) # 取 L27
```
切成三层的子集（浅组 / 深组）用仓库里的工具，别自己写：
```bash
python tools/slice_cache.py --src mix2_vg6 --out mix2_shallow --layers 14,21,27
python tools/slice_cache.py --src mix2_vg6 --out mix2_deep --layers 26,33,37
```
**没有传的**：上面那些切片（32.8 GB），以及各评测集的三层切片。它们都是一条
`slice_cache` 命令的产物，传了是浪费。
## 几个使用上的坑
1. **`deg_*` 码字跨源不可解释。** `mix_vg6` / `mix2_vg6` 是把自建的 6 维码本与官方的
19/29 维码本取并集拼起来的，缺的维补 0。同名的 `deg_jpeg` 在两半里强度含义都不同。
**只能用于 stage1（均匀融合，不读码字）与二元门（只看是否有任一维 > 0）**，
任何逐维/逐档分析都不能用。
2. **划分已经定死在 `meta.csv` 的 `split` 列里**，按源图分组、按 `source × label` 分层。
别自己重划——同一张源图的干净版与退化版必须同侧，否则模型记住内容就能认出来。
3. **官方 val / val_hard 的 70% 已用于训练 v2/v3。** 对应的固定划分随权重发布在
[squade-vitg](https://huggingface.co/kelvinchua/squade-vitg) 的 `v3/` 下。
MIT。DINOv2 权重与 NTIRE 数据各有其许可条款。
|