README.md

metadata

license: mit
tags:
  - feature-extraction
  - dinov2
  - ai-generated-image-detection

SQuaDE 特征缓存 — DINOv2 ViT-g

kelvinchua/squade-vitg 三个版本的 训练与评测所用的冻结骨干特征。传这个的唯一理由是省掉重抽的 GPU 时间 （全量 28 万行约 3.5 小时）。

⚠️ 这些特征绑死在一套配置上：facebook/dinov2-giant + crop 504 + bf16 + 全层统一 model.norm。换骨干、换裁剪尺寸、换归一化方式，全部作废，必须从图像重抽。

---

内容

目录	行数	层	体积	说明
mix2_vg6/	289,626	6 层	15.0 GB	v3 的训练缓存（自建 + 官方 val 70% + val_hard 70%）
mix_vg6/	287,876	6 层	14.9 GB	v2 的训练缓存（自建 + 官方 val 70%）
s6x_vg6/	280,876	6 层	14.5 GB	纯自建，不含任何官方数据
vg_val/	10,000	41 层	3.5 GB	官方 val 全层，做层级探针用
vg_transfer/	12,500	41 层	4.4 GB	官方 val + val_hard 全层

6 层 = [14, 21, 26, 27, 33, 37]，即浅组 {14,21,27} 与深组 {26,33,37} 的并集。

行数上 s6x_vg6 ⊂ mix_vg6 ⊂ mix2_vg6，但行序不同，训练时的打乱依赖行序， 要精确复现某一版就用对应那一份。

每份的文件

features.npy   (N, L, 4608) fp16   每层 cls|mean(patch)|std(patch) 拼接
prenorm.npy    (N, L, 2)    fp32   归一化**之前**的 patch token L2 范数的均值与标准差
meta.csv                          image_id / label / split / deg_* 码字
config.json                       backbone / layers / crop_size / 指纹

prenorm 那两个标量是有意保留的：LayerNorm 是逐 token 的，会抹掉绝对激活强度， 而压缩与加性噪声的能量证据恰好住在那里。

用法

import numpy as np, csv, json
f = np.load("mix2_vg6/features.npy", mmap_mode="r")   # 一定用 mmap,15 GB
rows = list(csv.DictReader(open("mix2_vg6/meta.csv")))
cfg = json.load(open("mix2_vg6/config.json"))
li = cfg["layers"].index(27)                           # 取 L27

切成三层的子集（浅组 / 深组）用仓库里的工具，别自己写：

python tools/slice_cache.py --src mix2_vg6 --out mix2_shallow --layers 14,21,27
python tools/slice_cache.py --src mix2_vg6 --out mix2_deep    --layers 26,33,37

没有传的：上面那些切片（32.8 GB），以及各评测集的三层切片。它们都是一条 slice_cache 命令的产物，传了是浪费。

几个使用上的坑

1. deg_* 码字跨源不可解释。 mix_vg6 / mix2_vg6 是把自建的 6 维码本与官方的 19/29 维码本取并集拼起来的，缺的维补 0。同名的 deg_jpeg 在两半里强度含义都不同。 只能用于 stage1（均匀融合，不读码字）与二元门（只看是否有任一维 > 0）， 任何逐维/逐档分析都不能用。
2. 划分已经定死在 meta.csv 的 split 列里，按源图分组、按 source × label 分层。 别自己重划——同一张源图的干净版与退化版必须同侧，否则模型记住内容就能认出来。
3. 官方 val / val_hard 的 70% 已用于训练 v2/v3。 对应的固定划分随权重发布在 squade-vitg 的 v3/ 下。

MIT。DINOv2 权重与 NTIRE 数据各有其许可条款。