README.md

---
license: other
license_name: cub-derived-research-only
license_link: https://www.vision.caltech.edu/datasets/cub_200_2011/
viewer: false
pretty_name: "CUB-200-2011 crossmodal embedding cache"
tags:
  - embeddings
  - cub-200-2011
  - crossmodal
  - sparse-autoencoder
  - concept-discovery
extra_gated_heading: "Request access to this embedding cache"
extra_gated_description: "Access requests are reviewed manually by the author. Expect a few days for processing."
extra_gated_prompt: |
  These embeddings are derived from CUB-200-2011 images and generated captions.
  By requesting access, you agree to:
  1. Use the data for non-commercial research and evaluation purposes only.
  2. Not redistribute it, in whole or in part, to any third party.
  3. Cite CUB-200-2011 and the associated work in any publication that uses it.
extra_gated_fields:
  Full name: text
  Affiliation or company: text
  Work email: text
  Country: country
  Intended use:
    type: select
    options:
      - Academic research
      - Evaluation on an interpretability platform
      - label: Other
        value: other
  Describe your intended use in one sentence: text
  I agree not to redistribute this data: checkbox
  I agree to the non-commercial research-only terms above: checkbox
extra_gated_button_content: "Request access"
---

# CUB-200-2011 crossmodal embedding cache

Embeddings image et texte pré-calculés pour CUB-200-2011, tels que consommés par les
SAE crossmodaux. Publier ce cache permet de reproduire les entraînements **sans
recalculer les features** ni redistribuer les images.

## Contenu

291 fichiers, 8.0 Go, sur 24 runs.

```
runs/<run>/          # un dossier par configuration expérimentale
bundles/             # bundle .npz de l'ablation note/tie
captions/            # captions CUB générées (4 variantes x 3 versions)
```

### Fichiers par run

| Fichier | Contenu | Forme |
| --- | --- | --- |
| `A_img.npy` | embeddings image (DINOv2) | `[N, 768]` |
| `A_txt.npy` | embedding texte, caption principale | `[N, D_txt]` |
| `A_txt5.npy` | 5 captions par image | `[N, 5, D_txt]` |
| `A_txtnp.npy` | 8 syntagmes nominaux par image | `[N, 8, D_txt]` |
| `cat_embeds.npy` | embeddings des 312 attributs | `[312, D_txt]` |
| `Y_vlgbce.npy` | labels concepts VLG-CBM | `[N, 471]` |
| `image_ids.npy` | identifiants images (ordre de référence) | `[N]` |
| `caps_by_img.json` | captions brutes par image | — |
| `img_to_cats.json`, `img_to_words.json` | mappings concepts / mots | — |
| `cat_names.json`, `vlgbce_concepts*.json` | vocabulaires | — |
| `scaler.pkl` | scaler de normalisation | — |

Variantes présentes selon le run : `Y_vlgbce_rich`, `Y_vlgbce_tro`,
`vlgbce_concepts_rich`, `vlgbce_concepts_tro`.

### Deux tailles de `N`

- `N = 5990` — split train CUB
- `N = 11780` — train + test

### Encodeurs texte (`D_txt`)

| Encodeur | `D_txt` | Runs |
| --- | --- | --- |
| SBERT | 384 | `ds_v1`, `ds_v3`, `datasets`, `grid_v*_sbert`, `abl_sbert`, `ds_c_species`, … |
| CLIP | 768 | `datasets_clip`, `abl_clip`, `grid_v*_clip`, `textenc_clip`, … |
| MPNet | 768 | `datasets_mpnet`, `textenc_mpnet` |
| BGE | 1024 | `datasets_bge`, `abl_bge`, `grid_v*_bge`, `textenc_bge` |

`A_img` est toujours en 768 (DINOv2) : seul le côté texte change.

### Runs au contenu strictement identique

Vérifié par hash MD5 sur les 272 fichiers — ces paires sont des doublons exacts,
conservées sous leurs deux noms pour que les tags d'expérience restent résolvables :

- `abl_bge` == `datasets_bge`
- `abl_clip` == `datasets_clip`
- `ds_c_species` == `grid_v2_sbert`

Sur les 7.69 Go de `runs/`, 5.61 Go sont des contenus uniques (27 % de redondance
inter-runs). Le stockage Xet de HuggingFace déduplique à l'upload.

## Chargement

```python
import numpy as np, json
A_img = np.load("runs/ds_v1/A_img.npy")          # [5990, 768]
A_txt = np.load("runs/ds_v1/A_txt.npy")          # [5990, 384]
Y     = np.load("runs/ds_v1/Y_vlgbce.npy")       # [5990, 471]
ids   = np.load("runs/ds_v1/image_ids.npy")
concepts = json.load(open("runs/ds_v1/vlgbce_concepts.json"))
```

Les lignes sont alignées sur `image_ids.npy` dans tous les tableaux d'un même run.

## Captions

`captions/` contient les captions CUB générées en 4 variantes (`free`, `fine`,
`attributes`, `comparative`), chacune en version complète et en deux shards.

## Licence

Dérivé de **CUB-200-2011** (Caltech-UCSD Birds). Usage recherche non commercial.
Les images sources ne sont pas redistribuées — uniquement les embeddings et les
captions générées.

## Citation

TODO — référence de l'article + Wah et al. (2011) pour CUB-200-2011.