README.md

metadata

license: other
license_name: cub-derived-research-only
license_link: https://www.vision.caltech.edu/datasets/cub_200_2011/
viewer: false
pretty_name: CUB-200-2011 crossmodal embedding cache
tags:
  - embeddings
  - cub-200-2011
  - crossmodal
  - sparse-autoencoder
  - concept-discovery
extra_gated_heading: Request access to this embedding cache
extra_gated_description: >-
  Access requests are reviewed manually by the author. Expect a few days for
  processing.
extra_gated_prompt: |
  These embeddings are derived from CUB-200-2011 images and generated captions.
  By requesting access, you agree to:
  1. Use the data for non-commercial research and evaluation purposes only.
  2. Not redistribute it, in whole or in part, to any third party.
  3. Cite CUB-200-2011 and the associated work in any publication that uses it.
extra_gated_fields:
  Full name: text
  Affiliation or company: text
  Work email: text
  Country: country
  Intended use:
    type: select
    options:
      - Academic research
      - Evaluation on an interpretability platform
      - label: Other
        value: other
  Describe your intended use in one sentence: text
  I agree not to redistribute this data: checkbox
  I agree to the non-commercial research-only terms above: checkbox
extra_gated_button_content: Request access

CUB-200-2011 crossmodal embedding cache

Embeddings image et texte pré-calculés pour CUB-200-2011, tels que consommés par les SAE crossmodaux. Publier ce cache permet de reproduire les entraînements sans recalculer les features ni redistribuer les images.

Contenu

291 fichiers, 8.0 Go, sur 24 runs.

runs/<run>/          # un dossier par configuration expérimentale
bundles/             # bundle .npz de l'ablation note/tie
captions/            # captions CUB générées (4 variantes x 3 versions)

Fichiers par run

Fichier	Contenu	Forme
A_img.npy	embeddings image (DINOv2)	[N, 768]
A_txt.npy	embedding texte, caption principale	[N, D_txt]
A_txt5.npy	5 captions par image	[N, 5, D_txt]
A_txtnp.npy	8 syntagmes nominaux par image	[N, 8, D_txt]
cat_embeds.npy	embeddings des 312 attributs	[312, D_txt]
Y_vlgbce.npy	labels concepts VLG-CBM	[N, 471]
image_ids.npy	identifiants images (ordre de référence)	[N]
caps_by_img.json	captions brutes par image	—
img_to_cats.json, img_to_words.json	mappings concepts / mots	—
cat_names.json, vlgbce_concepts*.json	vocabulaires	—
scaler.pkl	scaler de normalisation	—

Variantes présentes selon le run : Y_vlgbce_rich, Y_vlgbce_tro, vlgbce_concepts_rich, vlgbce_concepts_tro.

Deux tailles de N

• N = 5990 — split train CUB
• N = 11780 — train + test

Encodeurs texte (D_txt)

Encodeur	D_txt	Runs
SBERT	384	ds_v1, ds_v3, datasets, grid_v*_sbert, abl_sbert, ds_c_species, …
CLIP	768	datasets_clip, abl_clip, grid_v*_clip, textenc_clip, …
MPNet	768	datasets_mpnet, textenc_mpnet
BGE	1024	datasets_bge, abl_bge, grid_v*_bge, textenc_bge

A_img est toujours en 768 (DINOv2) : seul le côté texte change.

Runs au contenu strictement identique

Vérifié par hash MD5 sur les 272 fichiers — ces paires sont des doublons exacts, conservées sous leurs deux noms pour que les tags d'expérience restent résolvables :

• abl_bge == datasets_bge
• abl_clip == datasets_clip
• ds_c_species == grid_v2_sbert

Sur les 7.69 Go de runs/, 5.61 Go sont des contenus uniques (27 % de redondance inter-runs). Le stockage Xet de HuggingFace déduplique à l'upload.

Chargement

import numpy as np, json
A_img = np.load("runs/ds_v1/A_img.npy")          # [5990, 768]
A_txt = np.load("runs/ds_v1/A_txt.npy")          # [5990, 384]
Y     = np.load("runs/ds_v1/Y_vlgbce.npy")       # [5990, 471]
ids   = np.load("runs/ds_v1/image_ids.npy")
concepts = json.load(open("runs/ds_v1/vlgbce_concepts.json"))

Les lignes sont alignées sur image_ids.npy dans tous les tableaux d'un même run.

Captions

captions/ contient les captions CUB générées en 4 variantes (free, fine, attributes, comparative), chacune en version complète et en deux shards.

Licence

Dérivé de CUB-200-2011 (Caltech-UCSD Birds). Usage recherche non commercial. Les images sources ne sont pas redistribuées — uniquement les embeddings et les captions générées.

Citation

TODO — référence de l'article + Wah et al. (2011) pour CUB-200-2011.