Add splits, metadata, scripts, and documentation

.gitignore

@@ -0,0 +1,3 @@
+__pycache__/
+.DS_Store
+dist/

README.md

@@ -0,0 +1,154 @@
+---
+license: cc-by-4.0
+task_categories:
+  - image-to-image
+  - image-feature-extraction
+tags:
+  - mars
+  - crater
+  - retrieval
+  - remote-sensing
+  - planetary-science
+  - vision-transformer
+pretty_name: CraterBench-R
+size_categories:
+  - 10K<n<100K
+---
+
+# CraterBench-R
+
+CraterBench-R is an instance-level crater retrieval benchmark built from Mars CTX imagery.
+
+This repository contains the released benchmark images, official split files, relevance metadata, and a minimal evaluation example.
+
+## Summary
+
+- `25,000` crater identities in the benchmark gallery
+- `50,000` gallery images with two canonical context crops per crater
+- `1,000` held-out query crater identities
+- `5,000` manually verified query images with five views per query crater
+- official `train` and `test` split manifests with relative paths only
+
+## Download
+
+```bash
+# Download the repository
+pip install huggingface_hub
+huggingface-cli download jfang/CraterBench-R --repo-type dataset --local-dir CraterBench-R
+cd CraterBench-R
+
+# Extract images
+unzip images.zip
+```
+
+After extraction the directory should contain `images/gallery/` (50,000 JPEGs) and `images/query/` (5,000 JPEGs).
+
+## Repository Layout
+
+- `images.zip`: all benchmark images (gallery + query) in a single archive
+- `splits/test.json`: official benchmark split with full gallery plus query set
+- `splits/train.json`: train gallery with the full test relevance closure removed
+- `metadata/query_relevance.json`: raw co-visible crater IDs and gallery-filtered relevance
+- `metadata/stats.json`: release summary statistics
+- `metadata/source/retrieval_ground_truth_raw.csv`: raw query relevance CSV for reference
+- `examples/eval_timm_global.py`: minimal global-descriptor example for any `timm` image model
+- `requirements.txt`: lightweight requirements for the example script
+
+## Split Semantics
+
+`splits/test.json` is the official benchmark split and includes both:
+
+- the full gallery
+- the query set evaluated against that gallery
+
+The `ground_truth` field maps each query crater ID to gallery-present relevant crater IDs.
+
+The raw query co-visibility information is preserved separately in `metadata/query_relevance.json`:
+
+- `co_visible_ids_all`: all raw co-visible crater IDs from the source annotation
+- `relevant_gallery_ids`: the subset that is present in the released gallery
+
+`splits/train.json` is intended for supervised or metric-learning experiments. It excludes the full test relevance closure, not just the 1,000 direct query crater IDs.
+
+## Official Counts
+
+- test gallery: `25,000` crater IDs / `50,000` images
+- test queries: `1,000` crater IDs / `5,000` images
+- train gallery: `23,941` crater IDs / `47,882` images
+- raw multi-ID query crater IDs: `428`
+- gallery-present multi-ID query crater IDs: `59`
+
+## Quick Start
+
+```bash
+pip install -r requirements.txt
+unzip images.zip  # if not already extracted
+
+python examples/eval_timm_global.py \
+  --data-root . \
+  --split test \
+  --model vit_small_patch16_224.dino \
+  --pool cls \
+  --batch-size 64 \
+  --device cuda
+```
+
+The example script:
+
+- loads `splits/test.json`
+- creates a pretrained `timm` model
+- extracts one feature vector per image
+- performs cosine retrieval against the released gallery
+- reports Recall@1/5/10, mAP, and MRR
+
+It is intentionally simple and meant as a working baseline rather than the fastest possible evaluator.
+
+## Manifest Format
+
+Each split JSON has the form:
+
+```json
+{
+  "split_name": "train or test",
+  "version": "release_v1",
+  "gallery_images": [
+    {
+      "image_id": "02-1-002611_2x",
+      "path": "images/gallery/02-1-002611_2x.jpg",
+      "crater_id": "02-1-002611",
+      "view_type": "2x"
+    }
+  ],
+  "query_images": [
+    {
+      "image_id": "02-1-002927_view_1",
+      "query_id": "02-1-002927",
+      "path": "images/query/02-1-002927_view_1.jpg",
+      "crater_id": "02-1-002927",
+      "view": 1,
+      "manual_verified": true
+    }
+  ],
+  "ground_truth": {
+    "02-1-002927": ["02-1-002927"]
+  }
+}
+```
+
+## Validation
+
+The repository includes one small validation utility:
+
+- `scripts/validate_release.py`: checks split consistency, relative paths, and train/test separation
+
+To validate the package locally:
+
+```bash
+python scripts/validate_release.py
+```
+
+## Notes
+
+- Image paths in manifests are relative and portable.
+- `splits/test.json` is the official benchmark entrypoint.
+- `splits/train.json` is intended for training or fine-tuning experiments.

RELEASE_NOTES.md

@@ -0,0 +1,28 @@
+# Release Notes
+
+## release_v1
+
+This release package is cleaned for public publication.
+
+### Release-facing changes
+
+- removed the auxiliary canonical split from the public package
+- removed paper-era legacy manifests from the public package
+- removed machine-local path assumptions from scripts and docs
+- kept only official `train` and `test` split manifests
+- preserved raw query relevance provenance in `metadata/source/`
+- preserved gallery-filtered query relevance in `metadata/query_relevance.json`
+- added a minimal `timm` evaluation example
+- kept only the validation utility needed by end users
+
+### Official counts
+
+- train gallery: `47,882` images / `23,941` crater IDs
+- test gallery: `50,000` images / `25,000` crater IDs
+- test query: `5,000` images / `1,000` crater IDs
+
+### Hosting
+
+- primary: Hugging Face Datasets (`jfang/CraterBench-R`)
+- all images distributed as a single `images.zip` archive (1.8 GB)
+- extract with `unzip images.zip` to produce `images/gallery/` and `images/query/`

examples/eval_timm_global.py

@@ -0,0 +1,226 @@
+#!/usr/bin/env python3
+"""
+Minimal high-level example: evaluate a pretrained timm model on CraterBench-R
+using one global descriptor per image and cosine retrieval.
+"""
+
+from __future__ import annotations
+
+import argparse
+import json
+from pathlib import Path
+from typing import Any
+
+import numpy as np
+import timm
+import torch
+import torch.nn.functional as F
+from PIL import Image
+from timm.data import create_transform, resolve_model_data_config
+from torch.utils.data import DataLoader, Dataset
+
+
+class ImageDataset(Dataset):
+    def __init__(self, entries: list[dict[str, Any]], root: Path, transform):
+        self.entries = entries
+        self.root = root
+        self.transform = transform
+
+    def __len__(self) -> int:
+        return len(self.entries)
+
+    def __getitem__(self, idx: int):
+        entry = self.entries[idx]
+        path = self.root / entry["path"]
+        image = Image.open(path).convert("RGB")
+        return self.transform(image), entry
+
+
+def collate_with_entries(batch):
+    images = torch.stack([item[0] for item in batch])
+    entries = [item[1] for item in batch]
+    return images, entries
+
+
+def unwrap_features(features: Any) -> torch.Tensor:
+    if isinstance(features, torch.Tensor):
+        return features
+    if isinstance(features, (list, tuple)):
+        return unwrap_features(features[0])
+    if isinstance(features, dict):
+        for key in ("x", "features", "last_hidden_state"):
+            if key in features:
+                return unwrap_features(features[key])
+        for value in features.values():
+            if isinstance(value, torch.Tensor):
+                return value
+    raise TypeError(f"Unsupported feature output type: {type(features)!r}")
+
+
+def pool_features(features: torch.Tensor, pool: str) -> torch.Tensor:
+    if features.ndim == 2:
+        return features
+    if features.ndim == 3:
+        if pool == "cls":
+            return features[:, 0]
+        if pool == "mean":
+            return features.mean(dim=1)
+        if pool == "max":
+            return features.max(dim=1).values
+    if features.ndim == 4:
+        if pool == "mean":
+            return features.mean(dim=(2, 3))
+        if pool == "max":
+            return features.amax(dim=(2, 3))
+    raise ValueError(f"Unsupported feature shape {tuple(features.shape)} for pool={pool}")
+
+
+def extract_embeddings(
+    model,
+    loader: DataLoader,
+    device: torch.device,
+    pool: str,
+) -> tuple[np.ndarray, list[dict[str, Any]]]:
+    all_embeddings = []
+    all_entries: list[dict[str, Any]] = []
+
+    model.eval()
+    with torch.no_grad():
+        for images, entries in loader:
+            images = images.to(device)
+            features = unwrap_features(model.forward_features(images))
+            pooled = pool_features(features, pool)
+            pooled = F.normalize(pooled, dim=1)
+            all_embeddings.append(pooled.cpu().numpy().astype(np.float32))
+            all_entries.extend(entries)
+
+    return np.concatenate(all_embeddings, axis=0), all_entries
+
+
+def compute_metrics(
+    ranking: np.ndarray,
+    query_ids: list[str],
+    gallery_ids: list[str],
+    ground_truth: dict[str, list[str]],
+    k_values: list[int],
+) -> dict[str, float]:
+    metrics: dict[str, float] = {}
+    max_k = ranking.shape[1]
+
+    for k in k_values:
+        recalls = []
+        for row, query_id in enumerate(query_ids):
+            acceptable = set(ground_truth[query_id])
+            retrieved = [gallery_ids[idx] for idx in ranking[row, :k]]
+            unique_correct = set(retrieved) & acceptable
+            recalls.append(min(len(unique_correct) / len(acceptable), 1.0))
+        metrics[f"recall@{k}"] = float(np.mean(recalls))
+
+    aps = []
+    reciprocal_ranks = []
+    for row, query_id in enumerate(query_ids):
+        acceptable = set(ground_truth[query_id])
+        retrieved = [gallery_ids[idx] for idx in ranking[row, :max_k]]
+
+        seen = set()
+        precision_at_k = []
+        rr = 0.0
+        for rank, crater_id in enumerate(retrieved, start=1):
+            if crater_id in acceptable and crater_id not in seen:
+                seen.add(crater_id)
+                precision_at_k.append(len(seen) / rank)
+                if rr == 0.0:
+                    rr = 1.0 / rank
+        aps.append(float(np.mean(precision_at_k)) if precision_at_k else 0.0)
+        reciprocal_ranks.append(rr)
+
+    metrics["map"] = float(np.mean(aps))
+    metrics["mrr"] = float(np.mean(reciprocal_ranks))
+    return metrics
+
+
+def search_topk(
+    query_embeddings: np.ndarray,
+    gallery_embeddings: np.ndarray,
+    topk: int,
+    device: torch.device,
+    query_chunk_size: int,
+) -> np.ndarray:
+    gallery = torch.from_numpy(gallery_embeddings).to(device)
+    results = []
+
+    for start in range(0, len(query_embeddings), query_chunk_size):
+        end = min(start + query_chunk_size, len(query_embeddings))
+        query = torch.from_numpy(query_embeddings[start:end]).to(device)
+        scores = query @ gallery.T
+        indices = torch.topk(scores, k=topk, dim=1).indices.cpu().numpy()
+        results.append(indices)
+
+    return np.concatenate(results, axis=0)
+
+
+def main() -> None:
+    parser = argparse.ArgumentParser()
+    parser.add_argument("--data-root", type=Path, default=Path("."))
+    parser.add_argument("--split", type=str, default="test")
+    parser.add_argument("--model", type=str, required=True)
+    parser.add_argument("--pool", type=str, default="mean", choices=["cls", "mean", "max"])
+    parser.add_argument("--batch-size", type=int, default=64)
+    parser.add_argument("--query-chunk-size", type=int, default=256)
+    parser.add_argument("--device", type=str, default="cuda" if torch.cuda.is_available() else "cpu")
+    args = parser.parse_args()
+
+    split_path = args.data_root / "splits" / f"{args.split}.json"
+    with split_path.open("r") as handle:
+        split = json.load(handle)
+
+    model = timm.create_model(args.model, pretrained=True, num_classes=0)
+    model.to(args.device)
+
+    data_config = resolve_model_data_config(model)
+    transform = create_transform(**data_config, is_training=False)
+
+    gallery_loader = DataLoader(
+        ImageDataset(split["gallery_images"], args.data_root, transform),
+        batch_size=args.batch_size,
+        shuffle=False,
+        num_workers=4,
+        pin_memory=True,
+        collate_fn=collate_with_entries,
+    )
+    query_loader = DataLoader(
+        ImageDataset(split["query_images"], args.data_root, transform),
+        batch_size=args.batch_size,
+        shuffle=False,
+        num_workers=4,
+        pin_memory=True,
+        collate_fn=collate_with_entries,
+    )
+
+    gallery_embeddings, gallery_entries = extract_embeddings(
+        model, gallery_loader, torch.device(args.device), args.pool
+    )
+    query_embeddings, query_entries = extract_embeddings(
+        model, query_loader, torch.device(args.device), args.pool
+    )
+
+    ranking = search_topk(
+        query_embeddings,
+        gallery_embeddings,
+        topk=10,
+        device=torch.device(args.device),
+        query_chunk_size=args.query_chunk_size,
+    )
+
+    gallery_ids = [entry["crater_id"] for entry in gallery_entries]
+    query_ids = [entry["crater_id"] for entry in query_entries]
+    metrics = compute_metrics(ranking, query_ids, gallery_ids, split["ground_truth"], [1, 5, 10])
+
+    print("Model:", args.model)
+    print("Pool:", args.pool)
+    for key, value in metrics.items():
+        print(f"{key}: {value:.4f}")
+
+
+if __name__ == "__main__":
+    main()

metadata/source/retrieval_ground_truth_raw.csv

@@ -0,0 +1,1001 @@
+query_id,acceptable_ids,num_acceptable
+02-1-002927,02-1-002927,1
+02-1-002933,02-1-002933,1
+02-1-003303,02-1-003303,1
+02-1-003412,02-1-003412,1
+02-1-003631,02-1-003631,1
+02-1-003736,02-1-003736,1
+02-1-003937,02-1-003937,1
+02-1-004220,02-1-004220,1
+02-1-004269,02-1-004266;02-1-004267;02-1-004268;02-1-004269;02-1-004295;02-1-004299,6
+02-1-004297,02-1-004297,1
+02-1-004400,02-1-004400,1
+02-1-004972,02-1-004972,1
+02-1-005002,02-1-005002,1
+02-1-005076,02-1-005076,1
+02-1-005205,02-1-005205,1
+02-1-005214,02-1-005214,1
+02-1-005282,02-1-005282,1
+02-1-005330,02-1-005330;02-4-010924,2
+02-1-005395,02-1-005395,1
+02-1-005772,02-1-005772,1
+02-1-005777,02-1-005777,1
+02-1-006035,02-1-006035;02-1-006036,2
+02-1-006063,02-1-006063,1
+02-1-006158,02-1-006158,1
+02-1-006183,02-1-006183,1
+02-1-006250,02-1-006250,1
+02-1-006790,02-1-006789;02-1-006790,2
+02-1-006806,02-1-006806,1
+02-1-006879,02-1-006879,1
+02-1-006913,02-1-006913,1
+02-1-006980,02-1-006980,1
+02-1-007056,02-1-007056;02-1-007061,2
+02-1-007087,02-1-007087,1
+02-1-007120,02-1-007120,1
+02-1-007397,02-1-007397,1
+02-1-007437,02-1-007437,1
+02-1-007536,02-1-007536,1
+02-2-000113,02-2-000113,1
+02-2-000158,02-2-000158,1
+02-3-000276,02-3-000276,1
+02-3-000282,02-3-000282,1
+02-3-000310,02-1-006407;02-3-000310,2
+02-4-005333,02-4-005333,1
+02-4-005628,02-4-005628,1
+02-4-006437,02-4-006437,1
+02-4-006947,02-4-006947,1
+02-4-007201,02-4-007201,1
+02-4-007855,02-4-007855,1
+02-4-008279,02-4-008279,1
+02-4-008353,02-4-008353,1
+02-4-010710,02-1-005396;02-4-010710,2
+02-4-010947,02-4-010947,1
+02-4-010972,02-1-005266;02-4-010972;14-1-007310,3
+02-4-011306,02-4-011306,1
+02-4-012111,02-4-012111,1
+02-4-013063,02-4-013063,1
+02-4-014285,02-1-007239;02-1-007240;02-4-014285,3
+02-4-014877,02-4-014877,1
+02-4-015023,02-4-015023,1
+03-1-000817,03-1-000817,1
+03-1-001061,03-1-001061,1
+03-1-001067,03-1-001067,1
+03-1-001156,03-1-001156;03-4-001614,2
+03-1-001183,03-1-001183,1
+03-1-001187,03-1-001187,1
+03-1-001199,03-1-001199,1
+03-1-001277,03-1-001277,1
+03-1-001523,03-1-001523;03-4-002080,2
+03-1-001624,03-1-001624,1
+03-1-001626,03-1-001626,1
+03-1-001721,03-1-001721,1
+03-1-001756,03-1-001756,1
+03-1-001879,03-1-001879,1
+03-1-002275,03-1-002275;03-1-002277,2
+03-1-002396,03-1-002396,1
+03-1-002584,03-1-002584,1
+03-1-002979,03-1-002979,1
+03-1-003830,03-1-003096;03-1-003830;03-1-003845,3
+03-1-003926,03-1-003926,1
+03-1-004200,03-1-004200;03-1-004876,2
+03-1-004356,03-1-004356;03-1-004357;03-1-004362,3
+03-1-004795,03-1-004794;03-1-004795,2
+03-1-005526,03-1-005526;03-1-005544,2
+03-1-006098,03-1-006096;03-1-006098,2
+03-1-006470,03-1-006470,1
+03-1-006846,03-1-006846;03-1-006849,2
+03-1-007132,03-1-007132;03-1-007133,2
+03-1-007229,03-1-007229,1
+03-1-007493,03-1-007493;03-1-007494,2
+03-1-007904,03-1-007904,1
+03-1-007914,03-1-007914,1
+03-1-008030,03-1-008030,1
+03-1-008140,03-1-008140;03-1-008156,2
+03-1-008275,03-1-008275,1
+03-1-008357,03-1-008357,1
+03-1-008360,03-1-008360,1
+03-1-008757,03-1-008757,1
+03-1-008930,03-1-008930,1
+03-1-009022,03-1-009022;03-1-009024,2
+03-1-009087,03-1-008372;03-1-009087;03-1-009091,3
+03-1-009244,03-1-008241;03-1-009244,2
+03-1-009248,03-1-008241;03-1-008242;03-1-009248,3
+03-1-009466,03-1-009466,1
+03-1-009497,03-1-009496;03-1-009497;03-1-009498,3
+03-1-009619,03-1-009600;03-1-009619,2
+03-1-009864,03-1-009864;03-1-009866,2
+03-1-011250,03-1-010412;03-1-011249;03-1-011250,3
+03-1-011486,03-1-011486,1
+03-1-011558,03-1-011558,1
+03-1-011700,03-1-011700;03-1-011708;03-1-013085,3
+03-1-011712,03-1-011708;03-1-011712,2
+03-1-012084,03-1-010921;03-1-012084,2
+03-1-012108,03-1-012108;03-1-012113,2
+03-1-012454,03-1-012454,1
+03-1-012506,03-1-012506,1
+03-1-013030,03-1-013030,1
+03-1-013377,03-1-013377,1
+03-1-013435,03-1-013435,1
+03-1-014168,03-1-014168,1
+03-1-014461,03-1-014461,1
+03-1-014621,03-1-014621,1
+03-1-014856,03-1-014856;03-1-014864,2
+03-1-015446,03-1-015446,1
+03-1-015594,03-1-015594,1
+03-1-016267,03-1-016267,1
+03-1-016323,03-1-016323;03-1-019812,2
+03-1-017089,03-1-017089;03-1-017101,2
+03-1-017278,03-1-017278,1
+03-1-017525,03-1-017525,1
+03-1-017669,03-1-017669,1
+03-1-017812,03-1-017810;03-1-017812,2
+03-1-018245,03-1-017255;03-1-018243;03-1-018244;03-1-018245,4
+03-1-018549,03-1-018549;03-2-000671,2
+03-2-000071,03-2-000071,1
+03-2-000196,03-2-000196,1
+03-2-000202,03-2-000202,1
+03-2-000258,03-2-000258,1
+03-2-000344,03-2-000344,1
+03-2-000359,03-2-000359,1
+03-2-000490,03-2-000490;03-2-000491,2
+03-2-000599,03-2-000599;03-2-000605;03-4-017838,3
+03-2-000641,03-2-000641,1
+03-4-000171,03-4-000171,1
+03-4-001209,03-1-000636;03-4-001204;03-4-001208;03-4-001209,4
+03-4-001300,03-4-001299;03-4-001300,2
+03-4-001813,03-4-001813,1
+03-4-002102,03-4-002102,1
+03-4-002658,03-2-000174;03-2-000175;03-4-002658,3
+03-4-002942,03-4-002942,1
+03-4-003374,03-4-003374,1
+03-4-003733,03-1-003233;03-4-003733,2
+03-4-003814,03-4-003814,1
+03-4-003996,03-4-003996,1
+03-4-004855,03-1-004876;03-4-004855,2
+03-4-008479,03-1-007269;03-1-007270;03-4-008479;03-4-008483,4
+03-4-008687,03-1-006595;03-1-007911;03-1-007923;03-4-008687,4
+03-4-009900,03-1-008181;03-1-008241;03-1-008242;03-4-009900;03-4-009902;03-4-030760,6
+03-4-010006,03-1-008240;03-4-010006,2
+03-4-014607,03-1-013970;03-4-014607,2
+03-4-016509,03-4-016509,1
+03-4-017661,03-2-000671;03-4-017661,2
+03-4-030465,03-4-030465,1
+06-0-000317,06-0-000317,1
+06-0-000367,06-0-000367;06-4-008541,2
+06-0-001079,06-0-001079,1
+06-0-001727,06-0-001727,1
+06-0-001759,06-0-001759,1
+06-0-001762,06-0-001762,1
+06-0-001825,06-0-001825;06-0-001826,2
+06-0-002151,06-0-002151,1
+06-0-002409,06-0-002409,1
+06-0-002633,06-0-002633,1
+06-0-003369,06-0-003369,1
+06-1-005455,06-1-005455,1
+06-1-005640,06-1-005640,1
+06-1-006210,06-1-006210,1
+06-1-006236,06-1-006236,1
+06-1-006302,06-1-006302,1
+06-1-006487,06-1-006487,1
+06-1-006698,06-1-006698,1
+06-1-006779,06-1-006779,1
+06-1-006906,06-1-006906;06-4-011076,2
+06-1-006935,06-1-006935,1
+06-1-007217,06-1-007216;06-1-007217,2
+06-1-007425,06-1-007425,1
+06-1-007847,06-1-007847,1
+06-1-008160,06-1-008160,1
+06-1-008255,06-1-008255,1
+06-1-008417,06-1-008417;06-1-008418,2
+06-1-008824,06-1-008824,1
+06-1-008918,06-1-008918,1
+06-1-008972,06-1-008972,1
+06-1-009154,06-1-009154,1
+06-1-009328,06-1-009328,1
+06-1-009504,06-1-009504;06-1-009505,2
+06-1-009656,06-1-009656;06-1-010484,2
+06-1-009760,06-1-009760,1
+06-1-009876,06-1-009876,1
+06-1-010344,06-1-010344,1
+06-1-010378,06-1-010378,1
+06-1-010411,06-1-010411,1
+06-1-011053,06-1-011053,1
+06-1-011138,06-1-011138,1
+06-1-011178,06-1-011178,1
+06-1-011201,06-1-011201,1
+06-1-011234,06-1-011234,1
+06-1-011334,06-1-011334;06-1-011975,2
+06-1-011985,06-1-011985;06-1-011990,2
+06-1-012483,06-1-012483,1
+06-1-012563,06-1-012563,1
+06-1-012899,06-1-012899;06-4-024385,2
+06-1-012972,06-1-012972;06-1-012973,2
+06-1-012991,06-1-012991;06-1-013002,2
+06-1-013277,06-1-013277,1
+06-1-013364,06-1-013364,1
+06-1-013403,06-1-013403,1
+06-1-013470,06-1-013470;06-4-025123,2
+06-1-013682,06-1-013682,1
+06-1-013801,06-1-013801,1
+06-1-013957,06-1-013957;06-4-024565;06-4-024567,3
+06-1-014111,06-1-014108;06-1-014111,2
+06-1-014213,06-1-014213,1
+06-1-014527,06-1-014527,1
+06-1-015195,06-1-015195,1
+06-1-015275,06-1-015275;06-4-026773,2
+06-1-015299,06-1-015299;06-1-015300,2
+06-1-015498,06-1-015498,1
+06-1-015732,06-1-015732;06-1-015733;06-4-027444,3
+06-1-015744,06-1-015744,1
+06-1-015756,06-1-015756,1
+06-1-015811,06-1-015811;06-1-016483,2
+06-1-015821,06-1-015820;06-1-015821,2
+06-1-016685,06-1-016685,1
+06-1-016812,06-1-016812;06-1-016813;06-1-016814,3
+06-1-017029,06-1-017026;06-1-017028;06-1-017029,3
+06-1-017530,06-1-017530,1
+06-1-017542,06-1-017542;06-1-017543,2
+06-1-017622,06-1-017622,1
+06-1-017713,06-1-017713,1
+06-1-017801,06-1-017801,1
+06-1-017822,06-1-017822,1
+06-1-017850,06-1-017850,1
+06-1-017988,06-1-017988;06-1-017989,2
+06-2-000448,06-2-000448;06-4-012036;06-4-012037;06-4-032307,4
+06-2-000685,06-2-000685,1
+06-2-000877,06-2-000877;06-2-000879,2
+06-2-001017,06-0-003333;06-2-001017,2
+06-2-001073,06-2-001073,1
+06-3-000328,06-3-000328;06-3-000329,2
+06-4-008720,06-4-008720,1
+06-4-008740,06-4-008740;06-4-008741,2
+06-4-009368,06-0-000331;06-4-009368,2
+06-4-009407,06-0-000454;06-4-009407,2
+06-4-009424,06-4-009424,1
+06-4-009734,06-4-009734,1
+06-4-009980,06-4-009980,1
+06-4-009988,06-4-009988,1
+06-4-010274,06-4-010274,1
+06-4-010405,06-4-010405,1
+06-4-011139,06-4-011139,1
+06-4-011474,06-4-011474,1
+06-4-011497,06-4-011497,1
+06-4-011515,06-4-011515,1
+06-4-012200,06-4-012163;06-4-012200,2
+06-4-012748,06-4-012748,1
+06-4-012830,06-4-012830,1
+06-4-012862,06-4-012862,1
+06-4-013108,06-4-013108,1
+06-4-014126,06-4-014125;06-4-014126,2
+06-4-014282,06-4-014282,1
+06-4-014801,06-4-014801,1
+06-4-014880,06-4-014880,1
+06-4-014915,06-4-014915,1
+06-4-015168,06-4-015168,1
+06-4-015574,06-0-001254;06-4-015574,2
+06-4-016018,06-4-016018;06-4-016021,2
+06-4-017666,06-1-009577;06-4-017666,2
+06-4-018520,06-0-003687;06-4-018520,2
+06-4-018529,06-0-003688;06-4-018529,2
+06-4-018887,06-4-018887,1
+06-4-019220,06-4-019220,1
+06-4-019497,06-0-002283;06-4-019496;06-4-019497,3
+06-4-019550,06-0-003688;06-4-019550,2
+06-4-019749,06-4-019749,1
+06-4-020987,06-1-011498;06-4-020987,2
+06-4-021955,06-1-011800;06-1-011807;06-4-021955,3
+06-4-022278,06-4-022278,1
+06-4-022477,06-1-012531;06-4-022477,2
+06-4-023802,06-4-023802,1
+06-4-023850,06-4-023850,1
+06-4-024521,06-4-024521,1
+06-4-024685,06-4-024685,1
+06-4-025252,06-4-025252,1
+06-4-025282,06-4-025282,1
+06-4-025772,06-4-025772,1
+06-4-025845,06-1-014314;06-4-025845,2
+06-4-026072,06-4-026072,1
+06-4-026155,06-4-026155,1
+06-4-026271,06-4-026271,1
+06-4-026303,06-1-015015;06-4-026303,2
+06-4-026650,06-4-026650,1
+06-4-026681,06-4-026681,1
+06-4-026774,06-1-015280;06-4-026774,2
+06-4-026875,06-4-026875,1
+06-4-026911,06-4-026911,1
+06-4-026932,06-1-015088;06-4-026932,2
+06-4-027148,06-4-027145;06-4-027148,2
+06-4-027339,06-4-027339,1
+06-4-027544,06-4-027544,1
+06-4-027954,06-4-027954,1
+06-4-028280,06-4-028280,1
+06-4-028864,06-4-028864,1
+06-4-030119,06-2-001082;06-4-030118;06-4-030119;06-4-030120,4
+06-4-030523,06-4-030523,1
+06-4-030613,06-1-018182;06-4-030613,2
+06-4-030628,06-1-018136;06-4-030628;06-4-030629;06-4-033351,4
+06-4-030800,06-4-030800,1
+06-4-030936,06-4-030936,1
+06-4-032132,06-4-010486;06-4-032132,2
+06-4-032272,06-0-000718;06-4-032272,2
+06-4-032533,06-4-032533,1
+06-4-033084,06-4-033084,1
+07-0-000229,07-0-000229,1
+07-0-000319,07-0-000319,1
+07-0-000363,07-0-000363;07-0-000368,2
+07-0-000441,07-0-000441;07-0-000443;07-0-000447;07-1-005490,4
+07-0-000540,07-0-000540,1
+07-0-000556,07-0-000554;07-0-000556,2
+07-0-000575,07-0-000575,1
+07-0-000593,07-0-000593;07-0-003908;07-1-007608,3
+07-0-000609,07-0-000609;07-4-008227,2
+07-0-000658,07-0-000658,1
+07-0-001199,07-0-001199,1
+07-0-001615,07-0-001615;07-3-000214,2
+07-0-001709,07-0-001709,1
+07-0-001811,07-0-001811,1
+07-0-002422,07-0-002421;07-0-002422;07-0-002425;07-4-027712,4
+07-0-002515,07-0-002515,1
+07-0-002539,07-0-002539,1
+07-0-002584,07-0-002584,1
+07-0-002591,07-0-002591,1
+07-0-002595,07-0-002595;07-0-002600;07-0-002601,3
+07-0-004044,07-0-004044,1
+07-1-000739,07-1-000739,1
+07-1-001013,07-1-001013,1
+07-1-001067,07-1-001067;07-1-001074,2
+07-1-001083,07-1-001083,1
+07-1-001314,07-1-001313;07-1-001314;07-1-001316;07-1-001318,4
+07-1-001340,07-1-001339;07-1-001340,2
+07-1-001443,07-1-001443;07-1-001444;07-4-001808;07-4-001809;07-4-001810;07-4-001813;07-4-001817;07-4-001818;07-4-001819;07-4-001824,10
+07-1-001522,07-1-001522;07-4-001723,2
+07-1-001585,07-1-001585,1
+07-1-002318,07-1-002318;07-1-002322,2
+07-1-002892,07-1-002892,1
+07-1-003060,07-1-003060;07-1-003070,2
+07-1-003079,07-1-002149;07-1-003079;07-1-003090;07-4-003368,4
+07-1-003417,07-1-003417,1
+07-1-003526,07-1-003526,1
+07-1-004153,07-1-004153,1
+07-1-004179,07-1-004179,1
+07-1-004262,07-1-004262,1
+07-1-004460,07-1-004460,1
+07-1-005113,07-1-005113;07-1-005116,2
+07-1-005145,07-1-005145;07-4-006519;07-4-006520,3
+07-1-005190,07-1-005190,1
+07-1-005240,07-1-005240,1
+07-1-005256,07-1-005256,1
+07-1-005310,07-1-005309;07-1-005310,2
+07-1-005357,07-1-002435;07-1-005357,2
+07-1-005525,07-0-000409;07-1-005525,2
+07-1-005589,07-1-005589,1
+07-1-006110,07-1-006110,1
+07-1-006348,07-1-006348,1
+07-1-006388,07-1-006388,1
+07-1-006881,07-1-006869;07-1-006881;07-1-006886,3
+07-1-007181,07-1-007181,1
+07-1-007462,07-1-007462;07-4-043926,2
+07-1-007686,07-0-000813;07-1-007686,2
+07-1-007749,07-1-007749,1
+07-1-007764,07-1-007764,1
+07-1-007806,07-1-007806,1
+07-1-007814,07-1-007814;07-4-043926,2
+07-1-008397,07-1-008397,1
+07-1-008402,07-1-008402,1
+07-1-008765,07-1-008765,1
+07-1-008766,07-0-000882;07-1-008766;07-1-008767,3
+07-1-008812,07-0-000804;07-1-008812,2
+07-1-009085,07-1-009085;07-4-043926,2
+07-1-009228,07-1-009228,1
+07-1-009331,07-1-009331,1
+07-1-009485,07-1-009485,1
+07-1-009510,07-1-009510,1
+07-1-009669,07-1-009669;07-4-043926,2
+07-1-009718,07-1-009718;07-3-000215;07-4-043926,3
+07-1-009781,07-1-009781;07-3-000215;07-4-043926,3
+07-1-009868,07-0-001091;07-1-009868,2
+07-1-010181,07-1-010181;07-4-043926,2
+07-1-010228,07-1-010228;07-4-043926,2
+07-1-010287,07-1-010287,1
+07-1-010304,07-1-010304;07-4-012681,2
+07-1-010622,07-1-010622,1
+07-1-010767,07-1-010767,1
+07-1-010943,07-1-010943;07-3-000215;07-4-043926,3
+07-1-010980,07-1-010980;07-3-000215;07-4-043926,3
+07-1-011079,07-1-011079,1
+07-1-011192,07-1-011192,1
+07-1-011727,07-1-011727,1
+07-1-011840,07-1-011840,1
+07-1-011933,07-1-011933,1
+07-1-012381,07-1-012381,1
+07-1-012495,07-1-012495,1
+07-1-012520,07-1-012520;07-4-017031;07-4-043926,3
+07-1-012564,07-1-012564;07-3-000215;07-4-043926,3
+07-1-012671,07-1-012207;07-1-012670;07-1-012671;07-4-016830;07-4-016834;07-4-016835;07-4-043926,7
+07-1-012946,07-1-012946,1
+07-1-013472,07-1-013472,1
+07-1-013691,07-1-013691;07-3-000215;07-4-043926,3
+07-1-013855,07-1-013855,1
+07-1-013974,07-1-013974;07-3-000215;07-4-043925;07-4-043926,4
+07-1-014094,07-1-012207;07-1-013609;07-1-014094;07-4-043925;07-4-043926,5
+07-1-015106,07-1-015106;07-4-043925;07-4-043926,3
+07-1-015225,07-1-015225;07-1-015226;07-1-015242;07-4-021906;07-4-043710;07-4-043924;07-4-043925;07-4-043926,8
+07-1-015398,07-1-015398,1
+07-1-015420,07-0-001919;07-1-015420,2
+07-1-015452,07-0-001999;07-1-015452,2
+07-1-015678,07-1-015678;07-1-015679;07-1-015681;07-4-043926,4
+07-1-015778,07-1-015778;07-1-015779,2
+07-1-015794,07-1-015794,1
+07-1-015995,07-1-015995,1
+07-1-016352,07-1-016352,1
+07-1-016377,07-1-016377;07-1-016389,2
+07-1-016457,07-1-016457;07-1-016459,2
+07-1-016758,07-1-016758;07-4-024733;07-4-024734;07-4-043926,4
+07-1-016803,07-0-001929;07-1-016803,2
+07-1-017049,07-1-017049;07-1-017050;07-4-043924;07-4-043925;07-4-043926,5
+07-1-017089,07-1-017089;07-4-025208;07-4-025210;07-4-025211;07-4-043773;07-4-043925;07-4-043926,7
+07-1-017175,07-1-017175,1
+07-1-017968,07-1-017968,1
+07-1-018130,07-1-018130;07-4-043926,2
+07-1-018383,07-1-018383,1
+07-1-018399,07-1-018399,1
+07-1-018591,07-1-018591,1
+07-1-018775,07-1-018775,1
+07-1-018831,07-1-018831,1
+07-1-019055,07-1-019055,1
+07-1-019101,07-1-019101,1
+07-1-019107,07-1-019107,1
+07-1-019276,07-1-019276;07-4-043925,2
+07-1-019513,07-1-019513,1
+07-1-019526,07-1-019526;07-2-002386,2
+07-1-019571,07-1-019571;07-4-043925,2
+07-1-019652,07-1-019652,1
+07-1-019673,07-1-019673,1
+07-1-027791,07-1-027791,1
+07-1-027825,07-1-027825;07-4-043924;07-4-043925;07-4-043926,4
+07-2-000014,07-1-000055;07-2-000014,2
+07-2-000094,07-0-000148;07-2-000094,2
+07-2-000176,07-2-000176;07-4-004915,2
+07-2-000373,07-2-000373,1
+07-2-000402,07-2-000402,1
+07-2-000473,07-2-000473;07-3-000088,2
+07-2-000505,07-2-000505,1
+07-2-000663,07-2-000663,1
+07-2-001290,07-2-001290,1
+07-2-001315,07-2-001315,1
+07-2-001429,07-2-001429;07-2-001430,2
+07-2-001619,07-2-001619,1
+07-2-001896,07-2-001896;07-2-001902,2
+07-2-002070,07-2-002070;07-4-043925;07-4-043926,3
+07-2-002294,07-2-002294,1
+07-3-000059,07-1-005513;07-3-000053;07-3-000059;07-3-000060,4
+07-3-000117,07-3-000117,1
+07-4-000947,07-4-000947,1
+07-4-001213,07-4-001212;07-4-001213;07-4-001221,3
+07-4-003002,07-4-003002,1
+07-4-003049,07-4-003049,1
+07-4-003126,07-4-003126,1
+07-4-003261,07-1-003275;07-1-003276;07-4-003261,3
+07-4-003496,07-4-003496;07-4-003497,2
+07-4-003587,07-4-003587,1
+07-4-004058,07-4-004058,1
+07-4-005257,07-1-004584;07-1-004587;07-4-005257,3
+07-4-005258,07-1-004587;07-4-005258;07-4-005260,3
+07-4-006639,07-4-006639,1
+07-4-007166,07-1-005921;07-1-006192;07-4-007166,3
+07-4-007188,07-4-007188;07-4-007189,2
+07-4-007322,07-0-000554;07-4-007322;07-4-007323,3
+07-4-008321,07-4-008321,1
+07-4-008349,07-0-000804;07-4-008349;07-4-008351,3
+07-4-009334,07-1-007648;07-4-009334,2
+07-4-009695,07-4-009695,1
+07-4-011620,07-4-011620,1
+07-4-011671,07-4-011671,1
+07-4-012074,07-1-009797;07-3-000215;07-4-012074;07-4-043926,4
+07-4-012732,07-4-012732;07-4-043926,2
+07-4-012957,07-4-012957,1
+07-4-013229,07-4-013229,1
+07-4-013286,07-0-001170;07-4-013286,2
+07-4-013510,07-4-013510;07-4-043926,2
+07-4-013950,07-4-013950,1
+07-4-013984,07-4-013983;07-4-013984,2
+07-4-014656,07-1-011014;07-3-000215;07-4-014656;07-4-043926,4
+07-4-014708,07-3-000215;07-4-014707;07-4-014708;07-4-043926,4
+07-4-015420,07-1-012165;07-4-015420,2
+07-4-015898,07-3-000215;07-4-015898;07-4-043926,3
+07-4-016783,07-4-016783,1
+07-4-017411,07-4-017411,1
+07-4-018364,07-4-018364,1
+07-4-019014,07-3-000215;07-4-019014;07-4-043925;07-4-043926,4
+07-4-019526,07-0-001716;07-4-019526,2
+07-4-019712,07-1-014002;07-1-014021;07-3-000215;07-4-019712;07-4-019713;07-4-043925;07-4-043926,7
+07-4-019890,07-4-019890,1
+07-4-019894,07-4-019892;07-4-019894,2
+07-4-020143,07-4-020143,1
+07-4-021153,07-3-000215;07-4-021152;07-4-021153;07-4-043925;07-4-043926,5
+07-4-021639,07-4-021639,1
+07-4-021962,07-4-021962;07-4-043925;07-4-043926,3
+07-4-022016,07-3-000139;07-4-022015;07-4-022016;07-4-043925;07-4-043926,5
+07-4-022073,07-1-027906;07-4-022070;07-4-022072;07-4-022073;07-4-043926,5
+07-4-023289,07-4-023281;07-4-023289;07-4-043925;07-4-043926,4
+07-4-023500,07-4-023500,1
+07-4-023591,07-0-001867;07-3-000214;07-4-023591,3
+07-4-023850,07-4-023850;07-4-023851;07-4-023852;07-4-043925;07-4-043926,5
+07-4-024584,07-1-016580;07-4-024584,2
+07-4-024664,07-4-024664;07-4-043925;07-4-043926,3
+07-4-024763,07-0-001999;07-0-002000;07-4-024763,3
+07-4-027358,07-0-002480;07-1-018410;07-4-027358;07-4-043926,4
+07-4-028913,07-4-028913,1
+07-4-029128,07-4-029128,1
+07-4-042867,07-3-000215;07-4-042866;07-4-042867;07-4-043926,4
+07-4-043690,07-4-022101;07-4-043690,2
+07-4-043750,07-1-016666;07-4-024651;07-4-043750;07-4-043751;07-4-043925;07-4-043926,6
+10-0-000885,10-0-000885,1
+10-0-001114,10-0-001113;10-0-001114,2
+10-0-001321,10-0-001321;10-0-001323;10-4-035662,3
+10-0-001443,10-0-001443;10-0-001450,2
+10-0-001703,10-0-001703,1
+10-0-001716,10-0-001716;10-0-001720;11-3-000200,3
+10-0-002462,10-0-002462,1
+10-0-002531,10-0-002530;10-0-002531,2
+10-0-002541,10-0-002541,1
+10-0-002872,10-0-002872;10-0-003400;10-4-031166,3
+10-0-003098,10-0-002736;10-0-003098;10-0-003099,3
+10-0-003161,10-0-003161,1
+10-0-003336,10-0-003336,1
+10-0-003479,10-0-003479,1
+10-0-003549,10-0-003549,1
+10-0-003814,10-0-003814;10-0-004032,2
+10-0-004356,10-0-004031;10-0-004356;10-0-004360,3
+10-0-004665,10-0-004665;10-0-004669,2
+10-0-004697,10-0-004697,1
+10-0-004925,10-0-004925;10-0-004926;10-0-004930,3
+10-0-006844,10-0-006840;10-0-006844,2
+10-0-006858,10-0-006858;10-1-006307,2
+10-0-006949,10-0-006949;10-0-006956,2
+10-0-007299,10-0-007299;10-0-007308;10-4-038216,3
+10-0-007358,10-0-007358,1
+10-0-007780,10-0-007780;10-4-038284,2
+10-0-007805,10-0-007805;10-0-007807;10-1-006340,3
+10-0-007811,10-0-007811;10-4-017869,2
+10-0-007898,10-0-007898,1
+10-0-008061,10-0-008061,1
+10-0-008078,10-0-008078,1
+10-0-009072,10-0-009030;10-0-009072,2
+10-0-009343,10-0-009343,1
+10-0-009528,10-0-009516;10-0-009528;10-1-005255,3
+10-0-009735,10-0-009735,1
+10-0-009855,10-0-009855,1
+10-1-004727,10-0-010452;10-1-004727;10-1-004728,3
+10-1-004778,10-1-004777;10-1-004778,2
+10-1-004971,10-1-004971,1
+10-1-005187,10-0-010112;10-1-005187,2
+10-1-005225,10-0-010139;10-0-010143;10-1-005225,3
+10-1-005282,10-1-005282,1
+10-1-005432,10-1-005424;10-1-005432;10-4-014599,3
+10-1-005772,10-1-005772,1
+10-1-006380,10-0-007895;10-1-006380,2
+10-1-006441,10-1-006441,1
+10-1-006470,10-1-006470,1
+10-1-006654,10-1-006654,1
+10-1-006774,10-1-006774,1
+10-1-007049,10-0-007234;10-1-007049,2
+10-1-007068,10-0-012196;10-1-007068;10-4-020033,3
+10-1-007122,10-0-006607;10-0-006987;10-1-007122,3
+10-1-007138,10-1-007138,1
+10-1-007241,10-1-007241,1
+10-1-007472,10-1-007472,1
+10-1-007494,10-1-007493;10-1-007494,2
+10-1-007529,10-0-006329;10-1-007529,2
+10-1-007641,10-1-007641,1
+10-1-007850,10-1-007850,1
+10-1-008072,10-1-008072,1
+10-1-008300,10-1-008300;10-4-024196,2
+10-1-008710,10-1-008710,1
+10-1-008783,10-0-004031;10-0-004360;10-1-008783,3
+10-1-008806,10-1-008806,1
+10-1-009282,10-1-009282,1
+10-1-009467,10-1-009467,1
+10-1-009502,10-1-009502,1
+10-1-009856,10-1-009856,1
+10-1-009880,10-1-009880,1
+10-1-009898,10-1-009898,1
+10-1-010255,10-1-010255,1
+10-1-010258,10-0-002465;10-1-010258;10-3-000225,3
+10-1-010291,10-0-002411;10-0-002412;10-1-010291,3
+10-1-010419,10-0-002298;10-1-010418;10-1-010419,3
+10-1-010848,10-1-010848,1
+10-1-011030,10-1-011029;10-1-011030,2
+10-2-001437,10-2-001437,1
+10-2-001582,10-0-006987;10-2-001582,2
+10-2-001821,10-0-006625;10-2-001821;10-2-001822,3
+10-2-001833,10-2-001833,1
+10-2-001835,10-2-001835,1
+10-2-001873,10-2-001873,1
+10-2-001927,10-2-001927,1
+10-2-002044,10-1-008385;10-2-002044;10-2-002046;10-4-022771,4
+10-2-002117,10-2-002117,1
+10-2-002255,10-2-002255,1
+10-2-002353,10-0-003127;10-2-002353;10-4-029838,3
+10-2-002581,10-2-002581,1
+10-2-002610,10-2-002610;10-4-032680,2
+10-2-002647,10-2-002647;10-4-032173;10-4-032174,3
+10-4-012708,10-4-012708;10-4-012709,2
+10-4-013313,10-0-010070;10-4-013313;10-4-013314,3
+10-4-013386,10-0-010155;10-4-013386,2
+10-4-013589,10-4-013589;10-4-013590,2
+10-4-014454,10-4-014454,1
+10-4-014512,10-0-009293;10-4-014512,2
+10-4-014921,10-4-014921,1
+10-4-014940,10-0-009314;10-4-014940,2
+10-4-015038,10-0-008702;10-4-015038,2
+10-4-015455,10-4-015455,1
+10-4-015642,10-1-005685;10-4-015642,2
+10-4-016171,10-0-008563;10-4-016171,2
+10-4-016907,10-4-016907,1
+10-4-018202,10-0-006987;10-4-018202,2
+10-4-018262,10-4-018262,1
+10-4-018698,10-1-006644;10-4-018698,2
+10-4-019074,10-4-019074,1
+10-4-020427,10-4-020427,1
+10-4-020969,10-4-020969,1
+10-4-021517,10-4-021517,1
+10-4-021762,10-4-021762,1
+10-4-022164,10-4-022162;10-4-022164,2
+10-4-022229,10-0-005477;10-4-022229,2
+10-4-023268,10-0-004031;10-0-005500;10-4-023268,3
+10-4-023752,10-0-004837;10-4-023752,2
+10-4-023768,10-0-005279;10-0-005281;10-4-023768,3
+10-4-024295,10-0-004841;10-4-024295,2
+10-4-024465,10-0-004965;10-3-000132;10-4-024465,3
+10-4-024782,10-0-004032;10-4-024782,2
+10-4-025169,10-4-025169,1
+10-4-025254,10-4-025254,1
+10-4-025458,10-0-004032;10-4-025458,2
+10-4-025840,10-0-004418;10-4-025840,2
+10-4-026011,10-4-026011,1
+10-4-026780,10-4-026780,1
+10-4-026923,10-0-003779;10-4-026923,2
+10-4-027551,10-0-004031;10-4-027551,2
+10-4-027627,10-0-003901;10-4-027627;10-4-037591,3
+10-4-027856,10-4-027856,1
+10-4-027863,10-0-003901;10-4-027863,2
+10-4-027964,10-4-027964,1
+10-4-028076,10-4-028076,1
+10-4-028642,10-4-028642,1
+10-4-028821,10-0-003418;10-4-028821,2
+10-4-028869,10-4-028869,1
+10-4-029266,10-4-029266,1
+10-4-029361,10-0-003272;10-4-029361,2
+10-4-029666,10-4-029666,1
+10-4-029831,10-0-003127;10-4-029831,2
+10-4-030042,10-4-030042,1
+10-4-030500,10-4-030499;10-4-030500,2
+10-4-030555,10-0-003046;10-4-030555,2
+10-4-031253,10-4-031253,1
+10-4-031312,10-4-031312,1
+10-4-031475,10-4-031475,1
+10-4-033032,10-4-033032,1
+10-4-033351,10-4-033351,1
+10-4-033482,10-0-001849;10-3-000280;10-4-033482,3
+10-4-033486,10-3-000280;10-4-033486,2
+10-4-033539,10-4-033539,1
+10-4-033602,10-4-033602;10-4-033603,2
+10-4-033981,10-4-033981,1
+10-4-034438,10-4-034438,1
+10-4-034448,10-0-002053;10-1-010751;10-4-034448,3
+10-4-034524,10-4-034524,1
+10-4-034579,10-0-001894;10-4-034579,2
+10-4-034630,10-4-034630,1
+10-4-034878,10-0-001744;10-4-034878,2
+10-4-035053,10-4-035053,1
+10-4-035283,10-4-035283,1
+10-4-035670,10-4-035670,1
+10-4-036415,10-1-011103;10-4-036415;10-4-036416,3
+10-4-036502,10-0-006876;10-0-012183;10-1-006307;10-4-036502,4
+10-4-036885,10-0-002022;10-3-000272;10-3-000273;10-4-036885,4
+10-4-036985,10-2-002705;10-2-002710;10-4-036985,3
+10-4-037389,10-4-029208;10-4-037389,2
+10-4-037578,10-0-004031;10-4-037578,2
+10-4-037677,10-4-037677,1
+10-4-037889,10-0-005395;10-4-037889,2
+10-4-037917,10-4-037917,1
+10-4-037925,10-4-037925,1
+10-4-038494,10-4-038494,1
+11-0-002074,11-0-002074;11-0-002089;11-0-002090,3
+11-0-002263,11-0-002263;11-4-028667,2
+11-0-002751,11-0-002751,1
+11-0-002823,11-0-002823;11-1-010306,2
+11-0-004073,11-0-004073,1
+11-0-004127,11-0-004127;11-0-004128;11-0-004129,3
+11-0-004255,11-0-004255,1
+11-0-004494,11-0-004494;11-0-004495,2
+11-0-004804,11-0-004626;11-0-004804,2
+11-0-005904,11-0-005904,1
+11-0-006277,11-0-004755;11-0-006277,2
+11-0-006485,11-0-006485,1
+11-0-006813,11-0-006813;11-0-006821;11-2-002282,3
+11-0-006928,11-0-006928;11-4-012203;11-4-012204,3
+11-0-007294,11-0-007294;11-2-001873,2
+11-0-007359,11-0-007358;11-0-007359,2
+11-0-007598,11-0-004755;11-0-007598,2
+11-0-007681,11-0-007681,1
+11-0-007886,11-0-007886;11-0-011821,2
+11-0-008171,11-0-008171,1
+11-0-008464,11-0-008464,1
+11-0-009100,11-0-009100;11-0-009816,2
+11-0-009241,11-0-009241,1
+11-0-009439,11-0-008513;11-0-009439,2
+11-0-009678,11-0-009218;11-0-009668;11-0-009678,3
+11-0-009795,11-0-009795,1
+11-0-009806,11-0-009806;11-0-009816,2
+11-0-010193,11-0-010193;11-0-010196,2
+11-0-010200,11-0-010196;11-0-010200,2
+11-0-010814,11-0-009816;11-0-010814,2
+11-0-010963,11-0-010963,1
+11-0-011038,11-0-010196;11-0-010431;11-0-011038;11-0-011039,4
+11-0-011072,11-0-011072,1
+11-0-011261,11-0-011261,1
+11-0-011449,11-0-011449,1
+11-0-011647,11-0-011646;11-0-011647;11-0-011661,3
+11-0-011670,11-0-011670,1
+11-1-000341,11-1-000340;11-1-000341;11-1-000343,3
+11-1-000461,11-1-000461,1
+11-1-000462,11-1-000462,1
+11-1-000660,11-1-000660;11-1-000664;11-3-000200,3
+11-1-000707,11-1-000707,1
+11-1-000772,11-1-000772;11-3-000200,2
+11-1-000791,11-1-000791,1
+11-1-000795,11-1-000795,1
+11-1-001074,11-1-001074;11-1-001075,2
+11-1-001095,11-1-001095,1
+11-1-001353,11-1-001353,1
+11-1-001507,11-1-001507;11-4-004618,2
+11-1-001956,11-0-009180;11-0-009181;11-1-001956,3
+11-1-002020,11-1-002020,1
+11-1-002028,11-0-009816;11-1-002028,2
+11-1-002120,11-1-002120;11-4-039001,2
+11-1-002253,11-0-009238;11-1-002253,2
+11-1-002271,11-0-009275;11-1-002271,2
+11-1-002498,11-1-002498,1
+11-1-002708,11-1-002708,1
+11-1-002885,11-1-002885,1
+11-1-002958,11-1-002958,1
+11-1-002999,11-0-008384;11-1-002999,2
+11-1-003109,11-1-003109,1
+11-1-003112,11-1-003112,1
+11-1-003297,11-1-003297,1
+11-1-003684,11-1-003684,1
+11-1-003795,11-1-003795,1
+11-1-004178,11-0-006709;11-1-004178,2
+11-1-004471,11-0-004755;11-1-004471,2
+11-1-004581,11-0-006158;11-1-004581,2
+11-1-004816,11-0-005706;11-0-005711;11-1-004816,3
+11-1-005007,11-1-005002;11-1-005007;11-4-014201,3
+11-1-005029,11-1-005029,1
+11-1-005071,11-0-005410;11-1-005071,2
+11-1-005239,11-1-005239;11-1-005240;11-4-015486,3
+11-1-005537,11-1-005537,1
+11-1-006380,11-0-004755;11-1-006379;11-1-006380;11-1-006381,4
+11-1-006425,11-1-006425,1
+11-1-006859,11-1-006859,1
+11-1-007027,11-1-007027,1
+11-1-007193,11-1-007193,1
+11-1-007386,11-1-007386,1
+11-1-007517,11-1-006980;11-1-007517,2
+11-1-007588,11-1-007588,1
+11-1-007590,11-1-007590,1
+11-1-008124,11-1-008124,1
+11-1-008234,11-1-008234,1
+11-1-008467,11-1-008467;11-4-019469,2
+11-1-008605,11-1-008604;11-1-008605,2
+11-1-008739,11-1-008738;11-1-008739;11-1-008740;11-2-003950;11-4-021255,5
+11-1-008942,11-1-008942;11-1-008961,2
+11-1-009031,11-1-009031,1
+11-1-009405,11-1-009405;11-1-010683,2
+11-1-009497,11-0-003600;11-1-009497,2
+11-1-009524,11-1-009524;11-4-022122,2
+11-1-009893,11-1-009893,1
+11-1-010216,11-1-010216;11-1-010222,2
+11-1-010555,11-0-003038;11-1-010555;11-1-010556,3
+11-1-010653,11-1-010653,1
+11-1-010849,11-1-010849,1
+11-1-011056,11-1-011056;11-1-011057,2
+11-1-011246,11-1-011093;11-1-011246;11-1-011247;11-1-011248,4
+11-1-011692,11-0-002934;11-1-011692,2
+11-1-011890,11-0-002545;11-1-011890,2
+11-1-011923,11-1-011923,1
+11-1-011965,11-1-011965,1
+11-1-011972,11-1-011972,1
+11-1-012014,11-0-002737;11-1-012014;11-2-005067;11-4-026209;11-4-026218,5
+11-1-012088,11-1-012088,1
+11-1-012145,11-1-012144;11-1-012145,2
+11-1-012336,11-1-012336;11-1-012337;11-4-026562,3
+11-1-012492,11-1-012492;11-4-028139;11-4-028148,3
+11-1-012865,11-1-012865,1
+11-1-013116,11-1-013116,1
+11-1-013441,11-1-013441,1
+11-1-013553,11-1-013553;11-1-013558;11-4-029548,3
+11-1-013874,11-1-013874,1
+11-2-000148,11-2-000148;11-3-000200,2
+11-2-000239,11-1-000103;11-2-000239,2
+11-2-000315,11-2-000315,1
+11-2-000451,11-2-000451,1
+11-2-000604,11-0-009816;11-2-000604;11-2-000605,3
+11-2-000786,11-2-000786,1
+11-2-000802,11-2-000802,1
+11-2-000971,11-0-009267;11-2-000971,2
+11-2-000976,11-0-009275;11-0-009276;11-2-000976,3
+11-2-000989,11-2-000988;11-2-000989,2
+11-2-001009,11-2-001009;11-4-006310,2
+11-2-001032,11-0-009585;11-2-001032,2
+11-2-001116,11-2-001116,1
+11-2-001117,11-1-002392;11-2-001117;11-4-006163,3
+11-2-001144,11-2-001144,1
+11-2-001182,11-2-001182,1
+11-2-001441,11-2-001441,1
+11-2-001730,11-0-007763;11-0-008107;11-0-008108;11-2-001730,4
+11-2-001919,11-2-001919,1
+11-2-002342,11-2-002342,1
+11-2-002463,11-2-002463,1
+11-2-002917,11-2-002917,1
+11-2-003134,11-2-003134,1
+11-2-003549,11-0-004380;11-2-003549,2
+11-2-003561,11-2-003561,1
+11-2-003936,11-2-003936;11-4-021212,2
+11-2-004119,11-0-003598;11-2-004119,2
+11-2-004198,11-2-004198;11-2-004199,2
+11-2-004211,11-2-004211,1
+11-2-004359,11-2-004359,1
+11-2-004487,11-0-002882;11-2-004487,2
+11-2-004589,11-2-004589,1
+11-2-004715,11-2-004715,1
+11-2-004993,11-0-002550;11-2-004993,2
+11-2-005393,11-2-005393;11-2-005395,2
+11-4-000713,11-4-000713,1
+11-4-001411,11-3-000200;11-4-001411,2
+11-4-001429,11-3-000200;11-4-001429,2
+11-4-001643,11-0-010747;11-4-001643,2
+11-4-002011,11-1-000807;11-4-002011,2
+11-4-002295,11-1-000482;11-4-002295,2
+11-4-002771,11-4-002771,1
+11-4-003021,11-0-010785;11-0-011821;11-4-003021,3
+11-4-003365,11-1-001231;11-4-003365,2
+11-4-004336,11-4-004336,1
+11-4-004675,11-4-004675,1
+11-4-004826,11-4-004826,1
+11-4-005023,11-0-009402;11-0-009526;11-4-005023,3
+11-4-005615,11-4-005615,1
+11-4-006176,11-4-006176,1
+11-4-006275,11-4-006275,1
+11-4-006692,11-4-006692,1
+11-4-006917,11-0-008738;11-4-006917,2
+11-4-007507,11-4-007507,1
+11-4-008000,11-0-008069;11-4-008000,2
+11-4-008071,11-4-008071,1
+11-4-008210,11-4-008210,1
+11-4-008506,11-0-007409;11-4-008506,2
+11-4-008919,11-2-001810;11-4-008919,2
+11-4-009013,11-0-007741;11-4-009013,2
+11-4-009334,11-4-009334,1
+11-4-009515,11-3-000066;11-4-009515,2
+11-4-009556,11-4-009556,1
+11-4-009950,11-4-009950,1
+11-4-010927,11-4-010927,1
+11-4-011437,11-4-011437,1
+11-4-012665,11-0-004755;11-4-012665;11-4-012666,3
+11-4-012685,11-0-004755;11-4-012685,2
+11-4-013093,11-0-004755;11-4-013093,2
+11-4-013926,11-0-005578;11-4-013926,2
+11-4-014558,11-0-005824;11-4-014558,2
+11-4-015417,11-4-015417,1
+11-4-015999,11-4-015999,1
+11-4-016192,11-4-016192,1
+11-4-016374,11-0-004755;11-4-016374,2
+11-4-017004,11-0-004316;11-4-017003;11-4-017004,3
+11-4-017450,11-0-004364;11-4-017450,2
+11-4-017468,11-0-004325;11-0-004327;11-0-004330;11-4-017468,4
+11-4-017680,11-4-017680,1
+11-4-017875,11-4-017875,1
+11-4-018843,11-4-018843,1
+11-4-019144,11-4-019144,1
+11-4-019290,11-0-004150;11-0-004155;11-4-019290,3
+11-4-022367,11-4-022367,1
+11-4-023447,11-4-023447,1
+11-4-023897,11-1-010961;11-4-023897,2
+11-4-023916,11-4-023916,1
+11-4-024346,11-0-002971;11-4-024346,2
+11-4-026495,11-4-026495,1
+11-4-026755,11-1-012497;11-2-005199;11-4-026755,3
+11-4-028212,11-1-013454;11-4-028212,2
+11-4-028923,11-4-028923,1
+11-4-029055,11-4-029053;11-4-029054;11-4-029055,3
+11-4-038595,11-4-038595,1
+11-4-039397,11-0-002707;11-4-039397,2
+14-1-003110,14-1-003110,1
+14-1-003460,14-1-003460,1
+14-1-003508,14-1-003508,1
+14-1-003683,14-1-003683,1
+14-1-003742,14-1-003742,1
+14-1-003845,14-1-003845,1
+14-1-004262,14-1-004262,1
+14-1-004351,14-1-004351,1
+14-1-004684,14-1-004684,1
+14-1-004799,14-1-004799,1
+14-1-004961,14-1-004961,1
+14-1-005195,14-1-005195,1
+14-1-005497,14-1-005497,1
+14-1-005711,14-1-005711,1
+14-1-005935,14-1-005935,1
+14-1-006009,14-1-006009,1
+14-1-006014,14-1-006014,1
+14-1-006385,14-1-006385,1
+14-1-006542,14-1-006542;14-1-006543,2
+14-1-006669,14-1-006669,1
+14-1-006956,14-1-006956,1
+14-1-007008,14-1-007008,1
+14-1-007031,14-1-007031,1
+14-1-007646,14-1-007646,1
+14-1-007928,14-1-007928,1
+14-1-008209,14-1-008209,1
+14-1-008255,14-1-008255;14-4-014337,2
+14-1-008494,14-1-008494,1
+14-1-009085,14-1-009085,1
+14-1-009172,14-1-009172,1
+14-1-009230,14-1-009230,1
+14-1-009477,14-1-009477,1
+14-1-009739,14-1-009739,1
+14-1-010711,14-1-010711;14-1-010722,2
+14-1-010850,14-1-010850,1
+14-1-010938,14-1-010938;14-1-010943;14-1-010953,3
+14-1-011099,14-1-011099,1
+14-1-011100,14-1-011100;14-1-011103;14-4-005396,3
+14-1-011314,14-1-011314,1
+14-1-011503,14-1-011503;14-1-011505;14-1-011506;14-1-011516,4
+14-1-011730,14-1-011730,1
+14-1-012027,14-1-012027,1
+14-1-012210,14-1-012210,1
+14-1-012285,14-1-012285,1
+14-1-012452,14-1-012452,1
+14-1-012474,14-1-012474;14-4-001949,2
+14-1-012656,14-1-012656,1
+14-1-012932,14-1-012932;14-1-012942,2
+14-1-013256,14-1-013256;14-4-001714,2
+14-1-013440,14-1-013440,1
+14-1-013663,14-1-013663,1
+14-2-000197,14-2-000197,1
+14-2-000238,14-2-000238;14-2-000239,2
+14-2-000450,14-1-011946;14-1-011961;14-2-000450,3
+14-4-000276,14-1-013590;14-4-000276,2
+14-4-000577,14-4-000577;15-1-000836,2
+14-4-000694,14-4-000694,1
+14-4-000800,14-1-013251;14-4-000800,2
+14-4-001518,14-1-013059;14-4-001518,2
+14-4-001973,14-4-001972;14-4-001973,2
+14-4-002736,14-4-002736,1
+14-4-003212,14-4-003211;14-4-003212,2
+14-4-004107,14-1-011923;14-4-004107,2
+14-4-004227,14-1-011759;14-4-004227,2
+14-4-004574,14-4-004574,1
+14-4-006884,14-4-006884,1
+14-4-006889,14-4-006889,1
+14-4-006898,14-4-006898,1
+14-4-007152,14-1-010722;14-4-007152,2
+14-4-007181,14-4-007181,1
+14-4-007191,14-4-007191,1
+14-4-007441,14-4-007441,1
+14-4-007796,14-3-000209;14-4-007796,2
+14-4-008197,14-4-008197,1
+14-4-008236,14-4-008236,1
+14-4-008411,14-3-000200;14-4-008411,2
+14-4-008645,14-4-008645;14-4-008646,2
+14-4-009463,14-4-009463,1
+14-4-009549,14-1-009737;14-1-009738;14-4-009549,3
+14-4-010174,14-4-010174,1
+14-4-010737,14-4-010737,1
+14-4-010842,14-4-010842,1
+14-4-010936,14-4-010936,1
+14-4-011053,14-4-011053,1
+14-4-011300,14-4-011300,1
+14-4-011329,14-4-011329,1

metadata/stats.json

@@ -0,0 +1,14 @@
+{
+  "release_version": "release_v1",
+  "official": {
+    "gallery_images": 50000,
+    "gallery_crater_ids": 25000,
+    "query_images": 5000,
+    "query_crater_ids": 1000,
+    "train_images": 47882,
+    "train_crater_ids": 23941,
+    "raw_multilabel_query_ids": 428,
+    "filtered_multilabel_query_ids": 59,
+    "max_filtered_relevant_ids": 3
+  }
+}

requirements.txt

@@ -0,0 +1,5 @@
+numpy
+Pillow
+torch
+torchvision
+timm

scripts/validate_release.py

@@ -0,0 +1,137 @@
+#!/usr/bin/env python3
+"""
+Validate the public CraterBench-R release package.
+"""
+
+from __future__ import annotations
+
+import json
+import zipfile
+from pathlib import Path
+
+
+RELEASE_ROOT = Path(__file__).resolve().parents[1]
+LOCAL_STRING_PATTERNS = [
+    "/" + "lstr" + "/",
+    "mars" + "sim/" + "jfang",
+    "z" + "1977143",
+    "sa" + "hara" + "/mar" + "ssim",
+]
+
+
+def load_json(path: Path) -> dict:
+    with path.open("r") as handle:
+        return json.load(handle)
+
+
+def _build_file_index() -> set[str] | None:
+    """Return set of image paths from extracted dirs or images.zip."""
+    images_dir = RELEASE_ROOT / "images"
+    if images_dir.is_dir():
+        paths = set()
+        for p in images_dir.rglob("*.jpg"):
+            paths.add(str(p.relative_to(RELEASE_ROOT)))
+        return paths
+
+    zip_path = RELEASE_ROOT / "images.zip"
+    if zip_path.exists():
+        with zipfile.ZipFile(zip_path) as zf:
+            return set(zf.namelist())
+
+    return None
+
+
+def assert_relative_paths(
+    entries: list[dict[str, object]], file_index: set[str] | None
+) -> None:
+    for entry in entries:
+        relpath = str(entry["path"])
+        if Path(relpath).is_absolute():
+            raise ValueError(f"Absolute path found in manifest: {relpath}")
+        if file_index is not None and relpath not in file_index:
+            raise FileNotFoundError(f"Missing file referenced by manifest: {relpath}")
+
+
+def validate_split_manifests() -> None:
+    test_manifest = load_json(RELEASE_ROOT / "splits" / "test.json")
+    train_manifest = load_json(RELEASE_ROOT / "splits" / "train.json")
+
+    file_index = _build_file_index()
+    if file_index is None:
+        print("  warning: no images/ dir or images.zip found, skipping file checks")
+
+    assert_relative_paths(test_manifest["gallery_images"], file_index)
+    assert_relative_paths(test_manifest["query_images"], file_index)
+    assert_relative_paths(train_manifest["gallery_images"], file_index)
+
+    if train_manifest["query_images"]:
+        raise ValueError("Official train split must not contain query images.")
+    if train_manifest["ground_truth"]:
+        raise ValueError("Official train split must not contain ground truth.")
+
+    gallery_ids = {str(entry["crater_id"]) for entry in test_manifest["gallery_images"]}
+    query_ids = {str(entry["crater_id"]) for entry in test_manifest["query_images"]}
+    ground_truth = test_manifest["ground_truth"]
+
+    if query_ids != set(ground_truth):
+        missing = sorted(query_ids - set(ground_truth))
+        extra = sorted(set(ground_truth) - query_ids)
+        raise ValueError(
+            f"Mismatch between query crater IDs and ground truth keys. Missing={missing[:5]} Extra={extra[:5]}"
+        )
+
+    for crater_id, relevant_ids in ground_truth.items():
+        if not relevant_ids:
+            raise ValueError(f"Empty ground-truth entry for query crater {crater_id}")
+        if len(relevant_ids) != len(set(relevant_ids)):
+            raise ValueError(f"Duplicate relevant IDs in ground truth for {crater_id}")
+        if any(relevant_id not in gallery_ids for relevant_id in relevant_ids):
+            raise ValueError(f"Non-gallery relevant ID found in ground truth for {crater_id}")
+
+    train_ids = {str(entry["crater_id"]) for entry in train_manifest["gallery_images"]}
+    excluded_ids = set(ground_truth)
+    for relevant_ids in ground_truth.values():
+        excluded_ids.update(relevant_ids)
+    overlap = train_ids & excluded_ids
+    if overlap:
+        raise ValueError(
+            f"Train split overlaps with test relevance closure: {sorted(overlap)[:10]}"
+        )
+
+
+def scan_for_local_strings() -> None:
+    text_files = [
+        *RELEASE_ROOT.glob("*.md"),
+        *RELEASE_ROOT.glob("*.txt"),
+        *RELEASE_ROOT.glob("*.toml"),
+        *RELEASE_ROOT.glob("*.yml"),
+        *RELEASE_ROOT.glob("*.yaml"),
+        *RELEASE_ROOT.glob("scripts/*.py"),
+        *RELEASE_ROOT.glob("examples/*.py"),
+        *RELEASE_ROOT.glob("splits/*.json"),
+        *RELEASE_ROOT.glob("metadata/*.json"),
+    ]
+
+    for path in text_files:
+        content = path.read_text()
+        for pattern in LOCAL_STRING_PATTERNS:
+            if pattern in content:
+                raise ValueError(f"Found local string {pattern!r} in {path}")
+
+
+def main() -> None:
+    validate_split_manifests()
+    scan_for_local_strings()
+
+    test_manifest = load_json(RELEASE_ROOT / "splits" / "test.json")
+    train_manifest = load_json(RELEASE_ROOT / "splits" / "train.json")
+    print("Release package validation passed.")
+    print(
+        f"  test: {len(test_manifest['gallery_images'])} gallery / "
+        f"{len(test_manifest['query_images'])} query"
+    )
+    print(f"  train: {len(train_manifest['gallery_images'])} gallery")
+
+
+if __name__ == "__main__":
+    main()