make_source_manifest.py

#!/usr/bin/env python3
"""integrated_test_labels_0716.csv 에서 디스크에 실존하는 원본만 남긴 매니페스트를 만든다.

0716 CSV 는 원본 4,756개를 등재하지만 실제로 있는 건 2,778개다(총 1,670 -> 297,
유리깨지는소리 482 -> 258, car_horn 340 -> 80 …). 파이프라인에 그대로 넣으면
MISSING 경고만 잔뜩 나므로 미리 걸러낸다.

    --labels 를 주면 해당 라벨만 뽑는다 (4-class 학습용 등).
"""
import argparse
import csv
import unicodedata
from collections import Counter
from pathlib import Path

ROOT = Path(__file__).resolve().parent
SRC_CSV = ROOT / "integrated_test_labels_0716.csv"

# 4-class 학습에 쓰는 라벨. baby_cry 는 울음(AI Hub)과 baby_cry(esc50+donateacry)로 나뉜다.
TARGET4 = ["총", "유리깨지는소리", "자전거", "울음", "baby_cry"]


def resolve(rel: str) -> Path | None:
    """macOS 한글 파일명 정규화(NFC/NFD) 차이를 흡수해 존재를 확인한다."""
    for form in (None, "NFC", "NFD"):
        p = ROOT / (rel if form is None else unicodedata.normalize(form, rel))
        if p.exists():
            return p
    return None


def main() -> None:
    ap = argparse.ArgumentParser()
    ap.add_argument("--output", type=Path, default=ROOT / "integrated_all_0716.csv")
    ap.add_argument("--labels", nargs="+", default=None,
                    help=f"지정 라벨만. 4-class: {' '.join(TARGET4)}")
    args = ap.parse_args()

    wanted = {unicodedata.normalize("NFC", s) for s in args.labels} if args.labels else None

    kept, dropped = [], Counter()
    with open(SRC_CSV, encoding="utf-8-sig", newline="") as f:
        for r in csv.DictReader(f):
            label = unicodedata.normalize("NFC", r["label"].strip())
            if wanted is not None and label not in wanted:
                continue
            rel = r["filename"].strip()
            if resolve(rel) is None:
                dropped[label] += 1
                continue
            kept.append({"filename": rel, "label": label})

    with open(args.output, "w", encoding="utf-8", newline="") as f:
        w = csv.DictWriter(f, fieldnames=["filename", "label"])
        w.writeheader()
        w.writerows(kept)

    counts = Counter(r["label"] for r in kept)
    print(f"wrote {args.output}  rows={len(kept)}")
    for k in sorted(counts):
        print(f"  {k:12s} kept={counts[k]:4d} dropped(디스크에 없음)={dropped[k]}")


if __name__ == "__main__":
    main()