#!/usr/bin/env python3 """integrated_test_labels_0716.csv 에서 디스크에 실존하는 원본만 남긴 매니페스트를 만든다. 0716 CSV 는 원본 4,756개를 등재하지만 실제로 있는 건 2,778개다(총 1,670 -> 297, 유리깨지는소리 482 -> 258, car_horn 340 -> 80 …). 파이프라인에 그대로 넣으면 MISSING 경고만 잔뜩 나므로 미리 걸러낸다. --labels 를 주면 해당 라벨만 뽑는다 (4-class 학습용 등). """ import argparse import csv import unicodedata from collections import Counter from pathlib import Path ROOT = Path(__file__).resolve().parent SRC_CSV = ROOT / "integrated_test_labels_0716.csv" # 4-class 학습에 쓰는 라벨. baby_cry 는 울음(AI Hub)과 baby_cry(esc50+donateacry)로 나뉜다. TARGET4 = ["총", "유리깨지는소리", "자전거", "울음", "baby_cry"] def resolve(rel: str) -> Path | None: """macOS 한글 파일명 정규화(NFC/NFD) 차이를 흡수해 존재를 확인한다.""" for form in (None, "NFC", "NFD"): p = ROOT / (rel if form is None else unicodedata.normalize(form, rel)) if p.exists(): return p return None def main() -> None: ap = argparse.ArgumentParser() ap.add_argument("--output", type=Path, default=ROOT / "integrated_all_0716.csv") ap.add_argument("--labels", nargs="+", default=None, help=f"지정 라벨만. 4-class: {' '.join(TARGET4)}") args = ap.parse_args() wanted = {unicodedata.normalize("NFC", s) for s in args.labels} if args.labels else None kept, dropped = [], Counter() with open(SRC_CSV, encoding="utf-8-sig", newline="") as f: for r in csv.DictReader(f): label = unicodedata.normalize("NFC", r["label"].strip()) if wanted is not None and label not in wanted: continue rel = r["filename"].strip() if resolve(rel) is None: dropped[label] += 1 continue kept.append({"filename": rel, "label": label}) with open(args.output, "w", encoding="utf-8", newline="") as f: w = csv.DictWriter(f, fieldnames=["filename", "label"]) w.writeheader() w.writerows(kept) counts = Counter(r["label"] for r in kept) print(f"wrote {args.output} rows={len(kept)}") for k in sorted(counts): print(f" {k:12s} kept={counts[k]:4d} dropped(디스크에 없음)={dropped[k]}") if __name__ == "__main__": main()