elda-memory-bench-ko / MANIFEST.json
Jinou6502's picture
초판 — 카드에 「못 재는 것」을 먼저 적었다
5413077 verified
Raw History Blame Contribute Delete
1.63 kB
{
"name": "elda-memory-bench-ko",
"version": "2026-09",
"rows": 424,
"positive": 272,
"negative": 152,
"seed": 20260924,
"sha256": "d19ae9a0013ade1f232f4f8683e76fe9b36f772637036319ae8375fae0d29489",
"made_by": "bench/make_bench.py — 규칙 기반 생성기로 **새로 찍었다**",
"disjoint_from": [
"내부 오독 탐침 v1~v5",
"동결 골드(실턴·합성)",
"평가·고르기 집합",
"학습셋 synth_v0_7 · synth_v0_8_10"
],
"blocked_on_overlap": 1613,
"surface_wobbled": 75,
"note": "⛔ 이 셋은 학습에 쓰라고 낸 것이 아니다. 오염되면 같은 규칙으로 다시 찍는다.",
"baseline_note": "우리 모델 F1 1.0000 — ★ 셋이 우리 분포라서다. 자랑이 아니라 **규칙 준수** 측정이다.",
"files": {
"MANIFEST.json": "5f9f5672a91bda71",
"README.md": "99e5029dcf597147",
"RULES.md": "55f9bf2fd78a46fb",
"bench.jsonl": "d19ae9a0013ade1f",
"run_baseline.py": "2f6ec06ac22605f8",
"score.py": "be8b27da9d9ebbf7",
"external_wos.py": "78dcdffcfdb2765b"
},
"splits": {
"1_conformance": {
"file": "bench.jsonl",
"rows": 424,
"our_f1": 1.0,
"note": "우리가 지은 문장 — 규칙 준수를 잰다. 1.0 이 정상이고 분간력은 없다"
},
"2_transfer": {
"builder": "external_wos.py",
"source": "KLUE-WoS validation (CC-BY-SA-4.0)",
"rows": 1440,
"values": 1962,
"subset_sha256": "363d1722985eb78e",
"our_f1": 0.5228,
"precision": 0.7416,
"recall": 0.4037,
"note": "문장·라벨이 밖에서 온다 — ★ 여기서 우리는 1.0 이 아니다(그래서 자 구실을 한다)"
}
}
}