MF_BERT / README.md
podongchip's picture
MF_BERT 2026-10-29 ์ฒ˜์น˜ํŒ: ์ฒ˜์น˜ ๊ตฌ์ ˆยท์ฒ˜์น˜ ๋ฒ”์ฃผ 28๊ฐœ ์ถ”๊ฐ€, 4๋น„ํŠธ ONNX(hqq), CC BY-SA 4.0
5dd20eb verified
|
Raw History Blame Contribute Delete
10.5 kB
---
language:
- ko
license: cc-by-sa-4.0
base_model: klue/roberta-large
library_name: onnx
tags:
- emergency-medical-services
- information-extraction
- korean
- onnx
- int4
---
# MF_BERT โ€” 119 ๊ตฌ๊ธ‰๋Œ€-๋ณ‘์› ํ†ตํ™” ์ •๋ณด ์ถ”์ถœ ๋ชจ๋ธ (์ฒ˜์น˜ํŒ, 4๋น„ํŠธ ONNX)
119 ๊ตฌ๊ธ‰๋Œ€์™€ ๋ณ‘์› ์‘๊ธ‰์‹ค ์‚ฌ์ด์˜ ํ†ตํ™” ํ…์ŠคํŠธ๋ฅผ ๋„ฃ์œผ๋ฉด, ์ด์†กํ•  ํ™˜์ž ์ˆ˜์™€ ํ™˜์ž๋งˆ๋‹ค ๋‹ค์Œ 15๊ฐœ ํ•ญ๋ชฉ์„ ๋ฝ‘์Šต๋‹ˆ๋‹ค.
| ํ•ญ๋ชฉ | ํ˜•์‹ |
|---|---|
| `gender` | ๋‚จ์„ฑ / ์—ฌ์„ฑ / ํŒ๋‹จ ๋ณด๋ฅ˜ |
| `age_group` | 10๋Œ€ ๋ฏธ๋งŒ ~ 90๋Œ€์ด์ƒ / ํŒ๋‹จ ๋ณด๋ฅ˜ |
| `cc_major`, `cc_minor` | ์ฃผ์ฆ์ƒ ๋Œ€๋ถ„๋ฅ˜ 17๊ฐœ ยท ์†Œ๋ถ„๋ฅ˜ 169๊ฐœ(Pre-KTAS ์ฃผ์ฆ์ƒ ๋ชฉ๋ก) / ํŒ๋‹จ ๋ณด๋ฅ˜ |
| `avpu` | A / V / P / U / ๊ธฐํƒ€ / ์–ธ๊ธ‰ ์—†์Œ |
| `sbp` `dbp` `hr` `rr` `spo2` `temp` `glucose` `gcs` | ํ†ตํ™”์—์„œ ๋งํ•œ ์ˆ˜์น˜(์ˆซ์ž), ๋งํ•˜์ง€ ์•Š์•˜์œผ๋ฉด null |
| `treatments` | ๊ตฌ๊ธ‰๋Œ€์›์ด ํ•œ(ํ•˜๋Š” ยท ํ• ) ์ฒ˜์น˜๋ฅผ ๋งํ•œ ์›๋ฌธ ๊ตฌ์ ˆ ๋ชฉ๋ก, ์—†์œผ๋ฉด `[]` |
| `treat_categories` | ์ฒ˜์น˜ ๋ฒ”์ฃผ 28๊ฐœ ์ค‘ ์žˆ๋‹ค๊ณ  ๊ณ ๋ฅธ ๊ฒƒ์˜ ํ‚ค ๋ชฉ๋ก(์•„๋ž˜ ํ‘œ ์ˆœ์„œ), ์—†์œผ๋ฉด `[]` |
```json
{"patient_count": 1,
"patients": [{"gender": "๋‚จ์„ฑ", "age_group": "60๋Œ€", "cc_major": "I ์‹ฌํ˜ˆ๊ด€๊ณ„", "cc_minor": "ํ‰ํ†ต(์‹ฌ์žฅ์„ฑ)", "avpu": "A",
"sbp": 150, "dbp": 90, "hr": 110, "rr": null, "spo2": 92, "temp": null, "glucose": null, "gcs": null,
"treatments": ["์‚ฐ์†Œ ๋งˆ์Šคํฌ๋กœ 10๋ฆฌํ„ฐ ์ฃผ๊ณ  ์žˆ๊ณ ", "์ •๋งฅ๋กœ ์žก์•„์„œ ์ƒ๋ฆฌ์‹์—ผ์ˆ˜ ๋“ค์–ด๊ฐ€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค"],
"treat_categories": ["oxygen", "iv", "fluid"]}]}
```
**KTAS ๋“ฑ๊ธ‰์€ ์˜ˆ์ธกํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.** `v3-2026-10-20-rtn`์— `treatments`ยท`treat_categories` ๋‘ ํ•ญ๋ชฉ์ด ๋”ํ•ด์กŒ๊ณ , ์•ž์˜ 13๊ฐœ ํ•ญ๋ชฉ์€ ํ˜•์‹์ด ๊ฐ™์Šต๋‹ˆ๋‹ค.
`v2-2026-10-02` ์ดํ•˜์™€๋Š” ์ถœ๋ ฅ ํ˜•์‹์ด ์™„์ „ํžˆ ๋‹ค๋ฆ…๋‹ˆ๋‹ค.
> **ํŒ๋‹จ ๋ณด์กฐ์šฉ์ž…๋‹ˆ๋‹ค.** ํ•ฉ์„ฑ ๋ฐ์ดํ„ฐ์™€ AI ๋ผ๋ฒจ๋กœ ํ•™์Šตํ–ˆ์Šต๋‹ˆ๋‹ค.
### ์ฒ˜์น˜ ๋ฒ”์ฃผ
| ๋ฌถ์Œ | ํ‚ค | ๋‚ด์šฉ |
|---|---|---|
| ๊ธฐ๋„ยทํ˜ธํก | `oxygen` | ์‚ฐ์†Œ ํˆฌ์—ฌ (๋น„๊ฐ• ์บ๋‰ผ๋ผ, ๋งˆ์Šคํฌ, ๋น„์žฌํ˜ธํก ๋งˆ์Šคํฌ) |
| | `suction` | ํก์ธ |
| | `foreign_body` | ๊ธฐ๋„ ์ด๋ฌผ ์ œ๊ฑฐ (ํ•˜์ž„๋ฆฌํžˆ, ๋“ฑ ๋‘๋“œ๋ฆฌ๊ธฐ, ์ž…์•ˆ ์ด๋ฌผ ๊บผ๋ƒ„) |
| | `airway_basic` | ๋„์ˆ˜ ๊ธฐ๋„ ํ™•๋ณด, ๊ตฌ์ธ๋‘ยท๋น„์ธ๋‘ ๊ธฐ๋„์œ ์ง€๊ธฐ |
| | `airway_advanced` | ์„ฑ๋ฌธ์ƒ ๊ธฐ๋„๊ธฐ (i-gel, LMA), ๊ธฐ๊ด€์‚ฝ๊ด€ |
| | `ventilation` | ์–‘์•• ํ™˜๊ธฐ (BVM, ์ธ๊ณตํ˜ธํก๊ธฐ) |
| ์ˆœํ™˜ยท์†Œ์ƒ | `cpr` | ๊ฐ€์Šด์••๋ฐ• (์ˆ˜๋™, ๊ธฐ๊ณ„์‹) |
| | `defib` | ์ œ์„ธ๋™ ยท ์‹ฌ์œจ๋™์ „ํ™˜ (์‡ผํฌ๋ฅผ ์ค€ ๊ฒฝ์šฐ) |
| | `iv` | ์ •๋งฅ๋กœ ยท ๊ณจ๋‚ด ํ™•๋ณด |
| | `fluid` | ์ˆ˜์•ก ํˆฌ์—ฌ |
| | `bleeding` | ์ง€ํ˜ˆ (์ง์ ‘ ์••๋ฐ•, ๊ฑฐ์ฆˆ๋กœ ๋ˆ„๋ฆ„, ์••๋ฐ• ๋“œ๋ ˆ์‹ฑ, ์ง€ํ˜ˆ๋Œ€) |
| ์•ฝ๋ฌผ | `med_aspirin` | ์•„์Šคํ”ผ๋ฆฐ |
| | `med_nitro` | ๋‹ˆํŠธ๋กœ๊ธ€๋ฆฌ์„ธ๋ฆฐ |
| | `med_glucose` | ํฌ๋„๋‹น ยท ๋‹น ๊ณต๊ธ‰ |
| | `med_epinephrine` | ์—ํ”ผ๋„คํ”„๋ฆฐ |
| | `med_bronchodilator` | ๊ธฐ๊ด€์ง€ํ™•์žฅ์ œ (๋„ค๋ทธ๋ผ์ด์ €, ํก์ž…๊ธฐ) |
| | `med_other` | ๊ทธ ๋ฐ–์˜ ๋ชจ๋“  ์•ฝ |
| ๊ณ ์ • | `spinal` | ๊ฒฝ์ถ” ๋ณดํ˜ธ๋Œ€, ์ฒ™์ถ”๊ณ ์ •ํŒ ยท KED ยท ์Šค์ฟ ํ”„ ๋“ค๊ฒƒ |
| | `splint` | ํŒ”๋‹ค๋ฆฌ ๋ถ€๋ชฉ ยท ์‚ผ๊ฐ๊ฑด, ๊ณจ๋ฐ˜ ๊ณ ์ •๋Œ€ |
| ์ƒ์ฒ˜ยท๋…ธ์ถœ | `wound` | ์†Œ๋…, ๋“œ๋ ˆ์‹ฑ, ๊ฑฐ์ฆˆ ยท ๋ถ•๋Œ€๋กœ ๋ฎ๊ฑฐ๋‚˜ ๊ฐ๊ธฐ |
| | `burn` | ํ™”์ƒ ๋ƒ‰๊ฐ ยท ๋“œ๋ ˆ์‹ฑ |
| | `irrigation` | ์˜ค์—ผ๋ฌผ ์„ธ์ฒ™ (๋ˆˆ ยท ํ”ผ๋ถ€ ์„ธ์ฒ™, ์ž… ํ—น๊ตผ) |
| | `cold_pack` | ๊ตญ์†Œ ๋ƒ‰์ฐœ์งˆ |
| ์ฒด์˜จ | `cooling` | ์ „์‹  ๋ƒ‰๊ฐ (๊ณ ์ฒด์˜จ) |
| | `warming` | ๋ณด์˜จ (๋‹ด์š”, ํ•ซํŒฉ, ํžˆํ„ฐ, ์ –์€ ์˜ท ๋ฒ—๊น€) |
| ๊ธฐํƒ€ | `position` | ์น˜๋ฃŒ ๋ชฉ์ ์˜ ์ž์„ธ (ํšŒ๋ณต์ž์„ธ, ๋‹ค๋ฆฌ ์˜ฌ๋ฆผ, ๋ฐ˜์ขŒ์œ„, ์ž„์‹ ๋ถ€ ์™ผ์ชฝ์œผ๋กœ ๋ˆ•ํž˜) |
| | `delivery` | ๋ถ„๋งŒ ์ฒ˜์น˜ |
| | `other` | ๊ทธ ๋ฐ–์˜ ์ฒ˜์น˜ (๋ฐ˜์ง€ ยท ๋ฒŒ์นจ ์ œ๊ฑฐ, ์•ˆ๋Œ€, ์–ต์ œ๋Œ€, ๋ฏธ์ฃผ์‹ ๊ฒฝ ์ž๊ทน ๋“ฑ) |
## ๊ตฌ์กฐ
- ์ธ์ฝ”๋”: `klue/roberta-large`(์ „์ฒด ๋ฏธ์„ธ์กฐ์ •). 512ํ† ํฐ๋ณด๋‹ค ๊ธด ํ†ตํ™”๋Š” 128ํ† ํฐ์”ฉ ๊ฒน์น˜๊ฒŒ ๋‚˜๋ˆ  ์ธ์ฝ”๋”ฉํ•œ ๋’ค ์›๋ฌธ ํ† ํฐ ์ค„๋กœ ์ด์–ด ๋ถ™์ž…๋‹ˆ๋‹ค.
- ๊ฒฐ์ • ๋””์ฝ”๋” 2์ธต: ์งˆ๋ฌธ ๊ธ€์ž("1๋ฒˆ์งธ ํ™˜์ž์˜ ์„ฑ๋ณ„์€?")๋ฅผ ๋ฒกํ„ฐ๋กœ ๋งŒ๋“  ์งˆ๋ฌธ๋“ค์ด ํ†ตํ™” ํ† ํฐ์„ ์ฝ์Šต๋‹ˆ๋‹ค. ์งˆ๋ฌธ ๋ฒกํ„ฐ ํ•˜๋‚˜์— ํ•ญ๋ชฉ ์ข…๋ฅ˜๋ณ„ ํ—ค๋“œ๊ฐ€ ๋ถ™์Šต๋‹ˆ๋‹ค.
- ์„ ํƒ ํ•ญ๋ชฉ(์„ฑ๋ณ„ยท๋‚˜์ด๋Œ€ยท์ฃผ์ฆ์ƒยทAVPU): ํ›„๋ณด ์„ ํƒ์ง€ ์ค‘ ์ ์ˆ˜๊ฐ€ ๊ฐ€์žฅ ๋†’์€ ๊ฒƒ
- ํ™œ๋ ฅ์ง•ํ›„: ํ†ตํ™” ํ† ํฐ ์œ„์—์„œ ์ˆ˜์น˜๊ฐ€ ์ ํžŒ ๊ตฌ๊ฐ„์˜ ์‹œ์ž‘ยท๋์„ ๊ณ ๋ฅธ ๋’ค ๊ทธ ๊ธ€์ž๋ฅผ ์ˆซ์ž๋กœ ์ฝ์Šต๋‹ˆ๋‹ค
- ์ฒ˜์น˜(`treatments`): ํ†ตํ™” ํ† ํฐ๋งˆ๋‹ค O(๋ฐ–) ยท B(๊ตฌ์ ˆ ์ฒซ ํ† ํฐ) ยท I(๊ตฌ์ ˆ ์•ˆ)๋ฅผ ๊ณจ๋ผ, BยทI๋กœ ์ด์–ด์ง„ ํ† ํฐ์„ ์›๋ฌธ ๊ธ€์ž๋กœ ๋˜๋Œ๋ฆฝ๋‹ˆ๋‹ค
- ์ฒ˜์น˜ ๋ฒ”์ฃผ(`treat_categories`): 28๊ฐœ ๋ฒ”์ฃผ๋งˆ๋‹ค ์žˆ์Œ ์ ์ˆ˜(๋กœ์ง“)๋ฅผ ๋‚ด๊ณ , 0๋ณด๋‹ค ํฐ(ํ™•๋ฅ  0.5 ์ดˆ๊ณผ) ๋ฒ”์ฃผ๋ฅผ ๊ณ ๋ฆ…๋‹ˆ๋‹ค
- ์ถ”๋ก ์€ ๋‘ ๋‹จ๊ณ„์ž…๋‹ˆ๋‹ค. ํ™˜์ž ์ˆ˜ ์งˆ๋ฌธ์œผ๋กœ ํ™˜์ž ์ˆ˜ n์„ ์ •ํ•˜๊ณ , ํ™˜์ž 1..n์˜ ์งˆ๋ฌธ 15๊ฐœ์”ฉ์„ ํ•œ ๋ฒˆ์— ๋„ฃ์Šต๋‹ˆ๋‹ค.
- **4๋น„ํŠธ ์–‘์žํ™” (HQQ)**: ์ธ์ฝ”๋” MatMul ๊ฐ€์ค‘์น˜๋ฅผ ๋ธ”๋ก 32 ๋‹จ์œ„ 4๋น„ํŠธ(onnxruntime MatMulNBits)๋กœ ์ค„์˜€์Šต๋‹ˆ๋‹ค. ๋ธ”๋ก๋งˆ๋‹ค scaleยทzero point๋ฅผ
์›๋ž˜ ๊ฐ€์ค‘์น˜์™€์˜ ์˜ค์ฐจ๊ฐ€ ์ž‘์•„์ง€๊ฒŒ ๋ฐ˜๋ณต ์ตœ์ ํ™”ํ•ฉ๋‹ˆ๋‹ค(Half-Quadratic Quantization). ์ธ์ฝ”๋” ๋งˆ์ง€๋ง‰ 4๊ฐœ ์ธต(20~23)๊ณผ ๋””์ฝ”๋”๋Š” fp32์ž…๋‹ˆ๋‹ค.
๋ณด์ • ๋ฐ์ดํ„ฐ๋Š” ์“ฐ์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค. CPU(onnxruntime)์—์„œ ๋•๋‹ˆ๋‹ค.
## ํŒŒ์ผ
| ํŒŒ์ผ | ๋‚ด์šฉ |
|---|---|
| `encoder.onnx` | ์ธ์ฝ”๋”. ์ž…๋ ฅ `input_ids`ยท`attention_mask` (์กฐ๊ฐ ์ˆ˜, ๊ธธ์ด) โ†’ ์ถœ๋ ฅ `token_vectors` (์กฐ๊ฐ ์ˆ˜, ๊ธธ์ด, 1024) |
| `decoder.onnx` + `decoder.onnx.data` | ๋””์ฝ”๋”. ์ž…๋ ฅ `token_vectors` (1, ํ† ํฐ ์ˆ˜, 1024)ยท`question_ids` (1, ์งˆ๋ฌธ ์ˆ˜) โ†’ `scores` (1, ์งˆ๋ฌธ ์ˆ˜, 233), `span_start`ยท`span_end` (1, ์งˆ๋ฌธ ์ˆ˜, ํ† ํฐ ์ˆ˜ + 2), `tags` (1, ์งˆ๋ฌธ ์ˆ˜, ํ† ํฐ ์ˆ˜, 3), `categories` (1, ์งˆ๋ฌธ ์ˆ˜, 28) |
| `catalog.json` | ์งˆ๋ฌธ ๋ชฉ๋ก(`questions` 436๊ฐœ, ์งˆ๋ฌธ ๋ฒˆํ˜ธ = 1 + (ํ™˜์ž ๋ฒˆํ˜ธ - 1) ร— 15 + ํ•ญ๋ชฉ ์ˆœ์„œ, 0๋ฒˆ์€ ํ™˜์ž ์ˆ˜), ํ•ญ๋ชฉ ์ˆœ์„œ(`fields`), ์„ ํƒ์ง€ 233๊ฐœ(`options`), ํ•ญ๋ชฉ๋ณ„ ํ›„๋ณด ์„ ํƒ์ง€ ๋ฒˆํ˜ธ(`candidates`, ์†Œ๋ถ„๋ฅ˜๋Š” ๋Œ€๋ถ„๋ฅ˜๋ณ„ `cc_minor`), ํ™˜์ž ์ˆ˜ ํ›„๋ณด(`count`), AVPU ๊ฐ’(`avpu_values`), ํ™œ๋ ฅ์ง•ํ›„ ํ•ญ๋ชฉ(`span_fields`), ์ฒ˜์น˜ ํ•ญ๋ชฉ(`tag_fields`), ์ฒ˜์น˜ ๋ฒ”์ฃผ ํ•ญ๋ชฉ(`category_fields`)๊ณผ ๋ฒ”์ฃผ ํ‚ค ์ˆœ์„œ(`categories`) |
| `tokenizer/` | ํ† ํฌ๋‚˜์ด์ € |
ํ† ํฐ ์ค„ ์œ„์น˜๋Š” [CLS]๊ฐ€ 0, ๋ณธ๋ฌธ ํ† ํฐ์ด 1..n, [SEP]๊ฐ€ n+1์ž…๋‹ˆ๋‹ค.
- ํ™œ๋ ฅ์ง•ํ›„ ๊ตฌ๊ฐ„ ์ ์ˆ˜์˜ ๋งˆ์ง€๋ง‰ ๋‘ ์นธ์€ "๋งํ•˜์ง€ ์•Š์Œ"๊ณผ "0"(๋ฌดํ˜ธํกยท๋งฅ๋ฐ• ์—†์Œ์ฒ˜๋Ÿผ ์ˆซ์ž ๊ธ€์ž ์—†์ด 0์ธ ๊ฒฝ์šฐ) ์ž๋ฆฌ์ž…๋‹ˆ๋‹ค.
- ์ฒ˜์น˜ ํƒœ๊ทธ ์ ์ˆ˜๋Š” ๋ณธ๋ฌธ ํ† ํฐ(1..n)์—์„œ ์ฝ์Šต๋‹ˆ๋‹ค. ํƒœ๊ทธ ๋ฒˆํ˜ธ๋Š” O=0, B=1, I=2์ด๊ณ , ์•ž์— B ์—†์ด ๋‚˜์˜จ I๋„ ์ƒˆ ๊ตฌ์ ˆ๋กœ ์—ฝ๋‹ˆ๋‹ค.
๊ตฌ๊ฐ„ ๊ธ€์ž๋ฅผ ์ˆซ์ž๋กœ ์ฝ๋Š” ๊ทœ์น™(ํ•œ๊ธ€ ์ˆ˜ ์ฝ๊ธฐ)๊ณผ ์กฐ๊ฐ ๋‚˜๋ˆ„๊ธฐ ์ฝ”๋“œ๋Š” ์ด ์ €์žฅ์†Œ์— ๋“ค์–ด ์žˆ์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
## ํ•™์Šต ๋ฐ์ดํ„ฐ
- ํ•ฉ์„ฑ 119 ํ†ตํ™” ํ…์ŠคํŠธ์™€ Claude ๊ณ„์—ด ๋ชจ๋ธ์ด ๋ถ™์ธ ๋ผ๋ฒจ์ž…๋‹ˆ๋‹ค. ์‚ฌ๋žŒ ๊ฒ€์ˆ˜๋Š” ๊ฑฐ์น˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค.
- ํ™˜์ž ์ˆ˜ยท์„ฑ๋ณ„ยท๋‚˜์ด๋Œ€ยท์ฃผ์ฆ์ƒ ๋ผ๋ฒจ(ํ™œ๋ ฅ์ง•ํ›„ ์ œ์™ธ)์€ [podongchip/119-call-transcript-synthetic-labels](https://huggingface.co/datasets/podongchip/119-call-transcript-synthetic-labels)๋กœ ๊ณต๊ฐœ๋ผ ์žˆ์Šต๋‹ˆ๋‹ค.
์ด ๋ชจ๋ธ์€ ๊ทธ ๋’ค์— ๋ณด๊ฐ•ํ•œ ๋ฐ์ดํ„ฐ์™€ ํ™œ๋ ฅ์ง•ํ›„ยทAVPUยท์ฒ˜์น˜ ๋ผ๋ฒจ์„ ๋”ํ•ด ํ•™์Šตํ–ˆ์Šต๋‹ˆ๋‹ค.
- ์ฒ˜์น˜ ๋ผ๋ฒจ์€ 2026-10-29์— Claude Sonnet 5.5๊ฐ€ ๊ตฌ์ ˆ๊ณผ ๋ฒ”์ฃผ๋ฅผ ํ•จ๊ป˜ ๋ถ™์˜€์Šต๋‹ˆ๋‹ค(ํ†ตํ™” 48,872๊ฑด, ์ฒ˜์น˜๊ฐ€ ์žˆ๋Š” ํ™˜์ž 20,858๋ช…, ํ•ญ๋ชฉ 41,663๊ฐœ).
300๊ฑด์„ ๋‘ ๋ฒˆ ๋”ฐ๋กœ ๋ถ™์—ฌ ๋Œ€์กฐํ•œ ์ผ์น˜์œจ์€ 95~96%์ž…๋‹ˆ๋‹ค(๊ตฌ์ ˆ์ด ๊ฒน์น˜๊ณ  ๋ฒ”์ฃผ๊ฐ€ ๊ฐ™์€์ง€ ๊ธฐ์ค€).
- val์„ ๋–ผ์ง€ ์•Š๊ณ  ์ „์ฒด ๋ฐ์ดํ„ฐ๋กœ 2 ์—ํญ ํ•™์Šตํ•œ ๋งˆ์ง€๋ง‰ ์ฒดํฌํฌ์ธํŠธ์ž…๋‹ˆ๋‹ค.
## ํ‰๊ฐ€
์‹ค์ œ 119 ํ†ตํ™”๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ๋งŒ๋“  ํ…Œ์ŠคํŠธ์…‹(612ํ†ตํ™”, ํ™˜์ž 617๋ช…, ํ•™์Šต์— ์“ฐ์ง€ ์•Š์Œ)์—์„œ ์ด 4๋น„ํŠธ ONNX๋กœ ์žฐ ๊ฒฐ๊ณผ์ž…๋‹ˆ๋‹ค.
| ํ•ญ๋ชฉ | ๊ฐ’ |
|---|---|
| score (ํ™˜์ž ์ˆ˜ ยท ์„ฑ๋ณ„ ยท ๋‚˜์ด๋Œ€ ยท ์ฃผ์ฆ์ƒ ๋Œ€๋ถ„๋ฅ˜ ยท ์†Œ๋ถ„๋ฅ˜ ยท AVPU ์ •ํ™•๋„ ํ‰๊ท ) | 0.845 |
| ํ™˜์ž ์ˆ˜ / ์„ฑ๋ณ„ / ๋‚˜์ด๋Œ€ | 0.997 / 0.976 / 0.942 |
| ์ฃผ์ฆ์ƒ ๋Œ€๋ถ„๋ฅ˜ / ์†Œ๋ถ„๋ฅ˜ | 0.681 / 0.556 |
| AVPU | 0.919 |
| ํ™œ๋ ฅ์ง•ํ›„ (8๊ฐœ ์ •ํ™•๋„ ํ‰๊ท ) | 0.960 |
| ์ฒ˜์น˜ ๊ตฌ์ ˆ F1 (์ •๋ฐ€๋„ / ์žฌํ˜„์œจ) | 0.754 (0.722 / 0.789) |
| ์ฒ˜์น˜ ๋ฒ”์ฃผ micro-F1 (์ •๋ฐ€๋„ / ์žฌํ˜„์œจ) | 0.809 (0.948 / 0.705) |
| ์ฒ˜์น˜ ๋ฒ”์ฃผ๊ฐ€ ์ •ํ™•ํžˆ ๊ฐ™์€ ํ™˜์ž ๋น„์œจ | 0.964 |
- ์ฒ˜์น˜ ๊ตฌ์ ˆ์€ ๊ฒฝ๊ณ„๊ฐ€ ๋ผ๋ฒจ๋Ÿฌ๋งˆ๋‹ค ์กฐ๊ธˆ์”ฉ ๋‹ฌ๋ผ, ์˜ˆ์ธก ๊ตฌ์ ˆ์ด ๊ฐ™์€ ํ™˜์ž์˜ ์ •๋‹ต ๊ตฌ์ ˆ๊ณผ ๊ธ€์ž๊ฐ€ ๊ฒน์น˜๋ฉด ๋งž์€ ๊ฒƒ์œผ๋กœ ์…‰๋‹ˆ๋‹ค.
- ํ…Œ์ŠคํŠธ์…‹์—์„œ ์ฒ˜์น˜๊ฐ€ ์žˆ๋Š” ํ™˜์ž๋Š” 72๋ช…๋ฟ์ด๊ณ  ๊ทธ์ค‘ 54๋ช…์ด ์‚ฐ์†Œ์ž…๋‹ˆ๋‹ค. 28๊ฐœ ๋ฒ”์ฃผ ์ค‘ ์ ˆ๋ฐ˜ ๋„˜๊ฒŒ๋Š” ํ…Œ์ŠคํŠธ์…‹์— ํ•œ ๋ฒˆ๋„ ๋‚˜์˜ค์ง€ ์•Š์•„, ๋ฒ”์ฃผ๋ณ„ ์„ฑ๋Šฅ์€ ํ™•์ธ๋˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค(๋ฒ”์ฃผ macro-F1 0.417).
- ์–‘์žํ™” ์ „ fp32 ONNX์™€์˜ ์ฐจ์ด๋Š” score 0.001, ํ™œ๋ ฅ์ง•ํ›„ 0.001 ์ด๋‚ด์ž…๋‹ˆ๋‹ค.
## ๋ฒ„์ „
| revision | ๋‚ ์งœ | ๋‚ด์šฉ |
|---|---|---|
| `main`, `v4-2026-10-29-hqq` | 2026-10-29 | ์ด ๋ชจ๋ธ. ํ™˜์ž๋ณ„ 15๊ฐœ ํ•ญ๋ชฉ(์ฒ˜์น˜ ๊ตฌ์ ˆ ยท ์ฒ˜์น˜ ๋ฒ”์ฃผ 28๊ฐœ ์ถ”๊ฐ€), 4๋น„ํŠธ ONNX(HQQ) |
| `v3-2026-10-20-rtn` | 2026-10-20 | ํ™˜์ž๋ณ„ 13๊ฐœ ํ•ญ๋ชฉ(ํ™œ๋ ฅ์ง•ํ›„ 8๊ฐœ ์ถ”๊ฐ€), ์—ฌ๋Ÿฌ ํ™˜์ž, 4๋น„ํŠธ ONNX |
| `v2-2026-10-02` | 2026-10-02 | PyTorch `best.pt`, v2 ์Šคํ‚ค๋งˆ 17๊ฐœ ํ•„๋“œ(KTAS ํฌํ•จ) |
| `v1-2026-09-30` | 2026-09-30 | ์ฒซ ๊ณต๊ฐœ ๋ชจ๋ธ(PyTorch) |
์ด์ „ ๋ชจ๋ธ์€ `snapshot_download("podongchip/MF_BERT", revision="v3-2026-10-20-rtn")`์ฒ˜๋Ÿผ ๋ฐ›์Šต๋‹ˆ๋‹ค.
## ํ•œ๊ณ„
- ํ•™์Šต ๋ฐ์ดํ„ฐ์™€ ๋ผ๋ฒจ์ด ๋ชจ๋‘ AI๊ฐ€ ๋งŒ๋“  ๊ฒƒ์ž…๋‹ˆ๋‹ค. ์‹ค์ œ ์Œ์„ฑ ์ธ์‹(STT) ์ถœ๋ ฅ์—์„œ์˜ ์„ฑ๋Šฅ์€ ํ™•์ธ๋˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค.
- ํ…Œ์ŠคํŠธ์…‹์€ ์‹ค์ œ ํ†ตํ™”๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ํ–ˆ์ง€๋งŒ, ๋ณด๊ฐ• ๋ฐ์ดํ„ฐ๊ฐ€ ์ด ํ…Œ์ŠคํŠธ์…‹์˜ ์˜ค๋‹ต ์œ ํ˜•์„ ์ฐธ๊ณ ํ•ด ๋งŒ๋“ค์–ด์ ธ ์ ์ˆ˜๊ฐ€ ์‹ค์ œ๋ณด๋‹ค ๋†’๊ฒŒ ๋‚˜์™”์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
- ์ฃผ์ฆ์ƒ ๋ถ„๋ฅ˜๊ฐ€ ์•ฝํ•ฉ๋‹ˆ๋‹ค(๋Œ€๋ถ„๋ฅ˜ 0.68, ์†Œ๋ถ„๋ฅ˜ 0.56).
- ์ฒ˜์น˜ ๋ฒ”์ฃผ๋Š” ์žฌํ˜„์œจ(0.705)์ด ์ •๋ฐ€๋„(0.948)๋ณด๋‹ค ๋‚ฎ์Šต๋‹ˆ๋‹ค. ๊ณ ๋ฅธ ๋ฒ”์ฃผ๋Š” ๋Œ€์ฒด๋กœ ๋งž์ง€๋งŒ, ๋งํ•œ ์ฒ˜์น˜๋ฅผ ๋†“์น  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
- ์„ฑ๋ณ„ยท๋‚˜์ด๋Œ€ ๋ผ๋ฒจ ์ผ๋ถ€๋Š” ์ด์ „ MF_BERT๊ฐ€ ๋ถ™์ธ ๊ฒƒ์ž…๋‹ˆ๋‹ค.
- ํ™œ๋ ฅ์ง•ํ›„ ์ˆ˜์น˜์˜ ๋ฒ”์œ„ ๊ฒ€์‚ฌ(์˜ˆ: ํ˜ˆ์•• 300 ์ดˆ๊ณผ ๊ฑฐ๋ฅด๊ธฐ)๋Š” ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
## ๋ผ์ด์„ ์Šค
[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/). ์ด ๋ชจ๋ธ์€ [KLUE](https://github.com/KLUE-benchmark/KLUE)์˜ `klue/roberta-large`(CC BY-SA 4.0)๋ฅผ
๋ฏธ์„ธ์กฐ์ •ํ•˜๊ณ  ๋””์ฝ”๋”๋ฅผ ๋”ํ•œ ๋’ค ์ธ์ฝ”๋”๋ฅผ 4๋น„ํŠธ๋กœ ์–‘์žํ™”ํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค. ์ด ๋ชจ๋ธ์„ ๋ฐ”ํƒ•์œผ๋กœ ๋งŒ๋“  ๊ฒƒ์€ ๊ฐ™์€ ๋ผ์ด์„ ์Šค๋กœ ๋ฐฐํฌํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.