docs: metric update

README.md

@@ -66,6 +66,105 @@ KoSGD는 한국어 LLM이 다중 도메인(21개 이상) 환경에서 얼마나
 
 ---
 
+## Benchmark Evaluation
+
+본 벤치마크 평가는 실시간 응답이 가능한 Local 및 API 모델을 대상으로 수행하였습니다.
+
+**Local 모델** (8B~20B 규모 비추론 모델)
+```
+temperature: 0.7 | top_p: 0.8 | top_k: 20 | min_p: 0 | max_tokens: 4096
+```
+
+**API 모델**: 모델명만 지정, 그 외 파라미터는 API 기본값 사용
+
+### KoSGD Dataset
+
+| Type | Model | Intent Cls. | Action Cls. | Val\|Inform* | I-A Harm Mean |
+|------|-------|-------------|-------------|-------------|---------------|
+| Local | meta-llama/Meta-Llama-3.1-8B-Instruct | 54.4 | 46.2 | 57.0 | 50.0 |
+| Local | microsoft/phi-4 | 76.6 | 72.2 | 87.5 | 78.3 |
+| Local | google/gemma-3-12b-it | 62.6 | 64.0 | 75.6 | 66.9 |
+| Local | Qwen/Qwen3-14B | 75.4 | 71.7 | 82.1 | 76.2 |
+| Local | **Ours** | **90.9** | **97.7** | 94.1 | **94.2** |
+| API | OpenAI/GPT-5-nano | 77.5 | 70.7 | 92.2 | 79.2 |
+| API | OpenAI/GPT-5-mini | 83.3 | 77.2 | 96.6 | 85.0 |
+| API | OpenAI/GPT-5 | 84.1 | 81.2 | 99.1 | 87.5 |
+| API | OpenAI/GPT-5.1 | 82.7 | 71.5 | 98.3 | 82.8 |
+| API | Google/Gemini 3 flash | 79.1 | 76.0 | 99.1 | 83.6 |
+| API | Google/Gemini 3 pro | 86.4 | 66.5 | 99.2 | 81.8 |
+
+```
+- Val|Inform*: 모델이 `action`를 `INFORM`으로 예측한 경우에 한하여, `values`까지 정확하게 예측했는지 평가; 조건부 정확도이므로, Action 성능이 낮은 경우 높은 Value Accuracy가 전체 추출 성능을 대표하지 않을 수 있음.
+- I-A Harm Mean**: Intent, Action 정확도에 대한 조화평균.
+```
+<details>
+<summary><b>Intent Classification</b></summary>
+
+평가는 예측된(Predicted) 리스트와 정답(Ground Truth) 리스트 간의 요소별 매칭을 통해 이루어집니다. 순서와 관계없이 비교합니다.
+
+**Intent Accuracy**
+- **정의**: 모델이 `intent` 배열을 정확하게 예측했는지 평가
+- **조건**: 예측된 `intent` 목록이 정답 리스트와 모두 일치할 경우 정답. 정답 리스트에 없는 `intent`가 포함되면 오답.
+</details>
+
+<details>
+<summary><b>Action-Value Extraction</b></summary>
+
+평가는 예측된(Predicted) 리스트와 정답(Ground Truth) 리스트 간의 요소별 매칭을 통해 이루어집니다. 순서와 관계없이 비교합니다.
+
+**A. Action Accuracy**
+- **정의**: 모델이 `act`와 `slot` 쌍을 정확하게 예측했는지 평가
+- **조건**: 예측된 `(act, slot)` 쌍이 정답 리스트에 존재하면 정답
+
+**B. Value Accuracy (Val|Inform)**
+- **정의**: 모델이 `act`를 `INFORM`으로 예측한 경우에 한하여, `values`까지 정확하게 예측했는지 평가
+- **수식**: P(Value Correct | Predicted Action = INFORM)
+- **조건**:
+  1. 모델이 `act`를 `INFORM`으로 예측
+  2. 예측된 `values` 리스트의 구성 요소가 정답과 일치
+- **해석**: 조건부 정확도이므로, Action 성능이 낮은 경우 높은 Value Accuracy가 전체 추출 성능을 대표하지 않을 수 있음
+- **Note**: 전체 INFORM 샘플에 대한 Value Extraction 성능은 정리 후 공개 예정
+</details>
+
+### aiworkx/FIN-NLU-200K Benchmark
+
+| Type | Model | Intent Cls. | Action Cls. | Val\|Inform* | I-A Harm Mean** |
+|------|-------|-------------|-------------|-------------|---------------|
+| Local | meta-llama/Meta-Llama-3.1-8B-Instruct | 67.4 | 40.5 | 25.9 | 50.6 |
+| Local | microsoft/phi-4 | 78.7 | 73.2 | 57.9 | 75.9 |
+| Local | google/gemma-3-12b-it | 53.4 | 63.2 | 42.4 | 57.9 |
+| Local | Qwen/Qwen3-14B | 85.3 | 79.5 | 59.5 | 82.3 |
+| Local | **Ours** | **98.7** | **91.5** | 86.2 | **95.0** |
+| API | OpenAI/GPT-5-nano | 95.3 | 82.7 | 77.4 | 88.6 |
+| API | OpenAI/GPT-5-mini | 96.3 | 85.4 | 86.8 | 90.5 |
+| API | OpenAI/GPT-5 | 83.4 | 86.0 | 93.7 | 84.7 |
+| API | OpenAI/GPT-5.1 | 90.5 | 88.9 | 84.8 | 89.7 |
+| API | Google/Gemini 3 flash | 95.8 | 88.2 | 92.8 | 91.8 |
+| API | Google/Gemini 3 pro | 86.6 | 86.1 | 95.0 | 86.3 |
+
+```
+- Val|Inform*: 모델이 `action`를 `INFORM`으로 예측한 경우에 한하여, `values`까지 정확하게 예측했는지 평가; 조건부 정확도이므로, Action 성능이 낮은 경우 높은 Value Accuracy가 전체 추출 성능을 대표하지 않을 수 있음.
+- I-A Harm Mean**: Intent, Action 정확도에 대한 조화평균.
+```
+<details>
+
+<summary><b>aiworkx/FIN-NLU-200K Benchmark</b></summary>
+
+aiworkx/FIN-NLU-200K는 TOD 기반 금융 상담 에이전트의 NLU 모듈 성능 평가를 위해 AIWORKX에서 자체 설계/구축한 약 200K 규모의 금융권 의도 분류 데이터셋입니다. 본 레포지토리에서는 벤치마크 데이터 원문은 공개하지 않으며, 평가 결과 수치만 공유합니다.
+
+**평가 목표**
+- 금융 상담 맥락에서 사용자 의도의 정확한 이해
+- 에이전트의 다음 행동 결정을 위한 발화 구분 능력
+- 한국어 구어체/모호적 표현에서의 정규화된 값 추출 능력
+
+**데이터 구조**: 실제 상��� 흐름을 반영한 1-turn 대화 구조
+- 상담사 발화 (agent utterance)
+- 고객 발화 (user utterance)
+- Intent / Action / Value
+</details>
+
+---
+
 ## Dataset Details
 
 <details>