Update README.md
Browse files
README.md
CHANGED
|
@@ -1,3 +1,29 @@
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
| 3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
| 3 |
---
|
| 4 |
+
|
| 5 |
+
# SHDS-Fin-Thx-7B-v0.3
|
| 6 |
+
|
| 7 |
+
`DSAiLab/SHDS-Fin-Thx-7B-v0.3`는 **Mistral 7B** 모델을 백본으로 하여, **한국어 금융 데이터셋**을 기반으로 특화 학습된 도메인 모델입니다.
|
| 8 |
+
|
| 9 |
+
이 모델은 SFT(Supervised Fine-Tuning)와 DPO(Direct Preference Optimization)를 함께 적용하여, 금융 분야에서의 정확도와 응답 일관성을 모두 향상시켰습니다.
|
| 10 |
+
|
| 11 |
+
## Model Summary
|
| 12 |
+
|
| 13 |
+
* **Base Model:** Mistral-7B
|
| 14 |
+
* **Parameter Count:** 7B
|
| 15 |
+
* **Language:** Korean (특히 금융/경제 특화)
|
| 16 |
+
* **Training Method:**
|
| 17 |
+
|
| 18 |
+
* **SFT:** 수집된 고품질 한국 금융 질의응답 데이터 기반 지도 학습
|
| 19 |
+
* **DPO:** 사용자 선호 기반 응답 최적화 (Reward 모델 미사용, Preference-based)
|
| 20 |
+
|
| 21 |
+
## 특징
|
| 22 |
+
|
| 23 |
+
* **금융 전문화:** 보험, 증권, 대출, 투자, 세금 등 한국 금융 영역의 전문 질의응답에 특화
|
| 24 |
+
* **대화형 응답 품질 향상:** DPO를 통해 사용자의 선호도에 맞춘 자연스럽고 신뢰도 높은 응답 생성
|
| 25 |
+
* **실사용에 적합:** 한국 금융 어플리케이션 및 챗봇 시스템에 바로 적용 가능
|
| 26 |
+
|
| 27 |
+
## 지원 프레임워크
|
| 28 |
+
* HuggingFace Transformers, vLLM, SGLang
|
| 29 |
+
|