README.md

---
tags:
- gguf
- llama.cpp
- unsloth

---

# 🧠 News-Intelligence Chatbot — GGUF 버전

이 모델은 **Unsloth**를 활용하여  
Colab 환경에서 직접 **파인튜닝(finetuning)** 후  
**GGUF 포맷으로 변환된 도메인 특화 LLM**입니다.

뉴스·정책·시사 분석에 최적화된 **Alpaca Prompt 기반 Instruction LLM**으로,  
전문적인 정보를 깊이 있게 이해하고 답변하도록 튜닝되었습니다.

---

# 🔗 GitHub Repository  
👉 **[여기를 클릭하면 전체 프로젝트로 이동합니다](https://github.com/Kwon-hayoung/news-intelligence-bot)**  
*(모델 파일 / 학습 코드 / Colab 노트북 포함)*

## 📚 Dataset Link
- [HaGPT/Political-Economy-Expert-QA](https://huggingface.co/datasets/HaGPT/Political-Economy-Expert-QA)

---

**Example usage**:
- For text only LLMs:    **llama-cli** **--hf** repo_id/model_name **-p** "why is the sky blue?"
- For multimodal models: **llama-mtmd-cli** **-m** model_name.gguf **--mmproj** mmproj_file.gguf

## Available Model files:
- `meta-llama-3.1-8b.Q5_K_M.gguf`
- `meta-llama-3.1-8b.Q8_0.gguf`
- `meta-llama-3.1-8b.Q4_K_M.gguf`