README.md

# Gemma 3 4B Türkçe Atasözleri Modeli

## Model Açıklaması

Bu model, **Gemma 3 4B Instruct** modeli temel alınarak Türkçe atasözlerini açıklama görevi için fine-tune edilmiştir.

Modelin eğitimi sırasında [YusufSimsek/turkce-atasozleri-dataset](https://huggingface.co/datasets/YusufSimsek/turkce-atasozleri-dataset) veri seti kullanılmıştır. Bu veri seti, Türkçe atasözleri hakkında sorulan farklı biçimlerdeki kullanıcı sorularını ve bu atasözlerinin açıklamalarını içeren konuşma formatındaki örneklerden oluşmaktadır.

Fine-tuning işlemi **LoRA (Low-Rank Adaptation)** yöntemi ve **Unsloth** kütüphanesi kullanılarak gerçekleştirilmiştir.

## Amaç

Modelin temel amacı, kullanıcı tarafından verilen Türkçe atasözlerini anlayarak bunların anlamlarını açık, kısa ve anlaşılır bir Türkçe ile açıklamaktır.

Örnek kullanıcı soruları:

* “Damlaya damlaya göl olur atasözünün anlamı nedir?”
* “Ayağını yorganına göre uzat sözü ne anlatmaktadır?”
* “Şu atasözünü açıklar mısın: Ak akçe kara gün içindir?”
* “Sakla samanı, gelir zamanı atasözü hangi durumlarda kullanılır?”

## Kullanım Alanları

Model aşağıdaki görevlerde kullanılabilir:

* Türkçe atasözlerinin anlamlarını açıklama
* Atasözleriyle ilgili soru-cevap uygulamaları geliştirme
* Türkçe eğitim uygulamalarına içerik sağlama
* Türk kültürü ve söz varlığı üzerine çalışan sohbet botları geliştirme
* Atasözlerini günlük kullanım bağlamıyla açıklama

## Kullanım Örneği

```python
from transformers import pipeline

model_id = "YusufSimsek/gemma_3_lora"

pipe = pipeline(
    "text-generation",
    model=model_id,
    device_map="auto"
)

messages = [
    {
        "role": "user",
        "content": "Damlaya damlaya göl olur atasözünü açıklar mısın?"
    }
]

output = pipe(
    messages,
    max_new_tokens=128,
    temperature=0.7,
    do_sample=True
)

print(output[0]["generated_text"][-1]["content"])
```

## Eğitim Bilgileri

* **Temel model:** Gemma 3 4B Instruct
* **Fine-tuning yöntemi:** LoRA
* **Eğitim kütüphanesi:** Unsloth
* **Eğitim dili:** Türkçe
* **Eğitim görevi:** Türkçe atasözlerini açıklama
* **Veri formatı:** Kullanıcı ve asistan mesajlarından oluşan konuşma formatı
* **Veri seti:** [YusufSimsek/turkce-atasozleri-dataset](https://huggingface.co/datasets/YusufSimsek/turkce-atasozleri-dataset)


## Benchmark Değerlendirme Sonuçları

Modelin genel performansını değerlendirmek amacıyla farklı alanlardan çoktan seçmeli sorular içeren bir test uygulanmıştır. Aşağıdaki tabloda fine-tune edilen model ile farklı açık kaynaklı dil modellerinin genel değerlendirme sonuçları karşılaştırılmaktadır.

| Sıra | Model                                    | Doğru Cevap Sayısı | Başarı Oranı |   Toplam Süre |
| ---: | ---------------------------------------- | -----------------: | -----------: | ------------: |
|    1 | `google/gemma-3-4b-it`                   |              3.637 |       %58,66 |     416,13 sn |
|    2 | `mistralai/Ministral-3-3B-Instruct-2512` |              3.567 |       %57,53 |     441,09 sn |
|    3 | **`YusufSimsek/gemma_3_lora`**           |          **3.460** |   **%55,81** | **323,41 sn** |
|    4 | `meta-llama/Llama-3.1-8B-Instruct`       |              3.369 |       %54,34 |     280,62 sn |
|    5 | `Qwen/Qwen3.5-4B`                        |              1.150 |       %18,55 |   4.648,67 sn |

### Temel Model ile Karşılaştırma

Fine-tune edilen modelin sonuçları, temel model olan `google/gemma-3-4b-it` ile ayrıca karşılaştırılmıştır.

| Metrik                      | Gemma 3 4B Temel Model | Fine-tune Edilmiş Model |             Fark |
| --------------------------- | ---------------------: | ----------------------: | ---------------: |
| Doğru cevap sayısı          |                  3.637 |                   3.460 |             -177 |
| Başarı oranı                |                 %58,66 |                  %55,81 | -2,85 yüzde puan |
| Toplam değerlendirme süresi |              416,13 sn |               323,41 sn |        -92,72 sn |
| Süre değişimi               |                      — |                       — | %22,28 daha kısa |

Fine-tune edilen `YusufSimsek/gemma_3_lora` modeli, bu değerlendirmede temel Gemma 3 4B modeline göre **92,72 saniye daha kısa sürede** sonuç üretmiştir. Buna karşılık genel başarı oranı temel modelden **2,85 yüzde puan daha düşük** gerçekleşmiştir.

> **Not:** Model, Türkçe atasözlerini açıklama görevi için özelleştirilmiştir. Bu nedenle farklı akademik ve genel kültür alanlarından oluşan bu benchmark, modelin atasözü açıklama yeteneğini doğrudan ölçmekten ziyade genel soru cevaplama performansını göstermektedir.



## Geliştirici

Model ve eğitim veri seti **Yusuf Şimşek** tarafından hazırlanmıştır.

* Model: [YusufSimsek/gemma_3_lora](https://huggingface.co/YusufSimsek/gemma_3_lora)
* Veri seti: [YusufSimsek/turkce-atasozleri-dataset](https://huggingface.co/datasets/YusufSimsek/turkce-atasozleri-dataset)

- **Developed by:** YusufSimsek
- **License:** apache-2.0
- **Finetuned from model :** unsloth/gemma-3-4b-it-unsloth-bnb-4bit

This gemma3 model was trained 2x faster with [Unsloth](https://github.com/unslothai/unsloth) and Huggingface's TRL library.

[<img src="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20made%20with%20love.png" width="200"/>](https://github.com/unslothai/unsloth)