Gemma 3 4B Türkçe Atasözleri Modeli
Model Açıklaması
Bu model, Gemma 3 4B Instruct modeli temel alınarak Türkçe atasözlerini açıklama görevi için fine-tune edilmiştir.
Modelin eğitimi sırasında YusufSimsek/turkce-atasozleri-dataset veri seti kullanılmıştır. Bu veri seti, Türkçe atasözleri hakkında sorulan farklı biçimlerdeki kullanıcı sorularını ve bu atasözlerinin açıklamalarını içeren konuşma formatındaki örneklerden oluşmaktadır.
Fine-tuning işlemi LoRA (Low-Rank Adaptation) yöntemi ve Unsloth kütüphanesi kullanılarak gerçekleştirilmiştir.
Amaç
Modelin temel amacı, kullanıcı tarafından verilen Türkçe atasözlerini anlayarak bunların anlamlarını açık, kısa ve anlaşılır bir Türkçe ile açıklamaktır.
Örnek kullanıcı soruları:
- “Damlaya damlaya göl olur atasözünün anlamı nedir?”
- “Ayağını yorganına göre uzat sözü ne anlatmaktadır?”
- “Şu atasözünü açıklar mısın: Ak akçe kara gün içindir?”
- “Sakla samanı, gelir zamanı atasözü hangi durumlarda kullanılır?”
Kullanım Alanları
Model aşağıdaki görevlerde kullanılabilir:
- Türkçe atasözlerinin anlamlarını açıklama
- Atasözleriyle ilgili soru-cevap uygulamaları geliştirme
- Türkçe eğitim uygulamalarına içerik sağlama
- Türk kültürü ve söz varlığı üzerine çalışan sohbet botları geliştirme
- Atasözlerini günlük kullanım bağlamıyla açıklama
Kullanım Örneği
from transformers import pipeline
model_id = "YusufSimsek/gemma_3_lora"
pipe = pipeline(
"text-generation",
model=model_id,
device_map="auto"
)
messages = [
{
"role": "user",
"content": "Damlaya damlaya göl olur atasözünü açıklar mısın?"
}
]
output = pipe(
messages,
max_new_tokens=128,
temperature=0.7,
do_sample=True
)
print(output[0]["generated_text"][-1]["content"])
Eğitim Bilgileri
- Temel model: Gemma 3 4B Instruct
- Fine-tuning yöntemi: LoRA
- Eğitim kütüphanesi: Unsloth
- Eğitim dili: Türkçe
- Eğitim görevi: Türkçe atasözlerini açıklama
- Veri formatı: Kullanıcı ve asistan mesajlarından oluşan konuşma formatı
- Veri seti: YusufSimsek/turkce-atasozleri-dataset
Benchmark Değerlendirme Sonuçları
Modelin genel performansını değerlendirmek amacıyla farklı alanlardan çoktan seçmeli sorular içeren bir test uygulanmıştır. Aşağıdaki tabloda fine-tune edilen model ile farklı açık kaynaklı dil modellerinin genel değerlendirme sonuçları karşılaştırılmaktadır.
| Sıra | Model | Doğru Cevap Sayısı | Başarı Oranı | Toplam Süre |
|---|---|---|---|---|
| 1 | google/gemma-3-4b-it |
3.637 | %58,66 | 416,13 sn |
| 2 | mistralai/Ministral-3-3B-Instruct-2512 |
3.567 | %57,53 | 441,09 sn |
| 3 | YusufSimsek/gemma_3_lora |
3.460 | %55,81 | 323,41 sn |
| 4 | meta-llama/Llama-3.1-8B-Instruct |
3.369 | %54,34 | 280,62 sn |
| 5 | Qwen/Qwen3.5-4B |
1.150 | %18,55 | 4.648,67 sn |
Temel Model ile Karşılaştırma
Fine-tune edilen modelin sonuçları, temel model olan google/gemma-3-4b-it ile ayrıca karşılaştırılmıştır.
| Metrik | Gemma 3 4B Temel Model | Fine-tune Edilmiş Model | Fark |
|---|---|---|---|
| Doğru cevap sayısı | 3.637 | 3.460 | -177 |
| Başarı oranı | %58,66 | %55,81 | -2,85 yüzde puan |
| Toplam değerlendirme süresi | 416,13 sn | 323,41 sn | -92,72 sn |
| Süre değişimi | — | — | %22,28 daha kısa |
Fine-tune edilen YusufSimsek/gemma_3_lora modeli, bu değerlendirmede temel Gemma 3 4B modeline göre 92,72 saniye daha kısa sürede sonuç üretmiştir. Buna karşılık genel başarı oranı temel modelden 2,85 yüzde puan daha düşük gerçekleşmiştir.
Not: Model, Türkçe atasözlerini açıklama görevi için özelleştirilmiştir. Bu nedenle farklı akademik ve genel kültür alanlarından oluşan bu benchmark, modelin atasözü açıklama yeteneğini doğrudan ölçmekten ziyade genel soru cevaplama performansını göstermektedir.
Geliştirici
Model ve eğitim veri seti Yusuf Şimşek tarafından hazırlanmıştır.
- Model: YusufSimsek/gemma_3_lora
- Veri seti: YusufSimsek/turkce-atasozleri-dataset
- Developed by: YusufSimsek
- License: apache-2.0
- Finetuned from model : unsloth/gemma-3-4b-it-unsloth-bnb-4bit
This gemma3 model was trained 2x faster with Unsloth and Huggingface's TRL library.
