| --- |
| license: apache-2.0 |
| language: |
| - tr |
| - en |
| task_categories: |
| - text-generation |
| - question-answering |
| tags: |
| - benchmark |
| - function-calling |
| - tool-use |
| - mathematics |
| - turkish |
| - gemma |
| - lora |
| configs: |
| - config_name: summary |
| data_files: |
| - split: test |
| path: data/benchmark_ozet.csv |
| - config_name: details |
| data_files: |
| - split: test |
| path: data/benchmark_detay.csv |
| - config_name: mmlu_sections |
| data_files: |
| - split: test |
| path: data/benchmark_mmlu_bolum.csv |
| --- |
| |
| # math-toolcall-tr-benchmark |
|
|
| [`bilalabic/gemma_4_math-toolcall-tr_lora`](https://huggingface.co/bilalabic/gemma_4_math-toolcall-tr_lora) |
| LoRA adaptörünü temel Gemma-4 E4B modeliyle karşılaştıran benchmark sonuçları. |
|
|
| Bu depo yalnızca değerlendirme çıktılarını içerir. Eğitim veri seti ayrı olarak |
| [`bilalabic/math-toolcall-tr`](https://huggingface.co/datasets/bilalabic/math-toolcall-tr) |
| adresinde yayımlanmaktadır. |
|
|
| ## Benchmark'lar |
|
|
| | Benchmark | Örnek | Ölçülen davranış | |
| |---|---:|---| |
| | Türkçe MMLU | 250 | Genel bilgi doğruluğu ve eğitim sonrası bilgi kaybı | |
| | Matematik Tool-Call | 150 | Araç seçimi, çekimserlik ve çıktı formatı | |
| | GSM8K | 150 | Matematik muhakemesi ve gereksiz araç çağırma eğilimi | |
|
|
| ## Sonuç özeti |
|
|
| | Benchmark | Metrik | Base | Fine-tune | Fark | |
| |---|---|---:|---:|---:| |
| | Türkçe MMLU | Doğruluk | %75,20 | %68,00 | −7,20 puan | |
| | Matematik Tool-Call | Genel doğruluk | %56,67 | %59,33 | +2,66 puan | |
| | Matematik Tool-Call | Araç seçimi | %53,77 | %54,72 | +0,95 puan | |
| | Matematik Tool-Call | Çekimserlik | %63,64 | %70,45 | +6,81 puan | |
| | Matematik Tool-Call | Format geçerliliği | %98,67 | %99,33 | +0,66 puan | |
| | GSM8K | Doğruluk | %66,00 | %73,33 | +7,33 puan | |
| | GSM8K | Gereksiz araç çağrısı (düşük daha iyi) | %0,00 | %14,00 | +14,00 puan | |
|
|
| Sonuçlar tek bir çalıştırmaya aittir; birden fazla seed ortalaması veya güven aralığı |
| değildir. |
|
|
| ## Dosyalar ve yapılandırmalar |
|
|
| | Yapılandırma | Dosya | Satır | İçerik | |
| |---|---|---:|---| |
| | `summary` | `data/benchmark_ozet.csv` | 7 | Üç benchmark'ın toplu metrikleri | |
| | `details` | `data/benchmark_detay.csv` | 1.100 | Örnek ve model bazında ham değerlendirme çıktıları | |
| | `mmlu_sections` | `data/benchmark_mmlu_bolum.csv` | 61 | Türkçe MMLU bölüm kırılımı | |
|
|
| ```python |
| from datasets import load_dataset |
| |
| summary = load_dataset( |
| "bilalabic/math-toolcall-tr-benchmark", |
| "summary", |
| split="test", |
| ) |
| details = load_dataset( |
| "bilalabic/math-toolcall-tr-benchmark", |
| "details", |
| split="test", |
| ) |
| mmlu_sections = load_dataset( |
| "bilalabic/math-toolcall-tr-benchmark", |
| "mmlu_sections", |
| split="test", |
| ) |
| ``` |
|
|
| ## Değerlendirme notları |
|
|
| - Tool-call testi, modelin eğitiminde kullanılan ilk 757 kayıttan sonra gelen ve |
| eğitim sırasında görülmeyen örnek havuzundan senaryo dengeli seçilmiştir. |
| - GSM8K testi standart test bölümündeki İngilizce matematik problemlerini kullanır. |
| - MMLU bölüm kırılımlarının bazıları az sayıda örnek içerdiğinden bölüm yüzdeleri |
| yüksek varyans gösterebilir. |
| - `benchmark_detay.csv` farklı benchmark türlerinin alanlarını tek tabloda birleştirir; |
| belirli bir benchmark için kullanılmayan sütunlar boş bırakılır. |
|
|
| ## Yeniden üretim |
|
|
| Benchmark notebook'u: |
| [benchmark_base_vs_finetune.ipynb](https://github.com/BilalAbic/math-toolcall-tr/blob/main/notebooks/benchmark_base_vs_finetune.ipynb) |
|
|
| ## Lisans |
|
|
| Apache-2.0. Temel model Gemma kullanım şartlarına, GSM8K ve Türkçe MMLU kaynakları |
| kendi lisans ve kullanım koşullarına tabidir. |
|
|
