---
license: apache-2.0
language:
- tr
- en
task_categories:
- text-generation
- question-answering
tags:
- benchmark
- function-calling
- tool-use
- mathematics
- turkish
- gemma
- lora
configs:
- config_name: summary
  data_files:
  - split: test
    path: data/benchmark_ozet.csv
- config_name: details
  data_files:
  - split: test
    path: data/benchmark_detay.csv
- config_name: mmlu_sections
  data_files:
  - split: test
    path: data/benchmark_mmlu_bolum.csv
---

# math-toolcall-tr-benchmark

[`bilalabic/gemma_4_math-toolcall-tr_lora`](https://huggingface.co/bilalabic/gemma_4_math-toolcall-tr_lora)
LoRA adaptörünü temel Gemma-4 E4B modeliyle karşılaştıran benchmark sonuçları.

Bu depo yalnızca değerlendirme çıktılarını içerir. Eğitim veri seti ayrı olarak
[`bilalabic/math-toolcall-tr`](https://huggingface.co/datasets/bilalabic/math-toolcall-tr)
adresinde yayımlanmaktadır.

## Benchmark'lar

| Benchmark | Örnek | Ölçülen davranış |
|---|---:|---|
| Türkçe MMLU | 250 | Genel bilgi doğruluğu ve eğitim sonrası bilgi kaybı |
| Matematik Tool-Call | 150 | Araç seçimi, çekimserlik ve çıktı formatı |
| GSM8K | 150 | Matematik muhakemesi ve gereksiz araç çağırma eğilimi |

## Sonuç özeti

| Benchmark | Metrik | Base | Fine-tune | Fark |
|---|---|---:|---:|---:|
| Türkçe MMLU | Doğruluk | %75,20 | %68,00 | −7,20 puan |
| Matematik Tool-Call | Genel doğruluk | %56,67 | %59,33 | +2,66 puan |
| Matematik Tool-Call | Araç seçimi | %53,77 | %54,72 | +0,95 puan |
| Matematik Tool-Call | Çekimserlik | %63,64 | %70,45 | +6,81 puan |
| Matematik Tool-Call | Format geçerliliği | %98,67 | %99,33 | +0,66 puan |
| GSM8K | Doğruluk | %66,00 | %73,33 | +7,33 puan |
| GSM8K | Gereksiz araç çağrısı (düşük daha iyi) | %0,00 | %14,00 | +14,00 puan |

Sonuçlar tek bir çalıştırmaya aittir; birden fazla seed ortalaması veya güven aralığı
değildir.

## Dosyalar ve yapılandırmalar

| Yapılandırma | Dosya | Satır | İçerik |
|---|---|---:|---|
| `summary` | `data/benchmark_ozet.csv` | 7 | Üç benchmark'ın toplu metrikleri |
| `details` | `data/benchmark_detay.csv` | 1.100 | Örnek ve model bazında ham değerlendirme çıktıları |
| `mmlu_sections` | `data/benchmark_mmlu_bolum.csv` | 61 | Türkçe MMLU bölüm kırılımı |

```python
from datasets import load_dataset

summary = load_dataset(
    "bilalabic/math-toolcall-tr-benchmark",
    "summary",
    split="test",
)
details = load_dataset(
    "bilalabic/math-toolcall-tr-benchmark",
    "details",
    split="test",
)
mmlu_sections = load_dataset(
    "bilalabic/math-toolcall-tr-benchmark",
    "mmlu_sections",
    split="test",
)
```

## Değerlendirme notları

- Tool-call testi, modelin eğitiminde kullanılan ilk 757 kayıttan sonra gelen ve
  eğitim sırasında görülmeyen örnek havuzundan senaryo dengeli seçilmiştir.
- GSM8K testi standart test bölümündeki İngilizce matematik problemlerini kullanır.
- MMLU bölüm kırılımlarının bazıları az sayıda örnek içerdiğinden bölüm yüzdeleri
  yüksek varyans gösterebilir.
- `benchmark_detay.csv` farklı benchmark türlerinin alanlarını tek tabloda birleştirir;
  belirli bir benchmark için kullanılmayan sütunlar boş bırakılır.

## Yeniden üretim

Benchmark notebook'u:
[benchmark_base_vs_finetune.ipynb](https://github.com/BilalAbic/math-toolcall-tr/blob/main/notebooks/benchmark_base_vs_finetune.ipynb)

## Lisans

Apache-2.0. Temel model Gemma kullanım şartlarına, GSM8K ve Türkçe MMLU kaynakları
kendi lisans ve kullanım koşullarına tabidir.