File size: 3,609 Bytes
8999e90 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 | ---
license: apache-2.0
language:
- tr
- en
task_categories:
- text-generation
- question-answering
tags:
- benchmark
- function-calling
- tool-use
- mathematics
- turkish
- gemma
- lora
configs:
- config_name: summary
data_files:
- split: test
path: data/benchmark_ozet.csv
- config_name: details
data_files:
- split: test
path: data/benchmark_detay.csv
- config_name: mmlu_sections
data_files:
- split: test
path: data/benchmark_mmlu_bolum.csv
---
# math-toolcall-tr-benchmark
[`bilalabic/gemma_4_math-toolcall-tr_lora`](https://huggingface.co/bilalabic/gemma_4_math-toolcall-tr_lora)
LoRA adaptörünü temel Gemma-4 E4B modeliyle karşılaştıran benchmark sonuçları.
Bu depo yalnızca değerlendirme çıktılarını içerir. Eğitim veri seti ayrı olarak
[`bilalabic/math-toolcall-tr`](https://huggingface.co/datasets/bilalabic/math-toolcall-tr)
adresinde yayımlanmaktadır.
## Benchmark'lar
| Benchmark | Örnek | Ölçülen davranış |
|---|---:|---|
| Türkçe MMLU | 250 | Genel bilgi doğruluğu ve eğitim sonrası bilgi kaybı |
| Matematik Tool-Call | 150 | Araç seçimi, çekimserlik ve çıktı formatı |
| GSM8K | 150 | Matematik muhakemesi ve gereksiz araç çağırma eğilimi |
## Sonuç özeti
| Benchmark | Metrik | Base | Fine-tune | Fark |
|---|---|---:|---:|---:|
| Türkçe MMLU | Doğruluk | %75,20 | %68,00 | −7,20 puan |
| Matematik Tool-Call | Genel doğruluk | %56,67 | %59,33 | +2,66 puan |
| Matematik Tool-Call | Araç seçimi | %53,77 | %54,72 | +0,95 puan |
| Matematik Tool-Call | Çekimserlik | %63,64 | %70,45 | +6,81 puan |
| Matematik Tool-Call | Format geçerliliği | %98,67 | %99,33 | +0,66 puan |
| GSM8K | Doğruluk | %66,00 | %73,33 | +7,33 puan |
| GSM8K | Gereksiz araç çağrısı (düşük daha iyi) | %0,00 | %14,00 | +14,00 puan |
Sonuçlar tek bir çalıştırmaya aittir; birden fazla seed ortalaması veya güven aralığı
değildir.
## Dosyalar ve yapılandırmalar
| Yapılandırma | Dosya | Satır | İçerik |
|---|---|---:|---|
| `summary` | `data/benchmark_ozet.csv` | 7 | Üç benchmark'ın toplu metrikleri |
| `details` | `data/benchmark_detay.csv` | 1.100 | Örnek ve model bazında ham değerlendirme çıktıları |
| `mmlu_sections` | `data/benchmark_mmlu_bolum.csv` | 61 | Türkçe MMLU bölüm kırılımı |
```python
from datasets import load_dataset
summary = load_dataset(
"bilalabic/math-toolcall-tr-benchmark",
"summary",
split="test",
)
details = load_dataset(
"bilalabic/math-toolcall-tr-benchmark",
"details",
split="test",
)
mmlu_sections = load_dataset(
"bilalabic/math-toolcall-tr-benchmark",
"mmlu_sections",
split="test",
)
```
## Değerlendirme notları
- Tool-call testi, modelin eğitiminde kullanılan ilk 757 kayıttan sonra gelen ve
eğitim sırasında görülmeyen örnek havuzundan senaryo dengeli seçilmiştir.
- GSM8K testi standart test bölümündeki İngilizce matematik problemlerini kullanır.
- MMLU bölüm kırılımlarının bazıları az sayıda örnek içerdiğinden bölüm yüzdeleri
yüksek varyans gösterebilir.
- `benchmark_detay.csv` farklı benchmark türlerinin alanlarını tek tabloda birleştirir;
belirli bir benchmark için kullanılmayan sütunlar boş bırakılır.
## Yeniden üretim
Benchmark notebook'u:
[benchmark_base_vs_finetune.ipynb](https://github.com/BilalAbic/math-toolcall-tr/blob/main/notebooks/benchmark_base_vs_finetune.ipynb)
## Lisans
Apache-2.0. Temel model Gemma kullanım şartlarına, GSM8K ve Türkçe MMLU kaynakları
kendi lisans ve kullanım koşullarına tabidir.
|