Datasets:

bilalabic
/

math-toolcall-tr-benchmark

license: apache-2.0
language:
  - tr
  - en
task_categories:
  - text-generation
  - question-answering
tags:
  - benchmark
  - function-calling
  - tool-use
  - mathematics
  - turkish
  - gemma
  - lora
configs:
  - config_name: summary
    data_files:
      - split: test
        path: data/benchmark_ozet.csv
  - config_name: details
    data_files:
      - split: test
        path: data/benchmark_detay.csv
  - config_name: mmlu_sections
    data_files:
      - split: test
        path: data/benchmark_mmlu_bolum.csv

math-toolcall-tr-benchmark

bilalabic/gemma_4_math-toolcall-tr_lora LoRA adaptörünü temel Gemma-4 E4B modeliyle karşılaştıran benchmark sonuçları.

Bu depo yalnızca değerlendirme çıktılarını içerir. Eğitim veri seti ayrı olarak bilalabic/math-toolcall-tr adresinde yayımlanmaktadır.

Benchmark'lar

Benchmark	Örnek	Ölçülen davranış
Türkçe MMLU	250	Genel bilgi doğruluğu ve eğitim sonrası bilgi kaybı
Matematik Tool-Call	150	Araç seçimi, çekimserlik ve çıktı formatı
GSM8K	150	Matematik muhakemesi ve gereksiz araç çağırma eğilimi

Sonuç özeti

Benchmark	Metrik	Base	Fine-tune	Fark
Türkçe MMLU	Doğruluk	%75,20	%68,00	−7,20 puan
Matematik Tool-Call	Genel doğruluk	%56,67	%59,33	+2,66 puan
Matematik Tool-Call	Araç seçimi	%53,77	%54,72	+0,95 puan
Matematik Tool-Call	Çekimserlik	%63,64	%70,45	+6,81 puan
Matematik Tool-Call	Format geçerliliği	%98,67	%99,33	+0,66 puan
GSM8K	Doğruluk	%66,00	%73,33	+7,33 puan
GSM8K	Gereksiz araç çağrısı (düşük daha iyi)	%0,00	%14,00	+14,00 puan

Sonuçlar tek bir çalıştırmaya aittir; birden fazla seed ortalaması veya güven aralığı değildir.

Dosyalar ve yapılandırmalar

Yapılandırma	Dosya	Satır	İçerik
`summary`	`data/benchmark_ozet.csv`	7	Üç benchmark'ın toplu metrikleri
`details`	`data/benchmark_detay.csv`	1.100	Örnek ve model bazında ham değerlendirme çıktıları
`mmlu_sections`	`data/benchmark_mmlu_bolum.csv`	61	Türkçe MMLU bölüm kırılımı

from datasets import load_dataset

summary = load_dataset(
    "bilalabic/math-toolcall-tr-benchmark",
    "summary",
    split="test",
)
details = load_dataset(
    "bilalabic/math-toolcall-tr-benchmark",
    "details",
    split="test",
)
mmlu_sections = load_dataset(
    "bilalabic/math-toolcall-tr-benchmark",
    "mmlu_sections",
    split="test",
)

Değerlendirme notları

Tool-call testi, modelin eğitiminde kullanılan ilk 757 kayıttan sonra gelen ve eğitim sırasında görülmeyen örnek havuzundan senaryo dengeli seçilmiştir.
GSM8K testi standart test bölümündeki İngilizce matematik problemlerini kullanır.
MMLU bölüm kırılımlarının bazıları az sayıda örnek içerdiğinden bölüm yüzdeleri yüksek varyans gösterebilir.
benchmark_detay.csv farklı benchmark türlerinin alanlarını tek tabloda birleştirir; belirli bir benchmark için kullanılmayan sütunlar boş bırakılır.

Yeniden üretim

Benchmark notebook'u: benchmark_base_vs_finetune.ipynb

Lisans

Apache-2.0. Temel model Gemma kullanım şartlarına, GSM8K ve Türkçe MMLU kaynakları kendi lisans ve kullanım koşullarına tabidir.