File size: 8,244 Bytes
e899451
698d7ea
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
e899451
 
 
 
 
 
 
 
 
 
d55e612
e899451
 
 
 
 
 
698d7ea
 
 
839bc1c
698d7ea
 
 
839bc1c
698d7ea
 
 
 
 
 
 
 
 
839bc1c
698d7ea
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
839bc1c
 
 
 
 
 
 
 
698d7ea
 
 
 
 
839bc1c
 
 
 
 
 
 
 
 
 
 
 
698d7ea
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
e14cf84
698d7ea
 
 
 
 
 
 
 
 
e14cf84
839bc1c
e14cf84
 
839bc1c
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
698d7ea
 
 
 
 
 
 
 
 
 
839bc1c
698d7ea
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
---
license: apache-2.0
language:
- tr
task_categories:
- text-generation
- question-answering
tags:
- function-calling
- tool-use
- mathematics
- turkish
- synthetic
- reasoning
- sharegpt
- unsloth
size_categories:
- 1K<n<10K
dataset_info:
  features:
  - name: conversations
    list:
    - name: from
      dtype: string
    - name: value
      dtype: string
  splits:
  - name: train
    num_examples: 2127
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
---

# math-toolcall-tr

Türkçe **matematik odaklı fonksiyon çağırma (tool calling)** veri seti — 2.127 örnek,
ShareGPT formatında, düşünme adımları (`<think>`) dahil.

> **EN:** A Turkish synthetic dataset for training LLMs to call math functions correctly
> and present the results clearly. 2,127 ShareGPT-format conversations with reasoning
> traces, covering 70 math topics and 8 tool-calling scenarios.

## Ne öğretir

İki beceriyi birlikte hedefler:

1. **Doğru araç seçimi ve parametre çıkarımı** — gereksiz çağrı yapmamak dahil.
2. **Ham sayısal çıktıyı kullanıcıya doğal dille anlatmak.**

Veri seti kasıtlı olarak sadece "başarılı çağrı" öğretmez. Örneklerin **%29,6'sında hiç
araç çağrılmaz**: ya soru zaten bilgiyle cevaplanabilir, ya da zorunlu bir parametre
eksiktir ve model uydurmak yerine netleştirme sorusu sorar.

## Format

Her satır bir konuşma. Araç çağıran örnekler **4 turlu**:

| Tur | Rol | İçerik |
|---|---|---|
| 1 | `human` | kullanıcı sorusu |
| 2 | `gpt` | `<think>…</think>` + `<tool_call>{"name":…,"arguments":…}</tool_call>` |
| 3 | `human` | `<tool_response>{…}</tool_response>` |
| 4 | `gpt` | doğal dille son cevap |

Araç gerektirmeyen örneklerde tek `gpt` turu olur: `<think>` + cevap.

Bu kurgu, `train_on_responses_only` ile eğitildiğinde modelin **araç sonucunu uydurmayı
değil, yorumlamayı** öğrenmesini sağlar — kayıp yalnızca `gpt` turlarında hesaplanır,
`tool_response` turu maskelidir.

### Örnek

```json
[
  {"from": "human",
   "value": "Atölye için ayırdığım 12 bin lira iki yıl %14 büyürse, enflasyon %11 olursa gerçek karşılığı ne olur?"},
  {"from": "gpt",
   "value": "<think>\nKullanıcı hem nominal birikimi hem enflasyona göre reel alım gücünü soruyor…\n</think>\n\n<tool_call>{\"name\": \"compound_interest\", \"arguments\": {\"principal\": \"12000\", \"annual_rate\": \"0.14\", \"years\": \"2\", \"inflation_rate\": \"0.11\"}}</tool_call>"},
  {"from": "human",
   "value": "<tool_response>{\"nominal_amount\": \"15595.20\", \"real_amount\": \"12657.41\"}</tool_response>"},
  {"from": "gpt",
   "value": "12 bin lira, yılda %14 getiriyle 2 yıl sonunda nominal olarak 15.595,20 TL olur…"}
]
```

## Kapsam

**13 alt alan, 70 konunun tamamı** temsil edilir.

| Alt alan | Örnek | Alt alan | Örnek |
|---|---|---|---|
| cebir | 275 | olasilik_kombinatorik | 145 |
| analiz | 192 | birim_olcu | 140 |
| finansal_matematik | 186 | istatistik | 155 |
| geometri | 205 | ayrik_matematik | 105 |
| aritmetik | 171 | optimizasyon | 86 |
| trigonometri | 146 | | |
| sayi_teorisi | 181 | | |
| lineer_cebir | 140 | | |

### Senaryolar

| Senaryo | Örnek | Ne öğretir |
|---|---|---|
| `arac_gereksiz` | 318 | Araç gerekmiyorsa çağırmamak |
| `tek_cagri` | 305 | Tek aracı doğru parametreyle çağırmak |
| `hata_yonetimi` | 276 | Sıfıra bölme / tanımsızlık gibi hataları açıklamak |
| `yanlis_arac_tuzagi` | 286 | Benzer isimli araçlar arasından doğrusunu seçmek |
| `eksik_parametre` | 237 | Uydurmak yerine netleştirme sorusu sormak |
| `cok_adimli_gorev` | 220 | Tek istekte 3+ çağrıyla tamamlamak |
| `paralel_cagri` | 255 | Bağımsız hesapları aynı anda yapmak |
| `zincirli_cagri` | 230 | İkinci çağrının girdisini ilkinin sonucundan almak |

**Zorluk:** kolay 819 · orta 603 · zor 705

**Araç çağrısı olmayan örnek:** 629 · **Çoklu çağrı içeren örnek:** 761

## Kullanım

```python
from datasets import load_dataset
dataset = load_dataset("bilalabic/math-toolcall-tr", split="train")
```

Unsloth ile (ShareGPT formatı doğrudan desteklenir):

```python
from unsloth.chat_templates import standardize_data_formats
dataset = standardize_data_formats(dataset)

def formatting_prompts_func(examples):
    convos = examples["conversations"]
    return {"text": [tokenizer.apply_chat_template(c, tokenize=False).removeprefix("<bos>")
                     for c in convos]}

dataset = dataset.map(formatting_prompts_func, batched=True)
```

Eğitimde `train_on_responses_only` kullanılması önerilir — kullanıcı ve `tool_response`
turları maskelenir, kayıp yalnızca model yanıtlarında hesaplanır.

## Üretim yöntemi

İki aşamalı sentetik üretim, tamamı **`gpt-5.4-mini`** ile (reasoning effort: medium):

1. **Soru üretimi** — her istek için (alt alan, konu, senaryo, zorluk) kombinasyonu
   seçilir; model 2-4 fonksiyon şeması + doğal bir kullanıcı mesajı üretir.
   Şemaların yalnızca 1-2'si gerçekten gereklidir, diğerleri inandırıcı çeldiricidir.
2. **Cevap üretimi** — aynı model düşünme adımlarını, araç çağrılarını, beklenen araç
   sonuçlarını ve son yanıtı üretir.

Tekrar eden sorular elenir. Konu dağılımı, işlenmemiş konular önceliklendirilerek
70/70 kapsamaya ulaştırılmıştır.

Üretim kodunun tamamı açık: [github.com/BilalAbic/math-toolcall-tr](https://github.com/BilalAbic/math-toolcall-tr)

## İlgili model

| | |
|---|---|
| 🤖 LoRA adaptörü | [bilalabic/gemma_4_math-toolcall-tr_lora](https://huggingface.co/bilalabic/gemma_4_math-toolcall-tr_lora) |
| 📓 Eğitim notebook'u | [gemma4_e4b_math_toolcall_lora.ipynb](https://github.com/BilalAbic/math-toolcall-tr/blob/main/notebooks/gemma4_e4b_math_toolcall_lora.ipynb) |
| 💻 GitHub | https://github.com/BilalAbic/math-toolcall-tr |

Gemma-4 E4B üzerine LoRA (r=8) ile eğitilmiştir; 3 epoch, `train_on_responses_only`.

> ⚠️ **Sürüm farkı:** Bu adaptör, veri setinin **757 örneklik daha eski bir anlık
> görüntüsüyle** eğitilmiştir — buradaki güncel 2.127 örnekle **değil**. Güncel sürümle
> yeniden eğitim henüz yapılmamıştır.

## İlgili modelin benchmark sonuçları

Bu veri setinin ilk 757 kaydıyla eğitilen LoRA adaptörü, eğitimde görülmeyen 571 kayıt
arasından senaryo dengeli seçilmiş 150 örnekte değerlendirilmiştir:

| Matematik Tool-Call metriği | Base | Fine-tune | Fark |
|---|---:|---:|---:|
| Genel doğruluk | %56,67 | %59,33 | +2,66 puan |
| Araç seçimi | %53,77 | %54,72 | +0,95 puan |
| Çekimserlik (`abstain`) | %63,64 | %70,45 | +6,81 puan |
| Format geçerliliği | %98,67 | %99,33 | +0,66 puan |

Bu tablo veri setinin doğrudan bir kalite skoru değildir; belirli bir Gemma-4 E4B LoRA
eğitiminin sonucudur. Türkçe MMLU ve GSM8K dahil tam değerlendirme, ilgili
[model kartında](https://huggingface.co/bilalabic/gemma_4_math-toolcall-tr_lora)
raporlanmıştır.

## Sınırlamalar

Bu veri seti sentetiktir ve **insan doğrulamasından geçmemiştir**. Kullanmadan önce
bilinmesi gerekenler:

- **Araç sonuçları gerçek değildir.** `tool_response` içerikleri gerçek bir fonksiyon
  çalıştırılarak değil, model tarafından üretilmiştir. Gerçekçi olacak şekilde
  yönlendirilmiştir ancak doğrulukları garanti edilemez.
- **Matematiksel hatalar mümkündür.** Prompt matematiksel doğruluğu şart koşar ve
  incelenen örneklerde hesaplar doğrudur, ancak tüm örnekler tek tek doğrulanmamıştır.
- **Senaryo tutarsızlığı: %3,5.** 74 örnekte araç çağrısı beklenirken çağrı listesi
  boştur (çoğunlukla `hata_yonetimi` senaryosunda). Kritik uygulamalarda bu örnekler
  filtrelenebilir.
- **Tek model kaynaklı.** Tamamı tek bir modelden üretildiği için o modelin üslup ve
  akıl yürütme kalıplarını taşır.
- **Sadece Türkçe ve sadece matematik.** Başka alanlara veya dillere genellemez.

## Alıntı

```bibtex
@misc{math-toolcall-tr,
  title  = {math-toolcall-tr: Turkish Math Tool-Calling Dataset},
  author = {Bilal Abiç},
  year   = {2026},
  url    = {https://huggingface.co/datasets/bilalabic/math-toolcall-tr}
}
```