README.md

---
language:
- tr
license: cc-by-4.0
task_categories:
- text-generation
tags:
- function-calling
- tool-use
- turkish
- agents
- execution-verified
pretty_name: "ToolCall-TR Pilot v0.1 (turkey-200-v3)"
size_categories:
- n<1K
configs:
- config_name: default
  data_files:
  - split: train
    path: hf_chat/train.jsonl
  - split: validation
    path: hf_chat/validation.jsonl
  - split: test
    path: hf_chat/test.jsonl
- config_name: canonical
  data_files:
  - split: train
    path: data/train.jsonl
  - split: validation
    path: data/validation.jsonl
  - split: test
    path: data/test.jsonl
---

# ToolCall-TR — Pilot v0.1

Türkçe, **execution-verified** tool-calling veri seti. Her tool çağrısı gerçek
bir implementasyon tarafından çalıştırıldı ve çıktısı doğrulandı; hiçbir tool
observation'ı bir LLM tarafından yazılmadı.

---

## ⚠️ Önce şunu bilin: bu küçük bir ilk sürüm

**İçinde 200 örnek var.** Bu sayı bir modeli eğitmek için yeterli değildir.

Ne için uygun:

- Yöntemi ve veri biçimini incelemek
- Örneklere tek tek bakmak
- Az sayıda örnekle deneme yapmak (few-shot)
- Kendi ölçüm setinizi kurmadan önce prototip çıkarmak

Ne için uygun değil:

- Tek başına eğitim verisi olarak kullanmak
- Model karşılaştırmak — 200 örnek güvenilir bir sonuç vermez

Hedef 10.000–15.000 örnektir; o sürüm henüz üretilmedi.

### Neden 200'de duruldu

Daha büyük bir koşu yapıldı ve **reddedildi.** 1.000 örneklik üretim tamamlandı
ama yalnızca 20 family'den türetildiği için ~50× parametre fan-out gerekti ve
kompozisyon çöktü: %94,3 `tool_call`, 11 senaryo türünün 6'sı **sıfır** örnekle.

Kalite kapısı buna "geçti" dedi. Sebebi bütçenin kendisiydi: `tool_call` için
`minimum_ratio: 0.90` isteniyordu. Kapı doğru çalışıyordu, yanlış hedefe
bakıyordu.

Bunun yerine **74 family'den** üretilen 200 örnek yayımlanıyor — family başına
~2,7× fan-out. Darboğaz throughput değil **family sayısıdır**; aynı family'yi
ağır fan-out'la çoğaltmak korpusu tek tipleştiriyor.

---

## Veri seti içeriği

**200 örnek · 74 family · 15 sağlayıcı · 35 tool · 0 reddedilen**

### Split

| Split | Örnek |
|---|---|
| train | 140 |
| validation | 20 |
| test | 40 |

Split **family düzeyinde ve fan-out'tan önce** atanır; `hash(family_id)`'den
türetilir ve paraphrase'ler ait oldukları family'nin split'ini miras alır. Aksi
hâlde aynı görevin bir varyantı train'e, diğeri test'e düşer ve benchmark
sessizce kirlenir. **Sızıntı denetimi 0 ihlal verir.**

### Karar dağılımı

| Karar | Anlamı | Örnek | Oran |
|---|---|---|---|
| `tool_call` | Tool çağrılır | 143 | %71,5 |
| `direct_answer` | Tool gerekmiyor; model doğrudan cevaplar | 28 | %14,0 |
| `cannot_answer` | İstek karşılanamaz; model reddeder | 21 | %10,5 |
| `clarification` | Zorunlu parametre eksik; model sorar | 8 | %4,0 |

**%28,5'i tool çağrısı içermez.** Bu kasıtlıdır: bir tool-calling veri setinin
en zor kısmı modelin *ne zaman çağırmayacağını* öğretmektir.

### Senaryo türleri — 11'inin hepsi var

| Tür | Anlamı | Örnek |
|---|---|---|
| `successful_tool_call` | Tek tool çağrılır, sonuç döner | 68 |
| `sequential_tool_call` | İkinci çağrı, birincinin observation'ına bağlıdır | 30 |
| `should_refuse` | İstek karşılanamaz; model reddeder | 21 |
| `should_answer_directly` | Tool gerekmiyor; model doğrudan cevaplar | 17 |
| `confirmation_required` | Yan etkili işlem; model önce onay ister | 13 |
| `expected_error` | Tool domain hatası döndürür; bu ground-truth'tur | 13 |
| `user_cancellation` | Kullanıcı onay adımında vazgeçer | 11 |
| `parallel_tool_call` | Bağımsız iki tool aynı adımda çağrılır | 11 |
| `should_ask_clarification` | Zorunlu parametre eksik; model sorar | 8 |
| `empty_result` | Tool boş liste döner — hata değil, geçerli sonuç | 4 |
| `error_recovery` | İlk çağrı başarısız; model toparlar | 4 |

### Diğer boyutlar

- **`interaction_type`:** 170 `single_turn`, **30 `multi_turn`**
- **Zorluk:** 85 `easy`, 100 `medium`, 15 `hard`
- **Örnek başına tool:** ortalama 2,6 — bir kısmı **distractor**'dır, model
  doğru tool'u seçmeyi öğrensin diye kasıtlı olarak gösterilir
- **Çağrı içeren örnekte ortalama çağrı:** 1,41
- **State:** 31 örnek `initial_state_hash`/`final_state_hash` taşır ve 17'sinde
  state fiilen değişir. Yani `confirmation_required` ve `user_cancellation`
  akışları anlatılmakla kalmıyor, gerçek bir durum makinesine karşı
  çalıştırılıp doğrulanıyor (`mock_version: calendar_mock/1.0.0`).

### Execution class

Her örnek tool çıktısının nasıl elde edildiğini beyan eder:

| Sınıf | Örnek | Anlamı |
|---|---|---|
| `derived_local` | 68 | Dondurulmuş snapshot üzerinde yerel hesap |
| `live_recorded` | 57 | Gerçek HTTP yanıtı (cassette'e kaydedilmiş) |
| `simulated` | 31 | Deterministik mock |

---

## Veri kaynakları ve lisanslar

**Tek tip bir lisans iddia edilmiyor.** ToolCall-TR tarafından yazılan kısım
(Türkçe ifadeler, blueprint'ler, karar etiketleri, doğrulama annotation'ları)
**CC BY 4.0**'tır. Tool observation'ları kaynağının koşullarını taşır ve her
`ToolSpec` kendi `source.license` alanını içinde tutar.

| Sağlayıcı | Lisans | Tool görünümü |
|---|---|---|
| `calendar_mock` | Apache-2.0 (kurgusal mock) | 109 |
| `general_local` | Apache-2.0 (yerel hesap) | 81 |
| `frankfurter_ecb` | ECB koşulları | 73 |
| `met_norway` | CC BY 4.0 | 52 |
| `geonames_tr` | CC BY 4.0 | 51 |
| `wikimedia_metadata` | Yalnızca metadata | 40 |
| `gbif` | CC0 1.0 + CC BY 4.0 (filtreli) | 31 |
| `github_metadata` | Yalnızca metadata (olgular) | 28 |
| `wdi_allowlist` | CC BY 4.0 + Dünya Bankası koşulları | 19 |
| `crossref` | Crossref metadata koşulları | 8 |
| `tr_public_holidays` | Kamu hukuku / resmî takvim | 8 |
| `usgs_earthquake` | ABD kamu malı | 7 |
| `federated_web_metadata` | Kaynağa özgü, yalnızca metadata | 6 |
| `worldbank_wdi` | CC BY 4.0 + Dünya Bankası koşulları | 3 |
| `wikidata` | CC0 1.0 | 3 |

**"Yalnızca metadata" bir cümle değil, bir mekanizmadır.** Normalizasyon alanları
beyaz listeler; listede olmayan hiçbir alan veriye giremez. Wikipedia `extracts`
ve REST `summary` **CC BY-SA** (viral) olduğu için alınmaz; GitHub'dan yalnızca
repo istatistikleri alınır — `description`, README, issue/PR gövdeleri ve
kullanıcı login'leri **alınmaz**. Bir test bunu zorlar, böylece upstream bir
şema değişikliği lisanslı metni sessizce geri sokamaz.

---

## Biçimler

İki `datasets` konfigürasyonu vardır:

| Konfigürasyon | Yol | İçerik |
|---|---|---|
| **`default`** | `hf_chat/` | HF sohbet şeması — mesaj başına sabit alan kümesi |
| `canonical` | `data/` | Tüm alanlar, kayıpsız |

`canonical` **bizim biçimimizdir**; diğer her şey ondan türetilmiş birer
görünümdür ve canonical veriyi değiştirmez (her görünüm için round-trip testi
vardır).

| Dosya | Satır | İçerik |
|---|---|---|
| `hf_chat/{train,validation,test}.jsonl` | 140/20/40 | **Varsayılan** |
| `data/{train,validation,test}.jsonl` | 140/20/40 | Canonical — tüm alanlar |
| `formats/openai.jsonl` | 200 | OpenAI `messages` + `tools` |
| `formats/openai_call_only.jsonl` | 200 | İlk tool seçiminde durur; observation ve final yanıt yok |
| `formats/openai_trajectory.jsonl` | 200 | Tam yörünge + son observation'dan türetilmiş final yanıt |
| `formats/sharegpt.jsonl` | 200 | ShareGPT `conversations` |
| `formats/xlam.jsonl` | 200 | xLAM `query` / `tools` / `answers` |
| `formats/hf_chat.jsonl` | 200 | `hf_chat`'in bölünmemiş hâli |

Sohbet şemasına sığmayan alanlar (`split`, `family_id`, `provenance`,
`execution_classes`, `final_response_source`) her görünümde `toolcall_tr` yan
alanında taşınır — hiçbir bilgi kaybolmaz.

### Varsayılan biçim: `hf_chat`

Her mesajda `content`, `images`, `name`, `role`, `thinking`, `tool_calls`
alanlarının **tamamı** bulunur; kullanılmayanlar `None` kalır. Alan kümesi sabit
olduğu için `datasets` mesajları düzgün bir struct olarak çıkarır:

```
List({'content': string, 'images': null, 'name': string,
      'role': string, 'thinking': null,
      'tool_calls': List({'function': {'arguments': string, 'name': string},
                          'type': string})})
```

`name` yalnız `tool` mesajlarında doludur ama her mesajda bulunur. HF şemasında
tool adı için ayrı bir alan yoktur ve `parallel_tool_call` örneklerinde hangi
observation'ın hangi çağrıya ait olduğu aksi hâlde kaybolurdu. Alanı yalnız
`tool` mesajlarına koymak alan kümesini bozuyor ve mesajları opak JSON'a
düşürüyordu — ölçüldü ve düzeltildi.

İki alan bu sürümde her satırda `None`, dolayısıyla `datasets` onları `null`
tipinde çıkarır:

- **`images`** — veri seti multimodal değildir.
- **`thinking`** — alan `reasoning_summary_tr`'den beslenir; bu korpus şablon
  üreticisiyle koşulduğu için özet üretilmemiştir. Doldurulduğunda içeriği
  **kısa ve denetlenebilir bir karar özeti** olur; ham düşünce zinciri hiçbir
  görünüme yazılmaz. Boşken uydurulmaz.

`tools` alanındaki JSON Schema `properties` alt alanı tool'dan tool'a değiştiği
için `datasets` onu JSON olarak saklayıp okurken çözer; parametre kısıtları
(`minimum`, `maximum`, `default`) kayıpsız korunur.

### Yükleme

Varsayılan (`hf_chat`):

```python
from datasets import load_dataset

ds = load_dataset("bilalabic/toolcall-tr-pilot")
print(ds["train"][0]["messages"][0]["content"])
```

Tüm alanların bulunduğu canonical biçim:

```python
ds = load_dataset("bilalabic/toolcall-tr-pilot", "canonical")
```

Belirli bir eğitim görünümü için:

```python
ds = load_dataset(
    "bilalabic/toolcall-tr-pilot",
    data_files="formats/openai_trajectory.jsonl",
    split="train",
)
```

---

## Örnek

**Kullanıcı:**
> `2026-07-20 ile 2026-07-28 arasında Elazığ'ın 300 km çevresindeki 3 ve üzeri depremleri bul.`

**Ground-truth** — iki adımlı zincir; ikinci çağrı birincinin observation'ına
bağlı:
```json
[
  {"name": "search_places",
   "arguments": {"query": "Elazığ", "limit": 5, "sort_by": "relevance",
                 "include_alternate_names": false}},
  {"name": "search_earthquakes",
   "arguments": {"latitude": 38.6743, "longitude": 39.2232, "radius_km": 300.0,
                 "minimum_magnitude": 3.0, "start_date": "2026-07-20",
                 "end_date": "2026-07-28", "limit": 20}}
]
```

Koordinat kullanıcı tarafından verilmedi; enlem/boylam **birinci adımın gerçek
çıktısından** geldi (`PRIOR_OBSERVATION`).

Örnek 4 tool taşıyor — ikisi distractor. Türü `empty_result`: sonuç boş liste
döndü, ve bu bir hata değil, o pencerede kayıt bulunmadığını söyleyen geçerli
bir cevaptır.

---

## Metodoloji

### Üç faz — asla tek adımda birleşmez

```
Blueprint --[planner, SAF, I/O yok]--> CallPlan
CallPlan  --[runner, I/O, seed altında deterministik]--> Trace
Trace     --[validation, SAF]--> Example
```

Planner gerçek bir derleyicidir: tool/parametre varlığı, tip uyumu ve adımlar
arası referansların geçerliliği ağ olmadan hard-fail eder. Validator'lar yalnızca
kaydedilmiş `Trace`'i okur ve execution katmanını **import edemez** — etselerdi
doğrulama sırasında yeniden çalıştırma kapısı açılır ve veri doğrulanabilir
olmaktan çıkardı. Katman ihlali CI'da `lint-imports` ile patlar.

### LLM'in rolü sınırlıdır

LLM **yalnızca doğal Türkçe ifadeyi** yazar. Ground-truth tool çağrıları koddan
derlenir, gerçekten çalıştırılır ve bağımsız olarak doğrulanır.

Üretici model ölçülerek seçildi (`gpt-4.1-mini`): 104 çağrılık karşılaştırmada
%100 kabul, %99,0 benzersiz, 0,144 n-gram benzerliği. Yalnızca kabul oranına
bakılmadı — bir aday %100 kabul alırken ortalama 22 karakterlik çöp üretiyordu
ve yapısal validator'ları geçiyordu.

### Determinizm

Donmuş saat, sıradan bağımsız seed (`sha256(blueprint_id + variant_index)`),
pinlenmiş sıralama ve cassette replay. Aynı girdi aynı `trace_id`'yi üretir.

### Doğal dil validator'a uydurulmadı

Bu proje bir kez bunun tersini yaptı: grounding validator argümanın mesajda
birebir geçmesini istediği için ifadelere UUID'ler ve ham koordinatlar yazıldı.
Sonuç hiçbir insanın kurmayacağı cümlelerdi.

Bunun yerine argüman kaynağı kategorileri eklendi — `USER_MESSAGE`,
`USER_MESSAGE_DERIVED`, `SYSTEM_STATE`, `PRIOR_OBSERVATION`, `PINNED_FIXTURE` —
ve Türkçe gevşek eşleştirme yazıldı. Kullanıcı UUID yapıştırmaz, slug bilmez,
koordinat okumaz.

---

## Bilinen sınırlamalar

1. **Ölçek.** 200 örnek tek başına eğitim için yetersizdir.
2. **Family başına düşük fan-out.** 74 family'nin bazıları yalnızca 2 varyant
   taşır; family düzeyinde dengesizlik vardır.
3. **`calendar_mock` ve `general_local` baskın.** Tool görünümlerinin ~%40'ı bu
   ikisinden; canlı sağlayıcı çeşitliliği hedeflenenin altında.
4. **Judge, üretici ile aynı sağlayıcıdan.** Self-preference bias tam olarak
   elenmiş değildir; ideali farklı bir sağlayıcıdır.
5. **İnsan incelemesi tam örneklem değil.** Kalite kapısı yapısaldır; yapısal
   validator'lar akıcılığı ölçmez.
6. **PII tarayıcısında yanlış pozitif.** VKN checksum'ı zayıf olduğu için
   rastgele 10 haneli sayıların ~%10'u geçer; bu korpusta 12 bulgu üretti ve
   **hepsi yanlış pozitiftir** (GBIF occurrence ID'leri ve SHA-256 hash'lerinin
   içindeki hane dizileri). Gerçek TCKN/VKN/IBAN sayısı **sıfırdır**.
7. **Stateful kapsam dar.** State doğrulaması yalnızca `calendar_mock`
   üzerindedir (31 örnek); diğer sağlayıcılar read-only olduğu için
   `state_hash` alanları null'dır.

## Kişisel veri

Veri seti gerçek kişisel veri içermez. Sentetik kimlikler **kanıtlanabilir
şekilde geçersizdir**: sentetik TCKN'ler `0` ile başlar (gerçek bir TCKN `0` ile
başlayamaz), VKN'ler checksum-geçersiz, IBAN'lar mod-97-geçersizdir. Bu politika
CI'da zorlanır.

## Atıf

```bibtex
@misc{toolcall_tr_pilot_2026,
  title  = {ToolCall-TR: Execution-Verified Turkish Tool-Calling Dataset (Pilot v0.1)},
  author = {Abiç, Bilal},
  year   = {2026},
  url    = {https://huggingface.co/datasets/bilalabic/toolcall-tr-pilot}
}
```

Türetilmiş kaynaklara atıf yapılırken yukarıdaki sağlayıcı tablosu ve her
örneğin `toolcall_tr.provenance.sources` alanı kullanılmalıdır.

Kaynak kod: https://github.com/BilalAbic/toolcall-tr (Apache-2.0)