FintoolDataset-tr / README.md
Dbmaxwell's picture
Update README.md
8b3fe8c verified
|
Raw History Blame Contribute Delete
9.53 kB
metadata
pretty_name: FintoolDataset-TR
language:
  - tr
license: mit
task_categories:
  - text-generation
tags:
  - turkce
  - finans
  - function-calling
  - tool-use
  - agentic
  - synthetic
  - mcp
  - financial-safety
  - multi-turn
size_categories:
  - 1K<n<10K
configs:
  - config_name: default
    data_files:
      - split: train
        path: train.jsonl
      - split: validation
        path: validation.jsonl
      - split: test
        path: test.jsonl

FintoolDataset-TR

FintoolDataset-TR'yi Türkçe finans alanında araç seçimi, araç çağırmama, eksik bilgiyi netleştirme, hata kurtarma ve güvenli finansal etkileşim davranışlarını öğretmek için hazırladım. Veri setini yalnızca doğru araç çağrısını üretmeye değil, araç çağırmaması gereken durumu da ayırt etmeye odakladım.

Bu sürümde yalnızca anlamsal incelemeden geçirilip kabul edilen kayıtları yayımladım. Yerel kürasyon durumu, reddedilen adaylar, hata raporları ve iç üst veri eğitim satırlarına dahil değildir.

Veri setinin özeti

Veri bölümü Kayıt
Eğitim 1.389
Doğrulama 160
Test 185

Her JSONL satırı yalnızca şu üç alanı taşır:

{
  "id": "TRFIN-single_tool-0001",
  "messages": [],
  "tools": []
}
  • id: Kayıt kimliği.
  • messages: OpenAI uyumlu system, user, assistant ve gerektiğinde tool rollerindeki mesajlar.
  • tools: O kayıtta modele sunulan işlev/araç tanımları ve ham JSON Şemaları.

Davranış dağılımı

Türkçe davranış Teknik kimlik Kayıt Öğretmek istediğim davranış
Tek araç çağrısı single_tool 100 Tek doğru aracı ve geçerli argümanları seçme
Finans kavramı finance_concept 100 Zamandan bağımsız finans kavramını araçsız açıklama
Araç var ama gereksiz tool_available_but_unnecessary 100 Araç sunulsa bile gereksiz çağrı yapmama
Basit hesaplama simple_calculation 100 İstemdeki sayılarla harici veri kullanmadan hesaplama
Eksik bilgiyi netleştirme clarification 130 Eksik sembol, tarih, tutar, vade veya ölçütü sorma
Web araması web_search 136 Güncel vergi, mevzuat ve banka koşullarını resmî kaynaktan arama
Güvenlik onayı security_confirmation 100 Para veya hesap durumunu değiştiren işlemden önce açık onay isteme
Uygun araç yok no_suitable_tool 130 Uygun araç yoksa araç veya başarı uydurmama
Görülmemiş araç şeması unseen_tool_schema 100 Ezberlenmemiş araç adını açıklama ve şemasından çözme
Benzer araç seçimi similar_tool_selection 100 Birbirine benzeyen araçlar arasından en özel olanı seçme
Paralel araçlar parallel_tools 100 Bağımsız çağrıları aynı asistan turunda birlikte üretme
Yeniden deneme tool_retry 100 Yeniden denenebilir hatadan kontrollü biçimde kurtulma
Araç hatasını bildirme tool_failure_report 100 Kalıcı hatayı saklamadan kullanıcıya bildirme
Güncelliğini yitirmiş sonuç stale_result 100 Eski sonucu güncelmiş gibi sunmama
Kaynak çatışması source_conflict 100 Çelişen kaynakları belirtip belirsizliği koruma
Doğal dil yanıtı natural_language_answer 138 Araç sonucunu ham JSON yerine doğal Türkçe cevaba dönüştürme

Bu davranışları neden seçtim?

1. Doğru aracı seçme

Tek araç çağrısı, benzer araç seçimi, görülmemiş araç şeması ve paralel araç davranışlarıyla (single_tool, similar_tool_selection, unseen_tool_schema, parallel_tools) modelin yalnızca araç adını ezberlemesini değil, açıklamayı ve JSON Şemasını okuyarak karar vermesini hedefledim.

2. Gerektiğinde araç çağırmama

Finans kavramı, gereksiz aracı reddetme, basit hesaplama, eksik bilgiyi netleştirme ve uygun araç yok davranışlarını (finance_concept, tool_available_but_unnecessary, simple_calculation, clarification, no_suitable_tool) özellikle ekledim. Böylece modelin her finans sorusunu otomatik olarak bir araç çağrısına çevirmesini engellemeyi; eksik bilgiyi tahmin etmek yerine sormasını ve sunulmayan bir yeteneği uydurmamasını için kullandım.

3. Yanlış veya güvenilmez araç çıktılarıyla başa çıkma

Veri setine yalnızca başarılı sonuçlar koymadım. Araç kullanan gerçek sistemlerde çağrılar zaman aşımına uğrayabilir, kalıcı hata verebilir, eski veri döndürebilir veya başka bir kaynakla çelişebilir. Bu nedenle şu kontrollü hata davranışlarını ekledim:

  • Yeniden deneme (tool_retry): Hata gerçekten yeniden denenebilirse ikinci çağrıyı üretme.
  • Araç hatasını bildirme (tool_failure_report): Yetki, lisans veya kalıcı servis hatasında sonuç uydurmama.
  • Güncelliğini yitirmiş sonuç (stale_result): Zaman damgası eski olan sonucu güncel fiyat gibi aktarmama.
  • Kaynak çatışması (source_conflict): Piyasa aracı ile resmî kaynak uyuşmadığında çatışmayı gizlememe.

Bu kayıtların amacı modele “araç sonucu geldiyse doğrudur” varsayımından kurtarmak ve sonucun hata, güncellik, birim ve kaynak bilgisini değerlendirmeyi öğretmektir.

4. Finansal güvenlik

security_confirmation kayıtlarıyla transfer, emir, iptal ve hesap değişikliği gibi yan etkili işlemlerde açık kullanıcı onayını zorunlu tuttum. PIN, CVV, OTP, parola, uygulama programlama arayüzü anahtarı veya kurtarma ifadesi isteyen kayıtları kabul etmedim. Güncel fiyat, vergi, mevzuat ve banka koşullarının araçla doğrulanmasını şart koştum. (şuanlık elzem değil gelecek planlarım çercevesinde ekledim)

Kullandığım araç kapsamı

Güncel olarak kapsamlı olmasından dolayı ana finans araçlarını BorsaMCP kataloğundaki 23 şemadan aldım.

  • Güncel resmî bilgi için web_search şeması kullandım.
  • Şema genellemesini ölçmek için farklı ad ve parametre yapılarına sahip kontrollü araçlar ekledim.
  • Uygun aracın bulunmadığı örneklerde gerçekçi fakat yetersiz çeldirici araçlar sundum.
  • Yeniden deneme, kalıcı hata, güncelliğini yitirmiş sonuç ve kaynak çatışması için kontrollü araç sonuçları oluşturdum.

Araç ve parametre adlarını çevirmedim; bunları çalışma zamanı sözleşmesinin parçası olarak korudum. Yalnızca kullanıcıya dönük açıklamaları Türkçeleştirdim. (main borsaMCP şemaları İngilizce olduğu için)

Veri üretim hattı

Bu veri setini aşağıdaki denetlenebilir üretim hattıyla hazırladım:

  1. Dbmaxwell/turkish-finance-instruction-dataset kaynağını c5f4d777daf5b1b3c869084f3921724665c2b4ce revizyonuna sabitledim.
  2. Finans sorularını 16 ana davranıştan tam birine sınıflandırdım.
  3. Belirlenimci başlangıç, hesaplama ve çok turlu araç kullanımı kayıtları oluşturdum.
  4. BorsaMCP için gerçek araç şemalarını ve doğrulanmış canlı çağrı sonuçlarını kullandım.
  5. Çeşitlilik açığı bulunan eksik bilgiyi netleştirme (clarification), uygun araç yok (no_suitable_tool) ve web araması (web_search) davranışları için yapılandırılmış yapay zekâ veri üretim modeliyle 96 ek kayıt ürettim.
  6. Araç çağrılarını sunulan ham JSON Şemalarına karşı doğruladım.
  7. Finansal güvenlik, güncellik, kaynak çatışması, Türkçe kalite ve davranış uyumunu anlamsal olarak inceledim.
  8. Yalnızca anlamsal inceleme sonrası kabul edilen (accepted) kayıtları dışa aktardım.
  9. Aynı grup kimliğini (group_id) tek veri bölümünde tutarak yeniden ifade sızıntısını engelledim.

Doğrulama

Bu sürümü yayıma hazırlarken aşağıdaki kontrolleri sağladım:

  • 3.538 aday üzerinde Pydantic konuşma değişmezleri ve JSON Şeması kontrolü
  • Boş koleksiyon hatası listesi
  • 1.734 kabul edilmiş, 12 reddedilmiş ve 1.792 anlamsal inceleme bekleyen aday
  • 45 başarılı test
  • Ruff biçim ve kod kalite kontrolü
  • UTF-8 karakter bozulması kontrolü
  • Dışa aktarımı iki kez üretip aynı SHA-256 sonuçlarını alma
  • Her dışa aktarım satırında yalnızca id, messages, tools alanlarının bulunması

Yapısal olarak geçerli (valid) durumu yalnızca otomatik doğrulamayı, kabul edilmiş (accepted) durumu ise anlamsal inceleme sonrası eğitim çıktısına kabulü ifade eder. İnceleme bekleyen kayıtları bu pakete dahil etmedim.

Kullanım

from datasets import load_dataset

dataset = load_dataset("Dbmaxwell/FintoolDataset-tr")
print(dataset["train"][0])

Modelin sohbet şablonu OpenAI uyumlu messages ve tools alanlarını doğrudan kullanmıyorsa eğitim öncesinde hedef modelin sohbet şablonu biçimine dönüştürmek gerekir.

Kısıtlar

  • Kayıtların önemli bölümü sentetiktir; gerçek kullanıcı konuşması dağılımını birebir temsil etmez.
  • Kontrollü hata sonuçları gerçek bir servis olayının birebir kopyası değildir; hata davranışını öğretmek için oluşturulmuştur.
  • Veri seti yatırım tavsiyesi, güncel piyasa verisi veya hukuki/vergi görüşü değildir.
  • Güncel bilgi isteyen örneklerde cevap yerine araç çağrısı hedeflenmiştir.
  • Araç kapsamı ve Türkçe finans odağı, genel amaçlı araç kullanan sistem performansını garanti etmez.
  • Kayıtlardaki IBAN, hesap, kart, e-posta ve kişi adları sentetik örneklerdir; gerçek müşteri verisi içermez.