Dbmaxwell's picture
update dataset 0.0.1v
46428fa verified
|
Raw History Blame Contribute Delete
4.72 kB
---
license: mit
language:
- tr
task_categories:
- text-generation
tags:
- function-calling
- tool-use
- synthetic
- turkish
pretty_name: Turkish Function Calling
size_categories:
- 1K<n<10K
configs:
- config_name: default
data_files:
- split: train
path: data/train.jsonl
---
# Turkish Function Calling
Türkçe tool-calling çalışmaları için hazırlanmış sentetik eğitim veri seti. Veri seti Türkçe kullanıcı taleplerini, kullanılabilecek araç tanımlarını ve beklenen fonksiyon çağrılarını birlikte sunar.
## Veri seti özeti
| Özellik | Değer |
|---|---:|
| Split | `train` |
| Toplam satır | 1.500 |
| Benzersiz tam satır | 1.500 |
| Benzersiz sorgu metni | 1.429 |
| Benzersiz araç adı | 368 |
| Toplam beklenen fonksiyon çağrısı | 3.428 |
| Dil | Türkçe |
| Dosya biçimi | JSONL |
Veri; hava durumu, e-ticaret, bankacılık, yemek siparişi, seyahat, takvim, medya, ulaşım, sağlık, eğitim, kripto para, sinema, spor, akıllı ev, kargo, konaklama, araç hizmetleri, sosyal medya, verimlilik ve kamu hizmetleri dahil 20 alanı kapsar.
## Üretim
Veri seti `zai/glm-5.3` modeliyle üretildi. Üretim sırasında:
- Her örnek için 2–4 araç tanımı istendi.
- Fonksiyon ve parametre adları ASCII `snake_case` biçimiyle sınırlandı.
- Parametre tipleri `str`, `int`, `float`, `bool`, `list` ve `dict` değerleriyle sınırlandı.
- Her parametre için açık bir `required` boolean değeri zorunlu tutuldu.
- Beklenen çağrılardaki fonksiyon adları ve argümanlar araç şemasına göre programatik olarak doğrulandı.
- Geçerli satırlar atomik ve devam ettirilebilir biçimde yerel JSONL dosyasına yazıldı.
## Veri biçimi
Her JSONL satırı üç string alan içerir:
| Alan | Açıklama |
|---|---|
| `query` | Doğal Türkçe kullanıcı talebi |
| `tools` | JSON kodlanmış araç tanımları listesi |
| `answers` | JSON kodlanmış beklenen fonksiyon çağrıları listesi |
`tools` ve `answers` alanları string içinde JSON olarak saklanır. Kullanımdan önce `json.loads` ile ayrıştırılmalıdır.
```json
{
"query": "Merhaba, bugünkü dolar kurunu öğrenip 1500 dolar almak istiyorum, ayrıca bu ayın hesap özetimi de görebilir miyim?",
"tools": "[{\"name\": \"doviz_kuru_getir\", \"description\": \"...\", \"parameters\": {\"doviz_cinsi\": {\"description\": \"...\", \"type\": \"str\", \"required\": true}}}]",
"answers": "[{\"name\": \"doviz_kuru_getir\", \"arguments\": {\"doviz_cinsi\": \"USD\"}}]"
}
```
Yukarıdaki örnek okunabilirlik için kısaltılmıştır; veri dosyasındaki araç ve çağrı listeleri eksiksizdir.
## Kullanım
Hugging Face `datasets` ile:
```python
from datasets import load_dataset
dataset = load_dataset(
"json",
data_files={"train": "data/train.jsonl"},
)
```
String olarak saklanan alanları ayrıştırmak için:
```python
import json
row = dataset["train"][0]
tools = json.loads(row["tools"])
answers = json.loads(row["answers"])
```
Doğrudan Python ile:
```python
import json
with open("data/train.jsonl", encoding="utf-8") as file:
rows = [json.loads(line) for line in file if line.strip()]
```
## Doğrulama
1.500 satırın tamamı aşağıdaki yapısal kontrollerden geçti:
- `query`, `tools` ve `answers` alanlarının varlığı ve veri tipleri
- Her örnekte 2–4 geçerli araç tanımı
- Parametre tipi ve `required` alanı doğrulaması
- Çağrılan fonksiyonun aynı satırdaki araç listesinde bulunması
- Argüman adlarının ve değer tiplerinin fonksiyon şemasıyla eşleşmesi
- Tüm zorunlu argümanların çağrıda bulunması
## ToDo
- **Veri setini genişletme:** Yeni kullanım alanları, daha çeşitli sorgular, paralel ve çok adımlı fonksiyon çağrıları ile
veri setindeki örnek sayısının artırılması.
- **Kalite iyileştirmesi:** Yazım hatalarının düzeltilmesi, yinelenen sorguların azaltılması ve alan dağılımının
dengelenmesi.
## Lisans
Veri seti MIT lisansı ile yayımlanır. Kullanılan modelin ve hizmet sağlayıcının geçerli kullanım koşulları ayrıca dikkate alınmalıdır.
## Kaynak
Veri şeması, Salesforce tarafından yayımlanan [xlam-function-calling-60k](https://huggingface.co/datasets/Salesforce/xlam-function-calling-60k) veri setinden esinlenmiştir.
```bibtex
@article{liu2024apigen,
title={APIGen: Automated Pipeline for Generating Verifiable and Diverse Function-Calling Datasets},
author={Liu, Zuxin and Hoang, Thai and Zhang, Jianguo and Zhu, Ming and Lan, Tian and Kokane, Shirley and Tan, Juntao and Yao, Weiran and Liu, Zhiwei and Feng, Yihao and others},
journal={arXiv preprint arXiv:2406.18518},
year={2024}
}
```