Dbmaxwell commited on
Commit
46428fa
·
verified ·
1 Parent(s): 36c3559

update dataset 0.0.1v

Browse files
Files changed (2) hide show
  1. README.md +138 -0
  2. data/train.jsonl +0 -0
README.md ADDED
@@ -0,0 +1,138 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ language:
4
+ - tr
5
+ task_categories:
6
+ - text-generation
7
+ tags:
8
+ - function-calling
9
+ - tool-use
10
+ - synthetic
11
+ - turkish
12
+ pretty_name: Turkish Function Calling
13
+ size_categories:
14
+ - 1K<n<10K
15
+ configs:
16
+ - config_name: default
17
+ data_files:
18
+ - split: train
19
+ path: data/train.jsonl
20
+ ---
21
+
22
+ # Turkish Function Calling
23
+
24
+ Türkçe tool-calling çalışmaları için hazırlanmış sentetik eğitim veri seti. Veri seti Türkçe kullanıcı taleplerini, kullanılabilecek araç tanımlarını ve beklenen fonksiyon çağrılarını birlikte sunar.
25
+
26
+ ## Veri seti özeti
27
+
28
+ | Özellik | Değer |
29
+ |---|---:|
30
+ | Split | `train` |
31
+ | Toplam satır | 1.500 |
32
+ | Benzersiz tam satır | 1.500 |
33
+ | Benzersiz sorgu metni | 1.429 |
34
+ | Benzersiz araç adı | 368 |
35
+ | Toplam beklenen fonksiyon çağrısı | 3.428 |
36
+ | Dil | Türkçe |
37
+ | Dosya biçimi | JSONL |
38
+
39
+ Veri; hava durumu, e-ticaret, bankacılık, yemek siparişi, seyahat, takvim, medya, ulaşım, sağlık, eğitim, kripto para, sinema, spor, akıllı ev, kargo, konaklama, araç hizmetleri, sosyal medya, verimlilik ve kamu hizmetleri dahil 20 alanı kapsar.
40
+
41
+ ## Üretim
42
+
43
+ Veri seti `zai/glm-5.3` modeliyle üretildi. Üretim sırasında:
44
+
45
+ - Her örnek için 2–4 araç tanımı istendi.
46
+ - Fonksiyon ve parametre adları ASCII `snake_case` biçimiyle sınırlandı.
47
+ - Parametre tipleri `str`, `int`, `float`, `bool`, `list` ve `dict` değerleriyle sınırlandı.
48
+ - Her parametre için açık bir `required` boolean değeri zorunlu tutuldu.
49
+ - Beklenen çağrılardaki fonksiyon adları ve argümanlar araç şemasına göre programatik olarak doğrulandı.
50
+ - Geçerli satırlar atomik ve devam ettirilebilir biçimde yerel JSONL dosyasına yazıldı.
51
+
52
+ ## Veri biçimi
53
+
54
+ Her JSONL satırı üç string alan içerir:
55
+
56
+ | Alan | Açıklama |
57
+ |---|---|
58
+ | `query` | Doğal Türkçe kullanıcı talebi |
59
+ | `tools` | JSON kodlanmış araç tanımları listesi |
60
+ | `answers` | JSON kodlanmış beklenen fonksiyon çağrıları listesi |
61
+
62
+ `tools` ve `answers` alanları string içinde JSON olarak saklanır. Kullanımdan önce `json.loads` ile ayrıştırılmalıdır.
63
+
64
+ ```json
65
+ {
66
+ "query": "Merhaba, bugünkü dolar kurunu öğrenip 1500 dolar almak istiyorum, ayrıca bu ayın hesap özetimi de görebilir miyim?",
67
+ "tools": "[{\"name\": \"doviz_kuru_getir\", \"description\": \"...\", \"parameters\": {\"doviz_cinsi\": {\"description\": \"...\", \"type\": \"str\", \"required\": true}}}]",
68
+ "answers": "[{\"name\": \"doviz_kuru_getir\", \"arguments\": {\"doviz_cinsi\": \"USD\"}}]"
69
+ }
70
+ ```
71
+
72
+ Yukarıdaki örnek okunabilirlik için kısaltılmıştır; veri dosyasındaki araç ve çağrı listeleri eksiksizdir.
73
+
74
+ ## Kullanım
75
+
76
+ Hugging Face `datasets` ile:
77
+
78
+ ```python
79
+ from datasets import load_dataset
80
+
81
+ dataset = load_dataset(
82
+ "json",
83
+ data_files={"train": "data/train.jsonl"},
84
+ )
85
+ ```
86
+
87
+ String olarak saklanan alanları ayrıştırmak için:
88
+
89
+ ```python
90
+ import json
91
+
92
+ row = dataset["train"][0]
93
+ tools = json.loads(row["tools"])
94
+ answers = json.loads(row["answers"])
95
+ ```
96
+
97
+ Doğrudan Python ile:
98
+
99
+ ```python
100
+ import json
101
+
102
+ with open("data/train.jsonl", encoding="utf-8") as file:
103
+ rows = [json.loads(line) for line in file if line.strip()]
104
+ ```
105
+
106
+ ## Doğrulama
107
+
108
+ 1.500 satırın tamamı aşağıdaki yapısal kontrollerden geçti:
109
+
110
+ - `query`, `tools` ve `answers` alanlarının varlığı ve veri tipleri
111
+ - Her örnekte 2–4 geçerli araç tanımı
112
+ - Parametre tipi ve `required` alanı doğrulaması
113
+ - Çağrılan fonksiyonun aynı satırdaki araç listesinde bulunması
114
+ - Argüman adlarının ve değer tiplerinin fonksiyon şemasıyla eşleşmesi
115
+ - Tüm zorunlu argümanların çağrıda bulunması
116
+
117
+ ## ToDo
118
+ - **Veri setini genişletme:** Yeni kullanım alanları, daha çeşitli sorgular, paralel ve çok adımlı fonksiyon çağrıları ile
119
+ veri setindeki örnek sayısının artırılması.
120
+ - **Kalite iyileştirmesi:** Yazım hatalarının düzeltilmesi, yinelenen sorguların azaltılması ve alan dağılımının
121
+ dengelenmesi.
122
+
123
+ ## Lisans
124
+
125
+ Veri seti MIT lisansı ile yayımlanır. Kullanılan modelin ve hizmet sağlayıcının geçerli kullanım koşulları ayrıca dikkate alınmalıdır.
126
+
127
+ ## Kaynak
128
+
129
+ Veri şeması, Salesforce tarafından yayımlanan [xlam-function-calling-60k](https://huggingface.co/datasets/Salesforce/xlam-function-calling-60k) veri setinden esinlenmiştir.
130
+
131
+ ```bibtex
132
+ @article{liu2024apigen,
133
+ title={APIGen: Automated Pipeline for Generating Verifiable and Diverse Function-Calling Datasets},
134
+ author={Liu, Zuxin and Hoang, Thai and Zhang, Jianguo and Zhu, Ming and Lan, Tian and Kokane, Shirley and Tan, Juntao and Yao, Weiran and Liu, Zhiwei and Feng, Yihao and others},
135
+ journal={arXiv preprint arXiv:2406.18518},
136
+ year={2024}
137
+ }
138
+ ```
data/train.jsonl ADDED
The diff for this file is too large to render. See raw diff