--- configs: - config_name: default data_files: - split: train path: benchmark.csv language: - tr license: cc-by-4.0 task_categories: - question-answering - text-generation tags: - turkish - benchmark - cultural-knowledge - small-language-model - evaluation pretty_name: KultuTR size_categories: - n<1K --- # KultuTR: Türkçe Kültür Bilgisi Benchmark'ı **KultuTR**, Türkçe konuşan küçük dil modellerinin Türkiye kültürü ve genel kültür bilgisini kısa soru-cevap görevleriyle incelemek için hazırlanmış, 100 soruluk deneysel bir benchmark'tır. Benchmark; coğrafya, tarih, edebiyat, gelenekler, yemekler ve kültürel miras konularından örnekler içerir. Özellikle **1 milyardan az parametreli küçük dil modellerini** denemek için tasarlanmıştır. Sonuçlar model seçimi veya üretim ortamı için tek başına yeterli bir kalite ölçüsü değildir. ## İlk deney sonuçları | Model | Yaklaşık parametre | Puanlama ölçütü | Doğru | Doğruluk | |---|---:|---|---:|---:| | Töz-1.5-SFT-v9 | 604M | Anlam temelli | 55/100 | **%55** | | Ufakzeka-1 | 182M | Anlam temelli | 34/100 | **%34** | | Töz-1 | 195M | Anlam temelli | 31/100 | **%31** | | Yedikule-1.4 | 202M | Anlam temelli | 30/100 | **%30** | | Qwen3-0.6B | 752M | Anlam temelli, ek yanlış bilgi yanlış sayılır | 2/100 | **%2** | | Qwen3.5-0.8B (T=0.4) | 800M | Katı anlam temelli | 0/100 | **%0** | | Qwen3.5-0.8B (T=0.4) | 800M | Referans cevap yanıtta geçiyor* | 6/100 | **%6** | | Qwen3.5-0.8B (T=0.7) | 800M | Referans cevap yanıtta geçiyor* | 3/100 | **%3** | * “Referans cevap yanıtta geçiyor” ölçütünde yanlış ek bilgiler yok sayılır. Bu ölçüt katı anlam temelli puanlamayla aynı değildir; ilgili satırları diğer modellerle doğrudan karşılaştırmayın. ### Puanlama ve sınırlamalar Bu ilk sonuçlar **manuel, anlam temelli** puanlamadır. Referans yanıtla aynı anlamı taşıyan farklı ifadeler doğru kabul edildi; yanlış veya soruyu yanıtlamayan ek bilgi içeren yanıtlar doğru sayılmadı. Bu, otomatik exact-match skoru veya bağımsız hakem değerlendirmesi değildir. Skorlar ön inceleme niteliğindedir; tekrar puanlama sonuçları değiştirebilir. Her soru tek turda, her model için tek üretimle soruldu. Bütün deneylerde sıcaklık `0.4`, `top_p` `0.9` ve üst sınır 64 yeni token olarak ayarlandı. Model uygulamalarının gerektirdiği diğer örnekleme ayrıntıları aynı değildir; bu nedenle tablo tam kontrollü, birebir eşdeğer bir laboratuvar karşılaştırması olarak yorumlanmamalıdır. Qwen3-0.6B'de düşünme modu kapatıldı; ayrıca `top_k=40` ve tekrar cezası `1.1` kullanıldı. Bu ayarlar Qwen'in model kartındaki düşünmesiz üretim önerilerinden farklıdır; sıcaklık ve `top_p`, diğer modellerle ortak deney ayarlarına uyum için kullanıldı. Qwen yanıtları ayrıca tekil ve batch üretimle kontrol edildi; görülen düşük sonuç batch doldurma kaynaklı değildi. Qwen3.5-0.8B de düşünmesiz modda, aynı ortak üretim ayarlarıyla çalıştırıldı. Referans cevabın yanı sıra çelişkili/yanlış ek bilgi içeren yanıtlar doğru sayılmadı; bu nedenle doğru ifadeleri yanlış bağlamla birlikte anan birkaç yanıt puana dahil edilmedi. Bu veri seti akademik olarak doğrulanmış, dengelenmiş veya kapsamlı biçimde kalibre edilmiş resmî bir benchmark değildir. Soruların konu dağılımı ve zorluk düzeyi eşit değildir; 100 soru geniş kültürel yeterliliği ölçmek için yeterli değildir. Sonuçları kesin sıralama veya modelin genel kabiliyeti olarak sunmayın. ## Dosyalar | Dosya | İçerik | |---|---| | [`benchmark.jsonl`](benchmark.jsonl) | `prompt` ve `answer` alanlarıyla 100 soru ve referans yanıt | | [`benchmark.csv`](benchmark.csv) | Dataset Viewer için aynı 100 soru ve yanıtın CSV kopyası | | [`toz1_predictions.jsonl`](toz1_predictions.jsonl) | Töz-1'in model yanıtları ve üretim metaverisi | | [`toz15_predictions.jsonl`](toz15_predictions.jsonl) | Töz-1.5-SFT-v9'un model yanıtları ve üretim metaverisi | | [`ufakzeka_predictions.jsonl`](ufakzeka_predictions.jsonl) | Ufakzeka-1'in model yanıtları ve üretim metaverisi | | [`yedikule_predictions.jsonl`](yedikule_predictions.jsonl) | Yedikule-1.4'ün model yanıtları ve üretim metaverisi | | [`qwen3_0_6b_predictions.jsonl`](qwen3_0_6b_predictions.jsonl) | Qwen3-0.6B'nin model yanıtları ve üretim metaverisi | | [`qwen3_5_0_8b_predictions.jsonl`](qwen3_5_0_8b_predictions.jsonl) | Qwen3.5-0.8B'nin model yanıtları ve üretim metaverisi | | [`qwen3_5_0_8b_temp07_predictions.jsonl`](qwen3_5_0_8b_temp07_predictions.jsonl) | Qwen3.5-0.8B'nin `temperature=0.7` yanıtları ve üretim metaverisi | Her tahmin dosyasında soru numarası, soru, referans yanıt, model yanıtı, model sürümü ve üretim ayarları bulunur. Tahminler model çıktılarıdır; doğru bilgi olarak değerlendirilmemeli veya model geliştiricilerinin onayladığı şeklinde yorumlanmamalıdır. ## Yeniden kullanım Her satır ayrı bir JSON nesnesidir (JSONL): ```python import json with open("benchmark.jsonl", encoding="utf-8") as f: examples = [json.loads(line) for line in f if line.strip()] for example in examples: prompt = example["prompt"] reference = example["answer"] ``` Hugging Face Dataset Viewer, yukarıdaki `default` yapılandırmasında `benchmark.csv` dosyasını `train` bölümü olarak gösterir. JSONL benchmark dosyası ve model tahminleri indirme için depoda korunur. Yeniden kullanımda KultuTR benchmark'ına ve veri seti deposuna atıf yapın. Model ağırlıkları, adları ve lisansları kendi model kartlarına tabidir. ## Deney kayıtları Ufakzeka-1, Töz-1 ve Yedikule-1.4 deneyleri Kaggle CPU ortamında çalıştırıldı. Her çalışmanın kodu ve tam üretim çıktısı, ilgili Kaggle kernel sayfasından incelenebilir: - [Ufakzeka-1 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/ufakzeka-1-kultutr-benchmark) - [Töz-1 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/toz-1-kultutr-benchmark) - [Yedikule-1.4 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/yedikule-1-4-kultutr-benchmark) - [Qwen3-0.6B — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/qwen3-0-6b-kultutr-benchmark) - [Qwen3.5-0.8B — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/qwen3-5-0-8b-kultutr-benchmark) Töz-1.5-SFT-v9 yerel checkpoint ve tokenizer ile çalıştırıldı. Qwen3-0.6B, iki Tesla T4 GPU'lu Kaggle ortamında çalıştırıldı; model indirildikten sonraki model yükleme ve üretim işlemi 11,1 saniye sürdü. Qwen3.5-0.8B de iki Tesla T4 GPU'da çalıştırıldı; model indirildikten sonraki model yükleme ve üretim işlemi 16,3 saniye sürdü. Sıcaklık `0.7` ek denemesi aynı iki GPU'da 16,5 saniyede tamamlandı. ## Model kaynakları - [TozAI/Toz-1](https://huggingface.co/TozAI/Toz-1) - [TozAI/Toz-1.5](https://huggingface.co/TozAI/Toz-1.5) - [ufakai/ufakzeka-1](https://huggingface.co/ufakai/ufakzeka-1) - [MarulAI/Yedikule-1.4](https://huggingface.co/MarulAI/Yedikule-1.4) - [Qwen/Qwen3-0.6B](https://huggingface.co/Qwen/Qwen3-0.6B) - [Qwen/Qwen3.5-0.8B](https://huggingface.co/Qwen/Qwen3.5-0.8B) ## Atıf ```bibtex @misc{kultutr, title = {KultuTR: Türkçe Kültür Bilgisi Benchmark'ı}, author = {TozAI}, year = {2026}, howpublished = {Hugging Face Datasets}, note = {100 soruluk deneysel küçük dil modeli değerlendirmesi} } ```