Setup VeriPazari documentation & attribution
Browse files
README.md
CHANGED
|
@@ -75,46 +75,49 @@ configs:
|
|
| 75 |
path: temiz-mC4/*jsonl
|
| 76 |
size_categories:
|
| 77 |
- 100M<n<1B
|
|
|
|
| 78 |
---
|
| 79 |
|
|
|
|
|
|
|
|
|
|
|
|
|
| 80 |
|
|
|
|
| 81 |
|
| 82 |
-
|
| 83 |
|
| 84 |
-
|
| 85 |
-
BellaTurca is the first large-scale Turkish corpus collection for training Turkish language models. The total size is around 245GB and 30 billion words. BellaTurca's focus is high quality, diversity as well as the size.
|
| 86 |
|
|
|
|
| 87 |
|
| 88 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
| 89 |
|
| 90 |
-
|
| 91 |
-
|
| 92 |
-
|
| 93 |
-
|
| 94 |
-
- `Temiz mC4` is a version of CulturaX that is cleaned further to ensure the quality.
|
| 95 |
|
| 96 |
-
|
| 97 |
-
The cleaning pipelines of `Temiz mC4` and `Temiz OSCAR` focus on filtering low quality content, such as ads, repetetive content and adult content.
|
| 98 |
-
Both of these datasets are dedupped. `Temiz OSCAR` is dedupped per split, then also cross-split, as later OSCAR sets usually contain some parts of previous sets. `Temiz mC4` is dedupped within itself as well. Then we also cross-dedupped `Temiz OSCAR` against `temiz mC4` as both datasets come from Common Crawl and might have some instances in common.
|
| 99 |
-
`OzenliDerlem`'s text had already been chosen from high quality content promising websites, yet we still did some rounds of cleaning for quality. `ForumSohbetleri` was cleaned carefully especially for undesired characters, without losing emoji characters.
|
| 100 |
|
| 101 |
-
|
| 102 |
-
|
| 103 |
-
|
| 104 |
-
| Dataset | num instances | size | num of words|
|
| 105 |
|---|---|---|---|
|
| 106 |
| AkademikDerlem | 668.109 | 3.8GB | 430M|
|
| 107 |
| OzenliDerlem | 1.391.239 | 4.6GB | 557M |
|
| 108 |
| ForumSohbetleri | 2.925.975 | 13.41GB | 1.7B |
|
| 109 |
| temiz-OSCAR | 19.612.617 | 48GB | 5.91B|
|
| 110 |
| temiz-mC4 | 55.882.753 | 122GB | 15.4B |
|
| 111 |
-
| **
|
| 112 |
|
| 113 |
-
`ForumSohbetleri`
|
| 114 |
|
| 115 |
-
###
|
| 116 |
|
| 117 |
-
|
| 118 |
|
| 119 |
```
|
| 120 |
{
|
|
@@ -128,8 +131,7 @@ A typical instance from the dataset looks like:
|
|
| 128 |
sorumluluk bilincini geliştirme misyonunu üstlenen Junior Chamber International (JCI), Nobel İlaçın bu eğitim programını 2016 Uluslararası Kurumsal Sosyal Sorumluluk Ödülüne layık gördü. Nobel İlaç bu proje ile ülkemizin geleceğini şekillendirecek çocuklarımıza, nitelikli ve kaliteli eğitim verilmesine destek olarak, sağlıklı ve bilinçli bireyler yetişmesine katkı sağlamayı hedeflemiştir. Aynı zamanda ülkemiz çocuklarında farkındalık uyandırarak, gelecekte yapılacak benzer toplumsal projelerde aktif görev almaları için onlara rol model olmayı amaçlamıştır."
|
| 129 |
```
|
| 130 |
|
| 131 |
-
|
| 132 |
-
## Citation
|
| 133 |
|
| 134 |
```
|
| 135 |
@InProceedings{10.1007/978-3-031-70563-2_16,
|
|
@@ -148,5 +150,9 @@ isbn="978-3-031-70563-2"
|
|
| 148 |
}
|
| 149 |
```
|
| 150 |
|
| 151 |
-
##
|
| 152 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 75 |
path: temiz-mC4/*jsonl
|
| 76 |
size_categories:
|
| 77 |
- 100M<n<1B
|
| 78 |
+
creator: turkish-nlp-suite
|
| 79 |
---
|
| 80 |
|
| 81 |
+
> Not: Bu veri seti orijinal olarak **turkish-nlp-suite** tarafından geliştirilmiş olup, VeriPazarı tarafından Türk yapay zeka topluluğuna katkı sağlamak amacıyla dokümantasyonu Türkçeye çevrilerek arşivlenmiştir.
|
| 82 |
+
>
|
| 83 |
+
> 🔗 Orijinal Kaynak: [turkish-nlp-suite/BellaTurca](https://huggingface.co/datasets/turkish-nlp-suite/BellaTurca)
|
| 84 |
+
> 🔗 Derleyen Platform: [VeriPazarı](https://veripazari.com.tr)
|
| 85 |
|
| 86 |
+

|
| 87 |
|
| 88 |
+
# BellaTurca Veri Seti Kartı
|
| 89 |
|
| 90 |
+
BellaTurca, Türkçe dil modellerini eğitmek için oluşturulmuş ilk büyük ölçekli Türkçe derlem koleksiyonudur. Toplam boyutu yaklaşık 245 GB olup 30 milyar kelime içermektedir. BellaTurca'nın odak noktası, boyutunun yanı sıra yüksek kalite ve çeşitliliktir.
|
|
|
|
| 91 |
|
| 92 |
+
Bu koleksiyon beş veri setinden oluşmaktadır: [AkademikDerlem](https://huggingface.co/datasets/turkish-nlp-suite/AkademikDerlem), [OzenliDerlem](https://huggingface.co/datasets/turkish-nlp-suite/OzenliDerlem), [ForumSohbetleri](https://huggingface.co/datasets/turkish-nlp-suite/ForumSohbetleri), [Temiz OSCAR](https://huggingface.co/datasets/turkish-nlp-suite/temiz-OSCAR) ve [Temiz mC4](https://huggingface.co/datasets/turkish-nlp-suite/temiz-mC4). Başlangıçta bir kitap derlemi de dahil edilmişti, ancak telif hakkı içeren materyaller barındırdığı için koleksiyondan çıkarılmıştır.
|
| 93 |
|
| 94 |
+
- `AkademikDerlem`, çoğunlukla Dergipark'tan derlenen (izin verici lisansa sahip) çevrimiçi yayınlar ve tezlerden oluşmaktadır.
|
| 95 |
+
- `OzenliDerlem`, web üzerinden derlenmiş olup, kaliteyi sağlamak adına kürasyon konularına göre oldukça **özen** gösterilerek seçilmiş web sitelerinden oluşmaktadır. Konular arasında seyahat, kitaplar, masallar, film incelemeleri, teknoloji ve yazarlık; genel olarak **entel dantel**😬😬😬 konular yer almaktadır.
|
| 96 |
+
- `ForumSohbetleri`, memurlar.net, kadinlarklubu.com gibi popüler forum sitelerinden derlenmiştir.
|
| 97 |
+
- `Temiz OSCAR`, kaliteyi sağlamak adına kapsamlı bir şekilde temizlenmiş çeşitli OSCAR derlemlerini içermektedir.
|
| 98 |
+
- `Temiz mC4`, CulturaX'in kaliteyi sağlamak için daha da temizlenmiş bir versiyonudur.
|
| 99 |
|
| 100 |
+
Alt derlemlerin her birinin kendi HF deposu bulunmaktadır. `AkademikDerlem`'in temizliği çoğunlukla OCR hatalarının düzeltilmesine odaklanmaktadır.
|
| 101 |
+
`Temiz mC4` ve `Temiz OSCAR`'ın temizleme süreçleri; reklamlar, tekrarlayan içerikler ve yetişkin içerikler gibi düşük kaliteli içeriklerin filtrelenmesine odaklanmaktadır.
|
| 102 |
+
Bu veri setlerinin her ikisi de tekilleştirilmiştir (dedupped). `Temiz OSCAR`, önce kendi bölümleri (split) içinde, ardından bölümler arası tekilleştirilmiştir; çünkü sonraki OSCAR setleri genellikle önceki setlerin bazı kısımlarını içermektedir. `Temiz mC4` de kendi içinde tekilleştirilmiştir. Ayrıca, her iki veri seti de Common Crawl'dan geldiği ve ortak örnekler içerebileceği için `Temiz OSCAR` ve `Temiz mC4` arasında çapraz tekilleştirme yapılmıştır.
|
| 103 |
+
`OzenliDerlem`'in metinleri zaten yüksek kaliteli içerik vaat eden web sitelerinden seçilmiş olsa da, kalite için yine de birkaç temizlik aşamasından geçirilmiştir. `ForumSohbetleri`, emoji karakterlerini kaybetmeden, özellikle istenmeyen karakterlerden arındırılarak dikkatle temizlenmiştir.
|
|
|
|
| 104 |
|
| 105 |
+
Bella Turca'nın temizleme süreci, derleme aşamaları ve daha fazlası hakkında ayrıntılı bilgi için lütfen [yayına](https://link.springer.com/chapter/10.1007/978-3-031-70563-2_16) ve [blog yazısına](https://turkish-nlp-suite.github.io/2025/10/05/bellaturca/) göz atın.
|
|
|
|
|
|
|
|
|
|
| 106 |
|
| 107 |
+
| Veri Seti | Örnek Sayısı | Boyut | Kelime Sayısı |
|
|
|
|
|
|
|
|
|
|
| 108 |
|---|---|---|---|
|
| 109 |
| AkademikDerlem | 668.109 | 3.8GB | 430M|
|
| 110 |
| OzenliDerlem | 1.391.239 | 4.6GB | 557M |
|
| 111 |
| ForumSohbetleri | 2.925.975 | 13.41GB | 1.7B |
|
| 112 |
| temiz-OSCAR | 19.612.617 | 48GB | 5.91B|
|
| 113 |
| temiz-mC4 | 55.882.753 | 122GB | 15.4B |
|
| 114 |
+
| **Toplam** | 105.157.983 | 246.5GB | 30.89B |
|
| 115 |
|
| 116 |
+
`ForumSohbetleri` bölümü, yapılandırılmış doğası gereği kendi HF deposunda sunulmaktadır. Daha fazla bilgi için lütfen ilgili [HF deposunu](https://huggingface.co/datasets/turkish-nlp-suite/ForumSohbetleri) ziyaret edin.
|
| 117 |
|
| 118 |
+
### Örnekler
|
| 119 |
|
| 120 |
+
Veri setinden tipik bir örnek şu şekildedir:
|
| 121 |
|
| 122 |
```
|
| 123 |
{
|
|
|
|
| 131 |
sorumluluk bilincini geliştirme misyonunu üstlenen Junior Chamber International (JCI), Nobel İlaçın bu eğitim programını 2016 Uluslararası Kurumsal Sosyal Sorumluluk Ödülüne layık gördü. Nobel İlaç bu proje ile ülkemizin geleceğini şekillendirecek çocuklarımıza, nitelikli ve kaliteli eğitim verilmesine destek olarak, sağlıklı ve bilinçli bireyler yetişmesine katkı sağlamayı hedeflemiştir. Aynı zamanda ülkemiz çocuklarında farkındalık uyandırarak, gelecekte yapılacak benzer toplumsal projelerde aktif görev almaları için onlara rol model olmayı amaçlamıştır."
|
| 132 |
```
|
| 133 |
|
| 134 |
+
## Atıf
|
|
|
|
| 135 |
|
| 136 |
```
|
| 137 |
@InProceedings{10.1007/978-3-031-70563-2_16,
|
|
|
|
| 150 |
}
|
| 151 |
```
|
| 152 |
|
| 153 |
+
## Teşekkür
|
| 154 |
+
Bu araştırma, Google'ın TPU Araştırma Bulutu (TRC) tarafından sağlanan Bulut TPU'ları ile desteklenmiştir.
|
| 155 |
+
|
| 156 |
+
---
|
| 157 |
+
|
| 158 |
+
*Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı gereği lisans, metadata ve kaynak referansları korunmuştur.*
|