Taklaxbr commited on
Commit
aebe4e1
·
verified ·
1 Parent(s): 3cc0190

Setup VeriPazari documentation & attribution

Browse files
Files changed (1) hide show
  1. README.md +31 -25
README.md CHANGED
@@ -75,46 +75,49 @@ configs:
75
  path: temiz-mC4/*jsonl
76
  size_categories:
77
  - 100M<n<1B
 
78
  ---
79
 
 
 
 
 
80
 
 
81
 
82
- <img src="https://raw.githubusercontent.com/turkish-nlp-suite/.github/main/profile/bellaturcalogo.png" width="30%" height="30%">
83
 
84
- # Dataset Card for BellaTurca
85
- BellaTurca is the first large-scale Turkish corpus collection for training Turkish language models. The total size is around 245GB and 30 billion words. BellaTurca's focus is high quality, diversity as well as the size.
86
 
 
87
 
88
- This collection is made up of five datasets: [AkademikDerlem](https://huggingface.co/datasets/turkish-nlp-suite/AkademikDerlem), [OzenliDerlem](https://huggingface.co/datasets/turkish-nlp-suite/OzenliDerlem), [ForumSohbetleri](https://huggingface.co/datasets/turkish-nlp-suite/ForumSohbetleri), [Temiz OSCAR](https://huggingface.co/datasets/turkish-nlp-suite/temiz-OSCAR) and [Temiz mC4](https://huggingface.co/datasets/turkish-nlp-suite/temiz-mC4). Originally there was a book corpus included, but it is excluded due to containing copyrighted material.
 
 
 
 
89
 
90
- - `AkademikDerlem` is compiled from online publications and theses (that come with a permissive licence), compiled mostly from Dergipark.
91
- - `OzenliDerlem` is compiled from web, the selection of websites that are curated with quite **özen** according to the curation topics to ensure the quality. The topics include travel, books, fairy tales, movie reviews, technology and writing; in general **entel dantel**😬😬😬 topics.
92
- - `ForumSohbetleri` is compiled from popular forum websites such as memurlar.net, kadinlarklubu.com and more.
93
- - `Temiz OSCAR` includes several OSCAR corpora, cleaned extensively to ensure the quality.
94
- - `Temiz mC4` is a version of CulturaX that is cleaned further to ensure the quality.
95
 
96
- Each of the subcorpus has their own HF repos. The cleaning of `AkademikDerlem` mostly focuses of fixing OCR mistakes.
97
- The cleaning pipelines of `Temiz mC4` and `Temiz OSCAR` focus on filtering low quality content, such as ads, repetetive content and adult content.
98
- Both of these datasets are dedupped. `Temiz OSCAR` is dedupped per split, then also cross-split, as later OSCAR sets usually contain some parts of previous sets. `Temiz mC4` is dedupped within itself as well. Then we also cross-dedupped `Temiz OSCAR` against `temiz mC4` as both datasets come from Common Crawl and might have some instances in common.
99
- `OzenliDerlem`'s text had already been chosen from high quality content promising websites, yet we still did some rounds of cleaning for quality. `ForumSohbetleri` was cleaned carefully especially for undesired characters, without losing emoji characters.
100
 
101
- For more details about the cleaning pipeline, compilation process and more of Bella Turca; please refer to [the publication](https://link.springer.com/chapter/10.1007/978-3-031-70563-2_16) as well as the [blog post](https://turkish-nlp-suite.github.io/2025/10/05/bellaturca/).
102
-
103
-
104
- | Dataset | num instances | size | num of words|
105
  |---|---|---|---|
106
  | AkademikDerlem | 668.109 | 3.8GB | 430M|
107
  | OzenliDerlem | 1.391.239 | 4.6GB | 557M |
108
  | ForumSohbetleri | 2.925.975 | 13.41GB | 1.7B |
109
  | temiz-OSCAR | 19.612.617 | 48GB | 5.91B|
110
  | temiz-mC4 | 55.882.753 | 122GB | 15.4B |
111
- | **Total** | 105.157.983 | 246.5GB | 30.89B |
112
 
113
- `ForumSohbetleri` split is served in its HF repo, due to the its structured nature. For more information please visit its dedicated [HF repo](https://huggingface.co/datasets/turkish-nlp-suite/ForumSohbetleri).
114
 
115
- ### Instances
116
 
117
- A typical instance from the dataset looks like:
118
 
119
  ```
120
  {
@@ -128,8 +131,7 @@ A typical instance from the dataset looks like:
128
  sorumluluk bilincini geliştirme misyonunu üstlenen Junior Chamber International (JCI), Nobel İlaçın bu eğitim programını 2016 Uluslararası Kurumsal Sosyal Sorumluluk Ödülüne layık gördü. Nobel İlaç bu proje ile ülkemizin geleceğini şekillendirecek çocuklarımıza, nitelikli ve kaliteli eğitim verilmesine destek olarak, sağlıklı ve bilinçli bireyler yetişmesine katkı sağlamayı hedeflemiştir. Aynı zamanda ülkemiz çocuklarında farkındalık uyandırarak, gelecekte yapılacak benzer toplumsal projelerde aktif görev almaları için onlara rol model olmayı amaçlamıştır."
129
  ```
130
 
131
-
132
- ## Citation
133
 
134
  ```
135
  @InProceedings{10.1007/978-3-031-70563-2_16,
@@ -148,5 +150,9 @@ isbn="978-3-031-70563-2"
148
  }
149
  ```
150
 
151
- ## Acknowledgments
152
- This research was supported with Cloud TPUs from Google's TPU Research Cloud (TRC).
 
 
 
 
 
75
  path: temiz-mC4/*jsonl
76
  size_categories:
77
  - 100M<n<1B
78
+ creator: turkish-nlp-suite
79
  ---
80
 
81
+ > Not: Bu veri seti orijinal olarak **turkish-nlp-suite** tarafından geliştirilmiş olup, VeriPazarı tarafından Türk yapay zeka topluluğuna katkı sağlamak amacıyla dokümantasyonu Türkçeye çevrilerek arşivlenmiştir.
82
+ >
83
+ > 🔗 Orijinal Kaynak: [turkish-nlp-suite/BellaTurca](https://huggingface.co/datasets/turkish-nlp-suite/BellaTurca)
84
+ > 🔗 Derleyen Platform: [VeriPazarı](https://veripazari.com.tr)
85
 
86
+ ![](https://raw.githubusercontent.com/turkish-nlp-suite/.github/main/profile/bellaturcalogo.png)
87
 
88
+ # BellaTurca Veri Seti Kartı
89
 
90
+ BellaTurca, Türkçe dil modellerini eğitmek için oluşturulmuş ilk büyük ölçekli Türkçe derlem koleksiyonudur. Toplam boyutu yaklaşık 245 GB olup 30 milyar kelime içermektedir. BellaTurca'nın odak noktası, boyutunun yanı sıra yüksek kalite ve çeşitliliktir.
 
91
 
92
+ Bu koleksiyon beş veri setinden oluşmaktadır: [AkademikDerlem](https://huggingface.co/datasets/turkish-nlp-suite/AkademikDerlem), [OzenliDerlem](https://huggingface.co/datasets/turkish-nlp-suite/OzenliDerlem), [ForumSohbetleri](https://huggingface.co/datasets/turkish-nlp-suite/ForumSohbetleri), [Temiz OSCAR](https://huggingface.co/datasets/turkish-nlp-suite/temiz-OSCAR) ve [Temiz mC4](https://huggingface.co/datasets/turkish-nlp-suite/temiz-mC4). Başlangıçta bir kitap derlemi de dahil edilmişti, ancak telif hakkı içeren materyaller barındırdığı için koleksiyondan çıkarılmıştır.
93
 
94
+ - `AkademikDerlem`, çoğunlukla Dergipark'tan derlenen (izin verici lisansa sahip) çevrimiçi yayınlar ve tezlerden oluşmaktadır.
95
+ - `OzenliDerlem`, web üzerinden derlenmiş olup, kaliteyi sağlamak adına kürasyon konularına göre oldukça **özen** gösterilerek seçilmiş web sitelerinden oluşmaktadır. Konular arasında seyahat, kitaplar, masallar, film incelemeleri, teknoloji ve yazarlık; genel olarak **entel dantel**😬😬😬 konular yer almaktadır.
96
+ - `ForumSohbetleri`, memurlar.net, kadinlarklubu.com gibi popüler forum sitelerinden derlenmiştir.
97
+ - `Temiz OSCAR`, kaliteyi sağlamak adına kapsamlı bir şekilde temizlenmiş çeşitli OSCAR derlemlerini içermektedir.
98
+ - `Temiz mC4`, CulturaX'in kaliteyi sağlamak için daha da temizlenmiş bir versiyonudur.
99
 
100
+ Alt derlemlerin her birinin kendi HF deposu bulunmaktadır. `AkademikDerlem`'in temizliği çoğunlukla OCR hatalarının düzeltilmesine odaklanmaktadır.
101
+ `Temiz mC4` ve `Temiz OSCAR`'ın temizleme süreçleri; reklamlar, tekrarlayan içerikler ve yetişkin içerikler gibi düşük kaliteli içeriklerin filtrelenmesine odaklanmaktadır.
102
+ Bu veri setlerinin her ikisi de tekilleştirilmiştir (dedupped). `Temiz OSCAR`, önce kendi bölümleri (split) içinde, ardından bölümler arası tekilleştirilmiştir; çünkü sonraki OSCAR setleri genellikle önceki setlerin bazı kısımlarını içermektedir. `Temiz mC4` de kendi içinde tekilleştirilmiştir. Ayrıca, her iki veri seti de Common Crawl'dan geldiği ve ortak örnekler içerebileceği için `Temiz OSCAR` ve `Temiz mC4` arasında çapraz tekilleştirme yapılmıştır.
103
+ `OzenliDerlem`'in metinleri zaten yüksek kaliteli içerik vaat eden web sitelerinden seçilmiş olsa da, kalite için yine de birkaç temizlik aşamasından geçirilmiştir. `ForumSohbetleri`, emoji karakterlerini kaybetmeden, özellikle istenmeyen karakterlerden arındırılarak dikkatle temizlenmiştir.
 
104
 
105
+ Bella Turca'nın temizleme süreci, derleme aşamaları ve daha fazlası hakkında ayrıntılı bilgi için lütfen [yayına](https://link.springer.com/chapter/10.1007/978-3-031-70563-2_16) ve [blog yazısına](https://turkish-nlp-suite.github.io/2025/10/05/bellaturca/) göz atın.
 
 
 
106
 
107
+ | Veri Seti | Örnek Sayısı | Boyut | Kelime Sayısı |
 
 
 
108
  |---|---|---|---|
109
  | AkademikDerlem | 668.109 | 3.8GB | 430M|
110
  | OzenliDerlem | 1.391.239 | 4.6GB | 557M |
111
  | ForumSohbetleri | 2.925.975 | 13.41GB | 1.7B |
112
  | temiz-OSCAR | 19.612.617 | 48GB | 5.91B|
113
  | temiz-mC4 | 55.882.753 | 122GB | 15.4B |
114
+ | **Toplam** | 105.157.983 | 246.5GB | 30.89B |
115
 
116
+ `ForumSohbetleri` bölümü, yapılandırılmış doğası gereği kendi HF deposunda sunulmaktadır. Daha fazla bilgi için lütfen ilgili [HF deposunu](https://huggingface.co/datasets/turkish-nlp-suite/ForumSohbetleri) ziyaret edin.
117
 
118
+ ### Örnekler
119
 
120
+ Veri setinden tipik bir örnek şu şekildedir:
121
 
122
  ```
123
  {
 
131
  sorumluluk bilincini geliştirme misyonunu üstlenen Junior Chamber International (JCI), Nobel İlaçın bu eğitim programını 2016 Uluslararası Kurumsal Sosyal Sorumluluk Ödülüne layık gördü. Nobel İlaç bu proje ile ülkemizin geleceğini şekillendirecek çocuklarımıza, nitelikli ve kaliteli eğitim verilmesine destek olarak, sağlıklı ve bilinçli bireyler yetişmesine katkı sağlamayı hedeflemiştir. Aynı zamanda ülkemiz çocuklarında farkındalık uyandırarak, gelecekte yapılacak benzer toplumsal projelerde aktif görev almaları için onlara rol model olmayı amaçlamıştır."
132
  ```
133
 
134
+ ## Atıf
 
135
 
136
  ```
137
  @InProceedings{10.1007/978-3-031-70563-2_16,
 
150
  }
151
  ```
152
 
153
+ ## Teşekkür
154
+ Bu araştırma, Google'ın TPU Araştırma Bulutu (TRC) tarafından sağlanan Bulut TPU'ları ile desteklenmiştir.
155
+
156
+ ---
157
+
158
+ *Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı gereği lisans, metadata ve kaynak referansları korunmuştur.*