Dataset Viewer
Auto-converted to Parquet Duplicate
audio
audioduration (s)
1.04
9.58
transcription
stringlengths
6
134
duration
float32
1.04
9.58
up_votes
int32
2
12
down_votes
int32
0
8
age
stringclasses
8 values
gender
stringclasses
3 values
accent
stringclasses
4 values
Kosova başkentinswki yolcu sayısı arttı.
3.096
2
0
thirties
male_masculine
Kamuoyu ikiye bölünmüş durumda.
2.196
2
0
Maria içeri girmiş, tren sessiz sedasız hareket etmişti.
4.284
2
0
fifties
male_masculine
O da doğruldu, ayaklarını aşağıya salladı ve sırtına ince bir hırka aldı.
5.292
2
0
fifties
male_masculine
Yüzünün bütün iptidai ve vahşi ifadesine rağmen acınacak bir tarafı vardı.
5.58
2
0
fifties
male_masculine
Tekrar söze başladı.
1.476
2
0
fifties
male_masculine
Mihriye hanım hastane lafını duyunca büsbütün kendini bıraktı.
4.176
2
0
fifties
male_masculine
Yüklü eşeklerle sık sık gelip giden köylülerden, değirmenin işlek olduğu anlaşılıyordu.
5.688
2
0
fifties
male_masculine
Başım dönüyordu, buna rağmen dimdik ayakta duruyor ve gülüyordum.
4.392
2
0
fifties
male_masculine
Bana ver, hem ziyaret etmiş olurum dedim.
2.7
2
0
fifties
male_masculine
Akşamüzeri Maria'yı hemen seyahate hazır bir şekilde görünce adamakıllı şaşırdım.
5.472
2
0
fifties
male_masculine
Fakat işinize geç kalacaksınız!
2.088
2
0
fifties
male_masculine
Uykuda bile olsa uyandırmak kararıyla, evinin yolunu tuttum.
4.104
2
0
fifties
male_masculine
Sizi bırakmama imkân var mı?
1.872
2
0
fifties
male_masculine
Kolumdan tuttu.
1.296
2
0
fifties
male_masculine
Neden bana bu kadar dikkatli bakıyorsunuz?
2.7
2
0
fifties
male_masculine
Vagonun sarsıntılarıyla kımıldayan başını görür gibi oluyordum.
4.104
2
0
fifties
male_masculine
Oda henüz karanlıktı.
1.584
2
0
fifties
male_masculine
Hasta zamanlarında da işini ihmal etmezdi.
2.88
2
0
fifties
male_masculine
Onlarla aramda bir mesafe teşekkül etmişti.
3.096
2
0
fifties
male_masculine
Bir gece için bu kadarı çoktu bile.
2.376
2
0
fifties
male_masculine
Yalnız söyleyebilsem.
1.692
2
0
fifties
male_masculine
Güzel Sanatlar Akademisi.
1.692
2
0
fifties
male_masculine
Bir an evvel eve gidip yatağıma serilmek, derhal uyumak ve manasız vehimlerden kurtulmak istiyordum.
6.696
2
0
fifties
male_masculine
Koluma girerek beni eve doğru sürükledi.
2.484
2
0
fifties
male_masculine
Böyle birkaç ay, birkaç ömür kıymetinde değil midir?
3.384
2
1
fifties
male_masculine
Yaşamakta ne buluyorlar?
1.8
2
0
fifties
male_masculine
Bazan aramızda aşk meselelerinden bahsettiğimiz olurdu.
3.672
2
0
fifties
male_masculine
Şu halde neden burada kalamıyordum?
2.088
2
0
fifties
male_masculine
Gördüğü şeyden memnun olduğunu, yüzünü saran o belli belirsiz gülümsemeden anlıyordum.
5.472
2
0
fifties
male_masculine
İkinci defa oynayamam.
1.8
2
0
fifties
male_masculine
Artık birbirimize veda etmiş bulunuyorduk.
2.772
2
0
fifties
male_masculine
Dün gece bir saniye bile uyuyamadım.
2.376
2
0
fifties
male_masculine
Bir limonatacıda beş dakika oturmaya razı oldu ve hikâyesine orada devam etti.
5.472
2
0
fifties
male_masculine
Senelerce kaldım.
1.476
2
1
fifties
male_masculine
Her zamanki çocukça tebessümü bana daha ziyade yüzün adalelerini yoran bir sırıtma gibi geldi.
6.48
2
0
fifties
male_masculine
Bir hayli yürümüştük.
1.584
2
0
fifties
male_masculine
Ara sıra kendi kendimizden kurtulup cereyana kapılmak hoş bir şey.
4.284
2
1
fifties
male_masculine
Hasta, çukura kaçan gözlerini açtı.
2.988
2
0
fifties
male_masculine
Görüyorum ki, Maria Puder'in ölümü sizi alakadar ediyor.
3.6
2
0
fifties
male_masculine
Hemen her akşam değirmenin önündeki meydanlıkta toplanıp ahenk yapıyorduk.
4.788
2
0
fifties
male_masculine
Belki de on beş.
1.692
2
0
fifties
male_masculine
Konuşmalarına dikkat ederdim.
1.98
2
0
fifties
male_masculine
"Değirmenin içinde çalacağım!" dedi.
2.376
2
0
fifties
male_masculine
Bu akşam konuşup bir çare buluruz, aldırma!
3.276
2
0
fifties
male_masculine
Hiç kimsenin benden bir şey beklediği ve benim hiç kimseden bir şey beklediğim yoktu.
5.58
2
0
fifties
male_masculine
Evin camları parladığı için pencerelerin arkasında kimse bulunup bulunmadığı görünmüyordu.
6.3
2
0
fifties
male_masculine
Yarın buluşuruz.
1.296
2
0
fifties
male_masculine
Başka Çingene'ler gibi çalmazdı o, adaşım: Bir kere nota bilirdi.
4.68
2
0
fifties
male_masculine
Kesik kesik nefes aldı.
1.692
2
0
fifties
male_masculine
Seninle şöyle bir oturup konuşamadık!
2.484
2
1
fifties
male_masculine
Demek sen böyle de olabiliyorsun?
2.304
2
0
fifties
male_masculine
Katlanmış bir kâğıt uzattı.
1.872
2
0
fifties
male_masculine
Acaba bunlar neden yaşıyorlar?
2.304
2
0
fifties
male_masculine
Önümde durdu ve elini uzatarak.
2.484
2
0
fifties
male_masculine
Babam, mektuplarında coşuyor ve birbiri arkasına vatanperverane cümleler sıralıyordu.
5.688
2
0
fifties
male_masculine
Oradan Tiergarten'deki gölcüklerden birinin kenarına gider, yosunlu suları ve kuğuları seyrederdik.
6.588
2
0
fifties
male_masculine
Siz uyanalı çok oldu mu?
1.98
2
0
fifties
male_masculine
Bir müddet sustuk.
1.476
2
0
fifties
male_masculine
Şimdi kafası eskisi gibi ev dertleri, yemek ve çamaşır işleriyle doluydu.
4.896
2
0
fifties
male_masculine
Ortalara doğru gözlerim, katalogda gördüğüm kelimelerin üzerinde mıhlanıp kaldı.
5.004
2
0
fifties
male_masculine
Halbuki bende onun bakışlarını karşılayacak cesaret yoktu.
3.888
2
0
fifties
male_masculine
Başını çevirmeden sordu.
1.8
2
1
fifties
male_masculine
Ve evden yüz elli metre kadar ötedeki bir kanepede biraz dinleniyorduk.
4.104
2
0
fifties
male_masculine
Onunla konuşmak, hakiki hüviyetine dair bir şeyler öğrenmek için her fırsattan istifadeye kalktım.
6.3
2
0
fifties
male_masculine
Yani hakikaten kuvvetli, tam bir erkek.
3.204
2
0
fifties
male_masculine
Eniştemdendi.
1.188
2
0
fifties
male_masculine
Kendi kabahatiniz, beyim.
1.476
2
0
fifties
male_masculine
Sizi tamamen kaybettik.
1.872
2
0
fifties
male_masculine
Peki makamında başımı salladım.
2.196
2
0
fifties
male_masculine
Geceleri babasıyla beraber gelir, onun yanında diz çöküp oturarak bize bakardı.
5.184
2
0
fifties
male_masculine
Karşımdaki hayale kollarımı uzatıyor, ellerini tekrar avuçlarıma alıp ısıtmak istiyordum.
5.688
2
0
fifties
male_masculine
Kadın üç adım gitmeden beni yakalardı.
2.376
2
0
fifties
male_masculine
Sözüne devam etmesini bekliyordum.
2.196
2
0
fifties
male_masculine
Onun da benden hoşlandığı, beni aradığı muhakkaktı.
3.492
2
0
fifties
male_masculine
Onu asıl bu andan itibaren kaybetmiş olacaktım.
3.204
2
0
fifties
male_masculine
O beni çoktan unutmuş olacaktı.
2.196
2
0
fifties
male_masculine
Yazıyı baştan itibaren şöyle bir süzdüm.
2.772
2
0
fifties
male_masculine
Benim masama yaklaştığını görünce büyük bir telaşa düştüm.
3.492
2
0
fifties
male_masculine
Müzelerdeki eski resim üstatları da artık bana sıkılmadan yaşamak imkânını veriyorlardı.
5.472
2
0
fifties
male_masculine
Hademe beni evvela küçük bir odaya alıp bekletti.
3.276
2
0
fifties
male_masculine
Halinde daha ziyade yaklaşmama mâni olan bir şey vardı.
3.6
2
0
fifties
male_masculine
Karşımdakinin sırtında, dirsekleri delinmiş, alacalı bulacalı, yünden örme bir kadın hırkası vardı.
6.804
2
1
fifties
male_masculine
Hiçbir şey söyleyememiş.
1.872
2
0
fifties
male_masculine
Yukarı katlardan birinde, karanlıktan bana seslendi.
3.384
2
0
fifties
male_masculine
Kendi kendime.
1.188
2
0
fifties
male_masculine
Onlara elimi salladım.
1.584
2
0
fifties
male_masculine
On gün kadar sonra uzun bir mektup aldım.
2.988
2
0
fifties
male_masculine
Göğsümün içi titreyerek, sözüme devam ettim.
2.88
2
0
fifties
male_masculine
Maria hakkındaki hükümlerim de aynı zaman mesafesinin tasfiye ve tetkikinden geçmiş bulunuyor.
6.3
2
0
fifties
male_masculine
O da gözlerini bana çevirmişti ve bunlarda hiçbir izah, hiçbir hayret yoktu.
5.292
2
0
fifties
male_masculine
O da iki basamak aşağı indi.
1.98
2
0
fifties
male_masculine
Dünkü hadise olmasaydı.
2.088
2
0
fifties
male_masculine
Ayrılmak için elini öptüm.
1.98
2
0
fifties
male_masculine
Hastanın halindeki ufak bir iyilik karısının bütün telaş ve heyecanlarını alıp götürmüştü.
5.796
2
0
fifties
male_masculine
Siz ne bilirsiniz sanki?
1.692
2
0
fifties
male_masculine
Fakat yapılacak hiçbir şey yoktu.
2.196
2
0
fifties
male_masculine
Başımı kaldırıp baktım.
1.584
2
0
fifties
male_masculine
Maria gözlerini bana dikmişti.
2.088
2
0
fifties
male_masculine
Garsonu çağırmak için etrafıma bakındım.
2.7
2
0
fifties
male_masculine
End of preview. Expand in Data Studio

Not: Bu ses veri setinin dokümantasyonu Türk yapay zeka topluluğuna katkı sağlamak amacıyla VeriPazarı tarafından Türkçeye çevrilmiştir. Orijinal ses veri seti ysdede tarafından geliştirilmiş olup, VeriPazarı tarafından Türk AI ekosistemi için arşivlenmiştir.

🔗 Orijinal Kaynak: ysdede/commonvoice_17_tr_fixed 🔗 Derleyen Platform: VeriPazarı

CommonVoice 17 Türkçe Veri Setinin İyileştirilmesi

Yakın zamanda, konuşma tanıma modelleri için daha yüksek kaliteli bir eğitim seti oluşturmak amacıyla Mozilla CommonVoice 17 Türkçe veri setini geliştirme üzerine çalıştım. İşte sürecime ve bulgularıma genel bir bakış.

İlk Analiz ve Bölümleme Organizasyonu

İlk adımım, yapısını anlamak için veri seti organizasyonunu analiz etmekti. Dosya adı köklerini benzersiz anahtarlar olarak kullanarak, CommonVoice tasarımının tüm kullanıcılar için hemen net olmayabilecek önemli bir yönünü ortaya çıkardım ve belgeledim:

  • Doğrulanmış (validated) set (toplam 113.699 dosya), aşağıdaki bölümlerden gelen tüm örnekleri tamamen içeriyordu:
    • Eğitim (Train) bölümü (35.035 dosya)
    • Test bölümü (11.290 dosya)
    • Doğrulama (Validation) bölümü (11.247 dosya)
  • Ek olarak, doğrulanmış set, diğer hiçbir bölümde bulunmayan yaklaşık 56 bin benzersiz örneğe sahipti.

Bu tasarım, dev/test/train bölümlerinin doğrulanmış verilerin dikkatlice gözden geçirilmiş alt kümeleri olduğu CommonVoice dokümantasyonuna uygundur. Ancak, veri setiyle çalışırken olası veri sızıntılarını önlemek için bu yapının net bir şekilde anlaşılması gerekir. Örneğin, doğrulanmış seti eğitim için kullanırken test bölümü üzerinde değerlendirme yapmak, test verileri zaten doğrulanmış sete dahil edildiğinden sorunlu olacaktır.

Çakışmaların olmadığı temiz bir veri seti oluşturmak için şunları yaptım:

  1. Dosya adı köklerini benzersiz anahtarlar olarak kullanarak tüm çakışan örnekleri tanımladım.
  2. Eğitim/test/doğrulama bölümlerinde zaten bulunan örnekleri doğrulanmış setten çıkardım.
  3. Yalnızca benzersiz örnekleri içeren, çakışmasız ve temiz bir doğrulanmış bölüm oluşturdum.

Bu yaklaşım, araştırmacıların şunları yapabilmesini sağlar:

  • CommonVoice tarafından küratörlüğü yapılan orijinal eğitim/test/dev bölümlerini kullanmak, VEYA
  • Kendi özel bölümleriyle temizlenmiş doğrulanmış setimi kullanmak.

Her iki yaklaşım da geçerlidir, ancak bunları karıştırmak değerlendirme sorunlarına yol açabilir.

Ses İşleme ve Kalite İyileştirmeleri

Ses Yeniden Örnekleme (Resampling)

Tüm ses dosyaları şu nedenlerle 16 kHz'e yeniden örneklenmiştir:

  • Veri setini Whisper ve benzeri modellerle doğrudan uyumlu hale getirmek
  • Eğitim sırasında çalışma zamanında yeniden örnekleme ihtiyacını ortadan kaldırmak
  • Veri seti genelinde tutarlı ses kalitesi sağlamak

Sessizlik Kırpma

Gereksiz sessizliği ve gürültüyü gidermek için tüm ses dosyalarını işledim:

  • Konuşma segmentlerini tespit etmek için 0,6 eşik değerine sahip Silero VAD kullandım.
  • Başlangıç ve bitişteki sessizlikleri kırptım.
  • Klip sınırlarındaki mikrofon gürültüsünü ve tıklama seslerini kaldırdım.

Süre Filtreleme ve Analizi

Sessizlikleri kırptıktan sonra her bölümü ayrı ayrı analiz ettim. Bölüm bazında ayrıntılı bulgular şöyledir:

Bölüm Önceki Dosya Sayısı Sonraki Dosya Sayısı Kısa Dosyalar Önceki Süre (saat) Sonraki Süre (saat) Süre Azalışı % Kısa Dosya Süresi (saat) Dosya Azalışı %
Train 11.290 9.651 1.626 13,01 7,34 %43,6 0,37 %14,5
Validation 11.247 8.640 2.609 11,17 6,27 %43,9 0,60 %23,2
Test 35.035 26.501 8.633 35,49 19,84 %44,1 2,00 %24,4
Validated 56.127 46.348 9.991 56,71 32,69 %42,4 2,29 %17,4
Toplam 113.699 91.140 22.859 116,38 66,14 %43,2 5,26 %19,8

Not: 1,0 saniyeden kısa süreli dosyalar veri setinden çıkarılmıştır.

Doğrulama (Validation) Bölümü Analizi (eski adıyla Eval)

  • Orijinal dosya sayısı: 11.247
  • 1,0 saniyeden kısa 2.609 dosya bulundu
  • Kısa dosyalar için istatistikler:
    • Toplam süre: 26,26 dakika
    • Ortalama süre: 0,83 saniye
    • En kısa dosya: 0,65 saniye
    • En uzun dosya: 0,97 saniye

Eğitim (Train) Bölümü Analizi

  • Orijinal dosya sayısı: 35.035
  • 1,0 saniyeden kısa 8.633 dosya bulundu
  • Kısa dosyalar için istatistikler:
    • Toplam süre: 2,29 saat
    • Ortalama süre: 0,82 saniye
    • En kısa dosya: 0,08 saniye
    • En uzun dosya: 0,97 saniye

Test Bölümü Analizi

  • Orijinal dosya sayısı: 11.290
  • 1,0 saniyeden kısa 1.626 dosya bulundu
  • Kısa dosyalar için istatistikler:
    • Toplam süre: 56,26 dakika
    • Ortalama süre: 0,85 saniye
    • En kısa dosya: 0,65 saniye
    • En uzun dosya: 0,97 saniye

Doğrulanmış (Validated) Bölüm Analizi

  • Orijinal dosya sayısı: 56.127
  • 1,0 saniyeden kısa 9.991 dosya bulundu
  • Kısa dosyalar için istatistikler:
    • Toplam süre: 36,26 dakika
    • Ortalama süre: 0,83 saniye
    • En kısa dosya: 0,65 saniye
    • En uzun dosya: 0,97 saniye

Tutarlı kaliteyi sağlamak için tüm kısa klipler veri setinden çıkarıldı. Nihai veri seti, bölümler genelinde 2,54-2,69 saniye arasında değişen ortalama sürelerle yalnızca 1,0 saniyeden uzun klipleri korumaktadır.

Nihai Bölüm İstatistikleri

Temizlenmiş veri seti şu şekilde organize edilmiştir:

  • Train: 26.501 dosya (19,84 saat, ort. süre: 2,69 sn, min: 1,04 sn, maks: 9,58 sn)
  • Test: 9.650 dosya (7,33 saat, ort. süre: 2,74 sn, min: 1,08 sn, maks: 9,29 sn)
  • Validation: 8.639 dosya (6,27 saat, ort. süre: 2,61 sn, min: 1,04 sn, maks: 9,18 sn)
  • Validated: 46.345 dosya (32,69 saat, ort. süre: 2,54 sn, min: 1,04 sn, maks: 9,07 sn)

Nihai Veri Seti Bölüm Metrikleri

Bölüm Dosya Sayısı Süre (saat) Ort. Süre (sn) Min. Süre (sn) Maks. Süre (sn)
TRAIN 26501 19,84 2,69 1,04 9,58
TEST 9650 7,33 2,74 1,08 9,29
VALIDATION 8639 6,27 2,61 1,04 9,18
VALIDATED 46345 32,69 2,54 1,04 9,07

İşlenen toplam dosya: 91.135 Oluşturulan geçerli girdi: 91.135 Atlanan dosya: 0 Toplam veri seti süresi: 66,13 saat Tüm bölümlerde ortalama süre: 2,61 saniye

Veri seti şu sırayla işlenmiştir:

  1. Train bölümü (26.501 dosya)
  2. Test bölümü (9.650 dosya)
  3. Validation bölümü (8.639 dosya) - Not: Bazı CommonVoice sürümlerinde "eval" bölümü olarak da bilinir.
  4. Validated bölümü (46.348 dosya)

Not: Validation bölümü (CommonVoice dokümantasyonunda bazen "eval" bölümü olarak adlandırılır), aynı amaca hizmet eder; eğitim sırasında model doğrulaması için ayrılmış bir settir. Yaygın makine öğrenimi terminolojisiyle tutarlılık sağlamak adına bu dokümantasyon boyunca isimlendirmeyi "validation" olarak standartlaştırdık.

Doğrulanmış bölümdeki bir metin dosyası çok kısa (2 karakter) olduğu için işaretlendi, ancak yine de nihai veri setine dahil edildi.

İşlenmiş veri seti 'commonvoice_17_tr_fixed' olarak kaydedildi.

Metin İşleme ve Standartlaştırma

Karakter Seti Optimizasyonu

  • Tüm metin etiketlerinden kapsamlı bir karakter seti oluşturuldu.
  • Karakter seti şu yollarla basitleştirildi:
    • Tırnak işaretlerinin standartlaştırılması
    • Nadiren kullanılan özel karakterlerin kaldırılması

Metin Kalitesi İyileştirmeleri

  • Olası sorunları belirlemek için kelime frekansı metrikleri oluşturuldu.
  • Yaygın Türkçe yazım hataları ve dil bilgisi hataları düzeltildi.
  • Noktalama işaretleri ve boşluklar standartlaştırıldı.

Sonuçlar

Nihai veri seti önemli iyileştirmeler göstermektedir:

  • Sesten gereksiz sessizlik ve gürültü kaldırıldı.
  • 1,0 saniyenin üzerinde tutarlı ses süreleri sağlandı.
  • Türkçe dil bilgisi ve tipografisi düzeltilerek metin standartlaştırıldı.
  • Orijinal meta veriler (yaş, beğeniler vb.) korundu.

Bu iyileştirmeler, orijinal CommonVoice koleksiyonunun çeşitliliğini ve zenginliğini korurken, veri setini konuşma tanıma modellerini eğitmek için daha uygun hale getirmektedir.

Kullanılan Araçlar

Bu veri seti işleme çalışması, ASR sistemlerinin geliştirilmesini ve iyileştirilmesini kolaylaştırmak için tasarlanmış açık kaynaklı bir Python araç seti olan ASRTK (Automatic Speech Recognition Toolkit) kullanılarak tamamlanmıştır. ASRTK şunlar için yardımcı programlar sağlar:

  • Gelişmiş bölme ve yeniden örnekleme özelliklerine sahip ses işleme
  • Metin normalleştirme ve temizleme
  • Silero VAD modellerini kullanarak zorunlu hizalama (forced alignment)
  • Çoklu iş parçacığı (multi-threading) desteği ile verimli toplu işleme

Araç seti MIT lisansı altında mevcuttur ve topluluktan gelen katkıları memnuniyetle karşılamaktadır.


Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı gereği lisans, metadata ve kaynak referansları korunmuştur.

Downloads last month
32