The dataset viewer is not available for this subset.
Exception: SplitsNotFoundError
Message: The split names could not be parsed from the dataset config.
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
for split_generator in builder._split_generators(
~~~~~~~~~~~~~~~~~~~~~~~~~^
StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 84, in _split_generators
raise ValueError(
...<2 lines>...
)
ValueError: The TAR archives of the dataset should be in WebDataset format, but the files in the archive don't share the same prefix or the same types.
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
for split in get_dataset_split_names(
~~~~~~~~~~~~~~~~~~~~~~~^
path=dataset,
^^^^^^^^^^^^^
config_name=config,
^^^^^^^^^^^^^^^^^^^
token=hf_token,
^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
info = get_dataset_config_info(
path,
...<6 lines>...
**config_kwargs,
)
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
- Kurulum
- Hızlı başlangıç: kendi mikrofonunuz, kendi makineniz
- Kullanım
- Nasıl çalışır: belirteç (token) tabanlı, iki geçişli bir WFST hattı
- Damga'yı konuşma tanıma ve dil modelleriyle kullanma
- Damga'yı NLP ve veri çalışmaları için kullanma
- Kapsananlar
- Markalar, alan adları ve özel terimler
- Gerçek tanıyıcı çıktısı
- Testler ve kıyaslamalar
- Diller
- Katkıda bulunma
- Lisans
Not: Bu ses veri seti orijinal olarak mihu-ai tarafından geliştirilmiş olup, VeriPazarı tarafından Türk yapay zeka topluluğuna katkı sağlamak amacıyla dokümantasyonu Türkçeye çevrilerek arşivlenmiştir.
🔗 Orijinal Kaynak: mihu-ai/damga 🔗 Derleyen Platform: VeriPazarı
Damga — Metin Normalleştirme (TN) & Ters Metin Normalleştirme (ITN)
Damga (damga PyPI üzerinde), ağırlıklı sonlu durum dönüştürücüleri (weighted finite-state transducers) üzerine inşa edilmiş, varsayılan dili Türkçe olan açık kaynaklı, çevrimdışı ve deterministik bir metin normalleştirme motorudur (diller). Bir konuşma tanıyıcının duyduğunu insanların yazdığına (ITN) ve bir dil modelinin veya veritabanının yazdığını bir TTS (metin okuma) sesinin söylemesi gereken hale (TN) dönüştürür:
| Yön | Girdi | Çıktı |
|---|---|---|
| ITN (sözlü → yazılı) | yirmi beş bin altı yüz |
25.600 |
| ITN | yüz elli türk lirası |
150 TL |
| ITN | saat dokuz otuzda |
saat 09:30'da |
| ITN | sıfır beş otuz iki yüz yirmi üç kırk beş altmış yedi |
0532 123 45 67 |
| ITN | derya nokta öztürk et gmail nokta com |
derya.ozturk@gmail.com |
| ITN | otuz dört a b c sekiz yüz kırk iki |
34 ABC 842 |
| TN (yazılı → sözlü) | 25.600 |
yirmi beş bin altı yüz |
| TN | 2,50 TL |
iki lira elli kuruş |
| TN | 15.10.2026 saat 09:30 |
on beş ekim iki bin yirmi altı saat dokuz otuz |
Neden bir model değil de dil bilgisi (grammar) motoru:
- Deterministik. Aynı girdi her zaman aynı çıktıyı verir; her davranış, okuyabileceğiniz ve değiştirebileceğiniz bir "golden file" (referans dosyası) içindeki bir satırdır.
- Hassas verilerde güvenli. Telefon numaraları, IBAN'lar ve plakalar asla doldurulmaz veya "onarılmaz": eğer basamak sayısı yanlışsa, kelimeler kelime olarak kalır.
- Hızlı ve küçük. Tek bir CPU çekirdeğinde ifade başına milisaniyenin altında işlem süresi; GPU yok, ağ yok, LLM yok; paket sıfır bağımlılıkla kurulur.
- Gerçek tanıyıcılar için tasarlandı. Dil bilgisi kuralları, ASR sistemlerinin gerçekte ürettiği karma biçimleri kabul eder: sözlü sayıların içindeki yazılı rakamlar, telefon numarasının ortasındaki noktalama işaretleri, birleşik ayırıcılar, yanlış duyulan e-posta alan adları.
- İki yön, tek dil bilgisi seti. TN sayı yazımı, ITN kardinal dil bilgisinin tam tersidir, bu nedenle iki yön asla çelişemez.
Kurulum
pip install damga # Linux, macOS, Windows — başka bağımlılık gerektirmez
pip install "damga[build]" # + pynini, sadece dil bilgisi kurallarını yazmak veya değiştirmek için
Paket, yedi dilin tamamı için önceden derlenmiş dil bilgisi kurallarını ve küçük bir yerel çalışma zamanını (damga._fstrt, OpenFst statik olarak bağlı) içerir, bu nedenle kullanıcının makinesinde hiçbir şey derlenmez ve çalışma zamanında pynini gerekmez. Dil bilgisi yazarları build eklentisini kurar (pynini'nin PyPI üzerinde Linux paketleri mevcuttur; macOS'te conda install -c conda-forge pynini kullanın) ve bir dil bilgisini düzenledikten sonra python -m damga.build komutunu çalıştırır. Pynini mevcut olduğunda, backend="pynini" (veya DAMGA_BACKEND=pynini) dil bilgisi kurallarını canlı olarak çalıştırır; özel kategori seçimleri bunu otomatik olarak kullanır.
Hızlı başlangıç: kendi mikrofonunuz, kendi makineniz
Damga'nın çalıştığını görmenin en hızlı yolu canlı konuşmadır. Mihu Türkçe STT (Konuşmadan Metne) CPU'nuzda çalışır (GPU yok, bulut yok, API anahtarı yok), siz konuşurken Damga duyduklarını yazılı metne dönüştürür:
git clone https://github.com/mihu-ai/damga && cd damga
pip install damga turkish-stt sounddevice # Linux: önce sudo apt install libportaudio2
python examples/mic_streaming.py # --list giriş cihazlarını gösterir, --device N birini seçer
"telefon numaram sıfır beş otuz iki yüz yirmi üç kırk beş altmış yedi" deyin:
… telefon numaram 0 5 32 123
[01] STT : telefon numaram sıfır beş otuz iki yüz yirmi üç kırk beş altmış yedi
ITN : telefon numaram 0532 123 45 67
Satır siz konuştukça güncellenir; durakladığınızda son satır yazdırılır. Tanıyıcı modeli (yaklaşık 70 MB) ilk çalıştırmada bir kez indirilir. macOS'te terminaliniz için mikrofon erişimine izin verin (Sistem Ayarları → Gizlilik ve Güvenlik → Mikrofon). Daha fazla motor (Mihu STT bulut, ElevenLabs, Whisper, Ollama): examples/.
Kullanım
from damga import InverseNormalizer, TextNormalizer, Normalizer
itn = InverseNormalizer()
itn.normalize("yüz elli lira") # '150 TL'
itn.normalize_batch(["on beş ekim", "yüzde on"]) # ['15 Ekim', '%10']
tn = TextNormalizer()
tn.normalize("Toplam 25.600 adet, %12,5 indirim.")
# 'Toplam yirmi beş bin altı yüz adet, yüzde on iki virgül beş indirim.'
Normalizer(mode="itn").normalize("yirmi beş bin") # '25.000'
Seçenekler (hepsi anahtar kelime argümanıdır, hepsi isteğe bağlıdır):
| seçenek | anlamı |
|---|---|
categories=[...] |
cardinal ordinal decimal money percent measure time date telephone iban plate email address spelling lexicon_entry alt kümesini etkinleştirir (pynini gerektirir) |
strict=True |
muhafazakar ITN: yalın sayılar kelime olarak kalır, sadece anahtar kelime/yapı odaklı sınıflar tetiklenir (pynini gerektirir) |
custom_vocab={"e te es tur": "ETS Tur"} |
kendi sözlü → yazılı terimleriniz (önceliklidir) |
cache_dir=... / use_cache=False |
derlenmiş dil bilgisi kurallarının (FAR) saklandığı yer (varsayılan ~/.cache/damga, DAMGA_CACHE_DIR ile geçersiz kılınabilir) |
group_thousands=False |
25.600 yerine 25600 yazar |
group_four_digits=False |
ITN: dört basamaklı sayılarda binlik noktası olmaz (2024 seçimleri, 1500 kişi); beş basamak ve üzerindekiler korunur (pynini gerektirir) |
scale_words=True |
ITN: milyon ve üzerindeki yuvarlak sayılar ölçek kelimesini korur (beş milyon → 5 milyon, elli altı milyar → 56 milyar), 5.000.000 yerine (pynini gerektirir) |
preserve_case=False |
dokunulmamış kelimelerde tanıyıcının büyük/küçük harf kullanımını kaldırır (dil bilgisinin kendi büyük/küçük harf kullanımı — markalar — kalır) |
diagnostics=True |
normalize_with_details() ara kayıtları tutar |
repair_spelling=True |
dil bilgisi kuralları çalışmadan önce aksansız (yuz elli) ve birleşik (onbeş) sayı kelimelerini onarır; False metni olduğu gibi işler |
backend="auto" | "native" | "pynini" |
çalışma zamanı seçimi (aşağıya bakın) |
variants=True |
Sadece TN: normalize_variants() bir formun okunabileceği diğer yolları da listeler (aşağıya bakın) |
Diğer diller için yazım stili seçenekleri (varsayılan olarak kapalıdır; basit son işleme olduklarından pynini olmadan çalışırlar):
| dil / mod | seçenek | etki |
|---|---|---|
en ITN |
unit_symbols=True |
sayıdan sonraki birimler sembol olarak yazılır: two hundred kilometers per hour → 200 km/h, twenty five square meters → 25 m², minus five degrees celsius → -5 °C |
es TN |
formal_ordinals=True |
11–100 arası sıra sayıları kardinal yerine sıra sayısı kelimeleri olarak yazılır: el 80.º aniversario → el octogésimo aniversario, la 11.ª edición → la undécima edición |
ru ITN |
ordinal_digits=True |
1–9 arası sıra sayıları kısa ekle rakam olarak yazılır: восьмого → 8-го, на пятом этаже → на 5-м этаже (10 ve üzeri zaten rakamdır) |
de ITN |
fraction_digits=True |
eğik çizgili kesirler: drei viertel → 3/4, zweieinhalb Stunden → 2 1/2 Stunden; die Hälfte, ein Viertel der Stadt kelime olarak kalır |
from damga import InverseNormalizer
InverseNormalizer(lang="en", unit_symbols=True).normalize("two hundred kilometers per hour") # "200 km/h"
Deterministik (varsayılan) veya varyantlar (deterministik olmayan)
Varsayılan olarak Damga tek bir okuma sunar: her seferinde bir yazılı form, bir sözlü form. Bir sesli asistanın ihtiyacı olan budur ve normalize() her zaman bu şekilde çalışır: tek bir CPU çekirdeğinde cümle başına yaklaşık 1 ms, her çağrıda aynı okuma. Bir dil modeli ile okuma seçmek, TTS başlamadan önce cümle başına 0,3–2 saniye ekler, bu nedenle sesli yapay zeka için varsayılanı koruyun.
Bazı formlar Türkçe konuşanlar tarafından birden fazla şekilde okunur (09:30, dokuz otuz veya dokuz buçuk olabilir). variants=True ile TN, bu okumaları da listeler (varsayılan ilk sırada). Bunu, konuşmacının gerçekte söyledikleriyle eşleşen TTS veya ASR eğitim metni hazırlamak için kullanın:
tn = TextNormalizer(variants=True)
tn.normalize("Saat 09:30'da") # 'Saat dokuz otuzda' (değişmedi)
tn.normalize_variants("Saat 09:30'da") # ['Saat dokuz otuzda', 'Saat dokuz buçukta']
tn.normalize_variants("2,50 TL") # ['iki lira elli kuruş', 'iki Türk lirası elli kuruş', 'iki buçuk lira']
tn.normalize_matching("Saat 09:30'da", heard="saat dokuz buçukta") # 'Saat dokuz buçukta'
Deterministik olup olmaması. Varsayılan deterministiktir: bir girdi, bir çıktı, her çağrıda aynı. ITN her zaman deterministiktir: bir telefon numarası veya bir tutarın tek bir yazılı formu vardır ve birkaç seçenek arasında tahmin yürütmek, ITN'nin kesinlikle yapmaması gereken bir şeydir. variants=True deterministik olmayan moddur: bir girdinin birkaç geçerli okuması vardır ve hangisinin doğru olduğuna girdinin kendisine göre değil, duyulana (normalize_matching) veya bir dil modeline (normalize_in_context) göre karar verilir. Listenin kendisi tekrarlanabilirdir (aynı okumalar, aynı sıra) ve normalize() bu modda da deterministik kalır. Detaylar: docs/variants.md.
(1.0 sürümünde bu seçenek deterministic olarak adlandırılıyordu (deterministic=False ifadesi variants=True anlamına gelir); eski isim DeprecationWarning ile hala çalışmaktadır.)
Canlı ASR için akış (streaming) ITN
from damga.streaming import StreamingNormalizer
sn = StreamingNormalizer(mode="itn")
sn.update("yirmi beş", is_final=False).text # '25' (geçici)
sn.update("yirmi beş bin", is_final=False).text # '25.000' (hala geçici — kesinleşmedi)
sn.update("yirmi beş bin altı yüz", is_final=True).text # '25.600' (nihai, durum sıfırlandı)
update() her zaman mevcut ifadenin en son tam hipotezini alır. Bir önek, yalnızca stable_after güncellemesi boyunca kararlı kaldığında ve bir dil bilgisinin hala genişletebileceği bir aralığın içinde bitmediğinde kesinleşir, böylece bir sayı asla çok erken dondurulmaz. Nihai sonuç her zaman tüm ifadenin toplu normalleştirmesidir. Bkz: docs/streaming.md.
Terminal komutlarını dikte etme
from damga import InverseNormalizer, shell_form
itn = InverseNormalizer()
shell_form(itn.normalize("ls tire lah")) # 'ls -lah'
shell_form(itn.normalize("git çift tire version")) # 'git --version'
shell_form(itn.normalize("cat dosya nokta txt")) # 'cat dosya.txt'
shell_form(itn.normalize("ps aux boru grep python")) # 'ps aux | grep python'
shell_form(itn.normalize("curl localhost iki nokta üst üste sekiz bin")) # 'curl localhost:8000'
shell_form, kelime olarak söylenen sembolleri bir komut satırına dönüştürür: tire / eksi / minus → -, çift tire → --, slash / bölü → /, nokta → ., boru / pipe → |, ve ve → &&, çift tırnak … çift tırnak → "…" ve 30'dan fazlası (tam tablo damga/tr/shell.py içindeki SHELL_SYMBOLS'dur). Küçük harfe çevirir, tanıyıcının noktalama işaretlerini kaldırır ve tanıyıcının genellikle yanlış duyduğu komut isimlerini düzeltir (el es → ls, si di → cd). Bunu yalnızca terminal için amaçlanan metinlerde çalıştırın: düz yazıda "eksi", "nokta" ve "bölü" sıradan Türkçe kelimelerdir.
Nasıl çalışır: belirteç (token) tabanlı, iki geçişli bir WFST hattı
Damga, belirteç tabanlı bir normalleştiricidir. Normalleştirme, tek bir büyük "sözlü → yazılı" dönüştürme işlemi değildir; aralarında yapılandırılmış ve incelenebilir bir belirteç dizisi bulunan iki dönüştürücüden (transducer) oluşur:
"toplam yirmi beş bin altı yüz lira kırk kuruş ödedim"
│
│ 1. geçiş — okuyucu FST (tüm okuyucuların ağırlıklı birleşimi)
▼
word="toplam" money(integer="25600" fractional="40" currency="TL") word="ödedim"
│
│ 2. geçiş — yazıcı FST (tüm yazıcıların birleşimi)
▼
"toplam 25.600,40 TL ödedim"
- 1. Geçiş, okuma. Her anlamsal sınıf (
cardinal,money,time,telephone,emailvb.), sözlü bir ifadeyiclass(field="value" …)şeklinde bir belirtece eşleyen küçük bir dilbilgisidir. Herhangi bir sınıfın kapsamadığı kelimeler doğrudanword="…"olarak kalır. Cümle okuyucusu, tüm sınıf okuyucularının ağırlıklı birleşimidir; en iyi analiz, kafes (lattice) üzerindeki en kısa yoldur. Bir anlamsal sınıfın maliyeti yaklaşık 1, kelime yedekleme (fallback) maliyeti ise belirteç başına 100'dür; bu sayede eşleşen herhangi bir dilbilgisi, kelimeleri olduğu gibi bırakmaktan daha üstün tutulur ve dilbilgileri arasında daha spesifik olan kazanır (iban<email<telephone<money<cardinal). - 2. Geçiş, yazma. Her sınıfın, belirtecini işleyen bir yazıcısı vardır:
moneypara birimi sembolünü miktarın sonuna ekler,timesıfır dolgusu (zero-padding) yapar ve durum ekini tekrar bağlar (saat 09:30'da),telephonerakamları Türkçe kurallarına göre gruplandırır. Alanlar okuyucu tarafından sabit bir sırada üretilir, bu nedenle iki geçiş arasında Python tabanlı bir yeniden sıralama aşaması yoktur: tüm hat iki bileşim (composition) ve iki en kısa yol aramasından ibarettir.
Neden metni doğrudan yeniden yazan "belirteçsiz" tek bir dönüştürücü yerine belirteç tabanlı bir yapı?
| belirteç tabanlı (Damga) | tek geçişli yeniden yazma | |
|---|---|---|
| sınıf ekleme | diğerlerinden bağımsız, bir okuyucu + bir yazıcı | her yeni kural, tek bir dilbilgisindeki tüm mevcut kurallarla etkileşime girer |
| öncelik | tek bir tabloda, sınıf başına bir ağırlık | kural sırası ve bağlam içinde örtük olarak kodlanmış |
| hata ayıklama | diagnostics=True kaydı gösterir, böylece nasıl yazılmadan önce neyin tanındığını görürsünüz |
sadece girdi ve çıktı |
| TN ↔ ITN | her iki yönde aynı belirteç protokolü; TN sayı yazıcıları, ITN cardinal dilbilgisinin tersidir | birbiriyle alakasız iki dilbilgisi |
| biçimlendirme değişiklikleri | yazıcıyı değiştir, okuyuculara dokunma (100 $ vs $100, 25600 vs 25.600) |
tanıma kurallarına dokun |
| maliyet | ifade başına iki bileşim | bir |
İkinci bileşim düşük maliyetlidir (yazıcı birkaç yüz duruma sahiptir), bu nedenle belirteç katmanı bir milisaniyenin çok altında bir maliyetle; bileştirilebilirlik, okunabilir bir ara form ve etiket düzeyinde altın standart testler (golden tests) sağlar. Sayılar dilbilgisi temeldir: sabit genişlikli, sıfır dolgulu alt grafikler (iki basamak, üç basamak, binler, milyonlar vb.), başında sıfır olanları temizleyen bir yapı ile birleştirilir ve sayıyı içeren her sınıf tarafından yeniden kullanılır. Belirsizlik, kodla değil yol ağırlıklarıyla çözülür: standart dışı bir yüz ifadesi bir ceza puanı taşır, yuvarlak bir kelimeyle (otuz, iki yüz) biten bir telefon grubu cezalandırılır, böylece beş yüz otuz iki yüz yirmi üç ifadesi 532 | 123 olarak okunur. Detaylar docs/architecture.md adresindedir.
Çalışma Zamanı
Dilbilgileri Pynini ile yazılır ve dil/yön başına iki OpenFst dosyası olarak bir kez derlenir (damga/<lang>/<mode>/compiled/). Çalışma zamanında, yerel uzantı damga._fstrt (OpenFst statik olarak bağlı, ~2 MB) bunları yükler ve C++ içinde girdi zinciri ∘ FST → en kısa yol işlemini çalıştırır; arama sırasında GIL serbest bırakılır. Pynini yüklüyken dilbilgilerini canlı olarak da çalıştırabilirsiniz (backend="pynini"); dilbilgisi yazarları ve özel kategori seçimleri bunu kullanır. Her iki arka uç da aynı dönüştürücüleri çalıştırır ve aynı çıktıyı verecek şekilde test edilmiştir.
Damga'yı konuşma tanıma ve dil modelleriyle kullanma
Damga, tanıyıcı ile metni tüketen yapı arasında ve metin üreteci ile TTS sesi arasında yer alır:
mikrofon → ASR (Mihu STT, Whisper, …) → Damga ITN → yazılı metin → LLM / CRM / ekran
LLM (Ollama, …) / veritabanı → yazılı metin → Damga TN → sözlü metin → TTS
Mihu Türkçe STT
turkish-stt (model: mihuai/turkish-stt-66m-v2), konuşma sonu algılama özelliğine sahip, gerçek zamanlı ve sadece CPU üzerinde çalışan bir Türkçe tanıyıcıdır. Sayıları kelime olarak yazar; Damga bunları yazılı formlarına dönüştürür. Damga'nın ona bağımlılığı yoktur. turkish-stt 2.0'dan itibaren, mihu_stt.transcribe(..., itn=True) (pip install "turkish-stt[itn]") komutu Damga'yı sizin yerinize çalıştırır; aşağıdaki açık form ise size akış kontrolü sağlar:
import mihu_stt # pip install turkish-stt (on-prem, CPU)
from damga import InverseNormalizer
from damga.streaming import StreamingNormalizer
itn = InverseNormalizer()
print(itn.normalize(mihu_stt.transcribe("audio.wav"))) # "… sıfır beş otuz iki …" → "… 0532 …"
stt, sn = mihu_stt.StreamingSTT(), StreamingNormalizer(mode="itn")
for pcm16_chunk in audio_frames(): # 16 kHz int16 baytları, geldikçe
text, is_final = stt.accept_pcm16(pcm16_chunk, 16000)
if text.strip():
res = sn.update(text, is_final=is_final)
show(res.text) # mevcut en iyi çıktı, son kısım değişebilir
if is_final: # tanıyıcı konuşmanın bittiğini algıladı
handle(res.text) # == itn.normalize(text)
Aynı tanıyıcı bulut API'si olarak da mevcuttur; transkriptleri aynı şekilde itn.normalize üzerinden geçer. examples/mihu_stt_onprem.py, examples/mihu_stt_cloud.py ve examples/elevenlabs_stt_tts.py (ElevenLabs STT + TTS) tam betiklerdir; docs/voice-pipeline.md canlı bir çağrıyı ve toplu transkripsiyon adımını adım adım açıklar.
Whisper, Ollama ve diğer hatlar
docs/integrations.md ve examples/ klasörü, Damga'nın Whisper / faster-whisper arkasına (toplu ve segment bazlı ITN, ve Whisper'ın karışık 40 bir çıktısının neden buna ihtiyaç duyduğu), Ollama veya başka bir LLM tarafından beslenen bir TTS sesinin önüne (akış halindeki yanıtta cümle bazlı TN) ve genel bir akış tanıyıcı döngüsünün (Vosk, sherpa-onnx, bulut ASR kısmi çıktıları) içine nasıl yerleştirileceğini gösterir. Herhangi bir akış kaynağı için temel kural şudur: Damga'ya her zaman tanıyıcının en güncel tam hipotezini gönderin, asla bir delta göndermeyin.
Damga'yı NLP ve veri çalışmaları için kullanma
Damga sadece ses ürünleri için değildir. Sözlü veya yazıya dökülmüş Türkçe (veya İngilizce, Almanca vb.) okuyan her şey; sayıları, tarihleri, miktarları ve tanımlayıcıları tek bir yazılı formda alır; bu form NER modellerinin, düzenli ifadelerin (regex), veritabanlarının ve dil modellerinin en iyi işlediği formdur:
from damga import InverseNormalizer, TextNormalizer
itn = InverseNormalizer()
itn.normalize("müşteri yirmi beş bin lira iade istiyor")
# müşteri 25.000 TL iade istiyor
itn.normalize("on dört haziranda saat dokuz buçukta arayın, numaram sıfır beş otuz iki yüz yirmi üç kırk beş altmış yedi")
# 14 Haziran'da saat 09:30'ta arayın, numaram 0532 123 45 67
itn.normalize("plakam otuz dört a b c yüz yirmi üç, e posta adresim ali nokta yılmaz et gmail nokta com")
# plakam 34 ABC 123, e posta adresim ali.yilmaz@gmail.com
- Çağrı merkezi ve toplantı analitiği: miktarlar toplayabileceğiniz ve filtreleyebileceğiniz sayılara dönüşür (5.000 TL üzerindeki şikayetler), tarihler ve saatler karşılaştırılabilir hale gelir.
- Bilgi çıkarımı: telefon numaraları, IBAN'lar, plakalar, e-posta adresleri, tarihler ve miktarlar, NER modelinizin veya regex'inizin beklediği biçimde çıkar.
- Arama: on dört haziran ifadesinin geçtiği bir çağrı,
14 Haziranaramasıyla bulunur. - Dil modeli girdisi: tutarlı yazılı sayılar, daha az belirteç, daha iyi aritmetik.
- Adil ASR değerlendirmesi: hem referansı hem de hipotezi normalleştirin, böylece yirmi beş kişi ile
25 kişikarşılaştırması iki hata olarak sayılmaz. - TTS ve ASR eğitim verisi:
normalize_matching, her cümleyi kaydında aslında söylendiği şekilde yazar:
tn = TextNormalizer(variants=True)
tn.normalize_matching("Saat 09:30'da 250 TL ödendi.", "saat dokuz buçukta iki yüz elli lira ödendi")
# Saat dokuz buçukta iki yüz elli lira ödendi.
Damga, söylenişinden farklı yazılan formları (sayılar, tarihler, saatler, para, ölçüler, telefon numaraları, IBAN'lar, plakalar, e-posta ve web adresleri) normalleştirir. Genel bir metin temizleyici değildir: argo, yazım hataları ve kök bulma gibi işlemler, yanında iyi çalışan Zemberek gibi araçlara bırakılmıştır.
Kapsananlar
ITN: tam sayılar (eklenmiş durum eki ile: yirmi altıda → 26'da), sıra sayıları, negatifler, ondalık sayılar, para birimleri (TL/$/€/£ + kuruş/sent), yüzde/binde, ölçü birimleri (km, kg, lt, m², °, MB vb.), saatler (saat dokuz otuz, dokuzu çeyrek geçe, dokuza on kala, durum ekleri), tarihler (on beş ekim iki bin yirmi altı, ekimde, yılında, iki bin yirmi altıda → 2026'da), Türk telefon numaraları (her türlü gruplandırma, +90), IBAN, araç plakaları (harfler, harf isimleri veya fonetik alfabe), e-posta ve web adresleri, açık adresler (numara on iki daire yedi → No: 12 Daire: 7), Türkçedeki harf kodlama alışkanlığı (Diyarbakır'ın D'si Edirne'nin E'si … → De…), kısaltmalar, markalar ve özel kelime dağarcığı. TN, yazılıdan sözlüye yönünde aynı sınıfları kapsar; buna kesme işaretiyle ayrılan ekler (2026'da, 25'te, 3'üncüsü) dahildir.
Bilinen kısıtlamalar docs/grammars.md dosyasında listelenmiştir (örneğin: tek başına bir kelimesi belgisiz sıfat olarak ele alınır, dört haneli yalın sayılar yıl olarak okunmaz, üçüncüsü gibi çekimlenmiş sıra sayıları ITN tarafından dönüştürülmez).
Markalar, alan adları ve özel terimler
Tamamı damga/tr/itn/data/ altında bulunan düz TSV formatındaki üç veri katmanı (kaynaklar ve lisanslar için README dosyasına bakınız):
brands.tsv— resmi yazım biçimleri ve Türkçe yanlış duyumlarıyla (ör.vatsap→ WhatsApp,peypal→ PayPal,a ve es→ AWS) elle yazılmış marka/ürün isimleri;brands_extra.tsv— yaygın Türkçe kelimelerin filtrelendiği, yaklaşık 700 bilinen işletme, marka ve Türk kurumu;domains.tsv+email_providers.tsv— yanlış duyulan posta alan adları (cimil→ gmail,yahu→ yahoo) vefree-email-domains(MIT) kaynağından alınan yaklaşık 7.800 ücretsiz posta sağlayıcı etiketi; bilinen bir sağlayıcıdan önce düşen "et" ifadesini kurtarmak için kullanılır. Tablo dışındaki yazımlar (gmailiçingiymielgibi) duyulduğu gibi bırakılır: bu bir tanıyıcı hatasıdır ve çözümü normalleştiricide tahmin yürütmek değil, tanıyıcıda aynı listelerle bağlamsal önceliklendirme (hotwords) yapmaktır.
Kendi terimlerinizi custom_vocab={...} içine ekleyebilirsiniz (her tablodan önceliklidir). Bunların hiçbiri tanıyıcının yeniden eğitilmesini gerektirmez; tanıyıcı seviyesinde kapsama için aynı listelerle bağlamsal önceliklendirme (hotwords) kullanın.
Gerçek tanıyıcı çıktısı
Tanıyıcılar temiz sözlü formlar üretmezler. Örneğin Mihu STT; Sabit hattımız sıfır 5, 3-74, bir dokuz, sekiz yedi bir sekiz veya Burak Nokta Koçet örnek banka nokta kom nokta Tier gibi çıktılar verir. Bu nedenle ITN gramerleri; sözlü diziler içindeki yazılı rakamları, sayıların içindeki noktalama işaretlerini, birleşik ayırıcıları (koçet, noktaçelik, etörnek), yanlış duyulan TLD'leri (kom, tier, ay) ve yanlış duyulan alan adları tablosunu (damga/tr/itn/data/domains.tsv) kabul eder.
Sentetik telefon/e-posta komutlarının 575 gerçek Mihu-STT transkripti üzerinde yapılan ölçümlerde (tests/golden/itn_asr.tsv bunlardan 84'ünü içerir): telefon numaraları 256/256 tam eşleşme, e-posta adresleri 274/319 tam eşleşme (geriye kalanlar, düşen bir "et" veya tanınamayan bir alan adı gibi tanıyıcı hatalarıdır — Damga bunları tahmin etmek yerine kelime olarak bırakır). Ayrılmış KPI setinde (300 telefon + 300 e-posta klibi, 8 duyulmamış ses, hotwords içeren Mihu STT v1.2) tam eşleşme oranı telefon numaraları için %84, e-posta adresleri için %97'dir; hatalar normalleştirme hatası değil, tanıyıcı tarafından düşürülen rakamlardır.
Uçtan uca (TTS → Mihu STT v1.2 → Damga) 8 duyulmamış ses tarafından seslendirilen 1.200 sentetik cümle üzerinde: para %100, yüzde %100, tarihler %100, saatler %100, markalar %97, e-posta %92, telefon numaraları %83, adresler %63, harf harf kodlama %52 — genel toplamda %79,0 tam eşleşme (önceki regex normalleştirici: %52, para, adres ve kodlamada %0). Ayrı bir 100 kliplik sette araç plakaları: %74. Hataların %86'sı tanıyıcı hatalarıdır (düşen rakamlar, yanlış duyulan harf isimleri); geri kalanı tests/golden/itn_asr.tsv dosyasında takip edilen normalleştirme boşluklarıdır.
Normal konuşma üzerindeki güvenlik ters yönde test edilmiştir: düz Türkçe cümleler; sayı, sıra sayısı, tarih, para ve birim dönüşümleri dışında hiçbir değişiklik olmadan geçer — telefon, e-posta, plaka ve kodlama gramerleri düz metin üzerinde asla tetiklenmez, dokunulmayan kelimeler büyük/küçük harf durumlarını korur ve normalize(normalize(x)) == normalize(x) kuralı geçerlidir. Tanıyıcı sıklıkla yazılı sayılar ("99 lira", "saat 13.30", "40 bir" = 41) üretir; bağlam gramerleri bu karma formları kabul eder, yalın sayılara dokunulmaz, böylece tanımlayıcılar asla yeniden gruplandırılmaz.
Testler ve kıyaslamalar
pytest # birim + golden (TSV) + özellik + entegrasyon testleri
python benchmarks/latency.py # gönderilen çalışma zamanında hızlı cümle başı gecikme (pynini yok)
python benchmarks/bench.py --out benchmarks/results/my-machine.md # tam rapor, pynini gerektirir
Golden setler tests/golden/*.tsv (girdi<TAB>beklenen) içinde bulunur; bir durum eklemek tek satırlık bir değişikliktir. Ölçülen sayılar benchmarks/results/ içindedir; Rosetta altında Python çalıştıran 2026 MacBook'ta (x86_64 conda build, tek iş parçacığı): ITN derleme 6,4 sn (bir kez) / önbellekten yükleme 26 ms (5,3 MB FAR), p50 gecikme 1,1 ms (kısa ifade), 4,9 ms (telefon + e-posta içeren iki cümle), 86 ms (200 kelime); TN p50 2,2 ms; akış güncelleme p50 1,2 ms; soğuk derlemeden sonra ≈490 MB RSS (önbellekten yüklendiğinde daha az). Yerel arm64 veya Linux yapıları daha hızlıdır.
Diller
Türkçe (tr) varsayılan dildir. Gramerler damga/<dil>/{itn,tn}/ altında bulunur; motor, önbellek, akış sarmalayıcı ve API dilden bağımsızdır. Yeni bir dil, yeni bir klasör ve bir kayıt satırı (damga/api.py) eklenmesiyle oluşturulur; sonrasında Normalizer(mode="itn", lang="en"), InverseNormalizer(lang="en") ve available_languages() çalışır — bkz. docs/adding-a-language.md.
Bu sürüm Türkçe (tr), İngilizce (en), Almanca (de), Fransızca (fr), İspanyolca (es), İtalyanca (it) ve Rusça (ru) dillerini, her biri için TN ve ITN'yi içerir:
from damga import TextNormalizer, InverseNormalizer
TextNormalizer(lang="en").normalize("EUR 10 million on 6 December 2012")
# ten million euros on the sixth of December two thousand twelve
InverseNormalizer(lang="de").normalize("fünfundzwanzig Prozent") # 25 Prozent
Okumalar, konuşmacıların gerçekte söylediklerini takip eder. Türkçe dışındaki dillerin test satırlarının ana dili konuşanlar tarafından gözden geçirilmesi gerekmektedir.
Katkıda bulunma
Gramerler damga/tr/itn/readers, damga/tr/itn/writers, damga/tr/tn/... altında düz Python dosyalarıdır; veri tabloları .../data/ altında TSV dosyalarıdır. Başarısız olan golden satırları en iyi hata raporlarıdır. Bkz. CONTRIBUTING.md ve docs/architecture.md.
Lisans
Apache License 2.0 — bkz. LICENSE. Pynini ve OpenFst de Apache 2.0 lisanslıdır.
Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı gereği lisans, metadata ve kaynak referansları korunmuştur.
- Downloads last month
- 29