YunusEmreSaidoglu's picture
Update README.md
16cbd94 verified
|
Raw
History Blame Contribute Delete
5.45 kB
metadata
license: cc-by-nc-4.0
language:
  - tr
tags:
  - translation
  - parallel-corpus
  - ahiska-turkish
  - low-resource-language
  - nlp
pretty_name: Ahiska Turkish Language Dataset
Dataset: BILGEM-AI/BILGE-Synthetic-Stories

Ahiska Turkish Language Dataset / Ahıska Türkçesi Veri Seti

🌟 This is the FIRST EVER dataset created for Ahiska Turkish (Meskhetian Turkish) on Hugging Face!
🌟 Bu çalışma, Hugging Face üzerindeki İLK Ahıska Türkçesi veri setidir!

This repository contains the first large-scale, open-source parallel text dataset for Turkish to Ahiska Turkish (Meskhetian Turkish) translation. Developed under the AhiskaAI initiative, this dataset aims to preserve, digitize, and advance natural language processing (NLP) research for Ahiska Turkish.

Bu depo, Türkçe - Ahıska Türkçesi arasındaki ilk büyük ölçekli ve açık kaynaklı paralel metin veri setini içermektedir. AhiskaAI inisiyatifi bünyesinde geliştirilen bu çalışma, Ahıska Türkçesini dijital çağa taşımayı, korumayı ve yapay zeka (NLP) araştırmalarını desteklemeyi amaçlamaktadır.


🇹🇷 Türkçe Açıklama

⚠️ Önemli Not (Veri Seti Sınırları ve Doğruluk)

Bu veri seti, otomatik bir kural motoru ve sözlük tabanlı algoritmalar kullanılarak sentezlenmiştir. Bu nedenle %100 kusursuz değildir; içerisinde bazı dilbilgisi, ek veya fonetik hatalar barındırabilir. Bu sürüm (v1.0), Ahıska Türkçesi gibi sınırlı kaynaklı (low-resource) bir dili yapay zeka ortamına taşımak için atılmış ilk temel adımdır. Topluluk katkılarıyla zamanla daha da iyileştirilmesi hedeflenmektedir.

Kaynak / Atıf (Source Dataset)

Bu çalışmadaki Türkçe temel hikaye metinleri, TÜBİTAK BİLGEM Yapay Zeka Enstitüsü tarafından açık kaynak olarak paylaşılan BILGEM-AI/BILGE-Synthetic-Stories veri setinden türetilmiştir. Türkçe metinler, Ahıska Türkçesi fonetik, morfolojik ve kelime dağarcığı kurallarına göre işlenerek paralel hale getirilmiştir.

Veri Seti Detayları

  • Yayınlayan: AhiskaAI
  • Lisans: Creative Commons Attribution-NonCommercial 4.0 International (CC BY-NC 4.0)
  • Dil Çifti: Standart Türkçe (tr) <-> Ahıska Türkçesi (ahiska)
  • Toplam Cümle Çifti: ~203,109 satır
  • Toplam Boyut: ~50.28 MB
  • Format: Düz Metin (.txt) / Paralel Satırlar

Veri Yapısı

Veri seti, her bir satırı tam olarak karşı dildeki dengiyle eşleştirilmiş iki adet .txt dosyasından oluşur:

  1. turkce_metinler.txt: Standart Türkçe kaynak cümleler.
  2. ahiska_metinler.txt: Ahıska Türkçesinin fonetik, morfolojik ve sözcüksel özelliklerine uygun olarak dönüştürülmüş hedef cümleler.

Örnek Eşleşmeler

Standart Türkçe (turkce_metinler.txt) Ahıska Türkçesi (ahiska_metinler.txt)
Sizin atölyenizin ışığını hep görüyorum. Sizin atölyezdeki ışıği hep göriyerim.
Çok güzel işler yaptığınızı duydum. Çoh gözel işler yaptuğuz tuydum.
Bir minyatür dükkanın vitrinindeki elma bile gerçek elmaya benzemeli. Bir minyatür dükkanın vitrinindeki alma bile gerçek almaya benzemeli.

Kullanım Amacı ve Lisans

Bu veri seti; makine çevirisi (Seq2Seq, Transformer, ByT5, MarianMT) modellerini eğitmek, dilbilimsel araştırmalar yapmak ve Ahıska kültür mirasını dijital ortamda yaşatmak amacıyla oluşturulmuştur.

CC BY-NC 4.0 lisansı altındadır.

  • Ticari Olmayan Kullanım: Satılması, ticari veya ücretli servislerde kullanılması kesinlikle yasaktır.
  • Atıf: Yapılacak akademik çalışmalarda ve açık kaynak projelerde AhiskaAI kaynak gösterilmelidir.

🇬🇧 English Description

⚠️ Disclaimer (Limitations & Accuracy)

This dataset was synthesized using rule-based engines and phonetic translation algorithms. Therefore, it is not 100% error-free and may contain morphological, phonetic, or grammar inaccuracies. As the very first open dataset for Ahiska Turkish, it serves as a baseline for low-resource NLP research and will be continuously refined over time with community feedback.

Source / Attribution

The underlying Turkish story corpus used in this project is derived from the open-source dataset BILGEM-AI/BILGE-Synthetic-Stories by TÜBİTAK BİLGEM AI Institute. The source texts were processed and transformed into authentic Ahiska Turkish dialect features to create this parallel dataset.

Dataset Details

  • Publisher: AhiskaAI
  • License: CC BY-NC 4.0
  • Language Pair: Turkish (tr) <-> Ahiska Turkish (ahiska)
  • Total Sentence Pairs: ~203,109 lines
  • Total Size: ~50.28 MB
  • Format: Plain Text (.txt) / Parallel Lines

Usage & Intended Purpose

Created specifically for training machine translation models, linguistic dialectology research, and preserving the linguistic heritage of Ahiska Turks in the digital age.

Licensing & Commercial Use

Licensed under CC BY-NC 4.0. Commercial deployment, resale, or use within paid services is strictly prohibited. Attribution to AhiskaAI is required.


❤️ Ahıska için yapıldı. / Made for Ahiska.

Created with dedication by AhiskaAI.