| --- |
| license: cc-by-nc-sa-4.0 |
| language: |
| - tr |
| task_categories: |
| - text-generation |
| - fill-mask |
| tags: |
| - turkish |
| - llm |
| - dataset |
| - natural-language-processing |
| - marul-ai |
| pretty_name: Marul Dataset TR (V1.0) |
| size_categories: |
| - 100K<n<1M |
| --- |
| |
| # Marul Dataset TR (Sürüm 1.0) |
|
|
| **Marul Dataset TR**, Türkçe dil modellerinin (LLM) daha "insansı" ve bilgili konuşabilmesi için hazırlanmış, devasa bir metin koleksiyonudur. İnternetin en kaliteli Türkçe kaynaklarından süzülerek oluşturulmuştur. |
|
|
| Bu veri seti, hem genel kültür bilgilerini (Vikipedi, Haber, Bilim) hem de insanların günlük hayatta nasıl konuştuğunu gösteren gerçek forum diyaloglarını bir araya getirir. |
|
|
| ## Neler Var Bu Veri Setinde? |
|
|
| 1. **Bilgi Havuzu (`dataset.jsonl`):** |
| * **İçerik:** Vikipedi makaleleri, bilimsel konular ve güncel haberler. |
| * **Oranlar:** %45 Vikipedi (bilgi odaklı), %20 Bilim (akademik), %35 Haber (güncel olaylar). |
| * **Hacim:** 280.000'den fazla temizlenmiş, benzersiz metin. |
|
|
| 2. **Konuşma ve Diyaloglar (`dataset_dialogue.jsonl`):** |
| * **İçerik:** Forumlardaki gerçek soru-cevap etkileşimleri. |
| * **Format:** "Soru: ... Cevap: ..." yapısında. Modellerin soru sorma ve cevap verme mantığını kavraması için idealdir. |
| * **Temizlik:** Reklamlar, e-ticaret linkleri ve gereksiz forum kalabalıkları temizlenmiştir. |
| |
| ## Nasıl Hazırlandı? (Teknik Süreç) |
| |
| Veri seti toplanırken sadece "kopyala-yapıştır" yapılmadı, sıkı bir filtreden geçirildi: |
| |
| * **Akıllı Tarama:** Veriler yüksek hızda ve siteleri yormadan asenkron teknolojilerle çekildi. |
| * **Kopya Engelleme (Deduplication):** Aynı metnin farklı sitelerde tekrar etmesi engellendi. Her metnin bir "parmak izi" (hash) alınarak mükerrer kayıtlar dosyadan silindi. |
| * **Çöp Temizliği:** "Giriş yapın", "Reklamı geç", "Tıklayın" gibi modellerin kafasını karıştıracak bozuk metinler ayıklandı. |
| |
| ## Dosya Yapısı |
| |
| Tüm veriler kolay işlenebilir `.jsonl` formatındadır: |
| |
| ```json |
| { |
| "text": "Burada temizlenmiş Türkçe metin yer alır." |
| } |
| ``` |
| |
| ## Lisans Bilgisi |
| |
| Bu çalışma **CC BY-NC-SA 4.0** lisansı altındadır. |
| * **Atıf:** Kullanırken Marul AI veya hazırlayan ekibe teşekkür etmelisiniz. |
| * **Ticari Olmayan:** Bu veriyi satamaz veya ticari projelerde doğrudan kullanamazsınız. |
| * **Paylaşım:** Eğer veriyi değiştirirseniz, yine aynı lisansla paylaşmalısınız. |
| |
| --- |
| **İletişim:** marulai.resmi@gmail.com |
| |
