SykoSLM
/

SykoLLM-Phi3-Test

@@ -23,16 +23,16 @@ datasets:
   - turkish-nlp-suite/InstrucTurca
 ---
-# 🚀 SykoLLM Phi-3 Mini (233M) - Experimental
 > **⚠️ Uyarı / Disclaimer:** Bu model şu anda aktif bir **test ve araştırma aşamasındadır**. Temel amacı, yeni nesil **Phi-3** mimarisinin yeteneklerini sıfırdan eğitilmiş (trained from scratch) bir yapıyla küçük ölçekte test etmektir. Üretime (production) hazır bir model değildir; halüsinasyon görebilir, mantıksal hatalar yapabilir veya beklenmedik yanıtlar verebilir.
-## 📌 Model Özeti (Model Description)
 Bu model, Microsoft'un **Phi-3** mimarisi temel alınarak sıfırdan eğitilmiş **233 Milyon** parametreli, deneysel bir dil modelidir. Hem **İngilizce** hem de **Türkçe** dillerinde genel bilgi, kodlama yeteneği ve mantıksal yürütme kapasitesini ölçmek amacıyla çeşitli yüksek kaliteli veri setleri harmanlanarak eğitilmiştir.
 Ayrıca model için `BPE` (Byte-Pair Encoding) tabanlı **özel bir tokenizer** sıfırdan eğitilip kullanılmıştır.
-## 🏗️ Model Mimarisi (Architecture Details)
 Model, daha kompakt bir konfigürasyonda tasarlanmış olup standart bir Phi-3 yapısına dayanır:
 * **Mimari Türü:** `Phi3ForCausalLM`
 * **Parametre Sayısı:** ~233M
@@ -43,7 +43,7 @@ Model, daha kompakt bir konfigürasyonda tasarlanmış olup standart bir Phi-3 y
 * **Bağlam Penceresi (Context Size):** 1024 Token
 * **Sözlük Boyutu (Vocab Size):** 32,000
-## 📚 Eğitim Verisi (Training Data)
 Eğitim verisi, modelin çok yönlü olabilmesi için özenle seçilmiş, yapay zeka kalıntıları (AI-robots) temizlenmiş ve filtrelenmiş şu veri setlerinden oluşmaktadır:
 **1. Genel Bilgi ve Mantık (İngilizce):**
@@ -60,14 +60,14 @@ Eğitim verisi, modelin çok yönlü olabilmesi için özenle seçilmiş, yapay
 * `uonlp/CulturaX` (Türkçe alt kümesi, CJK ve gürültü temizlenmiş)
 * `turkish-nlp-suite/InstrucTurca`
-## ⚙️ Eğitim Konfigürasyonu (Training Procedure)
 * **Optimizasyon:** 8-bit AdamW (`adamw_bnb_8bit`)
 * **Öğrenme Oranı (Learning Rate):** 3e-4 (Cosine Scheduler ile)
 * **Hassasiyet (Precision):** FP16
 * **Max Adım Sayısı (Steps):** 6000
 * **Ağırlık Azalması (Weight Decay):** 0.05
-## 💻 Örnek Kullanım (How to Use)
 Modeli test etmek için aşağıdaki Python kodunu kullanabilirsiniz. `trust_remote_code=True` parametresinin ekli olduğundan emin olun.
 ```python

   - turkish-nlp-suite/InstrucTurca
 ---
+# SykoLLM Phi-3 Mini (233M) - Experimental
 > **⚠️ Uyarı / Disclaimer:** Bu model şu anda aktif bir **test ve araştırma aşamasındadır**. Temel amacı, yeni nesil **Phi-3** mimarisinin yeteneklerini sıfırdan eğitilmiş (trained from scratch) bir yapıyla küçük ölçekte test etmektir. Üretime (production) hazır bir model değildir; halüsinasyon görebilir, mantıksal hatalar yapabilir veya beklenmedik yanıtlar verebilir.
+##  Model Özeti (Model Description)
 Bu model, Microsoft'un **Phi-3** mimarisi temel alınarak sıfırdan eğitilmiş **233 Milyon** parametreli, deneysel bir dil modelidir. Hem **İngilizce** hem de **Türkçe** dillerinde genel bilgi, kodlama yeteneği ve mantıksal yürütme kapasitesini ölçmek amacıyla çeşitli yüksek kaliteli veri setleri harmanlanarak eğitilmiştir.
 Ayrıca model için `BPE` (Byte-Pair Encoding) tabanlı **özel bir tokenizer** sıfırdan eğitilip kullanılmıştır.
+##  Model Mimarisi (Architecture Details)
 Model, daha kompakt bir konfigürasyonda tasarlanmış olup standart bir Phi-3 yapısına dayanır:
 * **Mimari Türü:** `Phi3ForCausalLM`
 * **Parametre Sayısı:** ~233M
 * **Bağlam Penceresi (Context Size):** 1024 Token
 * **Sözlük Boyutu (Vocab Size):** 32,000
+##  Eğitim Verisi (Training Data)
 Eğitim verisi, modelin çok yönlü olabilmesi için özenle seçilmiş, yapay zeka kalıntıları (AI-robots) temizlenmiş ve filtrelenmiş şu veri setlerinden oluşmaktadır:
 **1. Genel Bilgi ve Mantık (İngilizce):**
 * `uonlp/CulturaX` (Türkçe alt kümesi, CJK ve gürültü temizlenmiş)
 * `turkish-nlp-suite/InstrucTurca`
+##  Eğitim Konfigürasyonu (Training Procedure)
 * **Optimizasyon:** 8-bit AdamW (`adamw_bnb_8bit`)
 * **Öğrenme Oranı (Learning Rate):** 3e-4 (Cosine Scheduler ile)
 * **Hassasiyet (Precision):** FP16
 * **Max Adım Sayısı (Steps):** 6000
 * **Ağırlık Azalması (Weight Decay):** 0.05
+##  Örnek Kullanım (How to Use)
 Modeli test etmek için aşağıdaki Python kodunu kullanabilirsiniz. `trust_remote_code=True` parametresinin ekli olduğundan emin olun.
 ```python