Spaces:
Running
Running
File size: 8,029 Bytes
6bf37b5 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 | [
{
"category": "Model Eğitimi",
"title": "Gradient accumulation ile etkili batch büyütme",
"text": "GPU belleği sınırlı olduğunda birkaç küçük batch'in gradyanları biriktirilerek daha büyük bir etkili batch taklit edilir. Bu yöntem bellek tüketimini düşürür; optimizasyon adımı sayısı ve öğrenme oranı seçimi birlikte değerlendirilmelidir."
},
{
"category": "Model Eğitimi",
"title": "Gradient checkpointing bellek ve hız dengesi",
"text": "Gradient checkpointing ara aktivasyonların tamamını saklamak yerine geri yayılım sırasında bir bölümünü yeniden hesaplar. Eğitim yavaşlar fakat özellikle uzun dizilerde GPU bellek ihtiyacı belirgin biçimde azalır."
},
{
"category": "Model Eğitimi",
"title": "BF16 karma hassasiyet",
"text": "BF16 eğitim, FP32'ye yakın dinamik aralığı daha düşük bellek tüketimiyle sunar. Uyumlu hızlandırıcılarda model ağırlıkları ve aktivasyonlar küçülürken sayısal kararlılık FP16'ya göre genellikle daha kolay korunur."
},
{
"category": "Model Eğitimi",
"title": "Hard negative seçiminin etkisi",
"text": "Dense retrieval eğitiminde sorguyla yüzeysel olarak benzer fakat yanlış olan pasajlar güçlü negatif örneklerdir. Aşırı kolay negatifler az sinyal üretirken yanlış negatifler model kalitesine zarar verebilir; filtreleme bu nedenle önemlidir."
},
{
"category": "Retrieval",
"title": "Dense retrieval nasıl çalışır?",
"text": "Dense retrieval, sorgu ve belgeleri aynı vektör uzayına kodlar. En yakın komşu aramasıyla cosine veya iç çarpım skoru yüksek belgeler getirilir; kelimeler birebir örtüşmese de anlamsal yakınlık yakalanabilir."
},
{
"category": "Retrieval",
"title": "MRR@10 metriği",
"text": "Mean Reciprocal Rank, ilk doğru sonucun sırasını ölçer. MRR@10 yalnızca ilk on sırayı dikkate alır ve doğru cevabın listenin üstünde bulunmasını özellikle ödüllendirir."
},
{
"category": "Retrieval",
"title": "nDCG@10 metriği",
"text": "Normalized Discounted Cumulative Gain, birden çok ilgili belgenin sırasını ve ilgililik derecesini hesaba katar. Üst sıralardaki doğru sonuçlara daha fazla ağırlık verir ve ideal sıralamaya göre normalize edilir."
},
{
"category": "Retrieval",
"title": "Recall@100 neyi anlatır?",
"text": "Recall@100, bilinen ilgili belgelerin ilk yüz sonuç içinde ne kadarının bulunduğunu ölçer. Reranker kullanılan iki aşamalı sistemlerde ilk getiricinin kapsayıcılığını izlemek için yararlıdır."
},
{
"category": "Retrieval",
"title": "FAISS ile vektör arama",
"text": "FAISS yüksek boyutlu vektörlerde benzerlik araması için optimize edilmiş bir kütüphanedir. Küçük koleksiyonlarda exact inner-product index, büyük koleksiyonlarda ise yaklaşık indeksler hız ve bellek avantajı sağlar."
},
{
"category": "Değerlendirme",
"title": "Veri sızıntısını önleyen benchmark",
"text": "Güvenilir değerlendirmede test sorguları ve belgeleri eğitim örneklerinden ayrılır. Kaynaklar, filtreler ve split yöntemi açıklanmalı; model seçimi test kümesine bakılarak yapılmamalıdır."
},
{
"category": "Değerlendirme",
"title": "Güçlü baseline karşılaştırması",
"text": "Yeni bir modeli yalnızca zayıf bir başlangıç noktasıyla kıyaslamak yanıltıcı olabilir. Aynı veri, aynı metrik uygulaması ve aynı retrieval derinliği altında güçlü açık modellerle karşılaştırma yapılmalıdır."
},
{
"category": "Değerlendirme",
"title": "Tekrarlanabilir deney kaydı",
"text": "Seed, veri sürümü, paket sürümleri, donanım, eğitim argümanları ve ham metrik dosyaları kaydedildiğinde sonuçlar denetlenebilir hale gelir. Model kartı yalnızca başarı skorunu değil sınırlamaları da göstermelidir."
},
{
"category": "MLOps",
"title": "Model kartı neden gereklidir?",
"text": "Model kartı kullanım amacı, eğitim verisi, lisans, ölçüm yöntemi, sınırlamalar ve örnek kodu tek yerde toplar. İyi dokümantasyon modelin güvenli ve doğru bağlamda kullanılmasını kolaylaştırır."
},
{
"category": "MLOps",
"title": "Veri seti soy ağacı",
"text": "Dataset provenance, verinin nereden geldiğini ve hangi dönüşümlerden geçtiğini açıklar. Lisans, dil, otomatik çeviri, kalite filtreleri ve checksum gibi ayrıntılar yeniden üretilebilirlik için kaydedilir."
},
{
"category": "MLOps",
"title": "Deneyleri küçük smoke test ile doğrulamak",
"text": "Uzun eğitimi başlatmadan önce birkaç yüz örnek ve birkaç adımlık smoke test çalıştırmak veri sütunu sırası, kayıp fonksiyonu, değerlendirme ve kayıt akışındaki hataları düşük maliyetle ortaya çıkarır."
},
{
"category": "Retrieval",
"title": "İki aşamalı retrieval ve reranking",
"text": "Dense retriever geniş bir belge havuzundan hızlıca ilk adayları getirir. Cross-encoder reranker sorgu ve her adayı birlikte okuyarak bu küçük listeyi daha hassas biçimde yeniden sıralar; kalite artışı ek gecikmeyle birlikte ölçülmelidir."
},
{
"category": "Retrieval",
"title": "Hard-negative mining hattı",
"text": "Eğitilmiş bir retriever sorgular için yüksek skorlu fakat etiket gereği yanlış pasajları bulabilir. Bu zor negatiflerle devam eğitimi yapmak karar sınırını keskinleştirebilir; yanlış negatif riski ve benchmark sızıntısı ayrıca denetlenmelidir."
},
{
"category": "Değerlendirme",
"title": "Çok alanlı Türkçe benchmark suite",
"text": "Tek bir tarih veri seti tüm Türkçe retrieval davranışını temsil etmez. Tarih, web FAQ, bilgi soruları ve okuduğunu anlama görevlerini sabit revision ve aynı evaluator ile ölçmek domain shift etkisini daha görünür kılar."
},
{
"category": "RAG",
"title": "Kaynaklı extractive RAG",
"text": "Retrieval ile bulunan pasajlardan seçilen cümleleri kaynak bağlantılarıyla sunmak, üretken model kullanmadan denetlenebilir bir yanıt deneyimi sağlar. Sistem extractive olduğunu açıkça belirtmeli ve retrieval skorlarını olasılık gibi göstermemelidir."
},
{
"category": "Sistem",
"title": "Büyük modellerde verimli inference",
"text": "Inference maliyeti batching, quantization, KV cache yönetimi ve uygun kernel seçimiyle azaltılabilir. Optimizasyon yapılırken yalnızca throughput değil ilk token gecikmesi, kuyruk süresi ve kalite kaybı birlikte ölçülür."
},
{
"category": "Sistem",
"title": "Quantization ile model küçültme",
"text": "Quantization ağırlıkları daha düşük bit genişliğinde temsil ederek bellek ihtiyacını ve kimi donanımlarda gecikmeyi azaltır. Kalibrasyon verisi ve hedef katman seçimi kalite kaybını belirleyen önemli etkenlerdir."
},
{
"category": "Sistem",
"title": "Vektör indeksinde ölçekleme",
"text": "Milyonlarca belgeye çıkıldığında tüm vektörleri taramak pahalı hale gelir. IVF, HNSW veya ürün nicemleme gibi yöntemler daha düşük gecikme sağlar; recall ve bellek maliyeti ölçülerek ayarlanır."
},
{
"category": "Güvenlik",
"title": "API anahtarlarını korumak",
"text": "Erişim anahtarları kaynak koda, model kartına veya terminal çıktısına gömülmemelidir. Ortam sırrı olarak tutulmalı, yalnızca gereken en dar yetki verilmeli ve yanlışlıkla paylaşıldığında hemen iptal edilip yenilenmelidir."
},
{
"category": "Güvenlik",
"title": "Yapay zekâ sistemlerinde tehdit modelleme",
"text": "Tehdit modelleme; varlıkları, güven sınırlarını, saldırgan kabiliyetlerini ve olası kötüye kullanım yollarını tanımlar. Prompt injection, veri sızıntısı ve tedarik zinciri riskleri tasarım aşamasında ele alınmalıdır."
}
]
|