docs/DESIGN.md

Benchmark Tasarımı

1. Ölçülmek istenen yetenek

Benchmark, bir dil modelinin Türkçe bir güvenlik veya denetim senaryosundaki birincil kontrol boşluğunu belirleyip dört makul seçenek arasından tek en iyi yanıtı seçebilmesini ölçer.

Ölçüm kapsamı:

1. Risk/sorun için en doğrudan NIST SP 800-53 kontrolünü seçme
2. Bir kontrolün işletildiğini gösterecek en güçlü denetim kanıtını seçme
3. Tasarım ile işletim etkinliğini ayırarak denetim yargısı verme

Kapsam dışı:

• NIST kontrol metnini kelimesi kelimesine ezberleme
• Bir kurum için eksiksiz kontrol temeli oluşturma
• Hukuki veya sektörel uygunluk kararı verme
• Birden çok doğru yanıtlı kontrol paketlerini puanlama

2. Neden ilk sürüm yalnızca NIST?

Kaynak eğitim veri kümesi NIST SP 800-53 ağırlıklıdır. NIST ve ISO kontrol numaralarını aynı küçük testte karıştırmak, kontrol muhakemesi ile çerçeveler arası eşleme bilgisini tek puana sıkıştırır. v0.1.0 bu yüzden NIST kontrol seçimini izole eder. Sonraki sürüm için iki ayrı genişletme önerilir:

• iso27002: ISO/IEC 27002:2022 kontrol seçimi parkuru
• crosswalk: aynı senaryonun NIST ve ISO karşılıklarını eşleme parkuru

Bu parkurlar ayrı puanlanmalıdır.

3. Veri birimi

Ana kayıttaki alanlar:

Alan	Açıklama
id	Kalıcı soru kimliği
family	Doğru NIST kontrolünün ailesi
task_type	control_selection, audit_evidence veya audit_judgment
difficulty	easy, medium veya hard
scenario	Karar için gerekli bağlam
question	Tek ve açık karar istemi
options	Etiket, kontrol kimliği ve eylem içeren dört seçenek
answer	Tek doğru etiket
rationale	Doğru yanıt ve çeldiricilerin nedenleri
references	Gerekçenin dayandığı NIST kontrol kimlikleri

4. Soru yazım ilkeleri

• Senaryo kendi başına anlaşılabilmeli; kuruma ait gizli bağlam gerektirmemeli.
• “En doğrudan”, “birincil” veya “en güçlü kanıt” gibi karar ölçütü açık olmalı.
• Doğru seçenek, yalnızca diğerleri kötü yazıldığı için değil kontrol amacıyla en iyi eşleştiği için doğru olmalı.
• Çeldiriciler gerçek ve makul kontroller olmalı; uydurma kontrol numarası kullanılmamalı.
• İki seçenek birlikte gerekli olsa bile soru, bunlardan hangisinin sorulan boşluğu birincil olarak ele aldığını ayırt ettirmeli.
• Seçenek uzunluğu, dil kalitesi ve ayrıntı düzeyi doğru yanıtı ele vermemeli.
• Senaryoda doğru kontrolün adı veya kimliği aynen tekrarlanmamalı.
• Ana eğitim veri kümesindeki soru ve yanıtlar kelimesi kelimesine dönüştürülmemeli.
• Kuruma veya ürüne özel marka bilgisi gerektirilmemeli.
• Resmi NIST kontrol metni uzun biçimde kopyalanmamalı; amaç Türkçe olarak özgün biçimde özetlenmeli.

5. Kapsama planı

Her kontrol ailesi beş soruyla temsil edilir:

AC, AT, AU, CA, CM, CP, IA, IR, MA, MP, PE, PL, PM, PS, PT, RA, SA, SC, SI, SR

Toplam 100 sorunun v0.1.0 görev dağılımı:

• 64 kontrol seçimi
• 17 denetim kanıtı
• 19 denetim yargısı

Zorluk, yalnızca kontrol numarasının nadirliğine göre değil şu özelliklere göre atanır:

• easy: boşluk ve kontrol amacı doğrudan eşleşir
• medium: yakın amaçlı kontroller arasında ayrım gerekir
• hard: kontrol sınırı, kanıt kalitesi veya tasarım/işletim ayrımı gerekir

6. İstem ve puanlama

Sabit sistem talimatı:

Aşağıdaki Türkçe siber güvenlik kontrol sorusunda tek en iyi seçeneği belirle. Yalnızca A, B, C veya D harflerinden birini yaz; açıklama ekleme.

Birincil metrik exact-match accuracy değeridir. Ayrıca aile, görev türü ve zorluk bazında doğruluk raporlanır. Geçersiz/uzun çıktı yanlış sayılır.

İki istem görünümü üretilir:

• questions.jsonl (control_id_only): Ana parkur. Seçeneklerde yalnız kontrol kimliği bulunur ve senaryoyu doğru NIST kontrolüne eşleme bilgisi ölçülür.
• questions_titled.jsonl (official_title_en): Tanısal parkur. Kontrol kimliğinin yanında NIST OSCAL 5.2.0 kataloğundaki resmi İngilizce kontrol başlığı bulunur. Bu görünüm kontrol numarası ezberinden daha az etkilenir.

İki görünümün sonuçları birbiriyle birleştirilmeden ayrı raporlanmalıdır.

Ana veri ve review.jsonl içindeki Türkçe seçenek açıklamaları uzman incelemesini kolaylaştırmak için ayrıntılıdır. İlk taslakta doğru açıklamalar çoğunlukla daha uzun olduğundan bu görünüm model değerlendirmesinde kullanılmamalıdır.

Önerilen sonraki ölçümler:

• 3–5 farklı seçenek sıralamasıyla order-robust accuracy
• Bootstrap güven aralığı
• Çeldirici bazında hata matrisi
• Türkçe dil kalitesi ve kontrol doğruluğu için iki bağımsız uzman puanı
• Eğitim veri kümesiyle anlamsal benzerlik/contamination taraması

7. Sürümleme

• Bir sorunun yalnızca yazımı düzeltilirse kimliği korunabilir.
• Doğru kontrol, seçenek anlamı veya senaryo kararı değişirse yeni kimlik oluşturulmalıdır.
• Yayınlanan cevap anahtarı değiştirilirse sürüm en az minor artırılmalı ve değişiklik günlüğü tutulmalıdır.
• Uzman incelemesi tamamlanana kadar tüm kayıtlar taslak kabul edilir.