docs/REVIEW_GUIDE.md

Uzman İnceleme Rehberi

Her soru için aşağıdaki ölçütleri ayrı ayrı değerlendirin.

Zorunlu kontroller

1. Tek doğru yanıt: Verilen karar ölçütüne göre yalnızca bir seçenek en iyi yanıt mı?
2. Kontrol eşleşmesi: Doğru seçenekteki kontrol kimliği senaryodaki birincil boşluğu gerçekten ele alıyor mu?
3. Çeldirici kalitesi: Yanlış seçenekler makul fakat belirgin bir nedenle daha zayıf mı?
4. Denetim kanıtı: Kanıt sorularında politika veya ekran görüntüsü gibi zayıf kanıtlar ile dönemsel işletim kanıtı doğru ayrılmış mı?
5. Türkçe: Metin doğal, tarafsız ve farklı eğitim düzeylerindeki güvenlik uzmanları için anlaşılır mı?
6. Bağımsızlık: Yanıt için marka, mevzuat veya açıklanmayan kurum bağlamı gerekmiyor mu?
7. Sızıntı: Senaryo doğru seçeneğin kontrol adını veya benzersiz kelimelerini istemeden tekrarlıyor mu?

Önerilen inceleme etiketi

Her kayıt için şu sonuçlardan biri kullanılabilir:

• accept: Teknik ve dilsel olarak hazır
• minor_edit: Doğru yanıt değişmeden küçük yazım/dil düzeltmesi gerekli
• major_edit: Senaryo veya seçenekler yeniden yazılmalı
• reject: Birden çok doğru yanıt, hatalı kontrol veya ölçülemeyen görev

İnceleme notu şu kısa biçimde tutulabilir:

{
  "id": "TR-NIST-001",
  "reviewer": "reviewer-id",
  "decision": "minor_edit",
  "technical_confidence": 4,
  "language_quality": 3,
  "comment": "B seçeneği de kısmen doğru görünüyor; soru ölçütü daraltılmalı."
}

technical_confidence ve language_quality için 1–5 ölçeği kullanılabilir.

İnceleme sırası

1. Önce yalnız senaryo ve seçenekleri okuyup kendi cevabınızı verin.
2. Sonra answer ve rationale alanlarını açıp karşılaştırın.
3. Anlaşmazlık varsa kontrol kataloğu ile değerlendirme prosedürünü birlikte kontrol edin.
4. “Bu kontrol de yardımcı olur” ile “sorulan boşluğu birincil ele alan kontrol” ayrımını not edin.
5. En az iki bağımsız inceleyici anlaşmadan soruyu final kümeye taşımayın.

Kabul kapısı önerisi

Final sürüm için:

• Her soru iki uzman tarafından incelenmiş olmalı.
• Doğru yanıt konusunda uzmanlar arası anlaşma %90'ın üzerinde olmalı.
• Anlaşmazlık yaşayan her soru ortak oturumda düzeltilmeli veya çıkarılmalı.
• Düzeltilmiş sorular yeniden kör incelemeye girmeli.
• Aynı model ailesinin farklı istem biçimleriyle seçenek sırası hassasiyeti kontrol edilmeli.