File size: 2,597 Bytes
34e0a18 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 | # Uzman İnceleme Rehberi
Her soru için aşağıdaki ölçütleri ayrı ayrı değerlendirin.
## Zorunlu kontroller
1. **Tek doğru yanıt:** Verilen karar ölçütüne göre yalnızca bir seçenek en iyi
yanıt mı?
2. **Kontrol eşleşmesi:** Doğru seçenekteki kontrol kimliği senaryodaki birincil
boşluğu gerçekten ele alıyor mu?
3. **Çeldirici kalitesi:** Yanlış seçenekler makul fakat belirgin bir nedenle daha
zayıf mı?
4. **Denetim kanıtı:** Kanıt sorularında politika veya ekran görüntüsü gibi zayıf
kanıtlar ile dönemsel işletim kanıtı doğru ayrılmış mı?
5. **Türkçe:** Metin doğal, tarafsız ve farklı eğitim düzeylerindeki güvenlik
uzmanları için anlaşılır mı?
6. **Bağımsızlık:** Yanıt için marka, mevzuat veya açıklanmayan kurum bağlamı
gerekmiyor mu?
7. **Sızıntı:** Senaryo doğru seçeneğin kontrol adını veya benzersiz kelimelerini
istemeden tekrarlıyor mu?
## Önerilen inceleme etiketi
Her kayıt için şu sonuçlardan biri kullanılabilir:
- `accept`: Teknik ve dilsel olarak hazır
- `minor_edit`: Doğru yanıt değişmeden küçük yazım/dil düzeltmesi gerekli
- `major_edit`: Senaryo veya seçenekler yeniden yazılmalı
- `reject`: Birden çok doğru yanıt, hatalı kontrol veya ölçülemeyen görev
İnceleme notu şu kısa biçimde tutulabilir:
```json
{
"id": "TR-NIST-001",
"reviewer": "reviewer-id",
"decision": "minor_edit",
"technical_confidence": 4,
"language_quality": 3,
"comment": "B seçeneği de kısmen doğru görünüyor; soru ölçütü daraltılmalı."
}
```
`technical_confidence` ve `language_quality` için 1–5 ölçeği kullanılabilir.
## İnceleme sırası
1. Önce yalnız senaryo ve seçenekleri okuyup kendi cevabınızı verin.
2. Sonra `answer` ve `rationale` alanlarını açıp karşılaştırın.
3. Anlaşmazlık varsa kontrol kataloğu ile değerlendirme prosedürünü birlikte
kontrol edin.
4. “Bu kontrol de yardımcı olur” ile “sorulan boşluğu birincil ele alan kontrol”
ayrımını not edin.
5. En az iki bağımsız inceleyici anlaşmadan soruyu final kümeye taşımayın.
## Kabul kapısı önerisi
Final sürüm için:
- Her soru iki uzman tarafından incelenmiş olmalı.
- Doğru yanıt konusunda uzmanlar arası anlaşma %90'ın üzerinde olmalı.
- Anlaşmazlık yaşayan her soru ortak oturumda düzeltilmeli veya çıkarılmalı.
- Düzeltilmiş sorular yeniden kör incelemeye girmeli.
- Aynı model ailesinin farklı istem biçimleriyle seçenek sırası hassasiyeti
kontrol edilmeli.
|