| # Uzman İnceleme Rehberi |
|
|
| Her soru için aşağıdaki ölçütleri ayrı ayrı değerlendirin. |
|
|
| ## Zorunlu kontroller |
|
|
| 1. **Tek doğru yanıt:** Verilen karar ölçütüne göre yalnızca bir seçenek en iyi |
| yanıt mı? |
| 2. **Kontrol eşleşmesi:** Doğru seçenekteki kontrol kimliği senaryodaki birincil |
| boşluğu gerçekten ele alıyor mu? |
| 3. **Çeldirici kalitesi:** Yanlış seçenekler makul fakat belirgin bir nedenle daha |
| zayıf mı? |
| 4. **Denetim kanıtı:** Kanıt sorularında politika veya ekran görüntüsü gibi zayıf |
| kanıtlar ile dönemsel işletim kanıtı doğru ayrılmış mı? |
| 5. **Türkçe:** Metin doğal, tarafsız ve farklı eğitim düzeylerindeki güvenlik |
| uzmanları için anlaşılır mı? |
| 6. **Bağımsızlık:** Yanıt için marka, mevzuat veya açıklanmayan kurum bağlamı |
| gerekmiyor mu? |
| 7. **Sızıntı:** Senaryo doğru seçeneğin kontrol adını veya benzersiz kelimelerini |
| istemeden tekrarlıyor mu? |
|
|
| ## Önerilen inceleme etiketi |
|
|
| Her kayıt için şu sonuçlardan biri kullanılabilir: |
|
|
| - `accept`: Teknik ve dilsel olarak hazır |
| - `minor_edit`: Doğru yanıt değişmeden küçük yazım/dil düzeltmesi gerekli |
| - `major_edit`: Senaryo veya seçenekler yeniden yazılmalı |
| - `reject`: Birden çok doğru yanıt, hatalı kontrol veya ölçülemeyen görev |
|
|
| İnceleme notu şu kısa biçimde tutulabilir: |
|
|
| ```json |
| { |
| "id": "TR-NIST-001", |
| "reviewer": "reviewer-id", |
| "decision": "minor_edit", |
| "technical_confidence": 4, |
| "language_quality": 3, |
| "comment": "B seçeneği de kısmen doğru görünüyor; soru ölçütü daraltılmalı." |
| } |
| ``` |
|
|
| `technical_confidence` ve `language_quality` için 1–5 ölçeği kullanılabilir. |
|
|
| ## İnceleme sırası |
|
|
| 1. Önce yalnız senaryo ve seçenekleri okuyup kendi cevabınızı verin. |
| 2. Sonra `answer` ve `rationale` alanlarını açıp karşılaştırın. |
| 3. Anlaşmazlık varsa kontrol kataloğu ile değerlendirme prosedürünü birlikte |
| kontrol edin. |
| 4. “Bu kontrol de yardımcı olur” ile “sorulan boşluğu birincil ele alan kontrol” |
| ayrımını not edin. |
| 5. En az iki bağımsız inceleyici anlaşmadan soruyu final kümeye taşımayın. |
|
|
| ## Kabul kapısı önerisi |
|
|
| Final sürüm için: |
|
|
| - Her soru iki uzman tarafından incelenmiş olmalı. |
| - Doğru yanıt konusunda uzmanlar arası anlaşma %90'ın üzerinde olmalı. |
| - Anlaşmazlık yaşayan her soru ortak oturumda düzeltilmeli veya çıkarılmalı. |
| - Düzeltilmiş sorular yeniden kör incelemeye girmeli. |
| - Aynı model ailesinin farklı istem biçimleriyle seçenek sırası hassasiyeti |
| kontrol edilmeli. |
|
|
