| # Benchmark Tasarımı |
|
|
| ## 1. Ölçülmek istenen yetenek |
|
|
| Benchmark, bir dil modelinin Türkçe bir güvenlik veya denetim senaryosundaki |
| **birincil kontrol boşluğunu** belirleyip dört makul seçenek arasından tek en iyi |
| yanıtı seçebilmesini ölçer. |
|
|
| Ölçüm kapsamı: |
|
|
| 1. Risk/sorun için en doğrudan NIST SP 800-53 kontrolünü seçme |
| 2. Bir kontrolün işletildiğini gösterecek en güçlü denetim kanıtını seçme |
| 3. Tasarım ile işletim etkinliğini ayırarak denetim yargısı verme |
|
|
| Kapsam dışı: |
|
|
| - NIST kontrol metnini kelimesi kelimesine ezberleme |
| - Bir kurum için eksiksiz kontrol temeli oluşturma |
| - Hukuki veya sektörel uygunluk kararı verme |
| - Birden çok doğru yanıtlı kontrol paketlerini puanlama |
|
|
| ## 2. Neden ilk sürüm yalnızca NIST? |
|
|
| Kaynak eğitim veri kümesi NIST SP 800-53 ağırlıklıdır. NIST ve ISO kontrol |
| numaralarını aynı küçük testte karıştırmak, kontrol muhakemesi ile çerçeveler arası |
| eşleme bilgisini tek puana sıkıştırır. `v0.1.0` bu yüzden NIST kontrol seçimini |
| izole eder. Sonraki sürüm için iki ayrı genişletme önerilir: |
|
|
| - `iso27002`: ISO/IEC 27002:2022 kontrol seçimi parkuru |
| - `crosswalk`: aynı senaryonun NIST ve ISO karşılıklarını eşleme parkuru |
|
|
| Bu parkurlar ayrı puanlanmalıdır. |
|
|
| ## 3. Veri birimi |
|
|
| Ana kayıttaki alanlar: |
|
|
| | Alan | Açıklama | |
| |---|---| |
| | `id` | Kalıcı soru kimliği | |
| | `family` | Doğru NIST kontrolünün ailesi | |
| | `task_type` | `control_selection`, `audit_evidence` veya `audit_judgment` | |
| | `difficulty` | `easy`, `medium` veya `hard` | |
| | `scenario` | Karar için gerekli bağlam | |
| | `question` | Tek ve açık karar istemi | |
| | `options` | Etiket, kontrol kimliği ve eylem içeren dört seçenek | |
| | `answer` | Tek doğru etiket | |
| | `rationale` | Doğru yanıt ve çeldiricilerin nedenleri | |
| | `references` | Gerekçenin dayandığı NIST kontrol kimlikleri | |
|
|
| ## 4. Soru yazım ilkeleri |
|
|
| - Senaryo kendi başına anlaşılabilmeli; kuruma ait gizli bağlam gerektirmemeli. |
| - “En doğrudan”, “birincil” veya “en güçlü kanıt” gibi karar ölçütü açık olmalı. |
| - Doğru seçenek, yalnızca diğerleri kötü yazıldığı için değil kontrol amacıyla en |
| iyi eşleştiği için doğru olmalı. |
| - Çeldiriciler gerçek ve makul kontroller olmalı; uydurma kontrol numarası |
| kullanılmamalı. |
| - İki seçenek birlikte gerekli olsa bile soru, bunlardan hangisinin sorulan |
| boşluğu birincil olarak ele aldığını ayırt ettirmeli. |
| - Seçenek uzunluğu, dil kalitesi ve ayrıntı düzeyi doğru yanıtı ele vermemeli. |
| - Senaryoda doğru kontrolün adı veya kimliği aynen tekrarlanmamalı. |
| - Ana eğitim veri kümesindeki soru ve yanıtlar kelimesi kelimesine |
| dönüştürülmemeli. |
| - Kuruma veya ürüne özel marka bilgisi gerektirilmemeli. |
| - Resmi NIST kontrol metni uzun biçimde kopyalanmamalı; amaç Türkçe olarak |
| özgün biçimde özetlenmeli. |
|
|
| ## 5. Kapsama planı |
|
|
| Her kontrol ailesi beş soruyla temsil edilir: |
|
|
| `AC, AT, AU, CA, CM, CP, IA, IR, MA, MP, PE, PL, PM, PS, PT, RA, SA, SC, SI, SR` |
|
|
| Toplam 100 sorunun `v0.1.0` görev dağılımı: |
|
|
| - 64 kontrol seçimi |
| - 17 denetim kanıtı |
| - 19 denetim yargısı |
|
|
| Zorluk, yalnızca kontrol numarasının nadirliğine göre değil şu özelliklere göre |
| atanır: |
|
|
| - `easy`: boşluk ve kontrol amacı doğrudan eşleşir |
| - `medium`: yakın amaçlı kontroller arasında ayrım gerekir |
| - `hard`: kontrol sınırı, kanıt kalitesi veya tasarım/işletim ayrımı gerekir |
|
|
| ## 6. İstem ve puanlama |
|
|
| Sabit sistem talimatı: |
|
|
| > Aşağıdaki Türkçe siber güvenlik kontrol sorusunda tek en iyi seçeneği belirle. |
| > Yalnızca A, B, C veya D harflerinden birini yaz; açıklama ekleme. |
|
|
| Birincil metrik **exact-match accuracy** değeridir. Ayrıca aile, görev türü ve |
| zorluk bazında doğruluk raporlanır. Geçersiz/uzun çıktı yanlış sayılır. |
|
|
| İki istem görünümü üretilir: |
|
|
| - `questions.jsonl` (`control_id_only`): Ana parkur. Seçeneklerde yalnız kontrol |
| kimliği bulunur ve senaryoyu doğru NIST kontrolüne eşleme bilgisi ölçülür. |
| - `questions_titled.jsonl` (`official_title_en`): Tanısal parkur. Kontrol |
| kimliğinin yanında NIST OSCAL 5.2.0 kataloğundaki resmi İngilizce kontrol |
| başlığı bulunur. Bu görünüm kontrol numarası ezberinden daha az etkilenir. |
|
|
| İki görünümün sonuçları birbiriyle birleştirilmeden ayrı raporlanmalıdır. |
|
|
| Ana veri ve `review.jsonl` içindeki Türkçe seçenek açıklamaları uzman |
| incelemesini kolaylaştırmak için ayrıntılıdır. İlk taslakta doğru açıklamalar |
| çoğunlukla daha uzun olduğundan bu görünüm model değerlendirmesinde |
| kullanılmamalıdır. |
|
|
| Önerilen sonraki ölçümler: |
|
|
| - 3–5 farklı seçenek sıralamasıyla order-robust accuracy |
| - Bootstrap güven aralığı |
| - Çeldirici bazında hata matrisi |
| - Türkçe dil kalitesi ve kontrol doğruluğu için iki bağımsız uzman puanı |
| - Eğitim veri kümesiyle anlamsal benzerlik/contamination taraması |
|
|
| ## 7. Sürümleme |
|
|
| - Bir sorunun yalnızca yazımı düzeltilirse kimliği korunabilir. |
| - Doğru kontrol, seçenek anlamı veya senaryo kararı değişirse yeni kimlik |
| oluşturulmalıdır. |
| - Yayınlanan cevap anahtarı değiştirilirse sürüm en az minor artırılmalı ve |
| değişiklik günlüğü tutulmalıdır. |
| - Uzman incelemesi tamamlanana kadar tüm kayıtlar taslak kabul edilir. |
|
|
