Automated MNLP evaluation report (2026-06-11)

#1
Files changed (1) hide show
  1. EVAL_REPORT.md +59 -0
EVAL_REPORT.md ADDED
@@ -0,0 +1,59 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # Automated MNLP evaluation report
2
+
3
+ - **Model repo:** [`cs-552-2026-MandMP/multilingual_model`](https://huggingface.co/cs-552-2026-MandMP/multilingual_model)
4
+ - **Owner(s):** group **MandMP**
5
+ - **Generated at:** 2026-06-11T06:23:10+00:00 (UTC)
6
+ - **Pipeline:** [mnlp-project-ci](https://github.com/eric11eca/mnlp-project-ci)
7
+
8
+ _This PR is opened automatically by the course CI. It is **non-blocking** — you do not need to merge it. The next nightly run will refresh this file._
9
+
10
+ ## Evaluated checkpoint
11
+
12
+ - **Commit:** [`5c8c77e`](https://huggingface.co/cs-552-2026-MandMP/multilingual_model/commit/5c8c77e16d15fe9e820260d750a95e26953ac2d4)
13
+ - **Message:** v10: bump README to retrigger CI eval
14
+ - **Committed:** 2026-06-07T19:34:23+00:00
15
+
16
+ ## Summary
17
+
18
+ | Benchmark | Accuracy | Status |
19
+ |---|---:|---|
20
+ | Math | — | not run |
21
+ | Knowledge | — | not run |
22
+ | Multilingual | 0.4900 | ok |
23
+ | Safety | — | not run |
24
+
25
+ ## Sample completions
26
+
27
+ _Prompts are intentionally omitted to avoid revealing benchmark contents. For multi-completion problems, only one completion is shown per sample._
28
+
29
+ ### Multilingual
30
+
31
+ **Correct** (1 shown)
32
+
33
+ - **reference**: `B`
34
+ - **overall** (1/1 completions correct)
35
+ - **extracted** (✓): `B`
36
+ - **completion**:
37
+
38
+ ```text
39
+ बच्चों की गलतियाँ और भ्रांत-धारणाएँ शिक्षण-अधिगम प्रक्रिया के दौरान एक महत्वपूर्ण कदम हैं, क्योंकि इनके द्वारा बच्चों के आगमन और अभिजात अनुभव को जाना जाता है। उनके द्वारा बच्चों के अनुभव और अनुशासन के विकास के ल
40
+
41
+ \boxed{B}
42
+ ```
43
+
44
+ **Incorrect** (1 shown)
45
+
46
+ - **reference**: `C`
47
+ - **overall** (0/1 completions correct)
48
+ - **extracted** (✗): `D`
49
+ - **completion**:
50
+
51
+ ```text
52
+ В данном случае ключевое условие — **более раннее признание сына** было **записано на видео полицией**, и **сын и отец возражают против его допустимости**.
53
+
54
+ Признание, даже если оно было дано ранее, **не может использоваться для обвинения в том же деле**, если оно **не является надлежащим доказательством**.
55
+
56
+ Согласно законодательству (например, УК РФ), **признание, полученное в результате давления, слухов, или без достаточного основания — недопустимо**.
57
+
58
+ \boxed{D}
59
+ ```