license: mit
生徒モデル選定目的でtakaさん評価コード（運営から提供されたコードを動作するように変更版）で評価してみた結果（佐々木分）です。
https://www.notion.so/23de14b94af5807a87b5c6292a3d3520
https://matsuokenllmcommunity.slack.com/archives/C095PS80YTE/p1753979349212189?thread_ts=1753437729.053739&cid=C095PS80YTE
<predictionsフォルダ>素の Qwen3で hle_eval推論した結果
hle_Qwen3-14B.json
hle_Qwen3-32B.json
hle_Qwen3-235B-A228B.json(441問回答版)、この後に追加で100問程度推論したファイルも別途あり（判定は未だ行っていない）
（再度、推論するとpredictionsフォルダに入っている推論済の問題以外を追加で推論してくれる動作になっている）
<judgedフォルダ>素の Qwen3で hle_eval推論したファイルをo3-mini-2025-01-31で判定した結果
judged_hle_Qwen3-14B.json
2500問中の1838問に回答し125問が正解(6.80%)
judged_hle_Qwen3-32B.json
2500問中の1861問に回答し174問が正解(9.35%)
judged_hle_Qwen3-235B-A228B.json
2500問中の441問に回答し45問が正解(10.20%) 回答数が増えると正解率が下がる傾向あり
<このフォルダ>
hle_qwen_attempt_correct.csv.xlsx
各モデルの回答有無(attempted列で TRUE:回答した、FALSE:未回答)と判定結果(correct列で TRUE:正解、FALSE:不正解)