Datasets:
关于rating计算公式的疑问
您好，我按照codeELo方式的rating计算方法（排行榜名次倒推模型rating，采用codeELo官方规定的上界），并且采用8次回答独立计算错误罚分，但无法复现表格中的pass@8 rating值。并且我发现这种方式计算的rating值对于不同模型没有区分度，想问问你们采用的是什么计算公式？是WLE吗，能否告知我计算公式和方法，非常感谢！！
hi，pass@k rating 的计算方法是：
- 针对每一题的 K 次模型推理结果，如果全错记为 0 分，否则计算出随机排列K次提交时首次正确提交之前的失败提交次数期望 penalty，用
max(0.3 * points, points - penalty * 50)作为本题得分。 - 按场次汇总题目总得分，和人类得分比较，按 codeELO 方法使用二分法算出 rating。与 codeELO 直接在远端提交行为不同的是，这里所有的题目都是本地评测的。有一些场次没有收录需要 Special Judge / 需要交互运行的题目。在 人类得分 - rating 的映射表上也相应去掉了对应题目的得分，据此重排了表格。
- 不同场次之间的 rating 取平均值。
关于缺乏区分度的问题，bmk 只包含 div 2 场次，现有的前沿模型能力足以解决绝大部分的题目。另外采集的场次不多，这是因为判断较旧的题目很可能已经出现在训练数据中，因此不适合加入评测（当时很新的题目在今天看来也已经过时了，并且不排除已经被别家采集、加入训练的可能）。
非常感谢回复！我理解了单题得分和榜单重排方式。不过按照这个方法在复现 Rating 时，我还有一个二分搜索边界的问题想进一步确认。CodeElo 公开的 calc_rating.py 使用的搜索区间是：l, r = 0, max_old_rating + 100 ，其中 max_old_rating 是该场参赛者最高的赛前 Rating。
对于 CF-Div2-Stepfun 的这 12 场比赛，我根据官方 ratingChanges 数据计算得到逐场上界的平均值约为 2188.75。如果严格沿用这个上界，即使模型所有题目全部通过，12 场pass@k rating 达不到2489。想问问这个地方是怎么处理的，我的测试方法哪里有问题嘛，再次感谢你的解答😊
hi，设置的二分上下界是 [min{ratings} - 400, max{ratings} + 400]，可能是这个地方有差异。
感谢解答！我按照以上步骤要点去复现，我自己跑的step3.5 flash c++ 准确率是79.48%，在8/12场中拿了排行榜第一，rating是2489；我自己跑的minimax M2.1 c++准确率是63.21%，在6/12场中拿了排行榜第一，rating是2437。由于模型比人类强，有时候即使在准确率没有非常高的情况下，在排行榜上也能拿到前几名，导致容易触顶codeELo上界，最后算出来的rating值差不多高。想问问我的计算方法是不是哪里出现问题了呀🤝
hi，根据我们的评测经验，avg@8 达到 65% 左右的评测按 pass@8 计算 rating 的结果在 1900~2000 上下，avg@8 达到 80% 左右的评测计算 rating 可以达到2300～2400，此处的计算已经剔除了没有被收录的部分题目在人类得分排行中的影响。同时在评测配置方面 pass@k 计算 rating 时使用了所有 k 次提交，而一道题目有 0 个正确提交和至少 1 个正确提交的得分差距巨大。k 越大则 pass@k 越高，模型 rating 表现越好。如果排查还是明显不符，可以考虑检查一下模型通过的题目难度分布。
感谢解答，我检查后发现模型生成的回答逐题成功分布比较均匀，我自己跑的minimax模型在45/53题至少成功一次，所以算出来的pass@8 Rating会比较高。