docs/source/Instruction/GRPO/AdvancedResearch/REAL.md

Rewards as Labels: Revisiting RLVR from a Classification Perspective

版本依赖：ms-swift>4.0

Rewards as Labels: Revisiting RLVR from a Classification Perspective 针对GRPO提出把奖励视为标签，在group内分类而不是计算advantage，从而将策略优化问题转化为分类问题，以此解决GRPO Loss中存在的正样本梯度错配与负样本梯度主导问题。

背景与动机

GRPO目标函数

$$J_{\mathrm{G}\mathrm{R}\mathrm{P}\mathrm{O}}(\theta )={\mathbb{E}}_{q,o\sim {\pi }_{\mathrm{o}\mathrm{d}}(\cdot \mathrm{\mid }q)}\left[\frac{1}{\mathrm{\mid }o\mathrm{\mid }}\sum _{t=1}^{\mathrm{\mid }o\mathrm{\mid }}(\min ({\rho }_t{A}_t,\mathrm{c}\mathrm{l}\mathrm{i}\mathrm{p}({\rho }_t,1-ϵ,1+ϵ)A_t))\right]J\_\{\backslash mathrm\{GRPO\}\}(\backslash theta)=\backslash mathbb\{E\}\_\{q,o\backslash sim\backslash pi\_\{\backslash mathrm\{od\}\}(\backslash cdot|q)\}\backslash left[\backslash frac\{1\}\{|o|\}\backslash sum\_\{t=1\}^\{|o|\}\backslash left(\backslash min\backslash left(\backslash rho\_tA\_t,\backslash mathrm\{clip\}(\backslash rho\_t,1-\backslash epsilon,1+\backslash epsilon)A\_t\backslash right)\backslash right)\backslash right]$$

其中$\rho_t=\frac{\pi_\theta(o_t|q)}{\pi_{\mathrm{old}}(o_t|q)}$为相对概率，$A_{t}$为优势函数，故梯度为：

$${\mathrm{\nabla }}_{\theta }{J}_{\mathrm{G}\mathrm{R}\mathrm{P}\mathrm{O}}=\mathbb{E}[\frac{1}{\mathrm{\mid }o\mathrm{\mid }}\sum _{t=1}^{\mathrm{\mid }o\mathrm{\mid }}{\mathbb{I}}_{\mathrm{c}\mathrm{l}\mathrm{i}\mathrm{p}}\cdot A_t{e}^{s_t}{\mathrm{\nabla }}_{\theta }\log {\pi }_{\theta }\left(o_t\mathrm{\mid }q\right)]\backslash nabla\_\{\backslash theta\}\; J\_\{\backslash mathrm\{GRPO\}\}\; =\; \backslash mathbb\; \{\; E\; \}\; \backslash left[\; \backslash frac\; \{\; 1\; \}\; \{\; |\; o\; |\; \}\; \backslash sum\; \_\; \{\; t\; =\; 1\; \}\; ^\; \{\; |\; o\; |\; \}\; \backslash mathbb\; \{\; I\; \}\; \_\; \{\; \backslash mathrm\; \{\; clip\; \}\; \}\; \backslash cdot\; A\; \_\; \{\; t\; \}\; e\; ^\; \{\; s\; \_\; \{\; t\; \}\; \}\; \backslash nabla\; \_\; \{\; \backslash theta\; \}\; \backslash log\; \backslash pi\; \_\; \{\; \backslash theta\; \}\; \backslash left(\; o\; \_\; \{\; t\; \}\; |\; q\; \backslash right)\; \backslash right]$$

其中$s_t=\log\frac{\pi_\theta(o_t|q)}{\pi_{\mathrm{old}}(o_t|q)}$作为token的相对对数概率，$\mathbb { I } _ { \mathrm { clip } }$为指示函数

故 GRPO 对单 token 的梯度权重为：

• 正样本的梯度错配（Gradient Misassignment）：对正样本来说，随着相对概率$s$变小，梯度更新幅度反而越弱。这违背直觉，因为模型对“不太自信”的正确 token 本来就需要更大的更新幅度来强化，但更多的梯度权重却放到更“自信”的 token，没学好的 token 得不到足够的重视。

• 负样本的梯度主导（Gradient Domination）：对负样本来说，随着相对概率$s$变小，梯度更新幅度呈指数级增加。这意味着，只要出现几个模型“盲目自信”的错误 token，它们产生的巨大梯度就会把同组内其他负样本的信号淹没。由于缺乏上限保护，模型在处理这些错误样本时可能会产生过大的参数更新，让训练过程变得不太可控。

为解决上述问题，Real提出将奖励直接视为标签然后进行组内的样本分类训练

分类的logits分值设计：

$${\bar{s}}^k=\frac{1}{\mathrm{\mid }{o}^k\mathrm{\mid }}\sum _{t=1}^{\mathrm{\mid }{o}^k\mathrm{\mid }}(\log \frac{{\pi }_{\theta }(o_t^k\mid q)}{{\pi }_{\mathrm{o}\mathrm{l}\mathrm{d}}(o_t^k\mid q)})\backslash bar\{s\}^k=\backslash frac\{1\}\{|o^k|\}\backslash sum\_\{t=1\}^\{|o^k|\}\backslash left(\backslash log\backslash frac\{\backslash pi\_\backslash theta(o\_t^k\backslash mid\; q)\}\{\backslash pi\_\{\backslash mathrm\{old\}\}(o\_t^k\backslash mid\; q)\}\backslash right)$$

• $\bar{s}^k > 0$: 表示该样本在当前策略下生成的概率比旧策略整体更高，模型倾向于增强该样本。
• $\bar{s}^k < 0$: 表示该样本在当前策略下生成的概率比旧策略整体更低，模型倾向于抑制该样本。

损失函数设计：

$${\mathcal{L}}_{REAL}=\log (1+\sum _{{\mathcal{O}}_{+}}{e}^{-{\bar{s}}^i\mathrm{/}\tau })+\log (1+\sum _{{\mathcal{O}}_{-}}{e}^{{\bar{s}}^j\mathrm{/}\tau })\backslash mathcal\{L\}\_\{REAL\}=\backslash log\backslash left(1+\backslash sum\_\{\backslash mathcal\{O\}\_+\}e^\{-\backslash bar\{s\}^i/\backslash tau\}\backslash right)+\backslash log\backslash left(1+\backslash sum\_\{\backslash mathcal\{O\}\_-\}e^\{\backslash bar\{s\}^j/\backslash tau\}\backslash right)$$

梯度特性：

参数设置

参数	类型	默认值	说明
--loss_type	str	-	设置为 real
--real_tau	float	0.5	温度参数，控制决策边界锐度

训练脚本参考

swift

注意事项

设置参数时，确保 per_device_train_batch_size 能够被 num_generations 整除，以此保证单个训练batch中能拿到完整的 group 进行分类。