File size: 1,961 Bytes
9f0f10c | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 | import torch
import torch.nn as nn
import torch.nn.functional as F
class SampleWeightedCrossEntropyLoss(nn.Module):
"""
定制版：支持样本级权重 (Sample-level weights) 的交叉熵损失函数。
非常适合用于带有“置信度(Confidence)”或“噪声标签(Noisy Labels)”的单细胞数据分类。
"""
def __init__(self, reduction='mean'):
"""
Args:
reduction (str): 'mean' (求加权平均), 'sum' (求加权和), 或 'none' (返回每个样本的 loss)
"""
super(SampleWeightedCrossEntropyLoss, self).__init__()
self.reduction = reduction
def forward(self, logits, targets, sample_weights):
"""
Args:
logits: 模型的预测输出，形状为 [Batch_Size, Num_Classes]
targets: 真实的类别索引，形状为 [Batch_Size]
sample_weights: 每个细胞的权重/置信度，形状为 [Batch_Size]
Returns:
loss: 计算后的标量或向量
"""
# 1. 计算基础的 Cross Entropy，强制设为 'none'，暴露出每个样本独立的 loss
# unweighted_loss 形状: [Batch_Size]
unweighted_loss = F.cross_entropy(logits, targets, reduction='none')
# 2. 将每个样本的 loss 与其对应的置信度系数相乘
# 注意：这里要求 sample_weights 也是 [Batch_Size] 的 1D Tensor
weighted_loss = unweighted_loss * sample_weights
# 3. 按照 reduction 策略返回
if self.reduction == 'mean':
# 也可以选择更严格的加权平均： weighted_loss.sum() / sample_weights.sum()
# 但在流形学习中，直接 .mean() 通常表现更稳定，相当于把权重看作 learning rate 的标量
return weighted_loss.mean()
elif self.reduction == 'sum':
return weighted_loss.sum()
else:
return weighted_loss |