入参之间会影响embedding的结果吗
#22
by biaodiluer - opened
这是两个入参的结果
当我把“hi jack去掉后”，结果却变了
不管后面跟了什么字符串，"hello word, bob"的embedding结果不应该是固定的吗（我试了openai是固定的） -。-
推理多个文本时，由于padding，fp16等因素，结果可能与单个推理存在差异。从图中的结果来看，属于正常范围，这个差异很小，对排序结果没有影响。
这是两个入参的结果
当我把“hi jack去掉后”，结果却变了
不管后面跟了什么字符串，"hello word, bob"的embedding结果不应该是固定的吗（我试了openai是固定的） -。-
推理多个文本时，由于padding，fp16等因素，结果可能与单个推理存在差异。从图中的结果来看，属于正常范围，这个差异很小，对排序结果没有影响。