频率和存在惩罚
在 Completions API 中发现的频率和存在惩罚可用于降低对令牌的重复序列进行采样的可能性。 他们通过添加贡献直接修改 logits(非标准化对数概率)来工作。
py
mu[j] -> mu[j] - c[j] * alpha_frequency - float(c[j] > 0) * alpha_presence
Where:
mu[j]是第 j 个标记的对数c[j]是在当前位置之前对该令牌进行采样的频率float(c[j] > 0)如果c[j] > 0则为 1，否则为 0alpha_frequency是频率惩罚系数alpha_presence是存在惩罚系数
正如我们所见，存在惩罚是一种一次性的加性贡献，适用于所有至少被采样过一次的标记，而频率惩罚是与特定标记被采样的频率成正比的贡献。
如果目标只是稍微减少重复样本，则惩罚系数的合理值约为 0.1 到 1。 如果目标是强烈抑制重复，那么可以将系数增加到 2，但这会显着降低样本质量。 负值可用于增加重复的可能性。