De-Anchor 注意力极化

定义

终身序列的目标注意力可能过度集中在少数行为，压缩了其他兴趣的贡献。

核心判断

终身序列的目标注意力可能过度集中在少数行为，压缩了其他兴趣的贡献；注意力稀疏也可能是有效选择，需诊断而非一律平滑。

工程检查

跟踪注意力熵、头间差异、长尾行为梯度和目标分群效果；比较去锚处理与原模型。

本书依据

《第二十章-用户兴趣与序列建模.pdf》，PDF 第 23–24 页（20.2.6 节）。

扩展说明

注意力稀疏也可能是有效选择，需诊断而非一律平滑。