缩放点积注意力为什么要用键维度的平方根除以查询与键的得分？

来自 AI 与大模型工程

进阶 1分钟

缩放点积注意力为什么要用键维度的平方根除以查询与键的得分？