Tag
共 1 篇 · 标记为「数学」
Transformer 替换掉 RNN 后,模型失去了天然的位置感知能力。本文从数学直觉出发,详解正弦/余弦位置编码的原理,并用 TypeScript 实现可视化工具。