技术文章与学习笔记：开发实践和经验分享 | 素心

当前正在查看筛选结果

#Attention

共 2 篇匹配内容。

分类

标签

标签：Attention

6. 手算一遍注意力

6. 手算一遍注意力

用 3 个字、2 维的小例子，把四步注意力从头到尾算了一遍。

5. 注意力机制：让字看懂上下文

5. 注意力机制：让字看懂上下文

Q/K/V、打分、掩码、softmax、融合。整个 Transformer 的灵魂所在。