注意力机制:让字看懂上下文 文章封面

5. 注意力机制:让字看懂上下文

Q/K/V、打分、掩码、softmax、融合。整个 Transformer 的灵魂所在。

素心
8
4 分钟
素心

素心

我来互联网是当皇帝的

这个人很懒

5. 注意力机制:让字看懂上下文

https://haiy.space/posts/attention-understands-context

作者

素心

发布于

2026/05/05

许可协议

CC BY-NC-SA 4.0

评论

欢迎留下想法,也可以直接回复某一条评论。

留下评论

评论提交后会先进入审核队列,通过后再显示在文章下方。

提交后会自动记录基础环境信息,用来帮助区分不同访客设备。