课后思考 #5 - 注意力机制的直观理解

题目

请结合 Transformer 相关内容展开思考，正文不少于100字。

Transformer 彻底改变了自然语言处理的格局。请用你在日常生活中“阅读一篇长文”或“在嘈杂环境中听朋友说话”的场景，类比解释什么是“注意力机制”，以及它比传统的从头读到尾（RNN）好在哪里？

提交要求

请同学们按照以下三个步骤完成作业：

1. 闭卷阶段：在不借助任何工具书和大模型的情况下，写出自己对题目的理解。
2. 开卷阶段：在可以查看 PPT 的情况下，再次写出自己的理解。
3. 参考模型：将任务输给大模型，获得大模型视角下的理解。

将以上三部分内容整理到一个文档中，加上比较和分析，最终在 Canvas 平台提交一份 Word 文档。可接受后缀名：.doc、.docx。