课后思考 #6 - 规模定律与“涌现”现象

题目

请结合语言模型演进、规模定律与大模型能力变化的相关内容展开思考，正文不少于100字。

大语言模型的性能并不是随着参数规模与数据量的增加而线性提升，而是在到达某一规模后出现“顿悟”式的突破。请结合课堂上语言模型演进的过程，谈谈为什么会出现这种“涌现”现象。

提交要求

请同学们按照以下三个步骤完成作业：

1. 闭卷阶段：在不借助任何工具书和大模型的情况下，写出自己对题目的理解。
2. 开卷阶段：在可以查看 PPT 的情况下，再次写出自己的理解。
3. 参考模型：将任务输给大模型，获得大模型视角下的理解。

将以上三部分内容整理到一个文档中，加上比较和分析，最终在 Canvas 平台提交一份 Word 文档。可接受后缀名：.doc、.docx。