术语

损失函数

衡量模型输出与目标相差多少的函数;它的值叫损失。

别名 · 损失 · 误差

在第 1 讲里

训练就是朝损失减小的方向调参数。第 1 讲的例子:数据 (1,2)、(2,4)、(3,6),模型 y=w·x,损失函数取误差的平方和,是 14(w−2)²,在 w=2 处为 0。损失怎么定义、训练信号从哪来,决定了模型学到什么。

参考资料