II
VOLUME II

神经网络

从单个加权开关,到会自己学习的人工大脑

一个神经元其实就是一个极度朴素的“加权投票器”——但当成千上万个神经元连接成一张巨网,奇迹就发生了:它学会了认猫狗、听声音、写文章。本卷带你揭开“机器自学”的全部奥秘:从一次次犯错被抓包,到顺着梯度的指引自动纠错,见证一台通用智能机器是如何诞生的。

开始第一课 →
整套课程 · 五部分,一条路
卷一基础数学把万物化为数字
卷二 · 你在这里神经网络让机器学会思考
卷三自然语言处理让机器听懂人话
卷四大语言模型蜕变成超级智能
卷五附录3D全景与原典
这一卷的故事

卷一的四个数学工具准备好了,现在我们问:能不能用它们搭出一台「会学习」的机器?答案是神经网络——一个极其简单的单元(神经元)大量重复、层层叠加的结果。

单个神经元做的事很简单:把输入加权求和,再过一个非线性函数。关键在于激活函数的非线性——如果没有它,一百层直线叠在一起还是直线,和一层没有任何区别。非线性打破了这个「坍塌」,给深层网络真正的表达力。

但知道网络「能表达什么」还不够,还需要知道它「错了多少」(损失函数)和「如何纠正」。Softmax 把分类分数变成概率,梯度下降指向下坡方向,反向传播则高效地把这个信号分配给每一个参数——哪怕参数有 1750 亿个。

到这一卷结束,你拥有了训练任何神经网络所需的完整工具箱。下一卷用这套工具去处理语言这个特殊对象。

承上启下
← 你带着什么走进这一卷

卷一给了你向量、矩阵、梯度、概率四件工具。单独看它们只是数学;这一卷把它们拼起来,第一次组成一个能自己变好的系统。

这一卷又交给后面什么 →

你现在手握一台能拟合任何函数的通用机器。卷三把它对准一个最棘手的对象——人类语言:它是序列、有上下文、词与词之间暗藏牵连。

课程路径 · 7 课
07
神经元结构一个只会「加权投票」的小开关,凭什么能成为整个人工智能大脑的思考起点?
读 →
08
激活函数为什么一百层平平无奇的直线叠起来还是直线?——激活函数如何给呆板的机器注入「会拐弯」的灵魂
读 →
09
神经网络与训练把无数个微小开关织成一张巨网,再让它自己摸索规律——「机器学习」究竟在学什么?
读 →
10
损失函数机器猜错了不要紧,关键是「错得有多离谱」?——损失函数如何给每一次失误打出精确的分数
读 →
11
Softmax考试打分有高有低,怎么把任意一串杂乱无章的得分,优雅地变成加起来正好 100% 的胜算概率?
读 →
12
梯度下降与优化器既然知道了下山的方向,每一步究竟该迈多大?步子太小走不到天黑,步子太大容易摔进山谷
读 →
13
反向传播考试答砸了,网络里成千上万个微小零件该各自承担多少责任?——高效算账追责的链式法则
读 →