本文是视频《Transformer为什么统治了AI？看懂神经网络的进化：MLP-CNN-RNN-Transformer-Mamba》（作者：修饼xiubing）的精读笔记，配套原视频观看效果更佳。

Transformer为什么统治了AI？看懂神经网络的进化：MLP-CNN-RNN-Transformer-Mamba

为什么今天的大模型几乎都建立在 Transformer 上？这条 11 分钟的视频从神经网络最原始的形态讲起，把 MLP、CNN、RNN、Transformer、Mamba 五套架构串成一条“问题倒逼创新”的因果链。不需要数学基础，看完你就能说清：每种架构解决了什么、又留下了什么新麻烦，以及 Transformer 为什么至今没有被真正取代。

图：五大神经网络架构进化路线：MLP→CNN→RNN→Transformer→Mamba

全景：一条主线看懂

全片只有一条逻辑线：每种新架构都是为了解决上一种架构的瓶颈而生——MLP 通用但浪费，CNN 顺着图片的空间结构省算力，RNN 抓住了语言的顺序却“记性漏水”，Transformer 用直连和并行登上王座，Mamba 又试图用“压缩记忆”省下长文本的天价账单。作者最后点破：架构变来变去，解决的都是同一组问题——信息怎么连接、怎么传递、怎么保存、怎么调用。先看一张表，五套架构的来龙去脉一目了然：

图：全片逻辑主线：每个新架构都是对前代瓶颈的回答

架构	要解决的问题	核心机制	代价 / 瓶颈
MLP	一切计算的通用起点	全连接：下层每个节点读取上层全部输出	1000×1000 两层就是 100 万个连接，冗余计算多
CNN	图片自带空间结构	局部连接（每次只看 3×3 像素）＋权重共享（卷积核）	擅长空间，吃不下“顺序”
RNN	语言讲究先后顺序	逐词处理，历史记录像传纸条向后传	长程依赖丢失；只能串行排队
Transformer	远距离信息如何直接调用	自注意力：任意位置直连＋全员并行	长文本时每个字都要算注意力，算力内存双暴涨
Mamba	上下文越长越烧钱的算力	状态空间＋选择性压缩历史	压缩有损，难以精准回访某条旧信息

一、底座：节点、权重与全连接的代价

先立论点：神经网络是一套处理数字的数学系统。它受人脑神经元连接方式的启发，但并不是人脑的复制；之所以围绕数字展开，是因为计算机看不懂文字、图片和视频，只能计算数字，所以任何信息进模型前都得先变成数字（具体怎么变，作者提示在往期关于词嵌入、张量计算的节目中讲过，本片不展开）。

图：神经网络的基本计算单元——节点

论据是节点的计算方式：网络里的大量节点可以想象成一台台小计算器——读入一组数字，分别乘上各自的权重，加总，再经过非线性处理，输出一个新的数字。片中用老师算总成绩打比方：平时成绩占 30%、期末占 70%，各乘权重再加总就是总成绩。关键区别在权重的来源——考试的权重是老师规定的，神经网络里的权重却是模型在训练中自己学出来的，这一步“学出来”正是 AI 的核心。

结构上，大量节点组成一层，很多层再连起来：上一层的输出作为下一层的输入，一层层传递直到输出结果。于是问题来了——上一层那么多输出，该交给下一层的哪些节点？最简单粗暴的答案是全连接：下层每个节点读上层所有节点。代价立刻显现：上层 1000 个节点、下层 1000 个节点，两层之间就可能有 100 万个连接，每个连接各带权重。采用全连接的最经典架构叫 MLP（多层感知机），简单、通用——但处理图片时露了怯：图片不是杂乱数据，有明显的空间结构，判断图里有没有杯子只需要找到边缘轮廓，左上角、右下角是什么根本不影响判断；让每个节点重复读每个像素，就产生了大量没必要的计算。

本节要点：节点＝乘权重＋求和＋非线性；权重由训练学出来；MLP 靠全连接做到简单通用，但对有结构的数据极其浪费——浪费在哪，下一代架构的改进就从哪开始。

二、CNN：顺着图片的结构省算力

论点很自然：既然图片有空间结构，为什么不直接利用这个结构？CNN（卷积神经网络）由此诞生，关键改动有两条——局部连接与权重共享。

局部连接：MLP 里下层一个节点读上层全部信息，CNN 则让一个节点只读附近一小块，比如 3×3 共 9 个像素，只判断这块区域里有没有某种边缘或颜色变化；旁边节点读相邻的 3×3。单个节点只看局部，但整层节点合起来足以覆盖整张图。

层级加工的例证尤其漂亮：第一层算完，原始像素被转化为一组与轮廓、颜色相关的新特征；第一层若在相邻位置分别找到竖向边缘和横向边缘，第二层就能把它们组合成转角；更后面的层继续加工，局部形状逐级拼成更大的轮廓，最终认出杯子。

图：CNN 的局部连接与逐层特征组合

权重共享则是省钱的关键：同一层不同位置读的是图片的不同区域，却可以重复使用同一组权重——一组权重经训练后对某种数值的边缘特别敏感，那无论这种边缘出现在左上角、中间还是右下角，都用它去检测。这种可跨位置复用的权重有个专门的名字：卷积核。

本节要点：CNN 做了两件大事——局部连接砍掉不必要的计算，权重共享砍掉参数数量，合起来大幅节省计算资源；它教给 AI 的思路是“利用数据自身的结构”。

三、RNN：抓住顺序，却“记性漏水”

输入从图片换成文本，问题又变了——语言最重要的不是二维空间，而是顺序。作者举的例句是：“小明把杯子放在桌上，过了一会又把它拿走了。”模型读到“它”时要知道指代什么，就必须保留前面出现过的“杯子”。

早期非常重要的方案是 RNN（循环神经网络）：按顺序、一个词一个词地处理。机制是读完“小明”后不把结果扔掉，而是留一份数字记录；处理下一个词时，手里有当前词的信息加上前面留下的记录，打包计算、生成更新后的记录交给下一个位置。新词不断放入，旧信息不断被重新整理，压缩成一份“前面讲了什么”的历史记录，像传纸条一样向后传递。这让 RNN 同时拿下两件事：语言的顺序，和处理上下文的能力。

图：RNN 的历史记录像传纸条一样向后传递

但问题恰恰戳在这份记录上。一句话十几个词还好，一篇几千词的文章里，第 3000 个词突然需要参考第 10 个词怎么办？就像有些小说的结尾会牵扯开头埋的伏笔——第 10 个词的信息是被塞进第 11、12、13 步一路更新到第 3000 步的，第 3000 个词不能回头直接读它，只能看它经过 2990 步加工后还残存多少。结论是 RNN 的两大缺陷：其一，长程依赖——上下文距离越长，前面的信息越难保存；其二，串行低效——后一步的计算依赖前一步的记录，只能排队等前面的先算完。于是那个关键设问出现：需要调用第 10 个词的信息时，能不能跳过中间传递、直接找到它？

本节要点：RNN 用“传纸条”式的历史记录同时解决了顺序与上下文，但记录会被一路稀释（长程依赖）、计算还得排队（串行）——“能不能直连”这个问题，引出了改变整个 AI 行业的架构。

四、Transformer：全员直连，赢在并行，贵也在并行

Transformer 改变的是信息的连接方式：任何一个位置的信息不用一步一步传递，可以直接读取任何其他位置的信息。

例证就是自注意力（Self-Attention）——Transformer 最重要的技术特征。看“它”这个字根本不知道指什么，含义必须依赖上下文；于是模型计算“它”跟上下文各词的关联程度：假设杯子 0.7、小明 0.2、桌上 0.1，得分最高的杯子对“它”的含义影响最大。

图：自注意力：计算“它”与上下文各词的关联得分

两大好处撑起了它的统治力。一是信息不用一级级传，可与远距离信息直接连接；二是极易并行——训练时整段文字同时输入，不同位置的词同时计算自己该关注谁、关注多少，不用像 RNN 那样排队。而“长距离关系＋大规模并行”恰好是 GPU 芯片最擅长的，模型规模因此容易做大。更妙的是，这套方法不止吃文字，图片、声音、视频通吃——这些优势叠加，Transformer 成为当下最主流的模型框架。

图：自注意力的代价：每个字都要和所有字算一遍关联

“但它的优势其实也是代价——如果一段内容非常长，每一个字都要同时进行注意力计算，计算量会很大，还很占内存空间。”

——视频作者修饼在片中 08:09 的转折处，由 Transformer 的优势引出其账单时说

于是新的设问出现：上下文越来越长，真有必要做那么多注意力计算吗？能不能只保留真正重要的历史信息？这条新路线叫 SSM（状态空间模型），其中最有名的架构是 Mamba。

本节要点：自注意力让任意位置直连任意信息，配合并行计算正好喂饱 GPU，Transformer 由此统治 AI；但“每个字看所有字”在长文本下是笔天价账单——优势即代价。

五、Mamba：会“选择”的压缩式记忆

Mamba 和 Transformer 的核心分歧只有一个：过去的信息到底怎么保存和使用。Transformer 把各位置的信息都留在原地，需要时用注意力直接去找，非常灵活，但内容越长、要保存和处理的信息越多；Mamba 与 RNN 思路相似——不反复回头查历史，一边往前处理，一边更新一份关于过去的“数字记录”（状态）：每来一个新词，就把当前输入和历史记录打包计算，更新这份记录再继续往下走。好处直接：省掉大量注意力计算，省内存也省算力。

图：Mamba 的选择性机制：关键信息强化、无关信息弱化

它和 RNN 的区别在哪？Mamba 不是把 RNN 拿回来用，而是建立在现代数学——状态空间——的基础上，并增加了对历史信息的“选择”能力：新信息进入时，模型判断它的影响力有多大，关键信息就强化，不重要的就弱化；筛选标准不是人为预先定好的，而是模型在训练中自己学到的。小结这层差异：Mamba 让不同信息以不同方式影响历史，还能动态决定历史怎么更新，灵活性比 RNN 强得多。而且它虽然仍要从前往后顺序计算，却专门设计了一套数学算法获得并行能力，可以高效利用 GPU 训练。

本节要点：Mamba 用“状态＋选择”来压缩历史——重要的强化、无用的弱化，标准由训练学得；它省算力、能并行，是长上下文时代的强力挑战者。

六、为什么 Mamba 没有取代 Transformer？

更省算力不等于胜利，作者给了两层原因。

原理层面——

“天下没有免费的午餐。Mamba 虽然能够节省计算成本，但它毕竟是对历史信息的一种压缩，很难有 Attention 那样精准访问历史信息的能力。”

——视频作者修饼在 10:09 解释“为什么 Mamba 没有取代 Transformer”的第一条原因时说

生态层面则是非常现实的一道墙：Transformer 已经发展了很多年，从训练方法到硬件配套都很成熟，很难被轻易取代。

所以当下的演化方向不是二选一，而是叠加：需要灵活访问历史信息时用 Attention，需要处理长序列时用 SSM。片中的实证案例是英伟达自研模型 Nemotron H，采用的正是 Attention＋SSM 的混合架构。

图：混合架构：Attention 与 SSM 按需各司其职

收尾处，作者把五套架构的本质一次讲透：

“无论这些架构怎么变化，它们其实都是在解决同一组问题：这些信息之间该如何连接、信息该如何传递、又是如何被保存的、又该如何被调用。”

——视频作者修饼在片尾（约 10:51）总结 MLP→RNN→Transformer→Mamba 经典演化路线时说

至于未来：如果出现新的大模型，同样是在有限的计算资源以内，去寻找那个更精准、更高效的信息处理方式。

本节要点：Mamba 输给 Attention 的是精度（压缩必有损），输给 Transformer 的还有生态（训练方法＋硬件配套）；架构之争正从“谁取代谁”走向“哪里用谁”的混搭时代。

总结要点

1. 架构是 AI 的骨骼，决定信息进入大模型后如何被处理；从 MLP 到 Mamba，所有架构都在回答同一组问题：信息如何连接、传递、保存、调用。
2. 演化被问题倒逼：MLP 全连接简单通用但浪费 → CNN 靠局部连接＋权重共享吃透图片 → RNN 抓住顺序却记不长、跑不快 → Transformer 用自注意力直连＋并行登上王座 → Mamba 用选择性压缩向长上下文要算力。
3. Transformer 统治 AI 靠两件事：任意位置直连（自注意力）与大规模并行（GPU 的强项）；代价是长文本下算力与内存的暴涨。
4. Mamba 没能取而代之：压缩历史天然损失精度，且 Transformer 的训练方法与硬件生态太成熟；现实趋势是混合架构，如英伟达 Nemotron H 的 Attention＋SSM。
5. 以后看懂任何新架构，就问四个问题：它让信息怎么连接、怎么传递、怎么保存、怎么调用——以及为此牺牲了什么。

迁移与启发

1. 职场上评估任何新工具、新流程，用视频里的两问清单：它解决了旧方案的什么瓶颈？代价是什么？ 比如 AI 办公工具省时间但可能牺牲准确性——关键产出要像 Attention 一样可回溯、留底可查，日常琐碎可以像 Mamba 一样只留摘要；判断“要不要换”时再加一条生态检查：老方案的配套流程、协作习惯、迁移成本都在为它护航，单点性能领先≠能落地。
2. 投资理财中听到“颠覆叙事”，先看生态位、再看参数表。 Mamba 更省算力却动不了 Transformer，因为训练方法、硬件配套整个生态都站在旧架构一边。下次看到“某新技术将颠覆某行业”的热点，先问三件事：新方案牺牲了什么关键能力、旧体系的配套有多深、主流玩家是不是已在走“混合”而非“替换”——这三问能帮你过滤掉大部分概念炒作。
3. 给大脑装一套“选择性记忆”，同时给重要沟通留原始记录。 日常信息主动分级：重要的立刻强化——写下来、复述一遍、定期回看；不重要的果断清空，别让大脑像 RNN 传纸条一样被层层稀释。反过来，跨部门、长链条的重要沟通务必书面留痕：口头信息每传一手衰减一层，等到“第 3000 手”再想核对“第 10 手”的原话，多半已经走样。

一句话升华

技术的进化从来不是推倒重来，而是在有限的资源里，把同一个问题回答得一次比一次聪明——看清每个“新架构”解决的是什么旧瓶颈，你就看清了这个时代。