2.3 将 Hebbian 学习理解为能量雕塑#

上一节把 Hopfield 网络介绍为一个动力系统，其状态演化以最小化能量函数为目标。网络权重决定了能量景观的形状：谷地在哪里、深度如何、谷壁有多陡。于是问题变成：应该如何设置这些权重，使能量景观编码有用记忆？ 答案来自加拿大心理学家 Donald Hebb 于 1949 年提出的一个极其简单且具有生物学合理性的原则。Hebbian 学习规则 常被概括为“一起激发的神经元连接在一起”，它提供了一种局部机制，使神经活动能够雕塑全局能量函数。本节探讨 Hebbian 突触修饰与能量景观塑造之间的数学联系，为玻尔兹曼机中的学习原则奠定基础。

Hebbian 假设#

Hebb 在其奠基性著作 The Organization of Behavior 中提出：

“当细胞 A 的轴突足够接近以激发细胞 B，并反复或持续参与激发它时，一个或两个细胞中会发生某种生长过程或代谢变化，使 A 作为激发 B 的细胞之一的效率提高。”

翻译成人工神经网络语言，这就是简单的权重更新规则：如果两个相连神经元同时活跃，它们之间的连接强度应增加；反之，如果它们的活动反相关，连接强度应减弱。

对于取值于 {−1,+1}\{-1, +1\} 的二值神经元，由单个模式 ξ\boldsymbol{\xi} 引起的权重 wijw_{ij} 变化与二者活动乘积成正比：

Δwij∝ξiξj\Delta w_{ij} \propto \xi_i \xi_j

对于取值于 {0,1}\{0, 1\} 的神经元，常见变体只在两个神经元都活跃时调整权重：

Δwij∝xixj\Delta w_{ij} \propto x_i x_j

两种表述的核心原则相同：共同激活会增强连接。

存储多个模式：外积规则#

要存储一组 PP 个模式 {ξ1,ξ2,…,ξP}\{\boldsymbol{\xi}^1, \boldsymbol{\xi}^2, \ldots, \boldsymbol{\xi}^P\}，Hebbian 方案就是把每个模式的外积相加：

wij=1N∑μ=1Pξiμξjμw_{ij} = \frac{1}{N} \sum_{\mu=1}^P \xi_i^\mu \xi_j^\mu

因子 1/N1/N（有时也用 1/P1/P）是归一化常数，用于防止随着模式增加权重无限增长。权重矩阵可以紧凑写为：

W=1N∑μ=1Pξμ(ξμ)⊤−PNI\mathbf{W} = \frac{1}{N} \sum_{\mu=1}^P \boldsymbol{\xi}^\mu (\boldsymbol{\xi}^\mu)^\top - \frac{P}{N} \mathbf{I}

其中减去单位矩阵是为了强制满足 wii=0w_{ii} = 0（无自连接）。

该学习规则完全是 局部 的：更新 wijw_{ij} 只需要神经元 ii 和 jj 的活动。不需要全局误差信号，不需要反向传播梯度，也不需要显式知道能量函数。尽管如此，这条局部规则会对全局能量景观产生深远影响。

Hebbian学习：构建能量盆地#

考虑带 Hebbian 权重的 Hopfield 网络能量函数。将外积权重公式代入能量定义，可得：

E(x)=−12∑i≠jwijxixj−∑ibixi=−12N∑μ=1P∑i≠jξiμξjμxixj−∑ibixi\begin{aligned}E(\mathbf{x}) &= -\frac{1}{2} \sum_{i \neq j} w_{ij} x_i x_j - \sum_i b_i x_i \\&= -\frac{1}{2N} \sum_{\mu=1}^P \sum_{i \neq j} \xi_i^\mu \xi_j^\mu x_i x_j - \sum_i b_i x_i\end{aligned}

对于恰好等于某个存储模式的状态 x\mathbf{x}，例如 ξν\boldsymbol{\xi}^\nu，双重求和会大幅简化。假设模式随机且不相关，主导贡献来自 μ=ν\mu = \nu 项：

∑i≠jξiνξjνξiνξjν=∑i≠j(ξiν)2(ξjν)2=N(N−1)≈N2\sum_{i \neq j} \xi_i^\nu \xi_j^\nu \xi_i^\nu \xi_j^\nu = \sum_{i \neq j} (\xi_i^\nu)^2 (\xi_j^\nu)^2 = N(N-1) \approx N^2

因此，存储模式的能量近似为：

E(ξν)≈−12N⋅N2=−N2E(\boldsymbol{\xi}^\nu) \approx -\frac{1}{2N} \cdot N^2 = -\frac{N}{2}

这是一个 深能量极小值。相比之下，与任何存储模式都不相关的随机状态，其能量接近零，因为交叉项会相互抵消。

因此，Hebbian 规则完成了以下几何变换：

  • 在存储模式所在位置，将 吸引盆地 雕刻进能量景观。

  • 每个盆地的 深度 与神经元数量 NN 成正比。

  • 盆地之间的 墙壁 由其他模式引起的串扰项塑造。

在这个精确意义上，Hebbian 学习塑造了能量景观。每个记忆都会贡献一个以该模式向量为中心的二次凹陷。所有记忆的集体作用是这些凹陷的叠加，最终形成崎岖景观，其局部极小值理想情况下对应存储记忆。

从能量角度看权重变化#

我们也可以考察单个权重更新如何改变能量景观。假设把 wijw_{ij} 增加一个小量 Δw\Delta w。任意状态 x\mathbf{x} 的能量变化为：

∂f∂wij=⟨xixj⟩data−⟨xixj⟩model\frac{\partial f}{\partial w_{ij}} = \langle x_i x_j \rangle_{\text{data}} - \langle x_i x_j \rangle_{\text{model}}

如果 xix_i 和 xjx_j 同号，能量会降低 Δw\Delta w；如果它们 异号，能量会升高 Δw\Delta w。

如 3.3 对比散度 所推导，玻尔兹曼机的随机梯度更新可以写为：

Δwij=η(Xi(ω)Xj(ω)−Eθ[XiXj])\Delta w_{ij} = \eta \left( X_i(\omega) X_j(\omega) - \mathbb{E}_\theta [X_i X_j] \right)

Hebbian 规则以局部、增量方式实现了这一点。每当呈现一个模式时，共同活跃神经元之间的权重就会增强，从而逐渐降低该模式相对于其他构型的能量。

Hebbian 学习的局限#

纯 Hebbian 学习虽然优雅且具有生物学动机，但用于 Hopfield 网络时存在显著缺点：

  1. 伪极小值：存储模式之间的串扰会产生非预期的能量极小值，例如混合状态和随机谷地，并困住动力学。

  2. 存储容量：可可靠存储的模式数量只随 NN 线性增长，比例常数约为 0.14。超过该容量后，网络会相变为自旋玻璃状态，无法检索模式。

  3. 灾难性遗忘：存储新模式会修改所有权重，并可能破坏先前存储的记忆。它没有保护旧记忆的机制。

  4. 无法消除伪状态：一旦伪极小值产生，纯 Hebbian 学习没有办法将其去除；它只会添加盆地，而不会填平盆地。

从 Hebbian 存储到概率学习#

玻尔兹曼机继承了 Hopfield 网络的基于能量架构，以及“学习等于修改能量景观”的思想。但它把简单 Hebbian 存储方案替换为 原则化的概率学习算法。

在玻尔兹曼机中，目标不只是把一组模式存为吸引子，而是让网络的平衡分布匹配观测数据分布。实现这一点的学习规则是 Hebb 原则的推广：

Δwij∝⟨xixj⟩data−⟨xixj⟩model\Delta w_{ij} \propto \langle x_i x_j \rangle_{\text{data}} - \langle x_i x_j \rangle_{\text{model}}

这有时称为 对比 Hebbian 规则 或 delta 规则。第一项 ⟨xixj⟩data\langle x_i x_j \rangle_{\text{data}} 是可见单元被固定到数据样本时，单元 ii 与 jj 的平均相关性。该项是 Hebbian 的：它增强在数据中共同活跃的单元之间的连接。

第二项 ⟨xixj⟩model \langle x_i x_j \rangle_{\text{model}} 是网络从自身平衡分布自由运行时的平均相关性。该项是 反 Hebbian 的：它削弱模型自身“幻想”中伪共同活跃的连接。

这两个相关性的差驱动权重更新。如果数据中的相关性强于模型当前分布，权重增加（降低该共同激活模式的能量）；如果模型高估了相关性，权重降低（提高该模式的能量）。

这种对比更新会动态雕塑能量景观，使其匹配数据分布。它保留了更新的局部 Hebbian 特征，即只需要相连神经元的活动，同时提供了原则化方法来避免纯 Hebbian 存储的陷阱。

能量雕塑：统一隐喻#

雕塑能量景观 这一隐喻，为理解 Hopfield 网络和玻尔兹曼机提供了强大的统一框架：

  • 权重作为雕刻工具：每个权重 wijw_{ij} 像一把刻刀，可以在 xi=xjx_i = x_j 的对角方向上雕出谷地（若 wij>0w_{ij} > 0），或抬高山脊（若 wij<0w_{ij} < 0）。

  • Hebbian 学习作为加法过程：每个存储模式为景观添加一个新凹陷，创造新的吸引盆地。

  • 玻尔兹曼学习作为校正过程：通过比较数据相关性与模型相关性，学习算法不仅在数据所在区域添加盆地，也会 填平模型凭空创造的伪盆地。

这一以能量为中心的视角将在教程后续反复出现。受限玻尔兹曼机（RBM）、深度置信网络，乃至现代基于能量的模型，都共享这一 基本观点：学习就是塑造一个能量函数，使期望构型具有低能量，而不期望构型具有高能量。

小结#

  • Hebbian 学习 是一条局部且具有生物学合理性的规则：一起激发的神经元连接在一起。

  • 对二值模式，Hebbian 权重更新为 Δwij∝xixj \Delta w_{ij} \propto x_i x_j。

  • 存储多个模式对应于求和它们的外积，从而得到反映成对相关性的权重矩阵。

  • Hebbian 学习通过在存储模式位置创建吸引盆地来雕塑能量景观。

  • 单个权重增加 Δwij>0\Delta w_{ij} > 0 会降低 xix_i 与 xjx_j 一致状态的能量，并提高不一致状态的能量。

  • 纯 Hebbian 学习存在 伪极小值、容量有限 和 灾难性遗忘 等问题。

  • 玻尔兹曼机学习规则 通过从数据相关性中减去模型相关性来推广 Hebb 原则，提供了一种原则化方式，使能量景观匹配概率分布。

  • 能量雕塑 隐喻统一了 Hopfield 网络和玻尔兹曼机的学习原则，并延伸到现代深度生成模型。

On this page