1.4 重整化群:从微观自旋到宏观特征#

到目前为止,我们已经看到 Ising 模型如何描述相互作用的自旋系统,以及玻尔兹曼分布如何支配其平衡行为。但当我们 放大观察尺度,也就是不再关注每一个单独自旋,而是关注更大的粗粒化块时,会发生什么?这个问题由 重整化群(Renormalization Group, RG) 回答。重整化群是统计物理中的强大框架,它解释了为什么自然规律在不同尺度上看起来很简单,以及为什么表面上不同的系统在临界点附近会表现出相同的行为。值得注意的是,重整化群也为深度神经网络中的层级特征学习提供了深刻的物理类比。

核心思想:粗粒化#

设想一个定义在二维方格上的 Ising 模型。我们不再观察每个自旋,而是把晶格划分为大小为 2×22 \times 2 的块,并用一个有效自旋替代每个块。这称为 粗粒化。新的有效自旋之间按照新的、经过重整化的耦合 JJ' 和场 hh' 相互作用。核心观点:宇宙的运行规则(由哈密顿量描述)并非绝对不变,而是依赖于我们观察的尺度。

粗粒化过程可以迭代重复:

  • 从最细尺度上的自旋开始。

  • 应用粗粒化变换,例如块平均或多数规则。

  • 得到带有新参数的、更粗尺度的哈密顿量。

  • 重复上述过程。

这就在哈密顿量空间中定义了一条

不动点与普适性#

随着 RG 流不断迭代,参数 (J,h,)(J, h, \ldots) 会在参数空间中移动。系统最终可能到达一个 不动点,即进一步粗粒化后哈密顿量保持不变的点。不动点对应系统的 临界点,此时关联长度发散,系统呈现尺度不变性。

其深刻结果是 普适性:许多不同的微观系统,例如不同金属、不同液体,会流向同一个不动点。这解释了为什么我们不需要知道分子的每个细节,也能计算液体的性质。宏观尺度上的相关物理由不动点决定,而不是由微观细节决定。

重整化群与深度学习#

RG 为堆叠 RBM(深度信念网络,见 4.3 超越单层:面向深度学习的堆叠)所执行的 层级特征学习 提供了非常鲜明的物理类比。

重整化群

深度信念网络(堆叠 RBM)

对自旋块做粗粒化

池化 / 抽象特征

新的有效耦合

更高层的权重

不动点(尺度不变性)

顶层、最抽象的表示

普适性(许多微观状态流向同一不动点)

泛化:许多训练样本中涌现相同的高层特征

在 DBN 中,每个新的隐藏层都可以被看作对下层特征分布的一次 粗粒化操作。第一隐藏层捕捉局部边缘和角点;第二层把这些组合成中层形状;第三层形成高层对象表示。这个过程与 RG 流直接类比:数据分布中的“微观”细节被逐步简化为“宏观”的抽象表示。

正如 RG 揭示所有临界点都属于有限数量的普适类,深度学习也表明,训练良好的网络会自动发现数据中的普适结构,也就是能跨样本泛化的特征。

统计物理基础:广延量与强度量#

为了充分理解 RG 类比,需要区分热力学中的 广延量强度量

  • 广延量,例如体积 VV、能量 EE、熵 SS、粒子数 NN,随系统大小而缩放。

  • 强度量,例如温度 TT、压力 pp、化学势 μ\mu,与系统大小无关。

在 RG 流中,粗粒化操作减少了有效自由度数量,即“系统大小”减小。温度和压力等强度量在尺度变换下保持不变,而能量和熵等广延量会随有效自旋数量线性缩放。

这种区别也反映在深度学习中:高层表示是 强度式 的,它们捕捉数据的不变特征,例如“像猫的程度”,并且不依赖输入的空间分辨率或像素数量;低层特征则更 广延式,需要更多单元来表示细粒度细节。

与采样瓶颈的联系#

RG 也为后续章节引入的采样问题提供了物理视角。在临界点附近,关联长度发散,系统变得难以模拟,Markov 链混合极其缓慢,即出现临界慢化。这正是从接近“临界”状态的玻尔兹曼机中采样时遇到的困难:此时模型已经学习到丰富的多模态分布。理解这种慢化,是理解为什么需要量子采样等替代方法的关键。

小结#

  • 粗粒化 把一个尺度上的系统变换为更大尺度上的等价系统。

  • 重整化群 研究哈密顿量在粗粒化下如何变化,并由此产生 不动点普适性

  • RG 为深度神经网络中的 层级特征学习 提供了深刻的物理类比:每一层都会对下层特征进行粗粒化。

  • 物理系统中的临界慢化对应基于能量模型中的 采样瓶颈,从而推动我们寻找更高效的采样方法。