回顾:从统计物理到采样瓶颈#
第一部分 建立的预备知识构成了理解玻尔兹曼机的概念骨架:
统计物理 提供了玻尔兹曼分布,把低能量与高概率联系起来,并引入能量景观隐喻。
神经网络基础 提供了架构构件(单元、偏置、权重)以及生物学启发(Hebbian 学习)。
基于能量的模型 形式化了学习目标:塑造能量函数,使真实数据占据深谷。梯度包含模型分布下的期望,而由于配分函数需要对指数数量构型求和,该期望无法精确计算。
玻尔兹曼机架构 从计算代价过高的全连接玻尔兹曼机,演化到受限玻尔兹曼机(RBM);RBM 成为堆叠深度生成架构的关键构件。
核心张力:表达能力与采样可处理性#
尽管有架构简化,所有玻尔兹曼机仍共享一个根本瓶颈:从高维玻尔兹曼分布中采样很难。经典 Markov Chain Monte Carlo(MCMC)方法,例如 Gibbs 采样,会遇到:
低温下混合缓慢,能垒会把链困在孤立模态中。
短链近似中的模态塌缩,例如对比散度(CD)。
偏差,当持久链无法完全达到平衡时会不断累积。
这些采样限制约束了基于能量模型的实际表达能力。
这不仅是软件优化问题;它是深植于统计力学的 物理现象。在临界点附近,关联长度发散,导致 Markov 链混合极其缓慢(临界慢化)。同样的物理机制既让临界 Ising 模型难以模拟,也让已经学习到丰富多模态数据分布的玻尔兹曼机难以采样。
原则化的经典替代方案:模拟退火#
模拟退火(SA) 是一种可用于从 Ising 哈密顿量中采样的经典元启发式方法。它不依赖单条固定温度的 Markov 链,而是模拟物理退火过程:
从高温开始,使系统能够自由探索能量景观。
按照冷却调度逐步降低温度。
在每个温度下执行 Metropolis 更新,使系统向低能构型移动。
如果系统冷却得足够缓慢,最终状态分布会近似有效温度下的玻尔兹曼分布。SA 是玻尔兹曼机采样的强大基线,并在 Kaiwu-PyTorch-Plugin 中以 SimulatedAnnealingOptimizer 实现。它不需要专用硬件,可以完全在 CPU 上运行。
不过,SA 仍依赖 热激活 逃离局部极小值;当能垒很高时,这一过程会指数级变慢,也就是临界慢化。因此,更高级的方法,包括量子采样,就有了用武之地。
原则化替代方案:物理量子退火#
量子采样 提供了一种有物理基础的替代方案。通过把能量函数编码为 Ising 哈密顿量,并使量子系统(例如 相干伊辛机(CIM))向其基态演化,我们可以直接获得低能构型。不同于模拟 MCMC,量子退火通过自然物理弛豫探索能量景观,常常能用更少有效步骤找到更深极小值。
量子采样的完整细节,包括物理实现、与 PyTorch 的集成以及实际性能收益,将在 第二部分的实操教程 中展开。你将学习如何用量子采样器(例如 CIMOptimizer)替换经典 SimulatedAnnealingOptimizer,并观察潜在加速和样本质量提升。
第二部分预览:量子增强实操教程#
第二部分 KPP 实操教程 将从理论转向实践。你将使用 Kaiwu-PyTorch-Plugin,以通过相干伊辛机(CIM)实现的量子增强采样替代经典采样。CIM 是一种能够自然寻找低能自旋构型的光参量振荡器系统。教程会把它应用到若干更复杂任务:
EBM 的量子采样: 理解 CIM 原理,并把量子采样器集成到 PyTorch 中。
全玻尔兹曼机: 建模二维混合分布,并观察量子加速。
RBM 与 DBN: 从 MNIST 数字中学习层级特征;比较量子加速训练与经典 CD。
量子变分自编码器(Q-VAE): 用离散量子 RBM 替代 VAE 的 Gaussian 先验,并应用于图像生成和单细胞转录组学。
每个教程都包含在可独立运行、修改和扩展的 Jupyter Notebook 中。完成第二部分后,你将亲身体验量子采样如何缓解经典混合瓶颈,并支持更具表达能力的生成模型。
每个教程都包含在可独立运行、修改和扩展的 Jupyter Notebook 中。完成第二部分后,你将亲身体验量子采样如何缓解经典混合瓶颈,并支持更具表达能力的生成模型。