Tamed Subgradient ULA:驯化次梯度处理非凸非光滑采样问题

📅 2026/8/28 1:57:36
Tamed Subgradient ULA:驯化次梯度处理非凸非光滑采样问题
做贝叶斯推断和机器学习采样的读者对 Langevin 类采样算法应该不陌生。它的核心吸引力在于只要知道目标分布的对数密度梯度就能构造一条马尔可夫链渐近地逼近目标分布。但实际项目里的目标分布往往没有这么“乖”——带 L1 惩罚项的稀疏贝叶斯模型势函数在零点是不可导的双阱势或神经网络权重的后验分布整体是非凸的。两个性质凑到一起经典 ULA 的理论和实现都会出现裂缝。这篇文章要解读的是近两年采样理论里一个值得关注的组合Tamed Subgradient ULA驯化次梯度非调整 Langevin 算法以及它如何把 ULA 的分析从凸情形推进到非凸情形。我的判断是它没有发明全新的采样范式而是把次梯度方法、Tamed 漂移修正、基于耗散条件的非凸分析这三条成熟技术拧成了一股绳让“非光滑 非凸 大噪声”这一类此前不好下手的采样任务有了可分析的算法载体。读完这篇文章你会弄清三件事第一ULA 在