计算机与人工智能 · 时间帧

本文解读PagedWeight方法，动态量化MoE权重以平衡精度与内存，提升LLM服务效率。

约 4 分钟阅读阅读文章

深入解析贝叶斯优化的数学本质。从高斯过程的先验信念到采集函数的博弈策略，本文以第一性原理阐述如何在昂贵的黑盒函数中寻找全局最优解，并结合代码实现与跨学科应用分析。

约 8 分钟阅读阅读文章

本文从统计热力学的第一性原理出发，深入解析快速退火算法（FSA）的数学机制。通过对比柯西分布与高斯分布的几何特性，阐述为何FSA能将冷却进度从对数级提升至线性级，并提供详细的算法对比与实现分析。

约 11 分钟阅读阅读文章

本文从热力学第二定律和玻尔兹曼分布出发，推导模拟退火算法的数学本质。我们将深入剖析 Metropolis-Hastings 准则如何构建满足细致平衡条件的马尔可夫链，从而实现非凸优化问题的全局收敛。

约 7 分钟阅读阅读文章

本文是一篇万字级深度综述。从梯度的物理本质出发，系统性剖析 SGD、Momentum、AdamW 及 LION 等算法的演进逻辑；结合“平坦极小值”理论探讨泛化性差异，并提供大模型时代的生产级优化器代码实现。

约 10 分钟阅读阅读文章

牛顿法太慢，梯度下降太蠢。BFGS 算法作为拟牛顿法家族的皇冠，如何在不计算海森矩阵的情况下，利用梯度的历史信息构造出完美的曲率近似？本文将从割线方程推导核心公式，并提供完整的 Python 实现。

约 10 分钟阅读阅读文章

牛顿法太慢，梯度下降太蠢。BFGS 算法作为拟牛顿法家族的皇冠，如何在不计算海森矩阵的情况下，利用梯度的历史信息构造出完美的曲率近似？本文将从割线方程推导核心公式，并提供完整的 Python 实现。

约 6 分钟阅读阅读文章

本文不谈Adam或RMSprop，而是回归数学与物理的本源，深度剖析牛顿法、共轭梯度、模拟退火及拉格朗日对偶等经典优化算法。通过第一性原理，我们将看到这些算法背后蕴含的几何美感与自然法则。

约 7 分钟阅读阅读文章

继上一篇关于模拟退火物理原理的探讨后，本文将进入代码实战环节。我们将使用 Python 和 NumPy 从零构建一个高效的模拟退火求解器，解决经典的旅行商问题（TSP）。文章详细解析了邻域构造策略（2-opt）、温度控制代码实现以及如何利用 Matplotlib 可视化“从无序到有序”的熵减过程。

约 6 分钟阅读阅读文章

本文从第一性原理出发，深度剖析遗传算法（Genetic Algorithm）的数学本质与生物学启发。重点解释模式定理与积木块假设，探讨全局探索与局部开发的平衡艺术，并提供工业级MATLAB代码实现。

约 16 分钟阅读阅读文章

本文从热力学与统计物理的第一性原理出发，深度解析模拟退火算法（Simulated Annealing）的诞生背景、数学机制及其在非凸优化问题中的应用。我们将探讨Metropolis准则背后的玻尔兹曼分布，以及如何通过控制“温度”参数在全局探索与局部开发之间寻找完美的平衡。

约 8 分钟阅读阅读文章

阅读正文，了解原理、方法与适用条件。

约 6 分钟阅读阅读文章