MLX 内存管理:Allocator 与 BufferCache 复用机制
MLX 内存管理:Allocator 与 BufferCache 复用机制 【免费下载链接】mlx MLX: An array framework for Apple silicon 项目地址: https://gitcode.com/GitHub_Trending/ml/mlx
batch 调到 48 时 OOM,往往不是模型权重太大,而是每个 step 反复分配释放的中间张量,让 GPU 侧…
2026/8/24 2:07:24