vram-downscale

在整卡上运行 GPU 训练，并在显存溢出时 loudly 报错（而不是静默分页），然后下调一个内存参数并从上一个检查点恢复。适用于在任何固定 VRAM 显卡上启动训练、微调或批量推理任务时，尤其是在 Windows/WDDM 环境下（驱动会进行分页而非抛出 OOM 错误）。涵盖分配器强制限制、基于可用显存的尺寸设定、batch_size=1 的反模式、根据实测 token 长度推导 max_length，以及“尝试/下调/恢复”阶梯策略。当出现“out of memory”、“OOM”、“batch size”、“max_length”、“sequence length”、“gradient checkpointing”、“fits in 16GB”、运行变慢而非失败，或 GPU 工作期间系统内存膨胀等情况时触发。

模型生成摘要（rules/v1 · 2026-11-13 22:08）：在整卡上运行 GPU 训练，并在显存溢出时 loudly 报错（而不是静默分页），然后下调一个内存参数并从上一个检查点恢复
这是模型对公开材料的总结，不是官方声明，请以原链内容为准。

存档时间线

版本	存档时间	内容哈希	内容
v1	2026-11-13 22:06	b04bbae7	可取

版本索引永久保留；内容副本只保留最新 1 份，更早版本仅留索引与哈希（存档时间线的证据链不会因此断裂）。

下载存档内容副本

纠错与举报（发现条目失效、署名有误或涉及侵权？）

提交举报 / 纠错

侵权举报经核验成立后，我们会即时下线该条目并删除已存的内容副本。