目录 / local-llm-efficiency
SKILL
未评级
已上架
local-llm-efficiency
通过量化技术（GGUF/GPTQ/AWQ）在本地运行大型模型。适用于以下场景：740B 参数模型仅需 25GB 内存（Colibri），或需要使用 llama.cpp/Ollama 实现成本降低 1000 倍的本地推理。触发关键词包括：“Colibri”、“quantizacao”（葡萄牙语“量化”）、“GGUF”、“local llm”、“ollama”、“vLLM local”。
模型生成摘要（rules/v1 · 2026-11-13 00:47）：通过量化技术（GGUF/GPTQ/AWQ）在本地运行大型模型
这是模型对公开材料的总结，不是官方声明，请以原链内容为准。
这是模型对公开材料的总结，不是官方声明，请以原链内容为准。
存档时间线
| 版本 | 存档时间 | 内容哈希 | 内容 |
|---|---|---|---|
| v1 | 2026-11-13 00:47 | ea619712 | 可取 |
版本索引永久保留；内容副本只保留最新 1 份，更早版本仅留索引与哈希（存档时间线的证据链不会因此断裂）。
纠错与举报（发现条目失效、署名有误或涉及侵权？）
提交举报 / 纠错
侵权举报经核验成立后，我们会即时下线该条目并删除已存的内容副本。