规划量化本地模型的内存时，哪种说法可靠？

规划量化本地模型的内存时，哪种说法可靠？

1. 量化后的裸权重大小只是下限；还要在目标上下文与并发下测量缓冲区和 KV 缓存。
2. 4 bit 模型的内存需求一定恰好是 16 bit 版本的四分之一。
3. 只要模型文件小于显存，所有受支持的上下文长度都能安全运行。