在人工智能领域，模型参数的增多往往意味着性能的提升，但随着模型规模的扩大，其对终端设备的算力与内存需求也日益增加，低比特量化技术，由于可以大幅降低存储和计算成本并提升推理效率，已成为实现大模型在资源受...