Huawei ha presentado SINQ, una tecnología de cuantización open source desarrollada por su Zurich Computational Systems Laboratory que promete reducir significativamente el consumo de memoria y los costes operativos de los grandes modelos de lenguaje (LLMs). Esta tecnología elimina la necesidad de procedimientos complejos de calibración y puede integrarse fácilmente en flujos de trabajo ya existent...