Quantization

En el ámbito de la inteligencia artificial y el aprendizaje automático, se refiere al proceso de reducir la precisión numérica de los modelos con el fin de optimizar su rendimiento y reducir el consumo de recursos computacionales.

Esto implica la conversión de valores de alta precisión, como números de punto flotante, a una representación de menor precisión, como números enteros.

Su principal objetivo es disminuir el tamaño del modelo y acelerar el tiempo de inferencia, lo que resulta particularmente útil en dispositivos con recursos limitados, como teléfonos móviles o sistemas embebidos.

Existen técnicas comunes para realizarla, como la cuantización estática, que analiza el rango de valores presentes antes de la ejecución, y la cuantización dinámica, que ajusta los valores durante la inferencia.

Aunque puede introducir un pequeño grado de error en los cálculos, la pérdida de precisión suele ser aceptable en la mayoría de las aplicaciones prácticas, lográndose un equilibrio entre eficiencia y rendimiento.