Investigadores han desarrollado un método de cuantificación con conciencia de entropía conjunta para modelos de aprendizaje automático (TinyML) en dispositivos IoT de bajo consumo. El objetivo es mejorar la eficiencia energética y la precisión en el reconocimiento de actividad humana (HAR) en el borde de la red, donde los recursos computacionales son limitados. Este enfoque permite que los modelos operen con menos bits por parámetro, reduciendo la memoria y el consumo de energía sin sacrificar significativamente el rendimiento.

El método aborda un desafío clave en la implementación de TinyML: cómo comprimir modelos complejos para que funcionen eficazmente en microcontroladores con recursos muy restringidos. La cuantificación tradicional a menudo reduce la precisión, mientras que este nuevo enfoque optimiza la asignación de bits basándose en la importancia de la información de cada capa del modelo, medida a través de la entropía conjunta. Esto resulta en una representación más compacta y eficiente de los pesos y activaciones de la red neuronal.

Los resultados muestran que este esquema de cuantificación logra un equilibrio óptimo entre la eficiencia energética y la precisión del HAR. En comparación con métodos existentes, se observa una reducción considerable en el consumo de energía y el uso de memoria, manteniendo una alta capacidad de reconocimiento de actividad. Esto es crucial para aplicaciones como dispositivos vestibles, monitorización de la salud y automatización del hogar, donde la duración de la batería y la capacidad de procesamiento son factores críticos.