La entropía se refiere a la desorganización y distribución uniforme de los elementos de un sistema. En termodinámica, la entropía mide la parte de la energía que no puede usarse para producir trabajo. En teoría de sistemas, la entropía representa el desgaste de un sistema debido al tiempo o su funcionamiento, y los sistemas tienden a alcanzar un estado más estable y caótico de máxima entropía. En teoría de la comunicación, la entropía cuantifica la cantidad de información en bits recibida para