Teoria de la Informacion

1. NOMBRE: Marco Muñoz
FECHA: 11/10/17
Entropía de la Información
Entropía →Física Termodinámica (Aspecto Importante)
La función termodinámica entropía es central para la segunda Ley de la
Termodinámica. La entropía puede interpretarse como una medida de la distribución
aleatoria de un sistema. Se dice que un sistema altamente distribuido al azar tiene alta
entropía. Un sistema en una condición improbable tendrá una tendencia natural a
reorganizarse a una condición más probable (similar a una distribución al azar),
reorganización que dará como resultado un aumento de la entropía. La entropía
alcanzará un máximo cuando el sistema se acerque al equilibrio, y entonces se
alcanzará la configuración de mayor probabilidad.
Entropía →Teoría de Sistemas
Es la tendencia que los sistemas tienen al desgaste, a la desintegración, para
el relajamiento de los estándares y un aumento de la aleatoriedad.
La entropía aumenta con el correr del tiempo. En una organización la falta de
comunicación o información, el abandono de estándares, funciones o jerarquías trae el
aumento de entropía. A medida que la entropía aumenta, los sistemas se
descomponen en estados más simples. Si aumenta la información, disminuye
la entropía, pues la información es la base de la configuración y del orden. De aquí
nace la neguentropía, o sea, la información como medio o instrumento de ordenación
del sistema. Por
ejemplo: La falta de colaboración, complementariedad o coordinación entre las
autoridades
Entropía →Teoría de la Comunicación
Determina la parte de la energía que no puede utilizarse para producir trabajo• De
acuerdo a la teoría de la información, el nivel de información de una fuente se puede
medir según la entropía de la misma. Shannon demostró, oportunamente que no es
posible comprimir una fuente estadísticamente más allá del nivel indicado por su
entropía.
→Fórmulas para Determinar la cantidad de entropía recibida

2. Calcular la cantidad de bits recibidos en los siguientes eventos
Conocer en que día de la semana estamos
Conocer en qué mes del año estamos
Conocer en que minuto se encuentra un partido de futbol