1. Nombre: Roxana Pabón
Materia: Teoría de la Comunicación y de la Información
Fecha: 11/10/2017
✓ En un organizador gráfico explique los elementos de la teoría fuente.
✓ En un resumen corto, mencione el fundamento de la entropía.
En el material otorgado se menciona que la información es tratada como magnitud física, se dice
que parte de la idea de que los canales no son ideales, aunque muchas veces se idealicen las no
linealidades, para estudiar diversos métodos de envío de información o la cantidad de
información útil que se pueda enviar a través de un canal.
Nos menciona que extraer información del estado actual de un sistema requiere reducir su
entropía, de tal manera que la entropía del sistema (S) es mayor o igual que la entropía(S) menos
la cantidad de información(I) y esto siempre será mayor o igual a 0.
2. ✓ En un mapa conceptual, defina la entropía de una fuente.
✓ Cuál es el fundamento de la entropía de la información, sus fórmulas.
Es una magnitud que mide la información provista por una fuente de datos, es decir, lo
que nos aporta sobre un dato o hecho concreto. Esta es la base de la compresión de
datos.
La entropía nos indica el límite teórico para la compresión de datos. Su cálculo se realiza
mediante la siguiente fórmula:
donde H es la entropía, las p son las probabilidades de que aparezcan los diferentes
códigos y m el número total de códigos. Si nos referimos a un sistema, las p se refieren
a las probabilidades de que se encuentre en un determinado estado y m el número total
de posibles estados. Se utiliza habitualmente el logaritmo en base 2, y entonces la
entropía se mide en bits.
En concreto, en ciertas áreas de la física, extraer información del estado actual de un
sistema requiere reducir su entropía, de tal manera que la entropía del sistema (S) y la
cantidad de información (I) extraíble están relacionadas por:
