1. REPUBLICA BOLIVARIANA DE VENEZUELA
UNIVERSIDAD ALEJANDRO DE HUMBOLDT
TEORIA DE LA INFORMACION DIGITAL
Henyerly Rojas, C.I.: 20.303.571
Nairobi Santamaría, C.I.: 17.116.242
José Maldonado, C.I.: 15.367.784
Ildemaro Vielma, C.I.: 21.089.626
Néstor Flores, C.I.: 11.552.794
Mario Márquez, C.I.: 19.389.211

2. TEORIA DE LA INFORMACION
Esta teoría se centra en cuantificar la información, su enfoque básico
proporciona las herramientas. Nos muestra, entre otras cosas, el camino a
seguir para determinar la cantidad de información útil a partir de unos datos, y
para comprimir la información de manera que los datos se representen de una
manera eficiente.

3. Se establece que los elementos de comunicación son:

4. Fuente: Una fuente es todo aquello que emite mensajes. Por ejemplo, una fuente
puede ser una computadora y mensajes sus archivos.
Mensaje: Un mensaje es un conjunto de ceros y unos. Un archivo, un paquete
de datos que viaja por una red y cualquier cosa que tenga una representación
binaria puede considerarse un mensaje
Código: Un código es un conjunto de unos y ceros que se usan para
representar un cierto mensaje de acuerdo a reglas o convenciones
preestablecidas
Información: La información contenida en un mensaje es proporcional a la
cantidad de bits que se requieren como mínimo para representar al mensaje.

5. Entropía de la Información: un parámetro que nos permite determinar el
contenido promedio de información de una fuente o un mensaje en particular,
se puede considerar como la cantidad de información promedio que contienen
los símbolos usados en un sistema de comunicación.
Auto información de una fuente
De acuerdo a la teoría de la información, el nivel de información de una fuente se
puede medir según la entropía de la misma. Los estudios sobre la entropía son de
suma importancia en la teoría de la información.

6. •Cuál es el contenido real de información de un mensaje?
•Si los mensajes se codifican para su almacenamiento y transmisión, cómo selecciono o
diseño un código óptimo para ello.
•Cuál es la capacidad máxima, que un medio ó canal específico de comunicación tiene
para transmitir información.
•Cómo acoplo el canal de comunicación con la fuente de información a fin de lograr la
máxima transferencia de información por el canal, con mínima probabilidad de pérdida
de información.
•Cómo puede el receptor de la información, procurar que la posibilidad de error sea
mínima. Cómo puede darse cuenta de que hay un error y cómo lograr corregirlo.
Nos resuelve situaciones de ingeniería como:

7. Velocidad de Entropía de una fuente
Si la fuente emite símbolos a una velocidad r (símbolos/segundo), el contenido de
información de cualquier mensaje es igual al mínimo número de dígitos que se
requieren para codificarlo. La entropía es igual al mínimo número de dígitos por
mensaje o símbolo, en promedio, necesarios para codificarlo
La entropía de la fuente determina el nivel de compresión que podemos
obtener como máximo para un conjunto de datos, si consideramos como
fuente a un archivo y obtenemos las probabilidades de ocurrencia de cada
carácter en el archivo podremos calcular la longitud promedio del archivo
comprimido
La longitud promedio de todos los mensajes codificados de la fuente se puede obtener como:
El Promedio ponderado de las longitudes de los códigos de acuerdo a sus probabilidades de ocurrencia, al número "H" se lo
denomina "Entropía de la fuente" y tiene gran importancia

8. Capacidad de canales discretos.
La capacidad de un canal de comunicación es la cantidad máxima de información que
puede transportar dicho canal de forma fiable, es decir, con una probabilidad de error tan
pequeña como se quiera. Normalmente se expresa en bits/s (bps).
Capacidad de Canales Continuos: La definición de capacidad para canales continuos es
un poco diferente y exige utilizar el Teorema del muestreo y algunos otros conceptos de teoría de
la señal, además de los conceptos puramente estadísticos.

9. La codificación es uno de los usos más importantes y más directos
de teoría de la información. Es un rama de ingeniería
eléctrica, comunicación digital, matemáticas y informática diseñando
métodos eficientes y confiables de la transmisión de datos, para poder
ser quitado y los errores inducir la redundancia en los datos por
a canal ruidoso puede ser corregido. También se ocupa de las
características de códigos, y así con su aptitud para un uso específico.