Este documento introduce los conceptos fundamentales de la teoría de la información, incluyendo la noción de información, codificación de fuentes de información, canales de transmisión y códigos detectores y correctores de errores. Explica que la teoría de la información se ocupa de cómo determinar si los datos originales han cambiado durante la transmisión y cómo recuperar la información original. También cubre aplicaciones como la fiabilidad, eficiencia y seguridad en la transmisión de información.
Este documento introduce los conceptos básicos de Java, incluyendo tipos de datos primitivos como enteros, flotantes y caracteres, así como cadenas y matrices. Explica cómo declarar y manipular variables, y realizar conversiones entre tipos de datos. También cubre temas como ámbito de variables y operadores.
Este documento introduce los conceptos básicos de Java, incluyendo tipos de datos primitivos como enteros, flotantes y caracteres, así como cadenas y matrices. Explica cómo declarar y utilizar variables, y los conceptos de ámbito y conversión de tipos.
Este documento trata sobre arrays. Explica conceptos básicos como declaración, creación e inicialización de arrays unidimensionales y multidimensionales. También cubre temas como el acceso a elementos de arrays, copia de arrays y ejemplos de uso como cálculos sobre matrices y algoritmos de búsqueda y ordenación que utilizan arrays.
Este documento define los tipos de datos utilizados en pseudocódigo. Explica que los datos pueden ser numéricos o no numéricos. Los datos numéricos incluyen enteros y reales, mientras que los datos no numéricos incluyen caracteres, cadenas, lógicos y apuntadores. Luego proporciona ejemplos detallados de cada tipo de datos. Finalmente, concluye la importancia de conocer estos tipos de datos del pseudocódigo y ofrece algunas recomendaciones.
Este documento introduce los conceptos básicos de Java, incluyendo tipos de datos primitivos como enteros, flotantes y caracteres, así como cadenas y matrices. Explica cómo declarar y manipular variables, y realizar conversiones entre tipos de datos. También cubre temas como ámbito de variables y operadores.
Este documento introduce los conceptos básicos de Java, incluyendo tipos de datos primitivos como enteros, flotantes y caracteres, así como cadenas y matrices. Explica cómo declarar y utilizar variables, y los conceptos de ámbito y conversión de tipos.
Este documento trata sobre arrays. Explica conceptos básicos como declaración, creación e inicialización de arrays unidimensionales y multidimensionales. También cubre temas como el acceso a elementos de arrays, copia de arrays y ejemplos de uso como cálculos sobre matrices y algoritmos de búsqueda y ordenación que utilizan arrays.
Este documento define los tipos de datos utilizados en pseudocódigo. Explica que los datos pueden ser numéricos o no numéricos. Los datos numéricos incluyen enteros y reales, mientras que los datos no numéricos incluyen caracteres, cadenas, lógicos y apuntadores. Luego proporciona ejemplos detallados de cada tipo de datos. Finalmente, concluye la importancia de conocer estos tipos de datos del pseudocódigo y ofrece algunas recomendaciones.
EL ARTE DEL ANÁLISIS DE DATOS: DE LAS HOJAS DE CÁLCULO A R
Curso de extensión en:
Instituto de Humanidades, Artes & Ciências Professor Milton Santos (IHAC)
Universidade Federal da Bahía (UFBA)
Abril 2010
El documento trata sobre la teoría de la codificación de fuentes de información. Explica que una fuente de información puede modelarse como un proceso estocástico y que la codificación de fuente tiene como objetivo representar de manera eficiente los datos generados por la fuente eliminando redundancias. Además, presenta el teorema fundamental de codificación de fuentes, el cual establece que una fuente con tasa de entropía H puede codificarse sin error si la velocidad de codificación R es mayor que H.
La teoría de la información estudia la probabilidad de sucesos inciertos y cuantifica numéricamente la información contenida en un conocimiento dado las probabilidades de los posibles resultados. Claude Shannon inició esta teoría en 1948 para analizar la transmisión de información a través de canales. La teoría examina conceptos como la entropía, la capacidad de canales, la compresión de datos y la detección y corrección de errores.
Este documento describe la historia de la computadora y la representación de datos. Brevemente describe las primeras máquinas mecánicas de contabilidad, la Pascalina de Blaise Pascal, y la máquina analítica de Charles Babbage. También cubre las tarjetas perforadas, los tipos de datos como enteros y caracteres, y los componentes básicos de un sistema de información como el hardware, software, datos y personas.
Este documento resume la teoría de la información. Explica que la teoría estudia la cuantificación, almacenamiento y comunicación de la información, y fue propuesta originalmente por Claude Shannon en 1948. Una medida clave es la "entropía", que cuantifica la incertidumbre de una variable aleatoria. La teoría se aplica a compresión de datos, codificación de canales, y otros campos como la lingüística y la percepción humana.
Este documento describe los conceptos fundamentales relacionados con el procesamiento de datos. En primer lugar, define datos e información, y explica que los datos se convierten en información útil a través del procesamiento. Luego, describe las tres etapas del procesamiento de datos: entrada, proceso y salida. Finalmente, brinda una breve introducción a los componentes clave de un sistema de procesamiento de datos, incluidos los tipos de datos, el almacenamiento primario y secundario, y las bases de datos.
Apunte de cátedra_Tecnología de la información.pdfadcarolarte
El documento habla sobre la conceptualización de la tecnología de la información. Define la tecnología de la información como el uso de equipos de telecomunicaciones y computadoras para transmitir, procesar y almacenar datos. Explica que la información se codifica usando números binarios (ceros y unos) para su almacenamiento y transmisión en las computadoras. También describe los pasos básicos en el tratamiento de la información como la captura, manipulación y manejo de datos.
Este documento describe los aspectos generales de las bases de datos. Explica que un dato es un elemento discreto sin valor semántico, y que se convierte en información a través de su relación y procesamiento. Luego discute los diferentes métodos de procesamiento de datos, tipos de datos, modelamiento de datos, modelos de bases de datos, gestión distribuida y bases de datos relacionales. Finalmente, concluye que las bases de datos nos permiten almacenar y utilizar información de manera ordenada y jerárquica para tomar decisiones y proyectos con bú
Introducción al análisis topológico de datos con R (phom)briofons
Introducción al análisis topológico de datos con R (phom) donde vemos como utilizar la homología de persistencia como herramienta de análisis de datos, diagramas de persistencia y código de barras como salida visual para visualizar las propiedades topológicas.
Este documento discute el razonamiento e inferencia bajo condiciones de incertidumbre. Explica que la lógica de primer orden no es adecuada para representar la incertidumbre, y que se necesitan modelos como las lógicas por defecto, la teoría de probabilidades, y la lógica difusa. También describe cómo los modelos probabilísticos como las redes bayesianas asignan valores numéricos de probabilidad para representar el grado de creencia en proposiciones lógicas.
El documento describe las funciones estadísticas en Excel como promedio, cuenta, máximo, mediana, mínimo y moda. También describe el uso de SPSS para analizar encuestas y datos estadísticos de manera fácil e interpretar los resultados. Finalmente, resalta que SPSS permite acceder y analizar grandes conjuntos de datos de diferentes idiomas y fuentes.
1. El documento habla sobre conceptos de teoría de la información y fuentes de información. 2. Explica términos como datos, tipos de datos, sistemas de información, procesamiento de datos, y clasificación de fuentes de información. 3. Las fuentes de información se clasifican en varias categorías como papel, electrónicas, primarias, secundarias, terciarias, entre otras.
Este documento presenta una introducción a las estructuras de datos no lineales como los árboles. Explica los diferentes tipos de recorridos de árboles como preorden, inorden y postorden. También describe la recursividad y cómo se puede usar en la programación para resolver problemas como el cálculo factorial de manera recursiva. Finalmente, incluye un pseudocódigo para implementar la función factorial de forma recursiva.
Este documento describe la teoría de la información. Explica que se desarrolló originalmente en 1949 para optimizar la comunicación militar estadounidense. Identifica los elementos clave del modelo de comunicación, incluida la fuente, el transmisor, el canal, el receptor y el destinatario. También distingue entre datos e información, y clasifica diferentes tipos de archivos como de entrada, salida, situación y otros.
Este documento describe las etapas del proceso de investigación estadística aplicada al turismo y la hotelería. Incluye la elaboración del marco teórico, la recolección de datos a través de encuestas, el procesamiento de los datos usando software como SPSS, y el análisis e interpretación de la información para generar conclusiones y recomendaciones.
Conceptos básicos de lo que se conoce popularmente como Datamining y Machine Learning como introducción a un taller practico en análisis de genómica funcional.
Este plan de unidad se centra en enseñar a los estudiantes sobre los grandes números hasta el millón. Cubre temas como leer, escribir e interpretar números grandes, componer y descomponer números de forma aditiva, redondear y estimar números, y describir las características del sistema de numeración decimal. El plan incluye actividades como analizar un tríptico sobre el sistema decimal y realizar ejercicios de adición, sustracción y comparación de números grandes.
El documento presenta una introducción a la teoría de la información y la codificación. Explica conceptos clave como fuentes de información discreta y continua, medida de la información a través de la entropía de una fuente, y codificación para transmitir información a través de canales. También introduce temas como capacidad de canal, detección y corrección de errores a través de códigos como los de Hamming y Reed Solomon, y espectro expandido aplicado en CDMA.
Este documento trata sobre conceptos relacionados con la información y los datos. Define información como un conjunto organizado de datos procesados que constituyen un mensaje que cambia el estado de conocimiento. Explora diversos enfoques para el estudio de la información desde perspectivas biológicas, matemáticas y de comunicación. También define conceptos como datos, tipos de datos, sistemas de información y procesamiento de datos.
Este documento proporciona una guía para navegar por la interfaz de usuario del programa NeoBook. Describe cada una de las secciones de la pantalla principal como la barra de menús, barra de herramientas, área de trabajo y lengüetas de página. Además, explica cómo usar los menús principales como Archivo, Edición, Ordenar y Página para realizar tareas comunes como crear, guardar, imprimir y navegar entre páginas de una publicación electrónica.
SlideShare es un servicio web que permite a usuarios publicar, ver y compartir presentaciones de PowerPoint. Para usar SlideShare, los usuarios deben registrarse en el sitio web slideshare.net. Luego, pueden subir sus presentaciones al sitio y configurar opciones como título, etiquetas y privacidad. Finalmente, SlideShare proporciona código HTML que los usuarios pueden insertar en blogs u otras páginas web para incrustar sus presentaciones.
EL ARTE DEL ANÁLISIS DE DATOS: DE LAS HOJAS DE CÁLCULO A R
Curso de extensión en:
Instituto de Humanidades, Artes & Ciências Professor Milton Santos (IHAC)
Universidade Federal da Bahía (UFBA)
Abril 2010
El documento trata sobre la teoría de la codificación de fuentes de información. Explica que una fuente de información puede modelarse como un proceso estocástico y que la codificación de fuente tiene como objetivo representar de manera eficiente los datos generados por la fuente eliminando redundancias. Además, presenta el teorema fundamental de codificación de fuentes, el cual establece que una fuente con tasa de entropía H puede codificarse sin error si la velocidad de codificación R es mayor que H.
La teoría de la información estudia la probabilidad de sucesos inciertos y cuantifica numéricamente la información contenida en un conocimiento dado las probabilidades de los posibles resultados. Claude Shannon inició esta teoría en 1948 para analizar la transmisión de información a través de canales. La teoría examina conceptos como la entropía, la capacidad de canales, la compresión de datos y la detección y corrección de errores.
Este documento describe la historia de la computadora y la representación de datos. Brevemente describe las primeras máquinas mecánicas de contabilidad, la Pascalina de Blaise Pascal, y la máquina analítica de Charles Babbage. También cubre las tarjetas perforadas, los tipos de datos como enteros y caracteres, y los componentes básicos de un sistema de información como el hardware, software, datos y personas.
Este documento resume la teoría de la información. Explica que la teoría estudia la cuantificación, almacenamiento y comunicación de la información, y fue propuesta originalmente por Claude Shannon en 1948. Una medida clave es la "entropía", que cuantifica la incertidumbre de una variable aleatoria. La teoría se aplica a compresión de datos, codificación de canales, y otros campos como la lingüística y la percepción humana.
Este documento describe los conceptos fundamentales relacionados con el procesamiento de datos. En primer lugar, define datos e información, y explica que los datos se convierten en información útil a través del procesamiento. Luego, describe las tres etapas del procesamiento de datos: entrada, proceso y salida. Finalmente, brinda una breve introducción a los componentes clave de un sistema de procesamiento de datos, incluidos los tipos de datos, el almacenamiento primario y secundario, y las bases de datos.
Apunte de cátedra_Tecnología de la información.pdfadcarolarte
El documento habla sobre la conceptualización de la tecnología de la información. Define la tecnología de la información como el uso de equipos de telecomunicaciones y computadoras para transmitir, procesar y almacenar datos. Explica que la información se codifica usando números binarios (ceros y unos) para su almacenamiento y transmisión en las computadoras. También describe los pasos básicos en el tratamiento de la información como la captura, manipulación y manejo de datos.
Este documento describe los aspectos generales de las bases de datos. Explica que un dato es un elemento discreto sin valor semántico, y que se convierte en información a través de su relación y procesamiento. Luego discute los diferentes métodos de procesamiento de datos, tipos de datos, modelamiento de datos, modelos de bases de datos, gestión distribuida y bases de datos relacionales. Finalmente, concluye que las bases de datos nos permiten almacenar y utilizar información de manera ordenada y jerárquica para tomar decisiones y proyectos con bú
Introducción al análisis topológico de datos con R (phom)briofons
Introducción al análisis topológico de datos con R (phom) donde vemos como utilizar la homología de persistencia como herramienta de análisis de datos, diagramas de persistencia y código de barras como salida visual para visualizar las propiedades topológicas.
Este documento discute el razonamiento e inferencia bajo condiciones de incertidumbre. Explica que la lógica de primer orden no es adecuada para representar la incertidumbre, y que se necesitan modelos como las lógicas por defecto, la teoría de probabilidades, y la lógica difusa. También describe cómo los modelos probabilísticos como las redes bayesianas asignan valores numéricos de probabilidad para representar el grado de creencia en proposiciones lógicas.
El documento describe las funciones estadísticas en Excel como promedio, cuenta, máximo, mediana, mínimo y moda. También describe el uso de SPSS para analizar encuestas y datos estadísticos de manera fácil e interpretar los resultados. Finalmente, resalta que SPSS permite acceder y analizar grandes conjuntos de datos de diferentes idiomas y fuentes.
1. El documento habla sobre conceptos de teoría de la información y fuentes de información. 2. Explica términos como datos, tipos de datos, sistemas de información, procesamiento de datos, y clasificación de fuentes de información. 3. Las fuentes de información se clasifican en varias categorías como papel, electrónicas, primarias, secundarias, terciarias, entre otras.
Este documento presenta una introducción a las estructuras de datos no lineales como los árboles. Explica los diferentes tipos de recorridos de árboles como preorden, inorden y postorden. También describe la recursividad y cómo se puede usar en la programación para resolver problemas como el cálculo factorial de manera recursiva. Finalmente, incluye un pseudocódigo para implementar la función factorial de forma recursiva.
Este documento describe la teoría de la información. Explica que se desarrolló originalmente en 1949 para optimizar la comunicación militar estadounidense. Identifica los elementos clave del modelo de comunicación, incluida la fuente, el transmisor, el canal, el receptor y el destinatario. También distingue entre datos e información, y clasifica diferentes tipos de archivos como de entrada, salida, situación y otros.
Este documento describe las etapas del proceso de investigación estadística aplicada al turismo y la hotelería. Incluye la elaboración del marco teórico, la recolección de datos a través de encuestas, el procesamiento de los datos usando software como SPSS, y el análisis e interpretación de la información para generar conclusiones y recomendaciones.
Conceptos básicos de lo que se conoce popularmente como Datamining y Machine Learning como introducción a un taller practico en análisis de genómica funcional.
Este plan de unidad se centra en enseñar a los estudiantes sobre los grandes números hasta el millón. Cubre temas como leer, escribir e interpretar números grandes, componer y descomponer números de forma aditiva, redondear y estimar números, y describir las características del sistema de numeración decimal. El plan incluye actividades como analizar un tríptico sobre el sistema decimal y realizar ejercicios de adición, sustracción y comparación de números grandes.
El documento presenta una introducción a la teoría de la información y la codificación. Explica conceptos clave como fuentes de información discreta y continua, medida de la información a través de la entropía de una fuente, y codificación para transmitir información a través de canales. También introduce temas como capacidad de canal, detección y corrección de errores a través de códigos como los de Hamming y Reed Solomon, y espectro expandido aplicado en CDMA.
Este documento trata sobre conceptos relacionados con la información y los datos. Define información como un conjunto organizado de datos procesados que constituyen un mensaje que cambia el estado de conocimiento. Explora diversos enfoques para el estudio de la información desde perspectivas biológicas, matemáticas y de comunicación. También define conceptos como datos, tipos de datos, sistemas de información y procesamiento de datos.
Este documento proporciona una guía para navegar por la interfaz de usuario del programa NeoBook. Describe cada una de las secciones de la pantalla principal como la barra de menús, barra de herramientas, área de trabajo y lengüetas de página. Además, explica cómo usar los menús principales como Archivo, Edición, Ordenar y Página para realizar tareas comunes como crear, guardar, imprimir y navegar entre páginas de una publicación electrónica.
SlideShare es un servicio web que permite a usuarios publicar, ver y compartir presentaciones de PowerPoint. Para usar SlideShare, los usuarios deben registrarse en el sitio web slideshare.net. Luego, pueden subir sus presentaciones al sitio y configurar opciones como título, etiquetas y privacidad. Finalmente, SlideShare proporciona código HTML que los usuarios pueden insertar en blogs u otras páginas web para incrustar sus presentaciones.
El documento presenta los conceptos clave de la planeación estratégica como misión, visión, situación actual, barreras, objetivos estratégicos, estrategias, planes de acción e indicadores. Explica que la misión define la razón de ser de la organización, mientras que la visión describe su futuro deseado. Las barreras son obstáculos entre la misión y la visión, y los objetivos estratégicos y estrategias son formas de superar esas barreras. Los planes de acción y indicadores son necesarios para implementar la estrategia y medir el
El documento analiza la estructura organizacional y los componentes básicos de una organización. Explica que una estructura organizacional divide las tareas, responsabilidades y competencias. Identifica las partes básicas como la dirección estratégica, la tecnoestructura, el núcleo operativo, la línea media y el staff de apoyo. También analiza cómo identificar problemas en la estructura a través del análisis de las partes básicas, la coordinación, la agrupación y las jerarquías.
El documento describe los orígenes, el concepto y la evolución de la teoría administrativa. Explica que la administración surgió hace miles de años en las primeras civilizaciones como una forma de organizar el trabajo para lograr objetivos comunes. Luego, resume las tres escuelas principales de pensamiento administrativo: la escuela de la administración científica de Taylor, la escuela clásica de Fayol y Weber, y la escuela conductista con Mayo, Maslow y McGregor, quienes se enfocaron más en el lado humano de las organizaciones.
Este documento presenta diferentes tipos de diagnóstico educativo (clasificador, preventivo, correctivo), modelos de diagnóstico (tradicional, conductual, operario, cognitivo) y sus propósitos (conocer el punto de partida de los estudiantes, ayudar a tomar decisiones, obtener información directa para planificar recursos). Explica que el diagnóstico educativo clasifica a los estudiantes, previene problemas y corrige situaciones, y puede realizarse de forma individual o grupal usando diferentes enfoques como observar síntomas,
Este documento describe las características generales de los microcontroladores, incluyendo su arquitectura básica, procesador, memoria, puertos de entrada/salida y reloj. También explica conceptos como temporizadores, conversión analógica-digital, comunicaciones y aplicaciones comunes de los microcontroladores en electrodomésticos, instrumentación, automóviles y sistemas de control industrial. Finalmente, menciona algunos fabricantes importantes de microcontroladores como Microchip, Motorola y Texas Instruments.
Este documento describe las características generales de los microcontroladores, incluyendo su arquitectura básica, procesador, memoria, puertos de entrada/salida y reloj. También explica conceptos como temporizadores, conversión analógica-digital, comunicaciones y aplicaciones comunes de los microcontroladores en electrodomésticos, instrumentación, automóviles y sistemas de control industrial. Finalmente, menciona algunos fabricantes importantes de microcontroladores como Microchip, Motorola y Texas Instruments.
1. La tecnocracia se refiere a la autoridad basada en el conocimiento técnico. Dos ejemplos de brechas son profesionales altamente capacitados que no se comunican bien con sus subordinados y mecanismos técnicos complejos que no pueden ser entendidos por los mandos medios, lo que muestra una falta de habilidades gerenciales como la comunicación y la delegación.
2. Lograr objetivos preestablecidos a través de otros significa transmitir claramente los objetivos de la empresa para que sean comprendidos e internalizados por
Este documento describe el desarrollo rápido de aplicaciones (DRA), un modelo de desarrollo de software que enfatiza ciclos cortos de desarrollo. Explica que el DRA sigue un enfoque basado en componentes para lograr un desarrollo rápido. También presenta Apeel, una herramienta de generación de código que permite crear aplicaciones web funcionales sin escribir código.
Este documento discute diferentes métodos de evaluación académica, incluyendo evaluación continua, portafolios, y pruebas objetivas como tests. Propone el uso de breves cuestionarios de respuesta durante las clases magistrales para mantener la atención de los estudiantes y evaluar su comprensión en tiempo real. El objetivo es cambiar el rol pasivo del estudiante a uno más activo y atento.
Este documento proporciona información sobre el curso de Física II que se imparte en la Escuela de Ingeniería en Sistemas de la Pontificia Universidad Católica del Ecuador, Sede Ambato. El curso de 4 créditos se imparte en el primer semestre y tiene como objetivo que los estudiantes puedan generar circuitos para la solución de problemas reales utilizando señales digitales. El documento describe el plan de estudios, contenidos, estrategias didácticas y resultados de aprendizaje, así como la relación entre estos elementos a lo
Este documento presenta 5 párrafos con diferentes formatos de texto para ejercitar herramientas informáticas. Cada párrafo explora un formato distinto aplicando propiedades como tipo de letra, tamaño, estilo, alineación, sangría e indentación, bordes y sombreado. El documento ofrece una variedad de formatos para practicar el diseño y edición de textos.
Este documento proporciona instrucciones para crear un gráfico dinámico en una hoja de cálculo. Incluye pasos para diseñar una tabla con datos de muestra, luego crear el gráfico dinámico seleccionando un rango de celdas que contiene la tabla. Explica cómo configurar las filas, columnas y datos del gráfico, y aplicar filtros a las etiquetas.
Este documento proporciona instrucciones para realizar un análisis de regresión en una hoja de cálculo para modelar la demanda. Incluye pasos para ingresar datos de cantidad y precio, ejecutar un análisis de regresión seleccionando esos rangos de datos como entrada y clases, y generar una curva de regresión ajustada y un gráfico XY de dispersión con líneas suavizadas que muestre los resultados.
Este documento proporciona instrucciones para generar muestras aleatorias y periódicas de datos en Excel. Explica cómo seleccionar un rango de datos de entrada, especificar el tamaño de la muestra y la ubicación de salida, y generar la muestra aleatoria o periódica mediante el uso de las herramientas de Análisis de Datos en Excel. El objetivo es ilustrar dos métodos comunes de muestreo de datos para fines de análisis estadístico.
Este documento proporciona instrucciones para crear un histograma en una hoja de cálculo. Incluye pasos como abrir una nueva hoja, ingresar datos de ingresos familiares, seleccionar la opción de análisis de datos e histograma, definir los rangos de entrada y clases, y generar el histograma con gráfico y porcentajes en una nueva hoja.
El documento proporciona instrucciones para crear dos minigráficos en una hoja de cálculo: un gráfico de línea usando los datos en las celdas B2 a B7 y ubicado en B9 a E9, y un gráfico de columna usando los datos en B2 a E2 y ubicado en F2 a F7. Se deben seleccionar estilos para ambos gráficos y guardar el trabajo.
Este documento proporciona instrucciones para crear un gráfico de dispersión en una hoja de cálculo. Indica que se debe abrir una nueva hoja, configurar las columnas para los datos X e Y, ingresar los datos, seleccionar la opción de gráficos para crear un gráfico de dispersión con líneas suavizadas, y guardar y analizar el resultado.
Este documento proporciona instrucciones para realizar un análisis de regresión en una hoja de cálculo usando datos de demanda. Instruye al usuario a abrir una nueva hoja, diseñar una tabla con los nombres y formatos de las columnas "Cantidad" y "Precio", ingresar datos en estas columnas, y luego usar la herramienta de análisis de datos para realizar una regresión con el rango de precios como entrada y la cantidad como clases. Esto generará un gráfico de dispersión XY con una línea de regresión a
1. Codificación de la Información
Codificación de la Información y Seguridad y
Seguridad en Redes
Teoría de la Información
2. Índice de Contenidos
Índice de Contenidos
• Introducción.
• Noción de Información.
• Información y sus Fuentes - Modelado
• Códigos - Introducción y Propiedades
• Codificación de las Fuentes de Información.
• Canales para la Transmisión de la Información
• Códigos Detectores y Correctores.
3. Introducción (1/6)
Introducción (1/6)
• Objetivos
– El objetivo de la Teoría de la Información es: en una transmisión de
información, cómo poder determinar cuándo los datos originales
han cambiado, y cuando así sea, cómo se puede recuperar la
información original.
– Básicamente hay tres aspectos prácticos:
• Fiabilidad en la transmisión de la información (detección y
recuperación de errores)
• Eficiencia en la transmisión de la información (compresión)
• Seguridad en la transmisión de información (criptografía)
• Perspectiva
– Computadoras como dispositivos que adquieren, manipulan y
transfieren información.
– La computadora moderna sólo manipula dos símbolos: “0” y
“1”.Cualquier información que se vaya a usar ha de ser representada
usando sólo estos dos símbolos.
4. Introducción (2/6)
Introducción (2/6)
• Aplicaciones en el mundo real
– Representación de la información para ser manipulada por las
computadoras (codificación).
– Compresión de datos (p.ej..: sonido, imágenes) para su
almacenamiento y transmisión.
– Encriptación de la información (p.ej..: transmisiones cifradas, marcas
de agua)
– ...
• Conocimientos previos
– La mayoría de los principios sobre los que se basan los
procedimientos que se verán son parte de la Estadística, Combinatoria
y el Álgebra.
• Nociones elementales de probabilidad
• Nociones elementales de combinatoria
• Códigos empleados en informática (para los ejemplos).
5. Introducción (3/6)
Introducción (3/6)
• Esquema a seguir a partir de aquí:
– Noción de Información.
– Información y sus Fuentes - Modelado
– Códigos - Introducción y Propiedades
– Codificación de las Fuentes de Información.
– Canales para la Transmisión de la Información
– Códigos Detectores y Correctores de Errores.
Ruido
Información Tratamiento Recuperación
Representación
Transmisión Interpretación
Canal
Fuente de Información Código Código
(medio de transporte)
6. Introducción (4/6)
Introducción (4/6)
• Bibliografía:
– “Teoría de la Información y de la Codificación”, Norman Abramson,
Ed. Paraninfo - 1986.
– “Information Theory for Systems Engineers”, L. P. Hyvärinen, Ed.
Springer-Verlag - 1968.
– “Coding and Information Theory”, S. Roman, Ed. Springer-Verlag -
1992.
– “Teoría de la Información y Codificación”, G. Cuevas, Ed.
Politécnica de Madrid - 1981.
– “Comunication Systems”, S. Haykin, Ed. John Wiley - 1994.
– “Introduction to Coding Theory”, J. H. van Lint, Ed. Springer-Verlag
- 1992.
– “An Introduction to Source Coding”, Raymond Veldhuis y Marcel
Breeuwer, Ed. Prentice Hall -1993.
– “Source Coding Theory”, Robert M. Gray, Ed. Kluwer Academic
Publishers - 1993.
7. Introducción (5/6)
Introducción (5/6)
• Conocimientos previos en Combinatoria
Número de distintas maneras en las que se puede ordenar un conjunto
de n elementos. n!
Número de distintos conjuntos de r elementos en los que se considera
el orden con posibilidad de repetición, tomados de entre un total de n nr
elementos.
Número de distintos conjuntos de r elementos en los que se considera n!
el orden, sin posibilidad de repetir, tomados de entre un total de n
( n − r )!
elementos.
Número de distintos conjuntos de r elementos sin considerar el orden ⎛n⎞ n!
de dichos elementos y sin repetir ninguno, tomados de entre un total ⎜ ⎟=
⎜ r ⎟ r!( n − r )!
de n elementos. ⎝ ⎠
Número de distintos conjuntos de r elementos sin considerar el orden, ⎛ n + r − 1⎞
con posibilidad de repetición, tomados de entre un total de n ⎜
⎜ r ⎟ ⎟
elementos. ⎝ ⎠
8. Introducción (6/6)
Introducción (6/6)
• Conocimientos previos en Probabilidad
P rob a b ilid ad d el su ces o com p lem en ta rio d e A P ( A ) =1 − P ( A )
P rob a b ilid ad d e q u e se d én s im u ltán ea m en te d os su cesos A y B , cu a n d o d ich os P ( A , B ) = P ( A )· P ( B )
su ces os son in d ep en d ien tes
P rob a b ilid ad d e q u e se d en sim u ltá n eam en te d os su cesos A y B , cu an d o A y B P ( A , B ) = P ( A )· P ( B / A )
son estad ís ticam en te d ep en d ien tes u n o d el otro (teorem a de B a yes) P ( A , B ) = P ( B )· P ( A / B )
P rob a b ilid ad d e q u e se d e o b ien el su ces o A , o b ien el s u ceso B , s ien d o am b os P ( A B ) = P ( A) +P (B )
esta d ís ticam en te in d ep en d ien tes
P rob a b ilid ad d e q u e se d e o b ien el su ces o A o b ien el su ces o B , s ien d o am b os P ( A B ) = P ( A) +P (B ) −P ( A, B )
su ces os esta d ísticam en te d ep en d ien tes u n o d el otro
9. Noción de Información (1/6)
Noción de Información (1/6)
• Primera Aproximación
– Habitualmente se dice que la recepción de un mensaje, la visión de
una imagen de televisión, oír un sonido, la lectura de una hoja con
texto mecanografiado son acciones que proporcionan información.
– Se dice que un determinado acontecimiento proporciona información
cuando ese acontecimiento se refiere a la realización de un hecho que
era desconocido de antemano.
• Hoy el Sol ha salido por el Este - No aporta información.
• Hoy las bolsas han subido un 5 % - Aporta información (¿útil?)
• Mañana las acciones de Acerías subirán - Aporta información (¡$$!)
– Como consecuencia se puede observar una relación muy fuerte con el
concepto de probabilidad (una medida de la sorpresa que produce el
hecho; hechos poco probables son muy sorprendentes) y hecho
estadístico.
10. Noción de Información (2/6)
Noción de Información (2/6)
• En la información se pueden distinguir tres propiedades:
– Para afirmar que se recibe información, el mensaje recibido tiene que
ser desconocido de antemano.
• Tiene que haber incertidumbre acerca del mensaje a recibir.
– El receptor debe ser capaz de entender el mensaje.
• Recibir un mensaje en un idioma desconocido no aporta información.
– El mensaje recibido, si se ha entendido, debe ser útil para el receptor
• En caso contrario, el receptor no pagaría por él mensaje ya que carecería
de valor para él.
11. Noción de Información (3/6)
Noción de Información (3/6)
• Aspectos relacionados con la Comunicación (Información)
– Nivel Sintáctico.
• Atiende a aspectos tales como: número de símbolos, número de palabras
que se pueden formar con ellos, propiedades estadísticas de estos
elementos, las propiedades de los medios por los que se transmiten estos
símbolos, ...
• Aplicación de este nivel: transmisión y procesamiento de la información,
fijándose en aspectos tales como la eficiencia y la fiabilidad.
• Es independiente de la naturaleza de la información, ya que sólo
atiende a los símbolos que la representan.
– Nivel Semántico
• Un problema relacionado: la traducción automática.
– Nivel Pragmático
• La utilidad (valor) de la información depende fuertemente del tiempo.
12. Noción de Información (4/6)
Noción de Información (4/6)
• Aproximación Intuitiva a la medida de la información:
– Si una hoja de papel mecanografiada proporciona X unidades de
información, dos hojas de papel mecanografiadas proporcionan 2X
unidades de información.
• Por simplicidad se supone que la Información en la hoja de papel se
presenta en forma de caracteres cada uno de ellos inscrito en una celda de
tamaño fijo.
• Si hay r caracteres diferentes en el alfabeto con el que se escribe el
mensaje (incluyendo espacio, signos de puntuación, ...), y en la hoja hay
espacio para n caracteres, en una hoja se pueden construir un total de rn
mensajes diferentes.
– Cada uno de esos posibles mensajes (combinación de caracteres) tendrá en
principio una probabilidad de aparición de P=1/ rn.
– Si ahora se utilizan 2 hojas, la probabilidad de uno de esos mensajes es
P’=1/r2n=P2.
– Basándose en esta idea, parece razonable una medida de la
información logarítmica con la probabilidad.
13. Noción de Información (5/6)
Noción de Información (5/6)
• Definición de Información: Sea E un suceso que puede
presentarse con una probabilidad p(E). Cuando E ocurre se dice
que proporciona
⎛ 1 ⎞
I ( E ) = log⎜ ⎟
⎝ P( E ) ⎠
unidades de información.
• Las unidades de medida de la información dependen de la base en
la que se calcule el logaritmo que aparece en la fórmula.
– Si se usa base 2, la unidad es el bit.
• Definición de bit: la cantidad de información que se recibe cuando
se observa un hecho que tiene una probabilidad de ocurrencia de
0.5.
– NO CONFUNDIR CON DÍGITO BINARIO.
14. Noción de Información (6/6)
Noción de Información (6/6)
• Medio o soporte de la información
– La información es almacenada o transmitida en/por un medio físico
que puede alcanzar más de un estado a lo largo del tiempo.
– Sistema discreto de información: el medio puede ser dividido en el
tiempo o en el espacio en un conjunto discreto de unidades, y cada
una de estas unidades tiene un número finito de estados.
– Sistema continuo de información: las unidades del medio no
pueden ser definidas de forma independiente unas de otras.
– Las señales continuas pueden ser transformadas en discretas mediante
el procedimiento de muestreo.
• Sólo se considerará el caso discreto.