SlideShare una empresa de Scribd logo
1 de 48
Descargar para leer sin conexión
Universidad Nacional de
       Educación a Distancia

 Máster en Matemáticas Avanzadas
             Trabajo Fin de Máster


Aprendizaje Estadístico con Funciones Kernel

         Tutor: Prof. Hilario Navarro Veguillas
           Autor: Juan José Gibaja Martíns


               Madrid, 5 de octubre de 2010
Índice
● Datos
● Patrones en datos

● Aprendizaje estadístico

● Patrones lineales y no lineales

● La solución kernel

● Fundamentos matemáticos

● Perspectiva histórica

● Support Vector Machines

● Ejemplo: elipses entrelazadas

● Ejemplo: base de datos IRIS

● Kernel PCA

● Ejemplo: parábola

● Conclusión
Datos
Patrones en datos
Patrones en datos



Perspectiva histórica paradigma
                 Nuevo
 Ventaja             científico
competitiva
Aprendizaje estadístico
Aprendizaje estadístico

     Aprendizaje
     supervisado


Perspectiva histórica



                    Aprendizaje
                   no supervisado
Patrones lineales y no lineales
Patrones lineales y no lineales

                           Algoritmos eficientes
                             Patrones simples


  Perspectiva histórica


Algoritmos no eficientes
  Patrones complejos
La solución kernel
La solución kernel



Perspectiva representación
Cambiar la histórica
          (vídeo)
La solución kernel



Perspectiva histórica
La solución kernel



Perspectiva histórica
     INEFICIENCIA
La solución kernel


k(x,y)=〈φ(x),φ(y)〉
 Perspectiva histórica
La solución kernel



Perspectiva histórica
     ¿Y si razonamos al revés?
La solución kernel




φ y 〈,〉                k

          ...pero...
La solución kernel



¿   k                   φ y〈,〉    ?

        SÍ. Si k es FINITAMENTE
        SEMIDEFINIDA POSITIVA
Fundamentos matemáticos
Fundamentos matemáticos


● Espacio vectorial
● Producto interno


   Perspectiva histórica
● Espacio con producto interno

● Espacio de Hilbert

● Espacio de Hilbert separable e isomorfía

● Matriz de Gram y matriz kernel

● Funciones finitamente semidefinidas positivas

● Caracterización de las funciones kernel

● Reproducing Kernel Hilbert Space
Perspectiva histórica
Perspectiva histórica
             (kernels)



Perspectiva histórica

D. Hilbert
                 Mercer (1909)
               Aronszajn (1950)
             Aizerman et al. (1964)
             Poggio y Girosi (1990)
Perspectiva histórica
      (clasificadores)


           Fisher (1936)
      Vapnik y Lerner (1963)
Perspectiva histórica(1964)
   Vapnik y Chervonenkis
           Cover (1965)
       Mangasarian (1965)
           Smith (1968)
        Duda y Hart (1973)
   Bennett y Mangasarian (1992)
Perspectiva histórica
           (SVM)



   Perspectiva histórica
V. Vapnik
          Vapnik y Chervonenkis (1974)
              Vapnik (1979, 1982)
          Boser, Guyon y Vapnik (1992)
             Cortes y Vapnik (1995)
                  Vapnik (1995)
              Shawe-Taylor (1998)
         Shawe-Taylor y Cristianini (2000)
Perspectiva histórica
      (otros algoritmos)



   Perspectiva histórica
B. Schölkopf

           Baudat y Anouar (2000)
       Schölkopf, Smola y Müller (1998)
           Van Gestel et al. (2001)
               Burges (2005)
               Girolami (2001)
Support vector machines
Support vector machines


Clases separables vs.
    no separables
     Perspectiva histórica
Support vector machines


Enfoque primal vs. dual

Perspectiva histórica
Support vector machines


 Incorporación del kernel

Perspectiva histórica
Ejemplo: espirales entrelazadas
Ejemplo: espirales entrelazadas



 Perspectiva histórica
Ejemplo: espirales entrelazadas



 Perspectiva histórica
Ejemplo: Base de datos IRIS
Ejemplo: Base de datos IRIS



Perspectiva histórica
Ejemplo: Base de datos IRIS



Perspectiva histórica
Ejemplo: Base de datos IRIS



Perspectiva histórica
Ejemplo: Base de datos IRIS



Perspectiva histórica
Ejemplo: Base de datos IRIS



Perspectiva histórica
Kernel PCA
Kernel PCA


PCA a partir de covarianzas
Perspectiva histórica


  PCA a partir de productos escalares
Ejemplo: parábola
Ejemplo: parábola



Perspectiva histórica
Ejemplo: parábola



Perspectiva histórica
Ejemplo: parábola



Perspectiva histórica
Ejemplo: parábola



Perspectiva histórica
Ejemplo: parábola



Perspectiva histórica
Ejemplo: parábola



Perspectiva histórica
Conclusión
Conclusión



El Aprendizaje Estadístico basado en
 Perspectiva histórica
Funciones Kernel es una vía prometedora
para conjugar las ventajas de los
algoritmos lineales y no lineales de
detección de patrones en bases de datos.

Más contenido relacionado

Más de Juan José Gibaja Martíns (7)

Ejemplo de regresión con dos variables
Ejemplo de regresión con dos variablesEjemplo de regresión con dos variables
Ejemplo de regresión con dos variables
 
Tema 4. Resumen Sesion 09.10.09
Tema 4. Resumen Sesion 09.10.09Tema 4. Resumen Sesion 09.10.09
Tema 4. Resumen Sesion 09.10.09
 
Resumen 071009
Resumen 071009Resumen 071009
Resumen 071009
 
Clase 2 De Octubre 2009
Clase 2 De Octubre 2009Clase 2 De Octubre 2009
Clase 2 De Octubre 2009
 
Introducción a la Estadística. Tema 4
Introducción a la Estadística. Tema 4Introducción a la Estadística. Tema 4
Introducción a la Estadística. Tema 4
 
Ejemplo Tablas Contingencia
Ejemplo Tablas ContingenciaEjemplo Tablas Contingencia
Ejemplo Tablas Contingencia
 
Clase 24/04/09
Clase 24/04/09Clase 24/04/09
Clase 24/04/09
 

Último

Sesión de aprendizaje Planifica Textos argumentativo.docx
Sesión de aprendizaje Planifica Textos argumentativo.docxSesión de aprendizaje Planifica Textos argumentativo.docx
Sesión de aprendizaje Planifica Textos argumentativo.docxMaritzaRetamozoVera
 
TIPOLOGÍA TEXTUAL- EXPOSICIÓN Y ARGUMENTACIÓN.pptx
TIPOLOGÍA TEXTUAL- EXPOSICIÓN Y ARGUMENTACIÓN.pptxTIPOLOGÍA TEXTUAL- EXPOSICIÓN Y ARGUMENTACIÓN.pptx
TIPOLOGÍA TEXTUAL- EXPOSICIÓN Y ARGUMENTACIÓN.pptxlclcarmen
 
Heinsohn Privacidad y Ciberseguridad para el sector educativo
Heinsohn Privacidad y Ciberseguridad para el sector educativoHeinsohn Privacidad y Ciberseguridad para el sector educativo
Heinsohn Privacidad y Ciberseguridad para el sector educativoFundación YOD YOD
 
Planificacion Anual 4to Grado Educacion Primaria 2024 Ccesa007.pdf
Planificacion Anual 4to Grado Educacion Primaria   2024   Ccesa007.pdfPlanificacion Anual 4to Grado Educacion Primaria   2024   Ccesa007.pdf
Planificacion Anual 4to Grado Educacion Primaria 2024 Ccesa007.pdfDemetrio Ccesa Rayme
 
Ejercicios de PROBLEMAS PAEV 6 GRADO 2024.pdf
Ejercicios de PROBLEMAS PAEV 6 GRADO 2024.pdfEjercicios de PROBLEMAS PAEV 6 GRADO 2024.pdf
Ejercicios de PROBLEMAS PAEV 6 GRADO 2024.pdfMaritzaRetamozoVera
 
Estrategia de prompts, primeras ideas para su construcción
Estrategia de prompts, primeras ideas para su construcciónEstrategia de prompts, primeras ideas para su construcción
Estrategia de prompts, primeras ideas para su construcciónLourdes Feria
 
ACERTIJO DE POSICIÓN DE CORREDORES EN LA OLIMPIADA. Por JAVIER SOLIS NOYOLA
ACERTIJO DE POSICIÓN DE CORREDORES EN LA OLIMPIADA. Por JAVIER SOLIS NOYOLAACERTIJO DE POSICIÓN DE CORREDORES EN LA OLIMPIADA. Por JAVIER SOLIS NOYOLA
ACERTIJO DE POSICIÓN DE CORREDORES EN LA OLIMPIADA. Por JAVIER SOLIS NOYOLAJAVIER SOLIS NOYOLA
 
2024 - Expo Visibles - Visibilidad Lesbica.pdf
2024 - Expo Visibles - Visibilidad Lesbica.pdf2024 - Expo Visibles - Visibilidad Lesbica.pdf
2024 - Expo Visibles - Visibilidad Lesbica.pdfBaker Publishing Company
 
Historia y técnica del collage en el arte
Historia y técnica del collage en el arteHistoria y técnica del collage en el arte
Historia y técnica del collage en el arteRaquel Martín Contreras
 
La empresa sostenible: Principales Características, Barreras para su Avance y...
La empresa sostenible: Principales Características, Barreras para su Avance y...La empresa sostenible: Principales Características, Barreras para su Avance y...
La empresa sostenible: Principales Características, Barreras para su Avance y...JonathanCovena1
 
PLAN DE REFUERZO ESCOLAR primaria (1).docx
PLAN DE REFUERZO ESCOLAR primaria (1).docxPLAN DE REFUERZO ESCOLAR primaria (1).docx
PLAN DE REFUERZO ESCOLAR primaria (1).docxlupitavic
 
Qué es la Inteligencia artificial generativa
Qué es la Inteligencia artificial generativaQué es la Inteligencia artificial generativa
Qué es la Inteligencia artificial generativaDecaunlz
 
Dinámica florecillas a María en el mes d
Dinámica florecillas a María en el mes dDinámica florecillas a María en el mes d
Dinámica florecillas a María en el mes dstEphaniiie
 
LABERINTOS DE DISCIPLINAS DEL PENTATLÓN OLÍMPICO MODERNO. Por JAVIER SOLIS NO...
LABERINTOS DE DISCIPLINAS DEL PENTATLÓN OLÍMPICO MODERNO. Por JAVIER SOLIS NO...LABERINTOS DE DISCIPLINAS DEL PENTATLÓN OLÍMPICO MODERNO. Por JAVIER SOLIS NO...
LABERINTOS DE DISCIPLINAS DEL PENTATLÓN OLÍMPICO MODERNO. Por JAVIER SOLIS NO...JAVIER SOLIS NOYOLA
 
Caja de herramientas de inteligencia artificial para la academia y la investi...
Caja de herramientas de inteligencia artificial para la academia y la investi...Caja de herramientas de inteligencia artificial para la academia y la investi...
Caja de herramientas de inteligencia artificial para la academia y la investi...Lourdes Feria
 
Registro Auxiliar - Primaria 2024 (1).pptx
Registro Auxiliar - Primaria  2024 (1).pptxRegistro Auxiliar - Primaria  2024 (1).pptx
Registro Auxiliar - Primaria 2024 (1).pptxFelicitasAsuncionDia
 
ACUERDO MINISTERIAL 078-ORGANISMOS ESCOLARES..pptx
ACUERDO MINISTERIAL 078-ORGANISMOS ESCOLARES..pptxACUERDO MINISTERIAL 078-ORGANISMOS ESCOLARES..pptx
ACUERDO MINISTERIAL 078-ORGANISMOS ESCOLARES..pptxzulyvero07
 
GUIA DE CIRCUNFERENCIA Y ELIPSE UNDÉCIMO 2024.pdf
GUIA DE CIRCUNFERENCIA Y ELIPSE UNDÉCIMO 2024.pdfGUIA DE CIRCUNFERENCIA Y ELIPSE UNDÉCIMO 2024.pdf
GUIA DE CIRCUNFERENCIA Y ELIPSE UNDÉCIMO 2024.pdfPaolaRopero2
 

Último (20)

Sesión de aprendizaje Planifica Textos argumentativo.docx
Sesión de aprendizaje Planifica Textos argumentativo.docxSesión de aprendizaje Planifica Textos argumentativo.docx
Sesión de aprendizaje Planifica Textos argumentativo.docx
 
TIPOLOGÍA TEXTUAL- EXPOSICIÓN Y ARGUMENTACIÓN.pptx
TIPOLOGÍA TEXTUAL- EXPOSICIÓN Y ARGUMENTACIÓN.pptxTIPOLOGÍA TEXTUAL- EXPOSICIÓN Y ARGUMENTACIÓN.pptx
TIPOLOGÍA TEXTUAL- EXPOSICIÓN Y ARGUMENTACIÓN.pptx
 
Heinsohn Privacidad y Ciberseguridad para el sector educativo
Heinsohn Privacidad y Ciberseguridad para el sector educativoHeinsohn Privacidad y Ciberseguridad para el sector educativo
Heinsohn Privacidad y Ciberseguridad para el sector educativo
 
Planificacion Anual 4to Grado Educacion Primaria 2024 Ccesa007.pdf
Planificacion Anual 4to Grado Educacion Primaria   2024   Ccesa007.pdfPlanificacion Anual 4to Grado Educacion Primaria   2024   Ccesa007.pdf
Planificacion Anual 4to Grado Educacion Primaria 2024 Ccesa007.pdf
 
Ejercicios de PROBLEMAS PAEV 6 GRADO 2024.pdf
Ejercicios de PROBLEMAS PAEV 6 GRADO 2024.pdfEjercicios de PROBLEMAS PAEV 6 GRADO 2024.pdf
Ejercicios de PROBLEMAS PAEV 6 GRADO 2024.pdf
 
Estrategia de prompts, primeras ideas para su construcción
Estrategia de prompts, primeras ideas para su construcciónEstrategia de prompts, primeras ideas para su construcción
Estrategia de prompts, primeras ideas para su construcción
 
ACERTIJO DE POSICIÓN DE CORREDORES EN LA OLIMPIADA. Por JAVIER SOLIS NOYOLA
ACERTIJO DE POSICIÓN DE CORREDORES EN LA OLIMPIADA. Por JAVIER SOLIS NOYOLAACERTIJO DE POSICIÓN DE CORREDORES EN LA OLIMPIADA. Por JAVIER SOLIS NOYOLA
ACERTIJO DE POSICIÓN DE CORREDORES EN LA OLIMPIADA. Por JAVIER SOLIS NOYOLA
 
2024 - Expo Visibles - Visibilidad Lesbica.pdf
2024 - Expo Visibles - Visibilidad Lesbica.pdf2024 - Expo Visibles - Visibilidad Lesbica.pdf
2024 - Expo Visibles - Visibilidad Lesbica.pdf
 
Historia y técnica del collage en el arte
Historia y técnica del collage en el arteHistoria y técnica del collage en el arte
Historia y técnica del collage en el arte
 
La empresa sostenible: Principales Características, Barreras para su Avance y...
La empresa sostenible: Principales Características, Barreras para su Avance y...La empresa sostenible: Principales Características, Barreras para su Avance y...
La empresa sostenible: Principales Características, Barreras para su Avance y...
 
PLAN DE REFUERZO ESCOLAR primaria (1).docx
PLAN DE REFUERZO ESCOLAR primaria (1).docxPLAN DE REFUERZO ESCOLAR primaria (1).docx
PLAN DE REFUERZO ESCOLAR primaria (1).docx
 
Qué es la Inteligencia artificial generativa
Qué es la Inteligencia artificial generativaQué es la Inteligencia artificial generativa
Qué es la Inteligencia artificial generativa
 
Dinámica florecillas a María en el mes d
Dinámica florecillas a María en el mes dDinámica florecillas a María en el mes d
Dinámica florecillas a María en el mes d
 
LABERINTOS DE DISCIPLINAS DEL PENTATLÓN OLÍMPICO MODERNO. Por JAVIER SOLIS NO...
LABERINTOS DE DISCIPLINAS DEL PENTATLÓN OLÍMPICO MODERNO. Por JAVIER SOLIS NO...LABERINTOS DE DISCIPLINAS DEL PENTATLÓN OLÍMPICO MODERNO. Por JAVIER SOLIS NO...
LABERINTOS DE DISCIPLINAS DEL PENTATLÓN OLÍMPICO MODERNO. Por JAVIER SOLIS NO...
 
Caja de herramientas de inteligencia artificial para la academia y la investi...
Caja de herramientas de inteligencia artificial para la academia y la investi...Caja de herramientas de inteligencia artificial para la academia y la investi...
Caja de herramientas de inteligencia artificial para la academia y la investi...
 
Registro Auxiliar - Primaria 2024 (1).pptx
Registro Auxiliar - Primaria  2024 (1).pptxRegistro Auxiliar - Primaria  2024 (1).pptx
Registro Auxiliar - Primaria 2024 (1).pptx
 
Sesión de clase: Fe contra todo pronóstico
Sesión de clase: Fe contra todo pronósticoSesión de clase: Fe contra todo pronóstico
Sesión de clase: Fe contra todo pronóstico
 
ACUERDO MINISTERIAL 078-ORGANISMOS ESCOLARES..pptx
ACUERDO MINISTERIAL 078-ORGANISMOS ESCOLARES..pptxACUERDO MINISTERIAL 078-ORGANISMOS ESCOLARES..pptx
ACUERDO MINISTERIAL 078-ORGANISMOS ESCOLARES..pptx
 
Fe contra todo pronóstico. La fe es confianza.
Fe contra todo pronóstico. La fe es confianza.Fe contra todo pronóstico. La fe es confianza.
Fe contra todo pronóstico. La fe es confianza.
 
GUIA DE CIRCUNFERENCIA Y ELIPSE UNDÉCIMO 2024.pdf
GUIA DE CIRCUNFERENCIA Y ELIPSE UNDÉCIMO 2024.pdfGUIA DE CIRCUNFERENCIA Y ELIPSE UNDÉCIMO 2024.pdf
GUIA DE CIRCUNFERENCIA Y ELIPSE UNDÉCIMO 2024.pdf
 

Aprendizaje Estadístico con Funciones Kernel