SlideShare una empresa de Scribd logo
DEEP LEARNING
GABRIEL ANTONIO VALVERDE CASTILLA
BIG & OPEN DATA. ANÁLISIS Y PROGRAMACIÓN CON R.
LICENCIADO EN MATEMÁTICAS Y ESTADÍSTICA EN UNEX
ALUMNO MASTER INGENIERIA MATEMATICAS UCM
SUMARIO
• Introducción Machine Learning
• ¿Qué es Deep Learning? ¿Qué más aporta?
• Clasificación de las técnicas de Deep Learning.
• Ejemplos:
• Autoencoders.
• Stacking Autoencoders.
MACHINE LEARNING
• Rama de la Inteligencia Artificial.
• El objetivo es desarrollar técnicas que permitan a la máquina aprender.
• Origen en datos desestructurados.
• Se centra en la complejidad computacional. Por lo que se centra en encontrar algoritmos factibles para NP-hard.
• Algunos ejemplos son:
• GMM- Gaussian Mixture Model.
• CRFs- Conditional Random Fields.
• MaxEnt- Maximun entropy.
• SVM- Support Vector Machines.
• Logistic Regression.
• Kernel regression.
• Multilayer Perceptrons
¿QUÉ ES DEEP LEARNING?
• DeepLearning= NN+IA+GM+Optimización+PR+SP.
Neuronal Inteligencia Graph Procesamiento Procesamiento
Network Artificial Modeling Patrones Señales.
¿QUÉ ES DEEP LEARNING?
Vamos a analizar el camino seguido a partir de varias definiciones.
Definición: Clase de técnicas de Machine Learning buscando la extracción y transformación de features
referentes al procesamiento de la información. Ya sea de forma supervisada o no.
Definición: Un campo dentro de Machine Learning basados en algoritmos para aprender varios niveles de
representación buscando relaciones complejas. Tenemos por tanto features de alto y bajo nivel, jerarquizandolas,
Deep arquitectura. Generalmente no supervisado.
Definición: CONTINUACION. Las de bajo nivel pueden ayudar a definir las de alto nivel. Es a tener también en cuenta
que algunas representaciones son mejores que otras para depende de que tareas.
Definición: Deep Learning, nueva área creada para devolver a Machine Learning a uno de sus objetivos: Inteligencia
Artificial. Buscar niveles de abstracción que nos permitan dar sentido a imagenes, sonidos y texto.
¿QUÉ MÁS APORTA?
JERARQUÍA.
Son técnicas que reciben mayor cantidad de datos.
Más capas que desarrollan estas jerarquías entre la
información.
- Nos permite obtener features de forma no
supervisada.
- Realizar clasificaciones.
PROBLEMAS
• Muchos de los modelos -> REDES NEURONALES. DNN por
ejemplo.
• Los algoritmos de optimización usados hasta ahora fallan.
Back Propagation.
• Funciones no convexas. No funciona bien gradiente
descendente.
• Muchas capas y muchas neuronas-> Muchos recursos.
• SOLUCIONES:
• Gradiente Descendente Estocastico.
• Hessian Free.
• Kyrlov Suspace Methods.
• SVM,CRF,MAXENT, funciones convexas.
SOLUCIONES ENTRENAMIENTO
Si los modelos se preentrenan con anterioridad los pesos se
acercan a los valores óptimos y hay menos posibilidades de
mínimo local.
• Considerar cada capa como un denoising autoencoders que
se entrena a si mismo.
• Usar autoencoders contractivos que son más robustos ante
variaciones.
• SESM Sparse Autoencoders Symmetric Machine (Ranzano)
• Preentrenamientos no supervisado y supervisado.
• MLP entrenada con un BP.
CLASIFICACIÓN
No supervisadas:
Captura patrones.
Aprendizaje representativo.
Generativos, buscan clases asociadas a distribuciones de probabilidad estimadas a partir
de los datos observados.
Para discriminar usando reglas de bayes.
Generatición de features.
Supervisadas:
Buscan dicriminar patrones con objeto de clasificar.
Conocerter las targets.
Clasificar en importancia la información que discrimina nuestros objetivos.
Llamado redes profundas discriminitivas.
Hibrido:
Los modelos no supervisados son utilizados como procesos de entrenamientos de los
que si lo son. Pretraining con autoencoders sobre DNN.1
O el análisis discriminativo se utiliza para mejorar los no supervisados.
• Los primeros son mejores para entrenar y probar, con una construcción flexible, para aprendizaje de
sistemas complejos.
• Los segundos, más facilidad de interpretación, más fácil integrar conocimiento del dominio, mas sencillo
componer, mas fácil manejar la incertidumbre, peor para inferencia y aprendizaje de sistemas complejos.
EJEMPLOS
Deep Belief Network (DBN): modelos probabilísticos generativos compuestos por muchas capas, y variables
ocultas.
Boltzmann machine(BM): una red conectada de forma simétrica, con neuronas como unidades que toman la
decision de estar conectadas o no.
Restricted Boltzmann machine (RBM): tipo especial de BM donde no se permiten interrelación entre
neuronas del mismo tipo.
Deep Neural Network (DNN): perceptron multicapa con varias capas ocultas, cuyos pesos estan conectados
y suelen ser iniciados usando por otro modelo supervisado o no de técnica de entrenamiento.
Deep autoencoders: modelo discriminativo DNN que toma como salida los propios valores de entrada, se
trata por tanto de un modelo no supervisado. Cuando el objetivo es eliminar ruido se comporta como un
modelo generativo.
NO SUPERVISADOS: AUTOENCODERS.
No tienen clases con los que comparar los indicadores.
Funcionan como filtros.
Creadores de features representativas.
Muestreo de los datos.
• Los conjuntos más comunes son los Energy-based. Siendo Deep autoencoders el más representativo.
También tenemos otros con otras propiedades:
• Transforming Autoencoders. Estos autoencoders lo que hacen es transformar nuestros input en output cuya
destransformación nos devuelve verdaderos valores.
• Predictive Sparse Coders- Los propuestos por Ranzano.
• De-noising autoencoders- Estos autoencoders se encargan de limpiar de ruido los datos de entrada para que
puedan ser evaluados por otros modelos de una forma más sencilla.
NO SUPERVISADOS: AUTOENCODERS.
• Consideramos un conjunto de valores de entrada
(input,target),
• 𝐷 𝑛 = (𝑥(1), 𝑡(1)). . . , (𝑥(𝑛), 𝑡(𝑛)) i.i.d. Ejemplos de una
distribución desconocida
𝑞 𝑋, 𝑇 𝑐𝑜𝑛 𝑚𝑎𝑟𝑔𝑖𝑛𝑎𝑙𝑒𝑠 𝑞(𝑥), 𝑞(𝑡).
• Denotamos 𝑞⁰(𝑋, 𝑇)y q⁰(X) a las empíricas iniciales.
NO SUPERVISADOS: AUTOENCODERS.
• 𝐸𝑛𝑡𝑟𝑜𝑝𝑦 ∨ 𝑑𝑖𝑓𝑓𝑒𝑟𝑒𝑛𝑡𝑖𝑎𝑙𝑒𝑛𝑡𝑟𝑜𝑝𝑦: 𝐼𝐻(𝑋) = 𝐼𝐻(𝑝) =
𝐸𝑝(𝑋)[−log𝑝(𝑋)].
• 𝐶𝑜𝑛𝑑𝑖𝑡𝑖𝑜𝑛𝑎𝑙𝑒𝑛𝑡𝑟𝑜𝑝𝑦: 𝐼𝐻(𝑋 ∣ 𝑌) = 𝐸𝑝(𝑋, 𝑌)[−log𝑝(𝑋 ∣ 𝑌)]
• 𝐾𝑢𝑙𝑙𝑏𝑎𝑐𝑘 − 𝐿𝑒𝑖𝑏𝑙𝑒𝑟𝑑𝑖𝑣𝑒𝑟𝑔𝑒𝑛𝑐𝑒: 𝐼𝐷 𝐾𝐿(𝑝 ∣ 𝑞) =
𝐸 𝑝(𝑥)[log𝑝 (𝑋) 𝑞 (𝑋)].
• 𝐶𝑟𝑜𝑠𝑠 − 𝑒𝑛𝑡𝑟𝑜𝑝𝑦: 𝐼𝐻(𝑝 ∣ 𝑞) = 𝐸𝑝(𝑋)[−log𝑞(𝑋)] = 𝐼𝐻(𝑝) +
𝐼𝐷 𝑘𝑙(𝑝 ∣ 𝑞).
• 𝑀𝑢𝑡𝑢𝑎𝑙𝑖𝑛𝑓𝑜𝑟𝑚𝑎𝑡𝑖𝑜𝑛: 𝐼(𝑋; 𝑌) = 𝐼𝐻(𝑋) − 𝐼𝐻(𝑋 ∣ 𝑌)
NO SUPERVISADOS: AUTOENCODERS.
NO SUPERVISADOS: STACKING AUTOENCODERS.
APLICACIÓN. RESULTADOS.
APLICACIÓN. RESULTADOS.
BIBLIOGRAFIA
deepLearning.net
https://www.youtube.com/watch?v=n6hpQwq7Inw
https://www.youtube.com/watch?v=dMVLd5URpvs#t=602
http://www.cs.ubc.ca/~nando/540-2013/lectures/l13.pdf
http://www.cs.ubc.ca/~nando/540-2013/lectures.html
http://es.wikipedia.org/wiki/Redes_neuronales_convolucionales#Neuronas_Convolucionales
http://digital.csic.es/bitstream/10261/84753/1/RED%20NEURONAL.pdf
http://books.google.es/books?id=4OgOJLGGrzcC&pg=PA145&lpg=PA145&dq=gato+barra+horizontal&source=bl&ots=
Z4tEuFrkYF&sig=bWjETKt_2RPxLL8O3-B9DIORXYs&hl=es&sa=X&ei=uXTRU-
SWLeOc0QXWzYCYDw&ved=0CFwQ6AEwCw#v=onepage&q&f=false
http://vimeo.com/101582001
http://nbviewer.ipython.org/github/BVLC/caffe/blob/master/examples/filter_visualization.ipynb
GRACIAS

Más contenido relacionado

Destacado

Taller Big Data, ciencia de datos y R - IEEE SB UMH y Geeky Theory
Taller Big Data, ciencia de datos y R - IEEE SB UMH y Geeky TheoryTaller Big Data, ciencia de datos y R - IEEE SB UMH y Geeky Theory
Taller Big Data, ciencia de datos y R - IEEE SB UMH y Geeky TheoryMario Pérez Esteso
 
Gartner presenta
Gartner presentaGartner presenta
Gartner presentadarlistayli
 
Conferencia Analítica Datos y Cloud Computing
Conferencia Analítica Datos y Cloud ComputingConferencia Analítica Datos y Cloud Computing
Conferencia Analítica Datos y Cloud ComputingLuis Joyanes
 
Charla big data y data mining para gestión de información y bibliotecas
Charla big data y data mining para gestión de información y bibliotecasCharla big data y data mining para gestión de información y bibliotecas
Charla big data y data mining para gestión de información y bibliotecasFelipe Vera (Prodigio Consultores)
 
Deep learning aprendizaje profundo
Deep learning  aprendizaje profundoDeep learning  aprendizaje profundo
Deep learning aprendizaje profundoAlfredo Tello
 
Sg14 minoru -por que usar machine learning
Sg14   minoru -por que usar machine learningSg14   minoru -por que usar machine learning
Sg14 minoru -por que usar machine learningEmilio Osorio Garcia
 
Inteligencia artificial y redes neuronales
Inteligencia artificial y redes neuronales Inteligencia artificial y redes neuronales
Inteligencia artificial y redes neuronales Angel Torres Martinez
 
Advanced Artificial Intelligence Microsoft Technet MSDN summit 2013
Advanced Artificial Intelligence  Microsoft Technet MSDN summit 2013Advanced Artificial Intelligence  Microsoft Technet MSDN summit 2013
Advanced Artificial Intelligence Microsoft Technet MSDN summit 2013Fernando Jimenez Motte
 
Taller Dircom Castilla y León: "Los nuevos retos: BigData, Internet of Things...
Taller Dircom Castilla y León: "Los nuevos retos:BigData, Internet of Things...Taller Dircom Castilla y León: "Los nuevos retos:BigData, Internet of Things...
Taller Dircom Castilla y León: "Los nuevos retos: BigData, Internet of Things...Asociación de Directivos de Comunicación
 
Internet, Big Data e Inteligencia Artificial
Internet, Big Data e Inteligencia ArtificialInternet, Big Data e Inteligencia Artificial
Internet, Big Data e Inteligencia ArtificialCleverTask
 
Aprenzaijeautomaticoeneropdf
AprenzaijeautomaticoeneropdfAprenzaijeautomaticoeneropdf
AprenzaijeautomaticoeneropdfJosé Chacón
 
How Machine Learning and Big Data can Help Us with the Human Learning
How Machine Learning and Big Data can Help Us with the Human LearningHow Machine Learning and Big Data can Help Us with the Human Learning
How Machine Learning and Big Data can Help Us with the Human LearningSvet Ivantchev
 
CRM y Big Data: el nuevo cliente vitaminado
CRM y Big Data: el nuevo cliente vitaminadoCRM y Big Data: el nuevo cliente vitaminado
CRM y Big Data: el nuevo cliente vitaminadoAndres Karp
 
Learning Vector Quantization LVQ
Learning Vector Quantization LVQLearning Vector Quantization LVQ
Learning Vector Quantization LVQESCOM
 
Los nuevos retos: BigData, Internet of Things (IoT) y Deep Web
Los nuevos retos: BigData, Internet of Things (IoT) y Deep WebLos nuevos retos: BigData, Internet of Things (IoT) y Deep Web
Los nuevos retos: BigData, Internet of Things (IoT) y Deep WebEmilio del Prado
 

Destacado (20)

Taller Big Data, ciencia de datos y R - IEEE SB UMH y Geeky Theory
Taller Big Data, ciencia de datos y R - IEEE SB UMH y Geeky TheoryTaller Big Data, ciencia de datos y R - IEEE SB UMH y Geeky Theory
Taller Big Data, ciencia de datos y R - IEEE SB UMH y Geeky Theory
 
Gartner presenta
Gartner presentaGartner presenta
Gartner presenta
 
Gartner
GartnerGartner
Gartner
 
Conferencia Analítica Datos y Cloud Computing
Conferencia Analítica Datos y Cloud ComputingConferencia Analítica Datos y Cloud Computing
Conferencia Analítica Datos y Cloud Computing
 
Charla big data y data mining para gestión de información y bibliotecas
Charla big data y data mining para gestión de información y bibliotecasCharla big data y data mining para gestión de información y bibliotecas
Charla big data y data mining para gestión de información y bibliotecas
 
Deep learning aprendizaje profundo
Deep learning  aprendizaje profundoDeep learning  aprendizaje profundo
Deep learning aprendizaje profundo
 
Inteligencia artificial
Inteligencia artificialInteligencia artificial
Inteligencia artificial
 
Sg14 minoru -por que usar machine learning
Sg14   minoru -por que usar machine learningSg14   minoru -por que usar machine learning
Sg14 minoru -por que usar machine learning
 
Inteligencia artificial y redes neuronales
Inteligencia artificial y redes neuronales Inteligencia artificial y redes neuronales
Inteligencia artificial y redes neuronales
 
Rna10
Rna10Rna10
Rna10
 
Redes Neuronales
Redes NeuronalesRedes Neuronales
Redes Neuronales
 
Advanced Artificial Intelligence Microsoft Technet MSDN summit 2013
Advanced Artificial Intelligence  Microsoft Technet MSDN summit 2013Advanced Artificial Intelligence  Microsoft Technet MSDN summit 2013
Advanced Artificial Intelligence Microsoft Technet MSDN summit 2013
 
Introducción a Aprendizaje de Maquina
Introducción a Aprendizaje de MaquinaIntroducción a Aprendizaje de Maquina
Introducción a Aprendizaje de Maquina
 
Taller Dircom Castilla y León: "Los nuevos retos: BigData, Internet of Things...
Taller Dircom Castilla y León: "Los nuevos retos:BigData, Internet of Things...Taller Dircom Castilla y León: "Los nuevos retos:BigData, Internet of Things...
Taller Dircom Castilla y León: "Los nuevos retos: BigData, Internet of Things...
 
Internet, Big Data e Inteligencia Artificial
Internet, Big Data e Inteligencia ArtificialInternet, Big Data e Inteligencia Artificial
Internet, Big Data e Inteligencia Artificial
 
Aprenzaijeautomaticoeneropdf
AprenzaijeautomaticoeneropdfAprenzaijeautomaticoeneropdf
Aprenzaijeautomaticoeneropdf
 
How Machine Learning and Big Data can Help Us with the Human Learning
How Machine Learning and Big Data can Help Us with the Human LearningHow Machine Learning and Big Data can Help Us with the Human Learning
How Machine Learning and Big Data can Help Us with the Human Learning
 
CRM y Big Data: el nuevo cliente vitaminado
CRM y Big Data: el nuevo cliente vitaminadoCRM y Big Data: el nuevo cliente vitaminado
CRM y Big Data: el nuevo cliente vitaminado
 
Learning Vector Quantization LVQ
Learning Vector Quantization LVQLearning Vector Quantization LVQ
Learning Vector Quantization LVQ
 
Los nuevos retos: BigData, Internet of Things (IoT) y Deep Web
Los nuevos retos: BigData, Internet of Things (IoT) y Deep WebLos nuevos retos: BigData, Internet of Things (IoT) y Deep Web
Los nuevos retos: BigData, Internet of Things (IoT) y Deep Web
 

Similar a Curso Big Data. Introducción a Deep Learning by Gabriel Valverde Castilla

Redes neuronales artificiales
Redes neuronales artificialesRedes neuronales artificiales
Redes neuronales artificialesJesus Palomino
 
CIITEC Fundamentos de Deep Learning.pptx
CIITEC  Fundamentos de Deep Learning.pptxCIITEC  Fundamentos de Deep Learning.pptx
CIITEC Fundamentos de Deep Learning.pptxicebeam7
 
Unidad 4 clas int datos.pptx
Unidad 4 clas int datos.pptxUnidad 4 clas int datos.pptx
Unidad 4 clas int datos.pptxfernandalemus15
 
Reconocimiento de patrones
Reconocimiento de patronesReconocimiento de patrones
Reconocimiento de patronesLeo Ruelas Rojas
 
Presentacion inteligencia artificial tecnologica futurista azul y violeta.pptx
Presentacion inteligencia artificial tecnologica futurista azul y violeta.pptxPresentacion inteligencia artificial tecnologica futurista azul y violeta.pptx
Presentacion inteligencia artificial tecnologica futurista azul y violeta.pptxAngel530603
 
Redes Neuronales Artificiales
Redes Neuronales ArtificialesRedes Neuronales Artificiales
Redes Neuronales ArtificialesJose
 
Trabajo colaborativo 3
Trabajo colaborativo 3Trabajo colaborativo 3
Trabajo colaborativo 3Vivy Castro
 
Trabajo colaborativo 3
Trabajo colaborativo 3Trabajo colaborativo 3
Trabajo colaborativo 3Vivy Castro
 
3.1 Representación de conocimiento mediante reglas.pptx
3.1 Representación de conocimiento mediante reglas.pptx3.1 Representación de conocimiento mediante reglas.pptx
3.1 Representación de conocimiento mediante reglas.pptxRam Vazquez
 
Redes Neuronales profundas convolucionales CNN ́s-1.pdf
Redes Neuronales profundas convolucionales CNN ́s-1.pdfRedes Neuronales profundas convolucionales CNN ́s-1.pdf
Redes Neuronales profundas convolucionales CNN ́s-1.pdfJosAndrRosarioVzquez
 
Intro a ANNs c/Keras
Intro a ANNs c/KerasIntro a ANNs c/Keras
Intro a ANNs c/KerasRodolfo Ferro
 
Luis Hernández-Cuadro Comparativo-I.pdf
Luis Hernández-Cuadro Comparativo-I.pdfLuis Hernández-Cuadro Comparativo-I.pdf
Luis Hernández-Cuadro Comparativo-I.pdfLuis12876
 
CEIAAIT - Fundamentos y Aplicaciones de Deep Learning.pdf
CEIAAIT - Fundamentos y Aplicaciones de Deep Learning.pdfCEIAAIT - Fundamentos y Aplicaciones de Deep Learning.pdf
CEIAAIT - Fundamentos y Aplicaciones de Deep Learning.pdfLuis Beltran
 
BDAS-2017 | Deep Learning para Extracción de Valor en Contenidos Digitales
BDAS-2017 | Deep Learning para Extracción de Valor en Contenidos DigitalesBDAS-2017 | Deep Learning para Extracción de Valor en Contenidos Digitales
BDAS-2017 | Deep Learning para Extracción de Valor en Contenidos DigitalesBig-Data-Summit
 

Similar a Curso Big Data. Introducción a Deep Learning by Gabriel Valverde Castilla (20)

Redes neuronales artificiales
Redes neuronales artificialesRedes neuronales artificiales
Redes neuronales artificiales
 
CIITEC Fundamentos de Deep Learning.pptx
CIITEC  Fundamentos de Deep Learning.pptxCIITEC  Fundamentos de Deep Learning.pptx
CIITEC Fundamentos de Deep Learning.pptx
 
Unidad 4 clas int datos.pptx
Unidad 4 clas int datos.pptxUnidad 4 clas int datos.pptx
Unidad 4 clas int datos.pptx
 
REDES NEURONALES.pptx
REDES NEURONALES.pptxREDES NEURONALES.pptx
REDES NEURONALES.pptx
 
Introducción a machine learning
Introducción a machine learningIntroducción a machine learning
Introducción a machine learning
 
Reconocimiento de patrones
Reconocimiento de patronesReconocimiento de patrones
Reconocimiento de patrones
 
Presentacion inteligencia artificial tecnologica futurista azul y violeta.pptx
Presentacion inteligencia artificial tecnologica futurista azul y violeta.pptxPresentacion inteligencia artificial tecnologica futurista azul y violeta.pptx
Presentacion inteligencia artificial tecnologica futurista azul y violeta.pptx
 
Redes Neuronales Artificiales
Redes Neuronales ArtificialesRedes Neuronales Artificiales
Redes Neuronales Artificiales
 
Trabajo colaborativo 3
Trabajo colaborativo 3Trabajo colaborativo 3
Trabajo colaborativo 3
 
Trabajo colaborativo 3
Trabajo colaborativo 3Trabajo colaborativo 3
Trabajo colaborativo 3
 
3.1 Representación de conocimiento mediante reglas.pptx
3.1 Representación de conocimiento mediante reglas.pptx3.1 Representación de conocimiento mediante reglas.pptx
3.1 Representación de conocimiento mediante reglas.pptx
 
Redes Neuronales profundas convolucionales CNN ́s-1.pdf
Redes Neuronales profundas convolucionales CNN ́s-1.pdfRedes Neuronales profundas convolucionales CNN ́s-1.pdf
Redes Neuronales profundas convolucionales CNN ́s-1.pdf
 
Deep Learning Notes
Deep Learning NotesDeep Learning Notes
Deep Learning Notes
 
Intro a ANNs c/Keras
Intro a ANNs c/KerasIntro a ANNs c/Keras
Intro a ANNs c/Keras
 
Luis Hernández-Cuadro Comparativo-I.pdf
Luis Hernández-Cuadro Comparativo-I.pdfLuis Hernández-Cuadro Comparativo-I.pdf
Luis Hernández-Cuadro Comparativo-I.pdf
 
CEIAAIT - Fundamentos y Aplicaciones de Deep Learning.pdf
CEIAAIT - Fundamentos y Aplicaciones de Deep Learning.pdfCEIAAIT - Fundamentos y Aplicaciones de Deep Learning.pdf
CEIAAIT - Fundamentos y Aplicaciones de Deep Learning.pdf
 
Redes neuronales
Redes neuronalesRedes neuronales
Redes neuronales
 
Ii corte presentacion i
Ii corte presentacion iIi corte presentacion i
Ii corte presentacion i
 
Ii corte presentacion i
Ii corte presentacion iIi corte presentacion i
Ii corte presentacion i
 
BDAS-2017 | Deep Learning para Extracción de Valor en Contenidos Digitales
BDAS-2017 | Deep Learning para Extracción de Valor en Contenidos DigitalesBDAS-2017 | Deep Learning para Extracción de Valor en Contenidos Digitales
BDAS-2017 | Deep Learning para Extracción de Valor en Contenidos Digitales
 

Más de Victoria López

Alan turing uva-presentationdec-2019
Alan turing uva-presentationdec-2019Alan turing uva-presentationdec-2019
Alan turing uva-presentationdec-2019Victoria López
 
Seminar UvA 2018- socialbigdata
Seminar UvA  2018- socialbigdataSeminar UvA  2018- socialbigdata
Seminar UvA 2018- socialbigdataVictoria López
 
BIG DATA EN CIENCIAS DE LA SALUD Y CIENCIAS SOCIALES
BIG DATA EN CIENCIAS DE LA SALUD Y CIENCIAS SOCIALESBIG DATA EN CIENCIAS DE LA SALUD Y CIENCIAS SOCIALES
BIG DATA EN CIENCIAS DE LA SALUD Y CIENCIAS SOCIALESVictoria López
 
ICCES'2016 BIG DATA IN HEALTHCARE AND SOCIAL SCIENCES
ICCES'2016  BIG DATA IN HEALTHCARE AND SOCIAL SCIENCESICCES'2016  BIG DATA IN HEALTHCARE AND SOCIAL SCIENCES
ICCES'2016 BIG DATA IN HEALTHCARE AND SOCIAL SCIENCESVictoria López
 
Presentación Gupo G-TeC en Social Big Data
Presentación Gupo G-TeC en Social Big DataPresentación Gupo G-TeC en Social Big Data
Presentación Gupo G-TeC en Social Big DataVictoria López
 
Big data systems and analytics
Big data systems and analyticsBig data systems and analytics
Big data systems and analyticsVictoria López
 
Big Data. Complejidad,algoritmos y su procesamiento
Big Data. Complejidad,algoritmos y su procesamientoBig Data. Complejidad,algoritmos y su procesamiento
Big Data. Complejidad,algoritmos y su procesamientoVictoria López
 
APLICACIÓN DE TÉCNICAS DE OPTIMIZACIÓN Y BIG DATA AL PROBLEMA DE BÚSQUEDA...
APLICACIÓN DE TÉCNICAS DE OPTIMIZACIÓN Y BIG DATA AL PROBLEMA DE BÚSQUEDA...APLICACIÓN DE TÉCNICAS DE OPTIMIZACIÓN Y BIG DATA AL PROBLEMA DE BÚSQUEDA...
APLICACIÓN DE TÉCNICAS DE OPTIMIZACIÓN Y BIG DATA AL PROBLEMA DE BÚSQUEDA...Victoria López
 
G te c sesion1a-bioinformatica y big data
G te c sesion1a-bioinformatica y big dataG te c sesion1a-bioinformatica y big data
G te c sesion1a-bioinformatica y big dataVictoria López
 
G te c sesion1b-casos de uso
G te c sesion1b-casos de usoG te c sesion1b-casos de uso
G te c sesion1b-casos de usoVictoria López
 
G te c sesion2a-data collection
G te c sesion2a-data collectionG te c sesion2a-data collection
G te c sesion2a-data collectionVictoria López
 
G tec sesion2b-host-cloud y cloudcomputing
G tec sesion2b-host-cloud y cloudcomputingG tec sesion2b-host-cloud y cloudcomputing
G tec sesion2b-host-cloud y cloudcomputingVictoria López
 
G te c sesion3a-bases de datos modernas
G te c sesion3a-bases de datos modernasG te c sesion3a-bases de datos modernas
G te c sesion3a-bases de datos modernasVictoria López
 
G te c sesion3b- mapreduce
G te c sesion3b- mapreduceG te c sesion3b- mapreduce
G te c sesion3b- mapreduceVictoria López
 
G te c sesion4a-bigdatasystemsanalytics
G te c sesion4a-bigdatasystemsanalyticsG te c sesion4a-bigdatasystemsanalytics
G te c sesion4a-bigdatasystemsanalyticsVictoria López
 
G te c sesion4b-complejidad y tpa
G te c sesion4b-complejidad y tpaG te c sesion4b-complejidad y tpa
G te c sesion4b-complejidad y tpaVictoria López
 
Open Data para Smartcity-Facultad de Estudios Estadísticos
Open Data para Smartcity-Facultad de Estudios EstadísticosOpen Data para Smartcity-Facultad de Estudios Estadísticos
Open Data para Smartcity-Facultad de Estudios EstadísticosVictoria López
 
Fortune Time Institute: Big Data - Challenges for Smartcity
Fortune Time Institute: Big Data - Challenges for SmartcityFortune Time Institute: Big Data - Challenges for Smartcity
Fortune Time Institute: Big Data - Challenges for SmartcityVictoria López
 
Curso Big Data. Control de semáforos en la Smartcity by Ana Laura Rodríguez y...
Curso Big Data. Control de semáforos en la Smartcity by Ana Laura Rodríguez y...Curso Big Data. Control de semáforos en la Smartcity by Ana Laura Rodríguez y...
Curso Big Data. Control de semáforos en la Smartcity by Ana Laura Rodríguez y...Victoria López
 

Más de Victoria López (20)

Alan turing uva-presentationdec-2019
Alan turing uva-presentationdec-2019Alan turing uva-presentationdec-2019
Alan turing uva-presentationdec-2019
 
Seminar UvA 2018- socialbigdata
Seminar UvA  2018- socialbigdataSeminar UvA  2018- socialbigdata
Seminar UvA 2018- socialbigdata
 
Jornada leiden short
Jornada leiden shortJornada leiden short
Jornada leiden short
 
BIG DATA EN CIENCIAS DE LA SALUD Y CIENCIAS SOCIALES
BIG DATA EN CIENCIAS DE LA SALUD Y CIENCIAS SOCIALESBIG DATA EN CIENCIAS DE LA SALUD Y CIENCIAS SOCIALES
BIG DATA EN CIENCIAS DE LA SALUD Y CIENCIAS SOCIALES
 
ICCES'2016 BIG DATA IN HEALTHCARE AND SOCIAL SCIENCES
ICCES'2016  BIG DATA IN HEALTHCARE AND SOCIAL SCIENCESICCES'2016  BIG DATA IN HEALTHCARE AND SOCIAL SCIENCES
ICCES'2016 BIG DATA IN HEALTHCARE AND SOCIAL SCIENCES
 
Presentación Gupo G-TeC en Social Big Data
Presentación Gupo G-TeC en Social Big DataPresentación Gupo G-TeC en Social Big Data
Presentación Gupo G-TeC en Social Big Data
 
Big data systems and analytics
Big data systems and analyticsBig data systems and analytics
Big data systems and analytics
 
Big Data. Complejidad,algoritmos y su procesamiento
Big Data. Complejidad,algoritmos y su procesamientoBig Data. Complejidad,algoritmos y su procesamiento
Big Data. Complejidad,algoritmos y su procesamiento
 
APLICACIÓN DE TÉCNICAS DE OPTIMIZACIÓN Y BIG DATA AL PROBLEMA DE BÚSQUEDA...
APLICACIÓN DE TÉCNICAS DE OPTIMIZACIÓN Y BIG DATA AL PROBLEMA DE BÚSQUEDA...APLICACIÓN DE TÉCNICAS DE OPTIMIZACIÓN Y BIG DATA AL PROBLEMA DE BÚSQUEDA...
APLICACIÓN DE TÉCNICAS DE OPTIMIZACIÓN Y BIG DATA AL PROBLEMA DE BÚSQUEDA...
 
G te c sesion1a-bioinformatica y big data
G te c sesion1a-bioinformatica y big dataG te c sesion1a-bioinformatica y big data
G te c sesion1a-bioinformatica y big data
 
G te c sesion1b-casos de uso
G te c sesion1b-casos de usoG te c sesion1b-casos de uso
G te c sesion1b-casos de uso
 
G te c sesion2a-data collection
G te c sesion2a-data collectionG te c sesion2a-data collection
G te c sesion2a-data collection
 
G tec sesion2b-host-cloud y cloudcomputing
G tec sesion2b-host-cloud y cloudcomputingG tec sesion2b-host-cloud y cloudcomputing
G tec sesion2b-host-cloud y cloudcomputing
 
G te c sesion3a-bases de datos modernas
G te c sesion3a-bases de datos modernasG te c sesion3a-bases de datos modernas
G te c sesion3a-bases de datos modernas
 
G te c sesion3b- mapreduce
G te c sesion3b- mapreduceG te c sesion3b- mapreduce
G te c sesion3b- mapreduce
 
G te c sesion4a-bigdatasystemsanalytics
G te c sesion4a-bigdatasystemsanalyticsG te c sesion4a-bigdatasystemsanalytics
G te c sesion4a-bigdatasystemsanalytics
 
G te c sesion4b-complejidad y tpa
G te c sesion4b-complejidad y tpaG te c sesion4b-complejidad y tpa
G te c sesion4b-complejidad y tpa
 
Open Data para Smartcity-Facultad de Estudios Estadísticos
Open Data para Smartcity-Facultad de Estudios EstadísticosOpen Data para Smartcity-Facultad de Estudios Estadísticos
Open Data para Smartcity-Facultad de Estudios Estadísticos
 
Fortune Time Institute: Big Data - Challenges for Smartcity
Fortune Time Institute: Big Data - Challenges for SmartcityFortune Time Institute: Big Data - Challenges for Smartcity
Fortune Time Institute: Big Data - Challenges for Smartcity
 
Curso Big Data. Control de semáforos en la Smartcity by Ana Laura Rodríguez y...
Curso Big Data. Control de semáforos en la Smartcity by Ana Laura Rodríguez y...Curso Big Data. Control de semáforos en la Smartcity by Ana Laura Rodríguez y...
Curso Big Data. Control de semáforos en la Smartcity by Ana Laura Rodríguez y...
 

Último

Presentación Navegadores de Internet.pptx
Presentación Navegadores de Internet.pptxPresentación Navegadores de Internet.pptx
Presentación Navegadores de Internet.pptxUniversidad de Sonora
 
Accidentes de tránsito 2DO BIMESTRE 2024.pdf
Accidentes de tránsito 2DO BIMESTRE 2024.pdfAccidentes de tránsito 2DO BIMESTRE 2024.pdf
Accidentes de tránsito 2DO BIMESTRE 2024.pdfIrapuatoCmovamos
 
PRACTICA 1 SOCIOLOGÍA ANÁLISIS SOCIOLÓGICO.pdf
PRACTICA 1 SOCIOLOGÍA ANÁLISIS SOCIOLÓGICO.pdfPRACTICA 1 SOCIOLOGÍA ANÁLISIS SOCIOLÓGICO.pdf
PRACTICA 1 SOCIOLOGÍA ANÁLISIS SOCIOLÓGICO.pdfencinasm992
 
Licencias por enfermedad de hijo menor de 2 años chile
Licencias por enfermedad de hijo menor de 2 años chileLicencias por enfermedad de hijo menor de 2 años chile
Licencias por enfermedad de hijo menor de 2 años chilefranciscasalinaspobl
 
El siglo de Asia en pocos datos relevantes (2024).pdf
El siglo de Asia en pocos datos relevantes (2024).pdfEl siglo de Asia en pocos datos relevantes (2024).pdf
El siglo de Asia en pocos datos relevantes (2024).pdfJC Díaz Herrera
 
Presentación Cuenta Pública HLS 2023.pptx
Presentación Cuenta Pública HLS 2023.pptxPresentación Cuenta Pública HLS 2023.pptx
Presentación Cuenta Pública HLS 2023.pptxhlscomunicaciones
 
REPORTE DE HOMICIDIO DOLOSO-ABRIL-2024.pdf
REPORTE DE HOMICIDIO DOLOSO-ABRIL-2024.pdfREPORTE DE HOMICIDIO DOLOSO-ABRIL-2024.pdf
REPORTE DE HOMICIDIO DOLOSO-ABRIL-2024.pdfIrapuatoCmovamos
 
BENNY.docx CARTA NOTARIAL HACIA PERSONA X EN EL AÑO 2024
BENNY.docx CARTA NOTARIAL HACIA PERSONA X EN EL AÑO 2024BENNY.docx CARTA NOTARIAL HACIA PERSONA X EN EL AÑO 2024
BENNY.docx CARTA NOTARIAL HACIA PERSONA X EN EL AÑO 2024DiarioPucallpa
 
Morfofisiopatologia Humana I________ UCS
Morfofisiopatologia Humana I________ UCSMorfofisiopatologia Humana I________ UCS
Morfofisiopatologia Humana I________ UCSLisaCinnamoroll
 
China y sus transacciones comerciales-financieras con el exterior (2024).pdf
China y sus transacciones comerciales-financieras con el exterior (2024).pdfChina y sus transacciones comerciales-financieras con el exterior (2024).pdf
China y sus transacciones comerciales-financieras con el exterior (2024).pdfJC Díaz Herrera
 
Ciencia de datos desde cero. Pr Joel Grus.pdf · 2da edicion español.pdf
Ciencia de datos desde cero. Pr Joel Grus.pdf · 2da edicion español.pdfCiencia de datos desde cero. Pr Joel Grus.pdf · 2da edicion español.pdf
Ciencia de datos desde cero. Pr Joel Grus.pdf · 2da edicion español.pdfdanielbazan27
 
DATOS SOBRE LA VIVIENDA SEGÚN CENSO 2017
DATOS SOBRE LA VIVIENDA SEGÚN CENSO 2017DATOS SOBRE LA VIVIENDA SEGÚN CENSO 2017
DATOS SOBRE LA VIVIENDA SEGÚN CENSO 2017jvasquezdepg23
 
Guia-de-Preparacion-Oficial_hggffffffffdEGA_II.pdf
Guia-de-Preparacion-Oficial_hggffffffffdEGA_II.pdfGuia-de-Preparacion-Oficial_hggffffffffdEGA_II.pdf
Guia-de-Preparacion-Oficial_hggffffffffdEGA_II.pdfFabiolaCastilloCanci
 
Desafíos y Oportunidades de la Educación Media Técnico Profesional en Chil...
Desafíos y Oportunidades de la Educación Media Técnico Profesional en Chil...Desafíos y Oportunidades de la Educación Media Técnico Profesional en Chil...
Desafíos y Oportunidades de la Educación Media Técnico Profesional en Chil...Emisor Digital
 
PRESUPUESTO Y/O FINANCIAMIENTO UNIDAD 2 TALLER DE INVESTIGACION
PRESUPUESTO Y/O FINANCIAMIENTO UNIDAD 2 TALLER DE INVESTIGACIONPRESUPUESTO Y/O FINANCIAMIENTO UNIDAD 2 TALLER DE INVESTIGACION
PRESUPUESTO Y/O FINANCIAMIENTO UNIDAD 2 TALLER DE INVESTIGACIONceliajessicapinedava
 
Bioquímica ilustrada tomo 50- introduccion .pdf
Bioquímica ilustrada tomo 50- introduccion .pdfBioquímica ilustrada tomo 50- introduccion .pdf
Bioquímica ilustrada tomo 50- introduccion .pdfsergio401584
 
Los cantantes más ricos del mundo en mdd U$ (2024).pdf
Los cantantes más ricos del mundo en mdd U$ (2024).pdfLos cantantes más ricos del mundo en mdd U$ (2024).pdf
Los cantantes más ricos del mundo en mdd U$ (2024).pdfJC Díaz Herrera
 
REPORTE 1ER TRIMESTRE EJECUTIVO OBS REGIONAL 2024.pdf
REPORTE 1ER TRIMESTRE EJECUTIVO OBS REGIONAL 2024.pdfREPORTE 1ER TRIMESTRE EJECUTIVO OBS REGIONAL 2024.pdf
REPORTE 1ER TRIMESTRE EJECUTIVO OBS REGIONAL 2024.pdfIrapuatoCmovamos
 
biofisica ciencias básicas biología.docx
biofisica ciencias básicas biología.docxbiofisica ciencias básicas biología.docx
biofisica ciencias básicas biología.docxmelissa501795
 
El narcisismo actualmente en el mundo 2024
El narcisismo actualmente en el mundo 2024El narcisismo actualmente en el mundo 2024
El narcisismo actualmente en el mundo 2024pepepinon408
 

Último (20)

Presentación Navegadores de Internet.pptx
Presentación Navegadores de Internet.pptxPresentación Navegadores de Internet.pptx
Presentación Navegadores de Internet.pptx
 
Accidentes de tránsito 2DO BIMESTRE 2024.pdf
Accidentes de tránsito 2DO BIMESTRE 2024.pdfAccidentes de tránsito 2DO BIMESTRE 2024.pdf
Accidentes de tránsito 2DO BIMESTRE 2024.pdf
 
PRACTICA 1 SOCIOLOGÍA ANÁLISIS SOCIOLÓGICO.pdf
PRACTICA 1 SOCIOLOGÍA ANÁLISIS SOCIOLÓGICO.pdfPRACTICA 1 SOCIOLOGÍA ANÁLISIS SOCIOLÓGICO.pdf
PRACTICA 1 SOCIOLOGÍA ANÁLISIS SOCIOLÓGICO.pdf
 
Licencias por enfermedad de hijo menor de 2 años chile
Licencias por enfermedad de hijo menor de 2 años chileLicencias por enfermedad de hijo menor de 2 años chile
Licencias por enfermedad de hijo menor de 2 años chile
 
El siglo de Asia en pocos datos relevantes (2024).pdf
El siglo de Asia en pocos datos relevantes (2024).pdfEl siglo de Asia en pocos datos relevantes (2024).pdf
El siglo de Asia en pocos datos relevantes (2024).pdf
 
Presentación Cuenta Pública HLS 2023.pptx
Presentación Cuenta Pública HLS 2023.pptxPresentación Cuenta Pública HLS 2023.pptx
Presentación Cuenta Pública HLS 2023.pptx
 
REPORTE DE HOMICIDIO DOLOSO-ABRIL-2024.pdf
REPORTE DE HOMICIDIO DOLOSO-ABRIL-2024.pdfREPORTE DE HOMICIDIO DOLOSO-ABRIL-2024.pdf
REPORTE DE HOMICIDIO DOLOSO-ABRIL-2024.pdf
 
BENNY.docx CARTA NOTARIAL HACIA PERSONA X EN EL AÑO 2024
BENNY.docx CARTA NOTARIAL HACIA PERSONA X EN EL AÑO 2024BENNY.docx CARTA NOTARIAL HACIA PERSONA X EN EL AÑO 2024
BENNY.docx CARTA NOTARIAL HACIA PERSONA X EN EL AÑO 2024
 
Morfofisiopatologia Humana I________ UCS
Morfofisiopatologia Humana I________ UCSMorfofisiopatologia Humana I________ UCS
Morfofisiopatologia Humana I________ UCS
 
China y sus transacciones comerciales-financieras con el exterior (2024).pdf
China y sus transacciones comerciales-financieras con el exterior (2024).pdfChina y sus transacciones comerciales-financieras con el exterior (2024).pdf
China y sus transacciones comerciales-financieras con el exterior (2024).pdf
 
Ciencia de datos desde cero. Pr Joel Grus.pdf · 2da edicion español.pdf
Ciencia de datos desde cero. Pr Joel Grus.pdf · 2da edicion español.pdfCiencia de datos desde cero. Pr Joel Grus.pdf · 2da edicion español.pdf
Ciencia de datos desde cero. Pr Joel Grus.pdf · 2da edicion español.pdf
 
DATOS SOBRE LA VIVIENDA SEGÚN CENSO 2017
DATOS SOBRE LA VIVIENDA SEGÚN CENSO 2017DATOS SOBRE LA VIVIENDA SEGÚN CENSO 2017
DATOS SOBRE LA VIVIENDA SEGÚN CENSO 2017
 
Guia-de-Preparacion-Oficial_hggffffffffdEGA_II.pdf
Guia-de-Preparacion-Oficial_hggffffffffdEGA_II.pdfGuia-de-Preparacion-Oficial_hggffffffffdEGA_II.pdf
Guia-de-Preparacion-Oficial_hggffffffffdEGA_II.pdf
 
Desafíos y Oportunidades de la Educación Media Técnico Profesional en Chil...
Desafíos y Oportunidades de la Educación Media Técnico Profesional en Chil...Desafíos y Oportunidades de la Educación Media Técnico Profesional en Chil...
Desafíos y Oportunidades de la Educación Media Técnico Profesional en Chil...
 
PRESUPUESTO Y/O FINANCIAMIENTO UNIDAD 2 TALLER DE INVESTIGACION
PRESUPUESTO Y/O FINANCIAMIENTO UNIDAD 2 TALLER DE INVESTIGACIONPRESUPUESTO Y/O FINANCIAMIENTO UNIDAD 2 TALLER DE INVESTIGACION
PRESUPUESTO Y/O FINANCIAMIENTO UNIDAD 2 TALLER DE INVESTIGACION
 
Bioquímica ilustrada tomo 50- introduccion .pdf
Bioquímica ilustrada tomo 50- introduccion .pdfBioquímica ilustrada tomo 50- introduccion .pdf
Bioquímica ilustrada tomo 50- introduccion .pdf
 
Los cantantes más ricos del mundo en mdd U$ (2024).pdf
Los cantantes más ricos del mundo en mdd U$ (2024).pdfLos cantantes más ricos del mundo en mdd U$ (2024).pdf
Los cantantes más ricos del mundo en mdd U$ (2024).pdf
 
REPORTE 1ER TRIMESTRE EJECUTIVO OBS REGIONAL 2024.pdf
REPORTE 1ER TRIMESTRE EJECUTIVO OBS REGIONAL 2024.pdfREPORTE 1ER TRIMESTRE EJECUTIVO OBS REGIONAL 2024.pdf
REPORTE 1ER TRIMESTRE EJECUTIVO OBS REGIONAL 2024.pdf
 
biofisica ciencias básicas biología.docx
biofisica ciencias básicas biología.docxbiofisica ciencias básicas biología.docx
biofisica ciencias básicas biología.docx
 
El narcisismo actualmente en el mundo 2024
El narcisismo actualmente en el mundo 2024El narcisismo actualmente en el mundo 2024
El narcisismo actualmente en el mundo 2024
 

Curso Big Data. Introducción a Deep Learning by Gabriel Valverde Castilla

  • 1. DEEP LEARNING GABRIEL ANTONIO VALVERDE CASTILLA BIG & OPEN DATA. ANÁLISIS Y PROGRAMACIÓN CON R. LICENCIADO EN MATEMÁTICAS Y ESTADÍSTICA EN UNEX ALUMNO MASTER INGENIERIA MATEMATICAS UCM
  • 2. SUMARIO • Introducción Machine Learning • ¿Qué es Deep Learning? ¿Qué más aporta? • Clasificación de las técnicas de Deep Learning. • Ejemplos: • Autoencoders. • Stacking Autoencoders.
  • 3. MACHINE LEARNING • Rama de la Inteligencia Artificial. • El objetivo es desarrollar técnicas que permitan a la máquina aprender. • Origen en datos desestructurados. • Se centra en la complejidad computacional. Por lo que se centra en encontrar algoritmos factibles para NP-hard. • Algunos ejemplos son: • GMM- Gaussian Mixture Model. • CRFs- Conditional Random Fields. • MaxEnt- Maximun entropy. • SVM- Support Vector Machines. • Logistic Regression. • Kernel regression. • Multilayer Perceptrons
  • 4. ¿QUÉ ES DEEP LEARNING? • DeepLearning= NN+IA+GM+Optimización+PR+SP. Neuronal Inteligencia Graph Procesamiento Procesamiento Network Artificial Modeling Patrones Señales.
  • 5.
  • 6.
  • 7.
  • 8. ¿QUÉ ES DEEP LEARNING? Vamos a analizar el camino seguido a partir de varias definiciones. Definición: Clase de técnicas de Machine Learning buscando la extracción y transformación de features referentes al procesamiento de la información. Ya sea de forma supervisada o no. Definición: Un campo dentro de Machine Learning basados en algoritmos para aprender varios niveles de representación buscando relaciones complejas. Tenemos por tanto features de alto y bajo nivel, jerarquizandolas, Deep arquitectura. Generalmente no supervisado. Definición: CONTINUACION. Las de bajo nivel pueden ayudar a definir las de alto nivel. Es a tener también en cuenta que algunas representaciones son mejores que otras para depende de que tareas. Definición: Deep Learning, nueva área creada para devolver a Machine Learning a uno de sus objetivos: Inteligencia Artificial. Buscar niveles de abstracción que nos permitan dar sentido a imagenes, sonidos y texto.
  • 9. ¿QUÉ MÁS APORTA? JERARQUÍA. Son técnicas que reciben mayor cantidad de datos. Más capas que desarrollan estas jerarquías entre la información. - Nos permite obtener features de forma no supervisada. - Realizar clasificaciones.
  • 10. PROBLEMAS • Muchos de los modelos -> REDES NEURONALES. DNN por ejemplo. • Los algoritmos de optimización usados hasta ahora fallan. Back Propagation. • Funciones no convexas. No funciona bien gradiente descendente. • Muchas capas y muchas neuronas-> Muchos recursos. • SOLUCIONES: • Gradiente Descendente Estocastico. • Hessian Free. • Kyrlov Suspace Methods. • SVM,CRF,MAXENT, funciones convexas.
  • 11. SOLUCIONES ENTRENAMIENTO Si los modelos se preentrenan con anterioridad los pesos se acercan a los valores óptimos y hay menos posibilidades de mínimo local. • Considerar cada capa como un denoising autoencoders que se entrena a si mismo. • Usar autoencoders contractivos que son más robustos ante variaciones. • SESM Sparse Autoencoders Symmetric Machine (Ranzano) • Preentrenamientos no supervisado y supervisado. • MLP entrenada con un BP.
  • 12. CLASIFICACIÓN No supervisadas: Captura patrones. Aprendizaje representativo. Generativos, buscan clases asociadas a distribuciones de probabilidad estimadas a partir de los datos observados. Para discriminar usando reglas de bayes. Generatición de features. Supervisadas: Buscan dicriminar patrones con objeto de clasificar. Conocerter las targets. Clasificar en importancia la información que discrimina nuestros objetivos. Llamado redes profundas discriminitivas. Hibrido: Los modelos no supervisados son utilizados como procesos de entrenamientos de los que si lo son. Pretraining con autoencoders sobre DNN.1 O el análisis discriminativo se utiliza para mejorar los no supervisados.
  • 13. • Los primeros son mejores para entrenar y probar, con una construcción flexible, para aprendizaje de sistemas complejos. • Los segundos, más facilidad de interpretación, más fácil integrar conocimiento del dominio, mas sencillo componer, mas fácil manejar la incertidumbre, peor para inferencia y aprendizaje de sistemas complejos.
  • 14. EJEMPLOS Deep Belief Network (DBN): modelos probabilísticos generativos compuestos por muchas capas, y variables ocultas. Boltzmann machine(BM): una red conectada de forma simétrica, con neuronas como unidades que toman la decision de estar conectadas o no. Restricted Boltzmann machine (RBM): tipo especial de BM donde no se permiten interrelación entre neuronas del mismo tipo. Deep Neural Network (DNN): perceptron multicapa con varias capas ocultas, cuyos pesos estan conectados y suelen ser iniciados usando por otro modelo supervisado o no de técnica de entrenamiento. Deep autoencoders: modelo discriminativo DNN que toma como salida los propios valores de entrada, se trata por tanto de un modelo no supervisado. Cuando el objetivo es eliminar ruido se comporta como un modelo generativo.
  • 15. NO SUPERVISADOS: AUTOENCODERS. No tienen clases con los que comparar los indicadores. Funcionan como filtros. Creadores de features representativas. Muestreo de los datos. • Los conjuntos más comunes son los Energy-based. Siendo Deep autoencoders el más representativo. También tenemos otros con otras propiedades: • Transforming Autoencoders. Estos autoencoders lo que hacen es transformar nuestros input en output cuya destransformación nos devuelve verdaderos valores. • Predictive Sparse Coders- Los propuestos por Ranzano. • De-noising autoencoders- Estos autoencoders se encargan de limpiar de ruido los datos de entrada para que puedan ser evaluados por otros modelos de una forma más sencilla.
  • 16. NO SUPERVISADOS: AUTOENCODERS. • Consideramos un conjunto de valores de entrada (input,target), • 𝐷 𝑛 = (𝑥(1), 𝑡(1)). . . , (𝑥(𝑛), 𝑡(𝑛)) i.i.d. Ejemplos de una distribución desconocida 𝑞 𝑋, 𝑇 𝑐𝑜𝑛 𝑚𝑎𝑟𝑔𝑖𝑛𝑎𝑙𝑒𝑠 𝑞(𝑥), 𝑞(𝑡). • Denotamos 𝑞⁰(𝑋, 𝑇)y q⁰(X) a las empíricas iniciales.
  • 17. NO SUPERVISADOS: AUTOENCODERS. • 𝐸𝑛𝑡𝑟𝑜𝑝𝑦 ∨ 𝑑𝑖𝑓𝑓𝑒𝑟𝑒𝑛𝑡𝑖𝑎𝑙𝑒𝑛𝑡𝑟𝑜𝑝𝑦: 𝐼𝐻(𝑋) = 𝐼𝐻(𝑝) = 𝐸𝑝(𝑋)[−log𝑝(𝑋)]. • 𝐶𝑜𝑛𝑑𝑖𝑡𝑖𝑜𝑛𝑎𝑙𝑒𝑛𝑡𝑟𝑜𝑝𝑦: 𝐼𝐻(𝑋 ∣ 𝑌) = 𝐸𝑝(𝑋, 𝑌)[−log𝑝(𝑋 ∣ 𝑌)] • 𝐾𝑢𝑙𝑙𝑏𝑎𝑐𝑘 − 𝐿𝑒𝑖𝑏𝑙𝑒𝑟𝑑𝑖𝑣𝑒𝑟𝑔𝑒𝑛𝑐𝑒: 𝐼𝐷 𝐾𝐿(𝑝 ∣ 𝑞) = 𝐸 𝑝(𝑥)[log𝑝 (𝑋) 𝑞 (𝑋)]. • 𝐶𝑟𝑜𝑠𝑠 − 𝑒𝑛𝑡𝑟𝑜𝑝𝑦: 𝐼𝐻(𝑝 ∣ 𝑞) = 𝐸𝑝(𝑋)[−log𝑞(𝑋)] = 𝐼𝐻(𝑝) + 𝐼𝐷 𝑘𝑙(𝑝 ∣ 𝑞). • 𝑀𝑢𝑡𝑢𝑎𝑙𝑖𝑛𝑓𝑜𝑟𝑚𝑎𝑡𝑖𝑜𝑛: 𝐼(𝑋; 𝑌) = 𝐼𝐻(𝑋) − 𝐼𝐻(𝑋 ∣ 𝑌)
  • 19. NO SUPERVISADOS: STACKING AUTOENCODERS.