Subido porEduardo Castro
Analisis predictivo con microsoft azure
El documento detalla el análisis predictivo y el aprendizaje automático utilizando Microsoft Azure Machine Learning, explicando su importancia en la toma de decisiones y la minería de datos. Se presentan casos de uso aplicados en diversas industrias, como análisis de riesgo y detección de fraude, y se destacan los componentes y flujos de trabajo necesarios para implementar modelos predictivos. Además, se profundiza en el uso de herramientas y algoritmos disponibles en Azure para desarrollar y optimizar modelos de análisis predictivo.
Más contenido relacionado
Similar a Analisis predictivo con microsoft azure
Analisis predictivo con microsoft azure
- 1. Análisis Predicitivo con Microsoft Azure Machine Learning Dr.Eduardo Castro, MATI IEEE Computer Society ViceChair Microsoft SQL Server MVP PASS Regional Mentor
- 2. Introducción para BI& Big Data DAX MDX Minería de Datos Excel BI Recursos adicionales
- 3.
- 4. Definiciones Frase Objetivo "La mineríade datos" Toma de decisiones "Machine Learning" Determinar el algoritmo de mejor desempeño
- 5. Introducción al Análisispredictivo Predictive Analytics Predictive ModelingData Mining
- 6. Análisis predictivo • ¿Quéporcentaje de las aplicaciones analíticas utilizará las capacidades predictivas en 2014?
- 7. Análisis predictivo • ¿Quéporcentaje de las aplicaciones analíticas utilizará las capacidades predictivas en 2014?
- 8. ¿Por qué elresurgimiento en el análisis predictivo?
- 9. Científico de datos Uncientífico de datos incorpora técnicas y teorías de muchos campos, incluyendo las matemáticas, la estadística, la ingeniería de datos, reconocimiento de patrones, aprendizaje avanzado , visualización, modelado de la incertidumbre, almacenamiento de datos y la computación de alto rendimiento con el objetivo de extraer el significado de datos. Ciencia de datos: un término utilizado indistintamente con inteligencia de negocio o análitica empresarial
- 10. ¿Qué es elanálisis predictivo? • El análisis de datos con técnicas matemáticas de estadística, minería de datos y aprendizaje automático. Se utiliza para descubrir patrones ocultos, que da una ventaja competitiva.
- 11. Qué es elanálisis predictivo? Predictive Analytics es el descubrimiento de información predictiva, a veces oculta, de las bases de datos utilizando atributos de datos relacionados y no relacionados con la aplicación de algoritmos de análisis, y la creación de modelos que generan resultados predictivos. Modelaje Predictivo es el proceso de creación de un modelo para predecir mejor la probabilidad de un resultado.
- 12. Minería de datoshabilita Analítica Predictiva Análisis predictivo Presentación Exploración Descubrim iento Pasivo Interactivo Proactive Insight Negocios Informes en conserva Ad hoc Reporting Modelo de Datos Data Mining Papel de Software
- 13. ¿Qué es elanálisis predictivo?
- 14. Escenarios comunes declientes por análisis predictivo
- 15. Principales fuentes dedatos • Redes sociales y medios de comunicación • 700 millones de usuarios de Facebook, 250 millones de usuarios de Twitter y 156 millones de blogs públicos • Dispositivos móviles • Más de 5 mil millones de teléfonos móviles en uso en todo el mundo • Transacciones en Internet • miles de millones de compras en línea, operaciones de bolsa y otras transacciones ocurren todos los días • Dispositivos de red y sensores
- 16. Casos de uso SentimentAnalysis • Utilizado junto con Hadoop, herramientas avanzadas de análisis de texto analizan el texto no estructurado de las redes sociales y mensajes de redes sociales • Incluyendo los Tweets y mensajes de Facebook, para determinar la confianza del usuario en relación con determinadas empresas, marcas o productos. • El análisis puede centrarse en el sentimiento a nivel macro hasta el sentimiento usuario individual.
- 17. Casos de uso Modeladode riesgo • Las empresas financieras, bancos y otros utilizan Hadoop y Next Generation Data Warehouse para analizar grandes volúmenes de datos transaccionales para determinar el riesgo y la exposición de los activos financieros • Para preparar la posible "qué pasaría si" los escenarios basados en el comportamiento del mercado simulado, y para puntuación de clientes potenciales por el riesgo.
- 18. Casos de uso Motorde recomendación • Los minoristas en línea utilizan Hadoop para igualar y recomendar a los usuarios entre sí o con los productos y servicios basados en el análisis del perfil de usuario y los datos de comportamiento. • LinkedIn utiliza este enfoque para potenciar su función de "la gente puede saber", mientras que Amazon utiliza para sugerir productos a la venta a los consumidores en línea.
- 19. Casos de uso Detecciónde Fraude • Utilizar técnicas de Big Data para combinar el comportamiento del cliente, históricos y datos de transacciones para detectar la actividad fraudulenta. • Las compañías de tarjetas de crédito, por ejemplo, utilizan tecnologías de Big Data para identificar el comportamiento transaccional que indica una alta probabilidad de una tarjeta robada.
- 20. Casos de uso Análisisde la campaña de marketing • Los departamentos de marketing a través de industrias han utilizado durante mucho tiempo la tecnología para monitorear y determinar la efectividad de las campañas de marketing. • Big Data permite a los equipos de marketing para incorporar mayores volúmenes de datos cada vez más granulares, como los datos de click-stream y registros detallados de llamadas, para aumentar la precisión de los análisis.
- 21. Casos de uso AnálisisSocial Graph • Junto con Hadoop los datos de redes sociales se extraen para determinar qué clientes representan la mayor influencia sobre los demás dentro de las redes sociales. • Esto ayuda a determinar las empresas que son sus clientes "más importantes", que no siempre son los que compran la mayoría de los productos o de los que más gastan, pero los que tienden a influir en el comportamiento de compra de la mayoría de los demás.
- 22. Casos de uso CustomerExperience Analytics • Empresas orientadas al consumidor utilizan Hadoop y tecnologías relacionadas con Big Data para integrar los datos de antes silos canales de interacción con clientes • Tales como centros de llamadas, chat en línea, Twitter, etc, para obtener una visión completa de la experiencia del cliente.
- 23. El análisis predictivoejemplo de flujo de trabajo: tarjetas de crédito
- 24. El análisis predictivoejemplo de flujo de trabajo: tarjetas de crédito Datos de crédito del Banco. Los datos del historial de pago de la oficina de crédito. Los datos demográficos de terceros. Hacer frente a los valores extremos y valores perdidos. Preparar las variables continuas y categóricas.
- 25. El análisis predictivoejemplo de flujo de trabajo: tarjetas de crédito Utilice Microsoft o una solución de terceros (por ejemplo, SAS). O ... Programe su propio algoritmo. Entrenar el modelo con gran subconjunto de los datos y probado en subconjunto más pequeño. La regresión logística es un estándar de facto.
- 26. El análisis predictivoejemplo de flujo de trabajo: tarjetas de crédito Utilice Microsoft o una solución de terceros (por ejemplo, SAS). O ... Programe su propio algoritmo. Entrenar el modelo con gran subconjunto de los datos y probado en subconjunto más pequeño. La regresión logística es un estándar de facto. Representar al modelo como una fórmula. Implementar el modelo en la herramienta de puntuación del banco. Integrar los resultados del modelo en aplicaciones para el uso por parte del personal o los socios del banco.
- 27. El análisis predictivoejemplo de flujo de trabajo: tarjetas de crédito Utilice Microsoft o una solución de terceros (por ejemplo, SAS). O ... Programe su propio algoritmo. Entrenar el modelo con gran subconjunto de los datos y probado en subconjunto más pequeño. La regresión logística es un estándar de facto. Monitorear continuamente el rendimiento del cuadro de mando de los nuevos clientes. Revisar el modelo una vez que comienza bajo rendimiento. Representar al modelo como una fórmula. Implementar el modelo en la herramienta de puntuación del banco. Integrar los resultados del modelo en aplicaciones para el uso por parte del personal o los socios del banco.
- 28. • La automatizaciónde la automatización • Utilizar computadoras para programar computadoras • Escribir software es el cuello de botella • Deje que los datos hagan el trabajo! Qué es el aprendizaje autómático o Machine Learning
- 29. 2 ¿Por qué "Aprender"? •El aprendizaje automático es la programación de computadoras para optimizar un criterio de desempeño usando datos como ejemplo o experiencia previa. • El aprendizaje se utiliza cuando: • Experiencia humana no existe (la navegación en Marte), • Los seres humanos son incapaces de explicar su experiencia (reconocimiento de voz) • Solución cambios en el tiempo (el enrutamiento en una red informática) • Solución necesita ser adaptada a los casos particulares (biométrica de usuario)
- 30. Cumpliendo con unode los viejos sueños del co-fundador de Microsoft, Bill Gates: Computadoras que podemos ver, oír y entender. John Platt Científico distinguido en Microsoft Research ¿Qué es Aprendizaje Automático? Sistemas informáticos de predicción se vuelven más inteligentes, con experiencia " "
- 31. 3 De qué hablamoscuando hablamos de "Aprendizaje" • Aprender modelos generales a partir de ejemplos de datos particulares • Los datos son baratos y abundantes (data warehouses, data marts); el conocimiento es caro y escaso. • Ejemplo para comercio minorista: las transacciones de los clientes y la conducta del consumidor: Las personas que compraron "Código Da Vinci" también compraron "Las cinco personas que conoces en el cielo" (www.amazon.com) • Construir un modelo que es una aproximación buena y útil de los datos.
- 32.
- 33. Analytics Vision Utilizando losdatos del pasado para predecir el futuro Motores recomenda-ción Análisis Publicidad El pronóstico del tiempo para la planificación de negocios Análisis de redes sociales Legal descubrimiento y archivo de documentos Análisis de precios Fraude detección Mantequera análisis Supervisión de equipos Seguimiento y servicios basados en localización Seguros personalizada El aprendizaje automático y el análisis predictivo son capacidades básicas que se necesitan en toda la empresa
- 34. • Búsqueda Web •Biología computacional • Finanzas • E-commerce • La exploración espacial • Robótica • Extracción de información • Redes sociales • Depuración Aplicaciones de ejemplo
- 35. • Muchos algoritmosde aprendizaje automático • Cientos nuevas cada año • Cada algoritmo de aprendizaje automático tiene tres componentes: • Representación • Evaluación • Optimización ML en resumen
- 36. • Los árbolesde decisión • Conjuntos de reglas / Programas de Logica • Instancias • Modelos gráficos (Bayes / redes de Markov) • Las redes neuronales • Máquinas de vectores Representación de Algoritmos de ML
- 37. • Precisión • Precisióny recuperación • Error cuadrado • Probabilidad • Posterior probabilidad • Costo / Utilidad • Margen • Entropía • K-L divergencia • Etcétera Evaluación de algoritmos de ML
- 38. • Optimización combinatoria •Por ejemplo .: búsqueda Greedy • Optimización convexa • Por ejemplo .: descenso de gradiente • Optimización con restricciones • Por ejemplo .: programación lineal Optimización de algoritmos de ML
- 39. • Aprendizaje poranálisis de asociación • Aprendizaje Supervisado (inductivo) • Los datos de entrenamiento incluye salidas deseadas • Clasificación • Regresión/ Predicción • Aprendizaje no supervisado • Los datos de entrenamiento no incluye salidas deseadas • Aprendizaje semisupervisado • Los datos de entrenamiento incluye un par de productos deseados • Aprendizaje por refuerzo • Recompensas con base en secuencia de acciones Tipos de aprendizaje
- 40. • Dado ejemplosde una función (X, F (X)) • Predecir función F (X) para nuevos ejemplos X • Discreto F (X): Clasificación • Continuo F (X): Regresión • F (X) = Probabilidad (X): Estimación de Probabilidad Apredizaje inductivo
- 41. • El aprendizajesupervisado • Inducción por Árbol de decisiones • Inducción por reglas • Aprendizaje basado en Instancias • Aprendizaje bayesiano • Las redes neuronales • Máquinas de vectores • Aprendizaje no supervisado • Clustering • Reducción de dimensionalidad Clasificación de aprendizajes
- 42. Aprendizaje por asociación •Análisis de la carrito de compras: P(Y|X) La probabilidad de que alguien que compra X También compra Y donde X y Y son productos / servicios. Ejemplo: P(Frijoles molidos | Tortillitas) = 0,7 Transacciones de carrito de compras ID Producto 1 Arroz, Coca Cola 2 Arroz, Coca Cola, Frijoles 3 Arroz, Frijoles 4 Tortillitas, Frijoles Molidos 5 Arroz, Coca Cola, Frijoles Molidos, Tortillitas
- 43. Aprendizaje por clasificación 9 •Ejemplo: El puntaje de crédito • Diferenciar entre bajo riesgo y de riesgo alto con base en los ingresos y ahorros de los clientes Discriminante: IF ingresos > Θ1 Y ahorros > Θ2 ENTONCES bajo riesgo ELSE riesgo alto Modelo
- 44. Regresión lineal • Laregresión lineal es una de las técnicas de predicción más antiguos de estadística. El objetivo de la regresión lineal es ajustar un modelo lineal entre las variables de respuesta e independientes, y lo utilizan para predecir el resultado dado un conjunto de variables independientes observados . Un modelo de regresión lineal simple es una fórmula con la estructura:
- 45. Regresión lineal • Yes la variable de respuesta (es decir, el resultado que usted está tratando de predecir), como las millas por galón. • X1,X2, X3, etc., son las variables independientes que se utilizan para predecir el resultado. • b0 es una constante que es la intersección de la línea de regresión. • b1, b2, b3, etc., son los coeficientes de las variables independientes. Estos se refieren a las pistas parciales de cada variable. • e es el error o ruido asociado con la variable de respuesta que no se puede explicar por la variables independientes X1, X2, X3 y.
- 46. Un modelo de regresión linealsimple que predice millas de un carro por galón de su potencia de motor
- 47. Redes Neuronales • Lasredes neuronales artificiales son un conjunto de algoritmos que imitan el funcionamiento del cerebro. • Hay muchos algoritmos de redes neuronales diferentes, incluidas las redes de retropropagación, redes de Hopfield, Redes de Kohonen (también conocidos como mapas auto-organizados) y Redes ART (o ART) redes. • Sin embargo, el más común es el algoritmo de back-propagation, también conocido como multilayered perceptron.
- 48. Árboles de decisión •Algoritmos de árboles de decisión son técnicas jerárquicas que funcionan mediante la división del conjunto de datos de forma iterativa en base a ciertos criterios estadísticos. • El objetivo de los árboles de decisión es maximizar la varianza entre los diferentes nodos en el árbol, y minimizar la varianza dentro de cada nodo
- 49. Ejemplo de árbolde decisión
- 50. • La comprensiónde dominio, conocimiento previo, y las metas deseadas • La integración de datos, selección, limpieza, pre-procesamiento, etc. • Modelos de aprendizaje • Interpretación de los resultados • La consolidación y el despliegue de conocimiento descubierto Machine Learning en la práctica
- 51. ¿Cómo utilizo AzureMachine Learning? Importar datos Constuir un modelo Combinar el Modelo con el API
- 52. Una solución deAprendizaje Automático – obtener resultados a partir de los datos Azure Portal Operaciones Azure Equipo ML Studio Científico de Datos HDInsight Almacenamiento En Azure Datos de escritorio Azure Portal y Servicio API ML Equipo de operaciones de Azure PowerBI/ DashboardsAplicaciones MóvilesAplicaciones Web Servicio API ML Desarrollador
- 53. Una solución deAprendizaje Automático - obtener resultados a partir de los datos Azure Portal Operaciones Azure Equipo ML Estudio Datos Científico HDInsight Almacenamiento Azure Datos de escritorio Azure Portal y Servicio API ML Operaciones Azure Equipo PowerBI/ DashboardsAplicaciones MóvilesAplicaciones Web Servicio API ML Revelador ML Studio y el científico de datos • Acceso y preparación de datos • Crear, modelos de prueba • Con un solo clic pasar a la etapa de producción a través de la API de Servicios Servicio API Azure Portal y ML • Crear ML Studio Workplace • Asignar cuenta de almacenamiento (s) • Monitor Consumo ML • Ver alertas cuando el modelo es listo • Publicar WebServices API ML servicio y el desarrollador • Modelos disponibles como una url que se puede invocar Los usuarios pueden acceder fácilmente a los resultados: desde cualquier lugar,en cualquier dispositivo
- 54.
- 56. Machine Learning Studio Experimentos:Los experimentos que se han creado, ejecutado, y guardado como borradores. Estos incluyen un conjunto de experimentos de ejemplo que se incluyen con el servicio que le ayudará en sus proyectos. Servicios Web Servicios: Una lista de los experimentos que se han publicado como servicios web. Esta lista estará vacía hasta que publique su primer experimento. Settings: Una colección de parámetros que puede utilizar para configurar su cuenta y recursos. Puede utilizar esta opción para invitar otros usuarios compartir su espacio de trabajo en Azure Machine Learning.
- 57. Componentes de unexperimento • Un experimento consta de los componentes clave necesarios para construir, probar y evaluar un modelo predictivo. En Azure Machine Learning, un experimento contiene dos componentes principales: los conjuntos de datos y módulos. • Un conjunto de datos contiene datos que se han subido a Machine Learning Studio. El conjunto de datos se utiliza al crear un modelo predictivo. Machine Learning Studio también ofrece varios conjuntos de datos de demostración para ayudarle a reactivar la creación de sus primeros experimentos. • Un módulo es un algoritmo que va a utilizar en la construcción de su modelo predictivo.
- 58. Módulos • Reader: Estemódulo se utiliza para leer los datos de varias fuentes, incluyendo la Web, base de datos SQL Azure, almacenamiento Blob Azure, o mesas Hive. • Split: Este módulo se divide un conjunto de datos en dos partes. Normalmente se utiliza para dividir un conjunto de datos de aprendizaje y prueba de datos separadas. • Elementary Statistics: Calcula estadísticas elementales como la media, la desviación estándar, etc., de un determinado conjunto de datos. • Regresión lineal: se puede utilizar para crear un modelo predictivo con un algoritmo de regresión lineal.
- 59. Módulos • Train Model:Este módulo entrena un algoritmo de clasificación o regresión seleccionado con un conjunto de datos de entrenamiento dado. • Evaluate Model: Este módulo se utiliza para evaluar el desempeño de un modelo de clasificación o regresión entrenado. • Cross Validate Model: Este módulo se utiliza para llevar a cabo validación cruzada para evitar el exceso de ajuste. Por defecto, este módulo usa 10 veces la validación cruzada. • Score Model: Puntúa un modelo de clasificación o regresión entrenado.
- 60. Pasos para lacreación de un experimento • Crear un modelo • Paso 1: Obtener datos • Paso 2: Preproceso de datos • Paso 3: Definir las características • Entrenar el modelo • Paso 4: Seleccionar y aplicar un algoritmo de aprendizaje • Pruebe el Modelo • Paso 5: Predecir sobre nuevos datos
- 61. Flujo en AzureMachine Learning
- 62. Flujo en AzureMachine Learning
- 63. Flujo en AzureMachine Learning
- 64. Flujo en AzureMachine Learning
- 66. Errores comunes enel análisis predictivo
- 67. Preguntas y respuestas 67| Eduardo Castro ecastro@simsasys.com ecastrom.blogspot.com edocastro