En la actualidad el "Big Data" se ha convertido en una palabra de moda que genera confusión en muchos escenarios. Los conceptos que usualmente se le asocian son: gran cantidades de datos, analítica de redes sociales, modernas herramientas para gestionar datos, datos en tiempo real, entre otros. Independientemente de como lo catalogamos, las empresas necesitan comprender y explorar cómo procesar y analizar de nuevas formas la variedad de información que tienen a su disposición. En muchas de las investigaciones aparecen referencias de tecnologías como Spark y Cassandra que se mencionan como un recurso externo dado por sentado su existencia. Brindar una solución que incluya todos los componentes de procesamiento y análisis puede llegar a ser un reto desde la perspectiva de infraestructura que se requiere provisionar, monitorizar y gestionar por el personal de operaciones. Por otra parte crear la infraestructura de apoyo al desarrollo de estas aplicaciones bajo conceptos como inmutabilidad, consistencia y disponibilidad son elementos que se deben tener en cuenta desde las primeras fases de diseño de una solución. Ver el Big Data desde la perspectiva de DevOps en aras de viabilizar el desarrollo y liberación de aplicaciones y servicios con mayor velocidad es el tema central de esta presentación donde se abordaran conceptos y métodos generales, tecnologías y frameworks recomendados.

1. Big Data y perspectiva de DevOps
Enrique Carbonell
@kikicarbonell

2. About
Enrique Carbonell Muela
• Lic. Ciencias de la Computación
• Ingeniero de Software
• Líder de equipo
• Miembro equipo de Operaciones
• Entusiasta del DevOps
• Organizador DevOpsDays Cuba
Twitter: @kikicarbonell
LinkedIn: /enrique-carbonell

3. Sumario
I Parte: Big Data
Conceptos, casos de uso, herremientas...
II Parte: DevOps
Desarrollo de soluciones, operaciones, perspectiva
DevOps, herramientas, proyectos de apoyo a la
investigación.

4. I Parte: BigData

8. Casos de Uso

9. Casos de Uso
● Análisis de comportamiento
● Segmentación de clientes
● Soporte predictivo
● Análisis de mercado y optimización de precios
● Predicción de amenzasa
● Detección de fraudes
● Especificos:
– Red de sensores climatológicos
– Redes eléctricas (3 T x día)
● ...

10. Casos de Uso

11. Realidad?
● Gigantes como Google lleva +10 años trabajando los
datos
● En 5 años el 30% de los movimientos financieros
serán acaparados por gigantes como Google y Apple
(log n).

12. Realidad?
● Con los datos logran “conocer a las personas
mejor que ellas mismas” (fuente: Campaña
Trump y Obama)
● El sector financiero está moviendose para
aprovechar al máximo la información de sus
clientes.

13. Realidad?

14. Buzzword / Falacia
● Provedores vendiendo:
– “hardware Big Data”
– “soluciones Big Data”
– “…. Big Data”

15. Panorama

16. Panorama

17. II Parte: DevOps

18. Supuestos

19. Supuestos

20. Realidad

23. Infraestructura?
● Provisionamiento
● Escalado
● Particionamiento elástico
● Reutilización de recursos
● Tolerancia a fallos
● ...

24. DevOps

25. Recomendación?

26. SMACK / SDACK
● Spark
● Mesos
● Akka
● Cassandra
● Kafka
● Docker

27. SMACK
engine de procesamiento de datos de gran escala (v: 10-100x).
sistema de gestion de recursos de un cluster, permite el aislamiento
y comartir recursos entre aplicaciones distribuidas.
toolkit para construir aplicaciones basadas en manejo de mensajes
altamente concurrentes, distribuidas y elásticas sobre JVM.
● bases de datos distribuida con alta disponibilidad diseñada para
gestionar grandes volumenes de información entre diferentes
datacenter.
sistema de mensajes de alta disponibilidad, baja latencia y diseñado
para manejar la entrada en tiempo real.

28. Mesosphere

29. Mesosphere

30. What is Docker?
Plataforma abierta para el desarrollo,
transporte y ejecución de aplicaciones.
Docker permite que empaquete todas
las dependencias en una unidad
estandarizada para el desarrollo de
software y puesta en producción.

31. Docker

32. © 2013-2016 Docker, Inc. All rights reserved
Applications are changing
Loosely
Coupled
Services
Many Small Servers
~2000 Today
Monolithic
Big Servers
Slow
changing
Rapidly
updated

33. Investigación
● Apache Zeppelin
● Spark Notebook
● Hue
● ...

34. Arquitectura

35. Arquitectura

36. Visualización/Exploración

37. Visualización/Exploración