AWS Cloud Day Lima, Peru - 2018

1. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Arquitecturas Serverless con IoT,
Machine Learning y Asistentes de Voz
Gustavo Veloso | 11 de Octubre del 2018

2. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Desafíos usando Serverless, IoT y Machine Learning
Recomendaciones
personalizadas
Creando
experiencias de
compra
completamente
nuevas
Automatización
y gestión de
inventario
Despacho a
través de
Drones
Interacciones
dirigidas por
voz

3. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Un centro de distribuición de Amazon.com

4. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Un centro de distribuición de Amazon.com

5. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Un centro de distribuición de Amazon.com

6. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Serverless

7. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Qué significa Serverless?
No hay servidores para
aprovisionar o administrar
Escalas con el uso
Nunca pague por inactividad Alta Disponibilidad y
tolerancia a fallas nativo

8. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Cómo funciona?
EVENTO ORIGEN SERVICIOS
Datos
Solicitudes
Estados
FUNCIÓN
NodeJS
Python
Java
C#
Go

9. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Plataforma Serverless de AWS
Amazon S3 Amazon
DynamoDB
Amazon
Kinesis
AWS
CloudFormation
AWS CloudTrail Amazon
CloudWatch
Amazon
Cognito
Amazon SNSAmazon
SES
Cron events
FUENTES DE DATOS ENDPOINTS
REPOSITORIOS DE CONFIGURACIONES
SERVICIOS DE
MENSAJERÍA/EVENTOS
AWS
CodeCommit
Amazon
API Gateway
Amazon
Alexa
AWS IoT AWS Step
Functions

10. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Casos de uso típicos
Aplicaciones
Web
• Sitios web
estáticos
• Aplicaciones
web complejas
• Paquetes para
Flask y Express
Procesamiento
de Datos
• Tiempo Real
• Map-Reduce
• Batch
Chatbots
• Lógica de
chatbot
Backends
• Apps &
servicios
• Mobile
• IoT
</></>
Amazon Alexa
• Proveer las
aplicaciones
habilitadas para
voz
• Alexa Skills Kit
Automatización de
TI
• Motores de políticas
• Extendiendo los
servicios de AWS
• Gestión de la
infraestructura

11. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Caso de uso típico: Aplicaciones Web
Aplicaciones
Web
• Sitios web
estáticos
• Aplicaciones
web complejas
• Paquetes para
Flask y Express

12. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Caso de uso típico: Aplicaciones Web
1. Amazon S3 para servir contenido estático
2. Amazon API Gateway para acceso HTTP/HTTPS
3. AWS Lambda para contenido dinámico
4. Amazon DynamoDB para almacenamiento de datos
no relacional
Browser
1 2 3 4

13. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Caso de uso típico: Backends
Backends
• Apps &
servicios
• Mobile
• IoT
</></>

14. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Ejemplo: Aplicación de reservas de hoteles
Amazon API
Gateway
Conector
customizado
<AWS Lambda>
Sistema de
reservas on
premises
RED CORPORATIVAVPC
INTERNET VPN
Amazon Lex
Me gustaría reservar un hotel
Claro! En que ciudad?
Lima
Cuando llegarás?
El próximo viernes
Destino:
Lima
Check In:
19/11/2018

15. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Caso de uso típico: Backends
Backends
• Apps &
servicios
• Mobile
• IoT
</></>

16. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Internet of Things

17. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Tres pilares del Internet de las Cosas
Dispositivos
Medir y Accionar
Nube
Almacenamiento & Cómputo
Inteligencia
Analisis & Lógica → Acción

18. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Arquitectura de IoT: Requisitos Principales
1. Seguro
2. Baja Latencia
3. Actualizable por el aire (OTA)
4. Soporte fallas en conexión a Internet
5. Dispositivos Inteligentes
6. Sistema Operativo en Tiempo Real (RTOS)

19. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
IoT en AWS
IoT Endpoints IoT Edge IoT Cloud Enterprise Applications
Things
Things
Things
Device shadow
Device shadow
Greengrass
Lambda
Functions
Device shadow
Local Comms
Edge
Users
Long-range Comms
Device
shadow
Rules
Engine
AWS IoT
service
IoT
Users
AWS
Lambda
Amazon
Kinesis
Amazon
DynamoDB
Amazon Machine
Learning
Amazon
Redshift
IoT
Analytics
Big Data, Machine Learning,
& Integration
Real-time viewCorrelationAnalysisArchive
Enterprise
Users
Corp Apps
Corp Data Center
MQT
T
MQT
T
MQT
T
MQT
T
MQT
T
MQT
T
IoT Partners
Operating systems
Consulting
OEM
Silicon Vendors
ISVs
Wireless operatorsAWS

20. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Porqué procesar los datos en el origen?
Velocidad Costos Regulación

21. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Moviéndonos al borde
AWS Greengrass extiende parte de los servicios de AWS a sus dispositivos,
para que puedan actuar localmente sobre los datos que generan, al
mismo tiempo que aprovechan la nube.
Datos
procesados en
la nube
Datos
procesados
localmente
AWS Greengrass

22. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Moviéndonos al borde
Nube
Inteligencia
Dispositivos

23. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Greengrass?
Acciones
locales
Funciones Lambda
Locales
Seguridad
Seguridad de AWS
Triggers locales
Broker de Mensajes
Local
Sincronización de
Datos y Estado
Device Shadow Locales
AWS Greengrass

24. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Greengrass: Benefícios
Reacciona
rapidamente a
eventos locales
Funciona sin
conexión
Modelo de
programación
simplificado
Disminuye el costo de
aplicaciones IoT
Nivel de
seguridad de
AWS
AWS Greengrass

25. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Greengrass: Seguridad será siempre lo primero
MQTT + TLS 1.2 MQTT + TLS 1.2

26. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
MQTT con TLS
https://www.hivemq.com/blog/how-does-tls-affect-mqtt-performance/

27. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Amazon FreeRTOS

28. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Ejemplo en producción: Alexa Voice Service: System Dev Kits

29. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Machine Learning

30. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Data Is Changing – and growing
Capture and store
new data at PB-EB
scale
Do new type of analytics
in a cost effective way
• Machine learning
• Big data processing
• Real-time analytics
• Full-text search
New types of
analytics

31. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Ciclo virtuoso de Big Data y ML
Mejores
Decisiones
Almacenado de
objetos
Bases de Datos
Data warehouse
Streaming analytics
BI
Hadoop
Spark/Presto
Elasticsearch
Mejores
Productos Machine Learning
Deep Learning/AI
Más
Usuarios
Más
Datos
Click stream
Actividad de usuarios
Contenido generado
Compras
Clicks
Likes
Datos de sensores

32. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Capas de Servicios de ML en AWS
FRAMEWORKS Y INTERFACES
SERVICIOS COMO PLATAFORMA
SERVICIOS COMO APLICACIONES
(ninguna experiencia en ML requerida)

33. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Frameworks y Interfaces
AWS Deep Learning AMI
Tesla V100
120 TFLOPS

34. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Capas de Servicios de ML en AWS
SERVICIOS COMO PLATAFORMA
SERVICIOS COMO APLICACIONES
(ninguna experiencia en ML requerida)
FRAMEWORKS & INTERFACES
Caffe2 CNTK
Apache
MXNet
PyTorch TensorFlow Torch Keras Gluon
AWS Deep Learning AMIs

35. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
ML sigue siendo algo complicado para los desarrolladores…
Recolectar y
preparar los datos
de entrenamiento
Elegir y Optimizar
un algoritmo de
ML
Configurar y
Administrar
ambientes de
entrenamiento
Entrenar y mejorar
el modelo
(intento y error)
Desplegar tu
modelo en
producción
Escalar y
administrar tu
ambiente
productivo

36. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
¿Podemos hacer algo más para
poner Machine Learning en
manos de todos los
desarrolladores?

37. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
ML en la mano de todos los desarrolladores
Amazon SageMaker
C o n s t r u y a , e n t r e n e y d e s p l i e g u e m o d e l o s d e m a c h i n e l e a r n i n g
Recolectar y
preparar los datos
de entrenamiento
Elegir y Optimizar
un algoritmo de
ML
Configurar y
Administrar
ambientes de
entrenamiento
Entrenar y mejorar
el modelo
(intento y error)
Desplegar tu
modelo en
producción
Escalar y
administrar tu
ambiente
productivo

38. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Amazon SageMaker
Notebooks
previamente
creados para
problemas
comunes
K-Means Clustering
Principal Component Analysis
Neural Topic Modelling
Factorization Machines
Linear Learner - Regression
XGBoost
Latent Dirichlet Allocation
Image Classification
Seq2Seq
Linear Learner - Classification
ALGORITMOS
Apache MXNet
TensorFlow
Caffe2, CNTK,
PyTorch, Torch
FRAMEWORKS
Configurar y
Administrar ambientes
de entrenamiento
Entrenar y
mejorar el
modelo
(i nt e nt o y e r r or )
Desplegar tu
modelo en
producción
Escalar y administrar tu
ambiente productivo
Algoritmos
optimizados y
listos para usar
CONSTRUIR

39. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Amazon SageMaker
Notebooks
previamente
creados para
problemas
comunes
Algoritmos
optimizados y
listos para usar
Entrenado en un
click
Optimización de
hyperparameters
CONSTRUIR ENTRENAR
Desplegar tu
modelo en
producción
Escalar y
administrar tu
ambiente
productivo

40. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Amazon SageMaker
Hosting
administrado y
auto escalado
Despliegue con
un click
Notebooks
previamente
creados para
problemas
comunes
Algoritmos
optimizados y
listos para usar
Entrenado en un
click
Optimización de
hyperparameters
CONSTRUIR ENTRENAR DESPLEGAR

41. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Capas de Servicios de ML en AWS
SERVICIOS COMO APLICACIONES
(ninguna experiencia en ML requerida)
FRAMEWORKS & INTERFACES
Caffe2 CNTK
Apache
MXNet
PyTorch TensorFlow Torch Keras Gluon
AWS Deep Learning AMIs
PLATFORM SERVICES
Amazon SageMaker AWS DeepLensAmazon Mechanical Turk Amazon ML

42. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Capas de Servicios de ML en AWS
FRAMEWORKS & INTERFACES
Caffe2 CNTK
Apache
MXNet
PyTorch TensorFlow Torch Keras Gluon
AWS Deep Learning AMIs
PLATFORM SERVICES
Amazon SageMaker AWS DeepLensAmazon Mechanical Turk Amazon ML
APPLICATION SERVICES
Rekognition Transcribe Translate Polly Comprehend Lex

43. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Demographic Data
Facial Landmarks
Sentiment Expressed
Image Quality
Brightness: 25.84
Sharpness: 160
General Attributes
Rekognition: Detección Facial

44. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Algunos clientes utilizando Amazon AI hoy día

45. © 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Gracias!