AWS Cloud Experience Chile - TRACK B4

1. Arquitecturas Serverless con IoT, Machine
Learning y Asistentes de Voz
Jesús Federico – Solutions Architect
#AWSCloudExperience

2. Desafíos usando Serverless, IoT y ML
Recomendaciones
personalizadas
Inventando
experiencias de
cliente
completamente
nuevas
Automatización y
gestión de
inventario
Drones Interacciones
dirigidas por
voz

3. ¿Server qué?
Serverless

4. No hay servidores para
aprovisionar o administrar
Escalas con el uso
Nunca pague por inactividad Disponibilidad y tolerancia a
fallas integradas
Serverless quiere decir…

5. Casos de uso Serverless
EVENTO ORIGEN SERVICIOS
Datos
Solicitudes
Estados
FUNCIÓN
NodeJS
Python
Java
C#

6. Amazon S3 Amazon
DynamoDB
Amazon
Kinesis
AWS
CloudFormation
AWS CloudTrail Amazon
CloudWatch
Amazon
Cognito
Amazon SNSAmazon
SES
Cron events
DATA STORES ENDPOINTS
CONFIGURATION REPOSITORIES EVENT/MESSAGE SERVICES
Ejemplo de fuentes de eventos que
desencadenan AWS Lambda
... y algunos más el camino!
AWS
CodeCommit
Amazon
API Gateway
Amazon
Alexa
AWS IoT AWS Step
Functions

7. Casos de uso común
Web
Applications
• Sitios web
estáticos
• Aplicaciones
web complejas
• Paquetes para
Flask y Express
Data
Processing
• Tiempo Real
• MapReduce
• Batch
Chatbots
• Lógica de
chatbot
Backends
• Apps &
servicios
• Mobile
• IoT
</></>
Amazon Alexa
• Proveer las
aplicaciones
habilitadas para
voz
• Alexa Skills Kit
IT Automation
• Motores de políticas
• Extendiendo los
servicios de AWS
• Gestión de la
infraestructura

8. Casos de uso común
Web
Applications
• Sitios web
estáticos
• Aplicaciones
web complejas
• Paquetes para
Flask y Express
Data
Processing
• Tiempo Real
• MapReduce
• Batch
Chatbots
• Lógica de
chatbot
Backends
• Apps &
servicios
• Mobile
• IoT
</></>
Amazon Alexa
• Proveer las
aplicaciones
habilitadas para
voz
• Alexa Skills Kit
IT Automation
• Motores de políticas
• Extendiendo los
servicios de AWS
• Gestión de la
infraestructura

9. 1. Amazon S3 para servir contenido estático
2. AWS Lambda para contenido dinámico
3. Portal API de Amazon para acceso https
4. Amazon DynamoDB para almacenamiento de datos
NoSQL
Caso de uso: Aplicaciones web
Serverless
Dynamic content in
AWS Lambda
Data stored in
Amazon
DynamoDB
API Gateway
Static content in
Amazon S3
Browser

10. Casos de uso común
Web
Applications
• Sitios web
estáticos
• Aplicaciones
web complejas
• Paquetes para
Flask y Express
Data
Processing
• Tiempo Real
• MapReduce
• Batch
Chatbots
• Lógica de
chatbot
Backends
• Apps &
servicios
• Mobile
• IoT
</></>
Amazon Alexa
• Proveer las
aplicaciones
habilitadas para
voz
• Alexa Skills Kit
IT Automation
• Motores de políticas
• Extendiendo los
servicios de AWS
• Gestión de la
infraestructura

11. 1. Elegir uno:
- Aplicaciones móviles: AWS Mobile SDK + Amazon Cognito
(autorización)
- Dispositivos de IoT: AWS IoT
2. AWS Lambda "Mobile backend”
3. Amazon DynamoDB para almacenamiento de datos
Caso de uso: aplicaciones de IoT
y móviles Serverless
AWS Lambda
Amazon
DynamoDB

12. Casos de uso común
Web
Applications
• Sitios web
estáticos
• Aplicaciones
web complejas
• Paquetes para
Flask y Express
Data
Processing
• Tiempo Real
• MapReduce
• Batch
Chatbots
• Lógica de
chatbot
Backends
• Apps &
servicios
• Mobile
• IoT
</></>
Amazon Alexa
• Proveer las
aplicaciones
habilitadas para
voz
• Alexa Skills Kit
IT Automation
• Motores de políticas
• Extendiendo los
servicios de AWS
• Gestión de la
infraestructura

13. Internet of Things

14. Dispositivos
Medir y Accionar
Nube
Almacenamiento & Computo
Inteligencia
Revelacion & Logica → Accion
Tres pilares del IoT

15. • Seguro
• Baja Latencia
• Actualizable over-the-air (OTA)
• Soporte fallas en conexión a Internet
• Dispositivos Inteligentes
• Real-time OS
Arquitectura de Internet of Things:
Requisitos Principales

16. IoT with AWS
IoT Endpoints IoT Edge IoT Cloud Enterprise Applications
Things
Things
Things
Device shadow
Device shadow
Greengrass
Lambda
Functions
Device shadow
Local Comms
Edge
Users
Long-range Comms
Device
shadow
Rules
Engine
AWS IoT
service
IoT
Users
AWS
Lambda
Amazon
Kinesis
Amazon
DynamoDB
AWS
Amazon Machine
Learning
Amazon
Redshift
IoT
Analytics
Big Data, Machine Learning,
& Integration
Real-time viewCorrelationAnalysisArchive
Enterprise
Users
Corp Apps
Corp Data Center
MQTTMQTT
MQTT
MQTT
MQTT
MQTT
IoT Partners
Operating systems
Consulting
Wireless operator
OEM
ISVsSilicon

17. Velocidad Costos Regulación
Valor del procesamiento de datos en el origen

18. AWS Greengrass extiende AWS a sus dispositivos, para que puedan actuar
localmente sobre los datos que generan, al mismo tiempo que aprovechan
la nube.
Data processed
in the cloud
Data processed
locally
Moviéndonos al borde
AWS Greengrass

19. Cloud
Moviéndonos al borde…
Devices

20. ¿Qué es
AWS Greengrass?

21. Local
actions
Local
Lambda Functions
Security
AWS-grade
security
Local
triggers
Local
Message Broker
Data and
state sync
Local
Device Shadows
Funcionalidades
AWS Greengrass

22. Respond quickly
to local events
Operate
offline
Simplified device
programming
Reduce the cost of
IoT applications
AWS-grade
security
Beneficios
AWS Greengrass

23. La seguridad siempre es lo primero
MQTT + TLS 1.2
MQTT + TLS 1.2 MQTT + TLS 1.2

24. MQTT + TLS 1.2
Pruebas de rendimiento
MQTT + TLS 1.2
https://www.hivemq.com/blog/how-does-tls-affect-mqtt-performance/

25. Amazon FreeRTOS

26. Eseye Hexagon

27. Alexa Voice Service: System Dev Kits

28. Machine Learning

29. Las Capas de Machine Learning en AWS
FRAMEWORKS & INTERFACES
PLATFORM SERVICES
APPLICATION SERVICES

30. Capa Inferior de ML
Frameworks & interfaces
AWS Deep Learning AMI
Tesla V100
120 TFLOPS

31. FRAMEWORKS & INTERFACES
PLATFORM SERVICES
APPLICATION SERVICES
Caffe2 CNTK
Apache
MXNet
PyTorch
TensorFlo
w
Torch Keras Gluon
AWS Deep Learning AMIs
Las Capas de Machine Learning en AWS

32. ¿Podemos hacer algo más para
poner Machine Learning en
manos de todos los
desarrolladores?

33. ML sigue siendo demasiado complicado
para los desarrolladores…
Collect and prepare
training data
Choose and
optimize your ML
algorithm
Set up and manage
environments for
training
Train and tune model
(trial and error)
Deploy model
in production
Scale and manage
the production
environment

34. Amazon SageMaker
Collect and prepare
training data
Choose and
optimize your ML
algorithm
Set up and manage
environments for
training
Train and tune model
(trial and error)
Deploy model
in production
Scale and manage
the production
environment
E a s i l y b u i l d , t r a i n , a n d d e p l o y m a c h i n e l e a r n i n g m o d e l s

35. Amazon SageMaker
Pre-built
notebooks for
common
problems
K-Means Clustering
Principal Component Analysis
Neural Topic Modelling
Factorization Machines
Linear Learner - Regression
XGBoost
Latent Dirichlet Allocation
Image Classification
Seq2Seq
Linear Learner - Classification
ALGORITHMS
Apache MXNet
TensorFlow
Caffe2, CNTK,
PyTorch, Torch
FRAMEWORKS
Set up and manage
environments for
training
Train and tune
model (trial and
error)
Deploy model
in production
Scale and manage the
production environment
Built-in, high
performance
algorithms
BUILD

36. Amazon SageMaker
Pre-built
notebooks for
common
problems
Built-in, high
performance
algorithms
One-click
training
Hyperparameter
optimization
BUILD TRAIN
Deploy model
in production
Scale and manage
the production
environment

37. Amazon SageMaker
Fully managed
hosting with auto-
scaling
One-click
deployment
Pre-built
notebooks for
common
problems
Built-in, high
performance
algorithms
One-click
training
Hyperparameter
optimization
BUILD TRAIN DEPLOY

38. PLATFORM SERVICES
APPLICATION SERVICES
FRAMEWORKS & INTERFACES
Caffe2 CNTK
Apache
MXNet
PyTorch
TensorFlo
w
Torch Keras Gluon
AWS Deep Learning AMIs
Amazon SageMaker AWS DeepLensAmazon Mechanical Turk Amazon ML
Las Capas de Machine Learning en AWS

39. Las Capas de Machine Learning en Amazon
PLATFORM SERVICES
APPLICATION SERVICES
FRAMEWORKS & INTERFACES
Caffe2 CNTK
Apache
MXNet
PyTorch
TensorFlo
w
Torch Keras Gluon
AWS Deep Learning AMIs
Amazon SageMaker AWS DeepLens
Rekognition Transcribe Translate Polly Comprehend Lex
Amazon Mechanical Turk Amazon ML

40. Demographic Data
Facial Landmarks
Sentiment Expressed
Image Quality
Brightness: 25.84
Sharpness: 160
General Attributes
Rekognition: Facial Detection

41. Gracias!

42. Califica nuestra charla