2016 AWS Summit Bogotá - Escalando a sus primeros 10 millones de usuarios

1. © 2016, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Escalando a sus primeros 10
millones de usuarios
Raúl Frías, Solutions Architect AWS

2. ¿Cómo escalamos?

4. Demasiado por
leer!
No es lo
primero que
queremos
hacer

5. Auto Escalamiento
…una herramienta y destino.

6. No es la solución mágica
para todos los problemas

7. ¿Qué necesitamos entonces?

8. Primero lo primero

9. US-WEST (Oregon)
EU (Ireland)
ASIA PACIFIC
(Tokyo)
US-WEST (N. California)
SOUTH
AMERICA (Sao
Paulo)
US-EAST (N. Virginia)
AWS GOVCLOUD (US)
ASIA PACIFIC
(Sydney)
ASIA PACIFIC
(Singapore)
CHINA (Beijing)
Regiones
EU (Frankfurt)
Korea (Seoul)

10. US-WEST (Oregon)
EU (Ireland)
ASIA PACIFIC
(Tokyo)
US-WEST (N. California)
SOUTH
AMERICA (Sao
Paulo)
US-EAST (N. Virginia)
AWS GOVCLOUD (US)
ASIA PACIFIC
(Sydney)
ASIA PACIFIC
(Singapore)
CHINA (Beijing)
Zonas de Disponibilidad
EU (Frankfurt)
Korea (Seoul)

11. Ubicaciones EDGE

12. TECHNICAL &
BUSINESS
SUPPORT
Account
Management
Support
Professional
Services
Solutions
Architects
Training &
Certification
Security
& Pricing
Reports
Partner
Ecosystem
AWS
MARKETPLACE
Backup
Big Data
& HPC
Business
Apps
Databases
Development
Industry
Solutions
Security
APPLICATION
SERVICES
Queuing
Notifications
Search
Orchestration
Email
ENTERPRISE
APPS
Virtual
Desktops
Storage
Gateway
Sharing &
Collaboration
Email &
Calendaring
Directories
HYBRID CLOUD
MANAGEMENT
Backups
Deployment
Direct
Connect
Identity
Federation
Integrated
Management
SECURITY &
MANAGEMENT
Virtual Private
Networks
Identity &
Access
Encryption
Keys
Configuration Monitoring Dedicated
INFRASTRUCTURE
SERVICES
Regions
Availability
Zones
Compute Storage
Databases
SQL, NoSQL,
Caching
CDNNetworking
PLATFORM
SERVICES
App
Mobile
& Web
Front-end
Functions
Identity
Data Store
Real-time
Development
Containers
Source
Code
Build
Tools
Deployment
DevOps
Mobile
Sync
Identity
Push
Notifications
Mobile
Analytics
Mobile
Backend
Analytics
Data
Warehousing
Hadoop
Streaming
Data
Pipelines
Machine
Learning

13. APPLICATION
SERVICES
Queuing
Notifications
Search
Orchestration
Email
SECURITY &
MANAGEMENT
Virtual Private
Networks
Identity &
Access
Encryption
Keys
Configuration Monitoring Dedicated
INFRASTRUCTURE
SERVICES
Regions
Availability
Zones
Compute Storage
Databases
SQL, NoSQL,
Caching
CDNNetworking
PLATFORM
SERVICES
App
Mobile
& Web
Front-end
Functions
Identity
Data Store
Real-time
Development
Containers
Source
Code
Build
Tools
Deployment
DevOps
Mobile
Sync
Identity
Push
Notifications
Mobile
Analytics
Mobile
Backend
Analytics
Data
Warehousing
Hadoop
Streaming
Data
Pipelines
Machine
Learning

14. Bloques básicos AWS
Servicios con Alta Disponbilidad y
Tolerancia a Fallas incluido
Alta Disponibilidad
construida con una
arquitectura correcta
 Amazon CloudFront
 Amazon Route 53
 Amazon S3
 Amazon DynamoDB
 Elastic Load Balancing
 Amazon EFS
 AWS Lambda
 Amazon SQS
 Amazon SNS
 Amazon SES
 Amazon SWF
 …
 Amazon EC2
 Amazon EBS
 Amazon RDS
 Amazon VPC

15. Así que empezamos…

16. 1 usuario
Usted

17. 1 Usuario
• Amazon Route 53 para DNS
• Una sola IP elástica
• Una instancia Amazon EC2
• Paquete Completo
• Servidor Web
• Base de Datos
• Administración
• Etcétera …
Instancia
Amazon
EC2
IP Elástica
Usuario
Amazon
Route 53

18. “Vamos a necesitar más ….”
• Enfoque sencillo
• Sacar provecho de PIOPS
• Instancias con Alto I/O
• Instancias con más RAM
• Instancias con más CPU
• Instancias con mas GB/TB
• Sencillo cambiar de “modelo”
c4.8xlarge
m3.2xlarge
t2.micro
• Este enfoque tiene un límite

19. 1 Usuario
• Potencialmente
podríamos llegar a
cientos o miles de
usuarios
• Sin redundancia
• Sin Alta Disponibilidad
• Demasiados huevos en la
misma canasta
EC2
Instance
Elastic IP
Usuario
Amazon
Route 53

20. Usuarios >1

21. Usuarios > 1
Primero separemos algunos
componentes:
• Servidor Web
• Base de Datos
 Utilizar una base de datos
como servicio?
Instancia
Web
Database
Instance
Elastic IP
Usuario
Amazon
Route 53

22. Usted mismo Servicio Administrado
Base de Datos en
Amazon EC2
Cualquier base de
datos corriendo en
Amazon EC2
Traiga su propia
licencia (BYOL)
Amazon
DynamoDB
Base de datos NoSQL
administrada
Escalabilidad
transparente
Sin necesidad de
administrar
Amazon RDS
Microsoft SQL Server
Oracle
MySQL
PostgreSQL
MariaDB
Amazon Aurora
BYOL ó Licencia
Incluida
Amazon
Redshift
Servicio de
Datawarehouse
masivamente paralelo
Escalable a PB´s
Veloz, poderoso y fácil
de escalar
Opciones de Base de Datos

23. Amazon Aurora
• Almacenamiento escalable automátizado
(hasta 64 TB)
• Hasta 15 réplicas
• Backups continuos incrementales a
Amazon S3
• Compatible con MySQL

24. ¿Usar NoSQL, ó no usar
NoSQL?

25. Empezar con una Base de
Datos Tradicional

26. ¿Por qué empezar con bases de datos
relacionales?
• Establecidas y tecnologías probadas
• Ecosistema existente, código, comunidades, libros y
herramientas
• No romperan sus bases de datos relacionales con sus
primeros miles de usuarios. *
*A menos qué estés haciendo algo muy PECULIAR con los datos o cuentas con una MASIVA cantidad de datos
…aún asi SQL tiene un lugar en tu aplicación

27. ¿Por qué empezar con NoSQL?
• Aplicaciones con ultra baja latencia
• Enfoque en metadatos de datos
• Datos no relacionales
• Necesito* base de datos sin esquema
• Masivas cantidades de datos (TB´s)
• Rápida ingesta de datos(miles de registros/seg)

28. Usuarios >100

29. Usuarios>100
Primero separemos algunos
componentes:
• Servidor Web
• Base de Datos
• Utilize RDS para hacer
su vida más sencilla
Instancia
Web
IP Elástica
BD RDS
Usuario
Amazon
Route 53

30. Usuarios >1000

31. Usuarios >1000
Soluciones la alta disponibiliidad
y tolerancia a fallas:
Una instancia web adicional
• En otra Zona de
Disponibilidad
RDS Multi-AZ
Elastic Load Balancing (ELB)
Instancia
Web
RDS DB Instance
Active (Multi-AZ)
Availability Zone Availability Zone
Instancia
Web
RDS DB Instance
Standby (Multi-AZ)
ELB
Balancer
Usuario
Amazon
Route 53

32. Elastic Load Balancing
• Alta Disponibilidad
Integrada
• 1 - 65535
• Estado de Salúd
• Sesiones
• SSL
• Monitoreo
• Logs

33. horizontal
vertical

35. Usuarios > 10,000s–100,000s
RDS DB Instance
Active (Multi-AZ)
Availability Zone Availability Zone
RDS DB Instance
Standby (Multi-AZ)
ELB
Balancer
RDS DB Instance
Read Replica
RDS DB Instance
Read Replica
RDS DB Instance
Read Replica
RDS DB Instance
Read Replica
Instancia
Web
Instancia
Web
Instancia
Web
Instancia
Web
Instancia
Web
Instancia
Web
Instancia
Web
Instancia
Web
Amazon
Route 53Usuario

36. ¿Y el
rendimiento y eficiencia?

37. Quitar peso de encima

38. RDS DB Instance
Active (Multi-AZ)
Availability Zone
ELB
Balancer
Amazon S3
Amazon
CloudFront
Amazon
Route 53
Usuario
Movamos la carga…
Instancias Web
• contenido estático de Amazon
S3 a Amazon Cloudfront
Mueve

39. Amazon Simple Storage Service (S3)
• Almacenamiento de Objetos
• Alta durabilidad
• Óptimo para contenido estático
• “Sin límite” de escalamiento
• Objetos de hasta 5TB
• Cifrado opcional

40. Amazon CloudFront
• “Cacheo” y distribución de contenido
• Libera carga al origen
• Contenido Dinámico y Estático
• Realizar “Streaming”
• Certificados SSL
• TTL´s bajos configurables
• Optimizado para AWS

41. Amazon CloudFront
ResponseTime
ServerLoad
Response
Time
Server
Load
Response
Time
Serve
rLoad
No CDN CDN for Static
Content
CDN for Static &
Dynamic Content
0
20
40
60
80
8:00AM
9:00AM
10:00AM
11:00AM
12:00PM
1:00PM
2:00PM
3:00PM
4:00PM
5:00PM
6:00PM
7:00PM
8:00PM
9:00PM
VolumeofData
Delivered(Gbps)

42. Movamos la carga…
• contenido estático de
Amazon S3 a Amazon
Cloudfront
• Estádo de sesión a Amazon
DynamoDB
• Utilizar cache para BD con
Amazon Elasticache
Mueve
RDS DB Instance
Active (Multi-AZ)
Availability Zone
ELB
Balancer
Amazon S3
Amazon
CloudFront
Amazon
Route 53
Usuario
ElastiCache DynamoDB
Instancias Web

43. Amazon Elasticache
• Memcached ó Redis Administrado
• Escalamiento de 1 a varios nodos
• Auto-sanable
• Velocidad de respuesta abajo de
10ms
• Memcache local en una ZA
• Multi-AZ posible con Redis

44. Nuestra capa web mucho más
ligera
Regresemos al inicio….

45. Auto Escalamiento

46. Crecimiento/reducción automática de clusters de cómputo
Definición de mínimos y máximos
Métricas de Cloudwatch son gatillo de auto escalamiento
Instancias bajo demanda o spot
aws autoscaling create-auto-scaling-group
--auto-scaling-group-name MyGroup
--launch-configuration-name MyConfig
--min-size 4
--max-size 200
--availability-zones us-west-2c, us-west-2b
Auto Escalamiento

47. Domingo Lunes Martes Miércoles Jueves Viernes Sábado
Semana típica tráfico Amazon.com

48. Domingo Lunes Martes Miércoles Jueves Viernes Sábado
Semana típica tráfico Amazon.com
Capacidad Provisionada

49. Noviembre
Tráfico Noviembre Amazon.com

50. Capacidad Provisionada
Noviembre
Tráfico Noviembre Amazon.com

51. Tráfico Noviembre Amazon.com
76%
24%
Noviembre
Capacidad Provisionada

52. Tráfico Noviembre Amazon.com
Noviembre

53. ¡Auto escalamiento te permite
hacer esto!

54. Usuarios > 500,000+
Availability Zone
Amazon
Route 53
Usuario
Amazon S3
Amazon
CloudFront
Availability Zone
ELB
Balancer
DynamoDB
RDS DB Instance
Read Replica
Instancias
Web
Instancias
Web
Instancia
Web
ElastiCache RDS DB Instance
Read Replica
Instancia
Web
Instancia
Web
Instancia
Web
ElastiCacheRDS DB Instance
Standby (Multi-AZ)
RDS DB Instance
Active (Multi-AZ)

55. Usuarios >500,000+
• Monitoreo, métricas y logs
• Si no lo puede construir, ¡utilize a
terceros!
• ¿Qué dicen mis clientes?
• Extraiga el máximo rendimiento de
cada servicio/componente.

56. Aún podemos mejorar
nuestra capa web/app si la
seguimos separando

57. SOA
¿Qué quiere decir esto?

58. SOA en Práctica
Servicios en capas/módulos
independientes
• Administrados y Escalados
independientemente
Amazon y AWS hacen esto
constantemente
Ofrece flexibilidad y entendimiento de
cada capa/función

59. SOA + Desacoplar = Agilidad
¡NO REINVENTE LA RUEDA!
• Correo Electrónico
• Sistema de colas
• Transcoding
• Búsqueda
• Bases de Datos
• Monitoreo
• Métricas
• Logs
• Cómputo
Amazon
CloudSearch
Amazon SQSAmazon SNS
Amazon Elastic
Transcoder
Amazon SWFAmazon SES
AWS Lambda

60. • Confiable (Multi-AZ)
• Escalable (mensajes ilimitados)
• Seguro (autenticación)
• Sencillo (APIs simples)
Servicios Aplicación – Amazon SQS
SQS
messages
Get
Message
Instancia
Put
Message
Instancia
Amazon SNS Topic
Publish
Notification
Queue Is Subscribed
to Topic

61. Cómputo / Plataforma – AWS Lambda
• Código/Funciones disparado
por eventos
• NodeJS, Java y Python
• Administrado
• Escalamiento implícito S3 Bucket
Lambda
Push: Event
Notification
DynamoDB
Pull: DynamoDB
Stream
Kinesis
Pull:
Kinesis Stream

62. Usuarios
>1,000,000

63. Usuarios > 1M+
Llegar al millón y más allá requerirá un poco de los previos
temas platicados:
• Multiples Zonas de Disponibilidad
• Elastic Load Balancing entre capas
• Auto Escalamiento
• Arquitectura SOA
• Entrega de Contenido Optimizada
• Usar caché para Base de Datos
• Estado de Sesiones desacoplado

64. Usuarios > 1M+
RDS DB Instance
Active (Multi-AZ)
Availability Zone
ELB
Balancer
RDS DB Instance
Read Replica
RDS DB Instance
Read Replica
Instancia
Web
Instancia
Web
Instancia
Web
Instancia
Web
Amazon
Route 53
Usuario
Amazon S3
Amazon
CloudFront
DynamoDB
Amazon SQS
ElastiCache
Worker
Instance
Worker
Instance
Amazon
CloudWatch
Internal App
Instance
Internal App
Instance Amazon SES
Lambda

65. Los siguientes pasos

66. Usuarios
>10,000,000

67. Usuarios > 5M - 10M
Potencialmente estará encontrando contensión y
problemas con el master de la base de datos.
¿Cómo resolverlo?
• Federación — Separar multiples BD por función propósito
• Sharding—Separar por rangos/grupos
• Bases de datos especializadas (NoSQL, Graph)

68. ¡Con todo lo revisado
fácilmente podríamos
escalar a
10+ millones de usuarios!

69. © 2016, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Jose Luis Padilla
Director de Proyectos
Abril 6, 2016
Caso de Éxito - IATAI

70. Acerca de IATAI
• Grupo empresarial integrado por compañías líderes en los sectores
como: seguros, salud, reaseguros, turismo, salud y tecnología.
• Cuenta con varias unidades de negocio sobre 4 categorías:
asistencia en viajes internacionales a clientes , un gateway de pagos, la
construcción de soluciones móviles y soluciones de comercio
electrónico.
• Cuentan con un equipo de I+D enfocado en conocer las necesidades
de sus clientes desde el estudio de los hábitos del consumidor.

71. Flexibilidad:
La necesidad de
dejar atrás lo convencional

72. IATAI necesitaba de una infraestructura segura que garantizara flexibilidad en la
expansión de servicios y soluciones al tiempo que la continuaba creciendo como
compañía.
“La razón principal era y es que IATAI es una organización dinámica y
necesitábamos que toda la oferta de servicios de TI pudiera
acompañar de manera ágil y oportuna las iniciativas de negocio.”
Luis Eduardo Tobián,
CTO

73. AWS: La solución para
una infraestructura
elástica y segura

74. Mi reto más grande al frente del área de TI, es asegurar que la
disponibilidad de los servicios sea la que nuestros clientes
demandan. Al pensar en lo que adquirimos, yo no hablaría
solamente de servidores, sino de toda una infraestructura
con el software base y las aplicaciones para que
existiera un pleno funcionamiento de nuestros servicios,
cumpliendo con los estándares que mis clientes esperan.”

75. Nuestra Infraestructura
- Contamos con un modelo IaaS, dentro del cual se establecen mecanismos
bajo demanda, lo que permite a la infraestructura crecer elásticamente de
forma segura, confiable y flexible cuando se presenten picos de uso.
- Además, con un modelo de alta disponibilidad que alcanza el 99.95%
mensual, proporciona una capacidad de procesamiento de hasta 50
peticiones por segundo y posee una alta tolerancia a fallos basados en
Amazon Web Services.
- Actualmente prestamos servicios a una base de más de 3 millones de
clientes con más de 40,000 transacciones por mes.

77. Avanxo agrega valor

78. “Claramente son la compañía que tiene más
conocimiento de los servicios que ofrece Amazon. Son
muy buenos aliados para ayudar a cumplir los objetivos de
negocio. Son asertivos y manejan bien la relación en
tiempos de respuesta.”
Luis Eduardo Tobian, CTO

79. Muchas Gracias / Thank You / Obrigado