GCP - A felhőalapú architektúrák és szolgáltatások

Márton Kodok
Márton KodokGoogle Developer Expert/Senior Software Engineer/Team-leader/Mentor
A felhőalapú architektúrák
és szolgáltatások
Kodok Márton
@martonkodok
Google Developer Expert
REEA.net
● angolul „cloud computing”
● a szolgáltató eszközein (Google GCP, Amazon AWS, Microsoft Azure)
● a szolgáltatás üzemeltetési részleteit a felhasználótól elrejtve
● adatközpontok - data center - távoli hozzáféréssel irányítható
● nincs szükség dedikált hardver vásárlására
● Idényjellegű is lehet (“per second billing”, “black friday”)
● gyorsan változtatható az allokált erőforrások mérete is
● Helyfüggetlen - Méretezhető - Nagy rendelkezésre állás - Költségkímélő
● Rendszeres biztonsági frissítések
Felhőalapú számítástechnika
A felhőalapú architektúrák és szolgáltatások @martonkodok
A felhőalapú architektúrák és szolgáltatások @martonkodok
Hogy is néz ki valójában egy
szerverház, data center?
ColoCrossing @martonkodok
ColoCrossing @martonkodok
REEA.net uses GCP
Build on the same infrastructure
that powers Google
Google Cloud Platform (GCP)
Compute Big Data
BigQuery
Cloud
Dataflow
Cloud
Dataproc
Cloud
Datalab
Cloud
Pub/Sub
Genomics
Storage & Databases
Cloud
Storage
Cloud
Bigtable
Cloud
Datastore
Cloud SQL
Cloud
Spanner
Persistent
Disk
Machine Learning
Cloud Machine
Learning
Cloud
Vision API
Cloud
Speech API
Cloud Natural
Language API
Cloud
Translation
API
Cloud
Jobs API
Data
Studio
Cloud
Dataprep
Cloud Video
Intelligence
API
Advanced
Solutions Lab
Compute
Engine
App
Engine
Kubernetes
Engine
GPU
Cloud
Functions
Container-
Optimized OS
Identity & Security
Cloud IAM
Cloud Resource
Manager
Cloud Security
Scanner
Key
Management
Service
BeyondCorp
Data Loss
Prevention API
Identity-Aware
Proxy
Security Key
Enforcement
Internet of Things
Cloud IoT
Core
Transfer
Appliance
Google Cloud Platform (GCP)
Compute Big Data
BigQuery
Cloud
Dataflow
Cloud
Dataproc
Cloud
Datalab
Cloud
Pub/Sub
Genomics
Storage & Databases
Cloud
Storage
Cloud
Bigtable
Cloud
Datastore
Cloud SQL
Cloud
Spanner
Persistent
Disk
Machine Learning
Cloud Machine
Learning
Cloud
Vision API
Cloud
Speech API
Cloud Natural
Language API
Cloud
Translation
API
Cloud
Jobs API
Data
Studio
Cloud
Dataprep
Cloud Video
Intelligence
API
Advanced
Solutions Lab
Compute
Engine
App
Engine
Kubernetes
Engine
GPU
Cloud
Functions
Container-
Optimized OS
Identity & Security
Cloud IAM
Cloud Resource
Manager
Cloud Security
Scanner
Key
Management
Service
BeyondCorp
Data Loss
Prevention API
Identity-Aware
Proxy
Security Key
Enforcement
Internet of Things
Cloud IoT
Core
Transfer
Appliance
1. Free for all - Learn and build on GCP for free.
https://cloud.google.com/free/
2. Codelabs - will step you through the process of building a small app
https://codelabs.developers.google.com
3. Qwiklabs - Become a cloud expert with hands-on training $$$
https://qwiklabs.com/home?locale=en
GCP pályakezdőknek
A felhőalapú architektúrák és szolgáltatások @martonkodok
A felhőalapú architektúrák és szolgáltatások @martonkodok
Free for all 1/3
Google Compute Engine - Virtual Machines
A felhőalapú architektúrák és szolgáltatások @martonkodok
General use > Compute Engine and REST
A felhőalapú architektúrák és szolgáltatások @martonkodok
iOS
Android
Web
Mobile Services REST API
Compute Engine
Flexibility for Every Workload
● High-Performance, Scalable VMs
● Custom Machine Types
● CentOS, Ubuntu, Windows
● Persistent Disks or SSD (local or
network based)
● Per-second billing
● Networking
● Firewall
● Load balancing
● Compliance & Security
App Engine - PaaS
A felhőalapú architektúrák és szolgáltatások @martonkodok
App Engine - Websites > API Hosting
A felhőalapú architektúrák és szolgáltatások @martonkodok
API
App EngineREST API
App Engine
Frontend
Container Engine
Multiple
Clients
API Requests
Cloud Load
Balancing
● Fully managed serverless application
platform
● Scale your applications seamlessly from
zero to planet scale
● Automatically scales depending on your
application traffic
● Traffic Splitting (app versions, A/B tests,
incremental rollouts)
● Standard vs Flexible environments
Python, Node.js, Go, Java, Ruby, PHP, .NET
GCP - A felhőalapú architektúrák és szolgáltatások
A felhőalapú architektúrák és szolgáltatások @martonkodok
Codelabs 2/3
Codelabs
A felhőalapú architektúrák és szolgáltatások @martonkodok
A felhőalapú architektúrák és szolgáltatások @martonkodok
QwikLabs 3/3
QwikLabs
A felhőalapú architektúrák és szolgáltatások @martonkodok
QwikLabs
A felhőalapú architektúrák és szolgáltatások @martonkodok
A felhőalapú architektúrák és szolgáltatások @martonkodok
How to scale your app to 1 million requests
Legacy system: a server from a hosting company
A felhőalapú architektúrák és szolgáltatások @martonkodok
Android
Web
Endpoint
Clients
iOS
Cons:
Shared/Dedicated server
No flexibility
No additional CPU
No additional Disk
Problems:
Heavy caching - unclear code
optimizations
High load - degraded performance
Slow response time
Hosting Company
Local
Compute
Moving into cloud
A felhőalapú architektúrák és szolgáltatások @martonkodok
Android
Web
Endpoint
Clients
iOS
Virtual Server
Compute Engine
Vertical scaling
CPU size
RAM
HDD size
SSD
Horizontal scaling
2nd server, 3rd server
Multiple DB nodes
On demand (on campaigns on black
friday etc…)
A felhőalapú architektúrák és szolgáltatások @martonkodok
Creating a VM instance steps
Creating a VM instance
A felhőalapú architektúrák és szolgáltatások @martonkodok
Creating a VM instance - Choosing Region, type
A felhőalapú architektúrák és szolgáltatások @martonkodok
Creating a VM instance - OS, boot disk, Network
A felhőalapú architektúrák és szolgáltatások @martonkodok
VM instances
A felhőalapú architektúrák és szolgáltatások @martonkodok
Virtual Private Network - Firewall rules
A felhőalapú architektúrák és szolgáltatások @martonkodok
A felhőalapú architektúrák és szolgáltatások @martonkodok
Autoscaling
with Instance Groups
Creating an Instance Group
A felhőalapú architektúrák és szolgáltatások @martonkodok
Setting Autoscaling settings
A felhőalapú architektúrák és szolgáltatások @martonkodok
CMS with Autoscaling
A felhőalapú architektúrák és szolgáltatások @martonkodok
ZONE B
Content Server
Compute Engine
Autoscaling
ZONE A
Content Server
Compute Engine
Autoscaling
Static Content
Cloud Storage
Dynamic Content
Cloud SQL
Publisher
Cloud Load
Balancing
Cloud
DNS
Content Server
Compute Engine
Autoscaling
Content Server
Compute Engine
Autoscaling
A felhőalapú architektúrák és szolgáltatások @martonkodok
Example Architecture for Autoscaling on App Engine
App Engine Autoscaling
A felhőalapú architektúrák és szolgáltatások @martonkodok
A felhőalapú architektúrák és szolgáltatások @martonkodok
Cloud Endpoints
Cloud Endpoints: Develop, deploy and manage APIs
A felhőalapú architektúrák és szolgáltatások @martonkodok
App
Engine
Mobile Backend API
Cloud Endpoints
Android
Web
Endpoint
Clients
iOS
Manages and protects your APIs
● Works with JSON web tokens, API
keys, integration with Auth0,
Firebase Auth
● Provides insight with Stackdriver
Monitoring, Trace and Logging
● Less than 1ms per call
● Works best with Compute engine,
App Engine, and Kubernetes Engine.
● JSON/Rest/gRPC
Pricing: 0-2M $0.00 2M+ req $3/million
A felhőalapú architektúrák és szolgáltatások @martonkodok
Data layer design
Database Mapping
A felhőalapú architektúrák és szolgáltatások @martonkodok
DB multiple zones and Master/Slave topology
A felhőalapú architektúrák és szolgáltatások @martonkodok
Zone 1
us-central 1-a
Instance Group
Compute Engine
Web Applications
Master
Cloud SQL
Zone 2
us-central 1-f
Instance Group
Compute Engine
Web Applications
Read Replica
Cloud SQL
ReplicationCloud Load
Balancing
Task Queue - Message Queue systems
A felhőalapú architektúrák és szolgáltatások @martonkodok
Static Content
Cloud Storage
Dynamic Content
Cloud SQL
Dynamic Content
Cloud Datastore
Front End App
App Engine
Autoscaling
Task
Queues
Memcache
Batch App
App Engine
Autoscaling
Cloud Load
Balancing
Cloud
DNS
Workers
Compute Engine
Autoscaling
“ Data needs to be processed in
multiple services.
How can we pipe to multiple places?
A felhőalapú architektúrák és szolgáltatások @martonkodok
Architecting for The Cloud
On-Premises Servers
Event Sourcing
Frontend
Platform Services
Analyze
Metrics / Logs/
Streaming
Cloud Storage
A felhőalapú architektúrák és szolgáltatások @martonkodok
Cloud
Dataflow
Process
BigQuery
Cloud SQL
Stream
Batch
Data
Studio
Third-Party
Tools
“ We have our app outside of GCP.
How can we use the benefits of BigQuery?
A felhőalapú architektúrák és szolgáltatások @martonkodok
Data Pipeline Integration at REEA.net
Analytics Backend
BigQuery
On-Premises Servers
Pipelines
FluentD
Event Sourcing
Frontend
Platform Services
Metrics / Logs/
Streaming
Development
Team
Data Analysts
Report & Share
Business Analysis
Tools
Tableau
QlikView
Data Studio
Internal
Dashboard
Database
SQL
Application
ServersServers
Cloud Storage
archive
Load
Export
Replay
Standard
Devices
HTTPS
A felhőalapú architektúrák és szolgáltatások @martonkodok
● SQL language to run BigData queries
● run raw ad-hoc queries (either by analysts/sales or Devs)
● no more throwing away-, expiring-, aggregating old data
● no provisioning/deploy
● no running out of resources
● no more focus on large scale execution plan
Our benefits using BigQuery
A felhőalapú architektúrák és szolgáltatások @martonkodok
Architecture: Retail > Real-Time Inventory
Ingest
App Engine
Capture Changes
Events
Cloud Bigtable
Processed Changes
Aggregates
Cloud SQL
Inventory Counts
Analytics
BigQuery
Data Warehouse
Messaging
Cloud Pub/Sub
Streaming Changes
Processing
Cloud Dataflow
Inventory Streams
Services
App Engine
Inventory APIs
Backoffice
Business Applications
Integrations
Google Services
Retail Store
Inventory Changes
A felhőalapú architektúrák és szolgáltatások @martonkodok
Architecture: Retail > Recommendation Engines
A felhőalapú architektúrák és szolgáltatások @martonkodok
Data Sources
Machine Learning
Applications
Browsing
Compute Engine
Shopping Cart
App Engine
Outreach
Container Engine
Purchases
Cloud Datastore
Wish Lists
Cloud SQL
Reviews
Cloud Datastore
Inventory Data
Cloud SQL
Analytics
BigQuery
Spark MLlib
Cloud Dataproc
ETL
Cloud Dataflow
Transform Data
Normalized Data
Cloud Storage
Combined Sources
Hosted Models
Cloud Machine Learning
Real-Time
Prediction API
Thank you.
Slides available on: slideshare.net/martonkodok
Reea.net - Integrated web solutions driven by creativity to deliver
projects.
1 de 49

Recomendados

POZITEAM Bővített Műhely Tudásbázison alapuló együttműködés Geoview szemszögből por
POZITEAM Bővített Műhely Tudásbázison alapuló együttműködés Geoview szemszögbőlPOZITEAM Bővített Műhely Tudásbázison alapuló együttműködés Geoview szemszögből
POZITEAM Bővített Műhely Tudásbázison alapuló együttműködés Geoview szemszögbőlPOZITEAM
428 vistas28 diapositivas
DevDays 2000: Web alapú megoldások felépítése (Kovács Ferenc, Balássy György) por
DevDays 2000: Web alapú megoldások felépítése (Kovács Ferenc, Balássy György)DevDays 2000: Web alapú megoldások felépítése (Kovács Ferenc, Balássy György)
DevDays 2000: Web alapú megoldások felépítése (Kovács Ferenc, Balássy György)György Balássy
192 vistas42 diapositivas
VMware vRealize Operation Manager inroduction experience at LAPKER por
VMware vRealize Operation Manager inroduction experience at LAPKERVMware vRealize Operation Manager inroduction experience at LAPKER
VMware vRealize Operation Manager inroduction experience at LAPKERKiss Tibor
203 vistas26 diapositivas
Virtualizáció az EGISben por
Virtualizáció az EGISbenVirtualizáció az EGISben
Virtualizáció az EGISbengazdagf
275 vistas16 diapositivas
Windows Szerver kiadások. por
Windows Szerver kiadások.Windows Szerver kiadások.
Windows Szerver kiadások.Attila Nagy
802 vistas22 diapositivas
Microsoft Windows Azure Platform por
Microsoft Windows Azure PlatformMicrosoft Windows Azure Platform
Microsoft Windows Azure PlatformPéter Lakos
346 vistas49 diapositivas

Más contenido relacionado

Similar a GCP - A felhőalapú architektúrák és szolgáltatások

Uj vizeken por
Uj vizekenUj vizeken
Uj vizekenGloster telekom Kft.
2.1K vistas84 diapositivas
Új vizeken - Virtualizált szerver megoldások a Cisco-tól por
Új vizeken - Virtualizált szerver megoldások a Cisco-tólÚj vizeken - Virtualizált szerver megoldások a Cisco-tól
Új vizeken - Virtualizált szerver megoldások a Cisco-tólGloster telekom Kft.
497 vistas84 diapositivas
Bevezetés az Amazon Web Services (AWS) világába por
Bevezetés az Amazon Web Services (AWS) világábaBevezetés az Amazon Web Services (AWS) világába
Bevezetés az Amazon Web Services (AWS) világábaShiwaForce
372 vistas55 diapositivas
Virtuális Platformváltás validált környezetben por
Virtuális Platformváltás validált környezetbenVirtuális Platformváltás validált környezetben
Virtuális Platformváltás validált környezetbengazdagf
337 vistas23 diapositivas
Gazdag Ferenc_IDC_KormanyzatiFelho por
Gazdag Ferenc_IDC_KormanyzatiFelhoGazdag Ferenc_IDC_KormanyzatiFelho
Gazdag Ferenc_IDC_KormanyzatiFelhoFerenc GAZDAG
536 vistas21 diapositivas
NETaudIT por
NETaudITNETaudIT
NETaudITAttila Suba
185 vistas45 diapositivas

Similar a GCP - A felhőalapú architektúrák és szolgáltatások(20)

Új vizeken - Virtualizált szerver megoldások a Cisco-tól por Gloster telekom Kft.
Új vizeken - Virtualizált szerver megoldások a Cisco-tólÚj vizeken - Virtualizált szerver megoldások a Cisco-tól
Új vizeken - Virtualizált szerver megoldások a Cisco-tól
Bevezetés az Amazon Web Services (AWS) világába por ShiwaForce
Bevezetés az Amazon Web Services (AWS) világábaBevezetés az Amazon Web Services (AWS) világába
Bevezetés az Amazon Web Services (AWS) világába
ShiwaForce372 vistas
Virtuális Platformváltás validált környezetben por gazdagf
Virtuális Platformváltás validált környezetbenVirtuális Platformváltás validált környezetben
Virtuális Platformváltás validált környezetben
gazdagf337 vistas
Gazdag Ferenc_IDC_KormanyzatiFelho por Ferenc GAZDAG
Gazdag Ferenc_IDC_KormanyzatiFelhoGazdag Ferenc_IDC_KormanyzatiFelho
Gazdag Ferenc_IDC_KormanyzatiFelho
Ferenc GAZDAG536 vistas
Cheppers - AWS webinárium - AWS Workspaces por Peter Oroszvari
Cheppers - AWS webinárium - AWS WorkspacesCheppers - AWS webinárium - AWS Workspaces
Cheppers - AWS webinárium - AWS Workspaces
Peter Oroszvari790 vistas
Grid Underground projekt por Ferenc Szalai
Grid Underground projektGrid Underground projekt
Grid Underground projekt
Ferenc Szalai277 vistas
Momacc prospektus kicsi por Kormos Péter
Momacc prospektus kicsiMomacc prospektus kicsi
Momacc prospektus kicsi
Kormos Péter704 vistas
Gazdag Ferenc_IVSZ_KormanyzatiFelho_v2 por Ferenc GAZDAG
Gazdag Ferenc_IVSZ_KormanyzatiFelho_v2Gazdag Ferenc_IVSZ_KormanyzatiFelho_v2
Gazdag Ferenc_IVSZ_KormanyzatiFelho_v2
Ferenc GAZDAG516 vistas
Appsters - mobile por Andras Nyiro
Appsters - mobile Appsters - mobile
Appsters - mobile
Andras Nyiro308 vistas
Webes alkalmazások optimalizálása por Antal Bodnar
Webes alkalmazások optimalizálásaWebes alkalmazások optimalizálása
Webes alkalmazások optimalizálása
Antal Bodnar13 vistas
Felhő alapú számítástechnika por Károly Novák
Felhő alapú számítástechnikaFelhő alapú számítástechnika
Felhő alapú számítástechnika
Károly Novák1K vistas
Az online hirdetéskiszolgálás technológiai kihívásai por Adverticum
Az online hirdetéskiszolgálás technológiai kihívásaiAz online hirdetéskiszolgálás technológiai kihívásai
Az online hirdetéskiszolgálás technológiai kihívásai
Adverticum606 vistas
Ipari felhő infrastruktúrák a gyakorlatban por Open Academy
Ipari felhő infrastruktúrák a gyakorlatbanIpari felhő infrastruktúrák a gyakorlatban
Ipari felhő infrastruktúrák a gyakorlatban
Open Academy457 vistas

Más de Márton Kodok

Gen Apps on Google Cloud PaLM2 and Codey APIs in Action por
Gen Apps on Google Cloud PaLM2 and Codey APIs in ActionGen Apps on Google Cloud PaLM2 and Codey APIs in Action
Gen Apps on Google Cloud PaLM2 and Codey APIs in ActionMárton Kodok
5 vistas55 diapositivas
DevBCN Vertex AI - Pipelines for your MLOps workflows por
DevBCN Vertex AI - Pipelines for your MLOps workflowsDevBCN Vertex AI - Pipelines for your MLOps workflows
DevBCN Vertex AI - Pipelines for your MLOps workflowsMárton Kodok
67 vistas57 diapositivas
Discover BigQuery ML, build your own CREATE MODEL statement por
Discover BigQuery ML, build your own CREATE MODEL statementDiscover BigQuery ML, build your own CREATE MODEL statement
Discover BigQuery ML, build your own CREATE MODEL statementMárton Kodok
71 vistas61 diapositivas
Cloud Run - the rise of serverless and containerization por
Cloud Run - the rise of serverless and containerizationCloud Run - the rise of serverless and containerization
Cloud Run - the rise of serverless and containerizationMárton Kodok
63 vistas51 diapositivas
BigQuery best practices and recommendations to reduce costs with BI Engine, S... por
BigQuery best practices and recommendations to reduce costs with BI Engine, S...BigQuery best practices and recommendations to reduce costs with BI Engine, S...
BigQuery best practices and recommendations to reduce costs with BI Engine, S...Márton Kodok
343 vistas38 diapositivas
Vertex AI - Unified ML Platform for the entire AI workflow on Google Cloud por
Vertex AI - Unified ML Platform for the entire AI workflow on Google CloudVertex AI - Unified ML Platform for the entire AI workflow on Google Cloud
Vertex AI - Unified ML Platform for the entire AI workflow on Google CloudMárton Kodok
1.2K vistas50 diapositivas

Más de Márton Kodok(20)

Gen Apps on Google Cloud PaLM2 and Codey APIs in Action por Márton Kodok
Gen Apps on Google Cloud PaLM2 and Codey APIs in ActionGen Apps on Google Cloud PaLM2 and Codey APIs in Action
Gen Apps on Google Cloud PaLM2 and Codey APIs in Action
Márton Kodok5 vistas
DevBCN Vertex AI - Pipelines for your MLOps workflows por Márton Kodok
DevBCN Vertex AI - Pipelines for your MLOps workflowsDevBCN Vertex AI - Pipelines for your MLOps workflows
DevBCN Vertex AI - Pipelines for your MLOps workflows
Márton Kodok67 vistas
Discover BigQuery ML, build your own CREATE MODEL statement por Márton Kodok
Discover BigQuery ML, build your own CREATE MODEL statementDiscover BigQuery ML, build your own CREATE MODEL statement
Discover BigQuery ML, build your own CREATE MODEL statement
Márton Kodok71 vistas
Cloud Run - the rise of serverless and containerization por Márton Kodok
Cloud Run - the rise of serverless and containerizationCloud Run - the rise of serverless and containerization
Cloud Run - the rise of serverless and containerization
Márton Kodok63 vistas
BigQuery best practices and recommendations to reduce costs with BI Engine, S... por Márton Kodok
BigQuery best practices and recommendations to reduce costs with BI Engine, S...BigQuery best practices and recommendations to reduce costs with BI Engine, S...
BigQuery best practices and recommendations to reduce costs with BI Engine, S...
Márton Kodok343 vistas
Vertex AI - Unified ML Platform for the entire AI workflow on Google Cloud por Márton Kodok
Vertex AI - Unified ML Platform for the entire AI workflow on Google CloudVertex AI - Unified ML Platform for the entire AI workflow on Google Cloud
Vertex AI - Unified ML Platform for the entire AI workflow on Google Cloud
Márton Kodok1.2K vistas
Vertex AI: Pipelines for your MLOps workflows por Márton Kodok
Vertex AI: Pipelines for your MLOps workflowsVertex AI: Pipelines for your MLOps workflows
Vertex AI: Pipelines for your MLOps workflows
Márton Kodok787 vistas
Cloud Workflows What's new in serverless orchestration and automation por Márton Kodok
Cloud Workflows What's new in serverless orchestration and automationCloud Workflows What's new in serverless orchestration and automation
Cloud Workflows What's new in serverless orchestration and automation
Márton Kodok191 vistas
Serverless orchestration and automation with Cloud Workflows por Márton Kodok
Serverless orchestration and automation with Cloud WorkflowsServerless orchestration and automation with Cloud Workflows
Serverless orchestration and automation with Cloud Workflows
Márton Kodok268 vistas
Serverless orchestration and automation with Cloud Workflows por Márton Kodok
Serverless orchestration and automation with Cloud WorkflowsServerless orchestration and automation with Cloud Workflows
Serverless orchestration and automation with Cloud Workflows
Márton Kodok371 vistas
Serverless orchestration and automation with Cloud Workflows por Márton Kodok
Serverless orchestration and automation with Cloud WorkflowsServerless orchestration and automation with Cloud Workflows
Serverless orchestration and automation with Cloud Workflows
Márton Kodok762 vistas
BigdataConference Europe - BigQuery ML por Márton Kodok
BigdataConference Europe - BigQuery MLBigdataConference Europe - BigQuery ML
BigdataConference Europe - BigQuery ML
Márton Kodok147 vistas
DevFest Romania 2020 Keynote: Bringing the Cloud to you. por Márton Kodok
DevFest Romania 2020 Keynote: Bringing the Cloud to you.DevFest Romania 2020 Keynote: Bringing the Cloud to you.
DevFest Romania 2020 Keynote: Bringing the Cloud to you.
Márton Kodok66 vistas
BigQuery ML - Machine learning at scale using SQL por Márton Kodok
BigQuery ML - Machine learning at scale using SQLBigQuery ML - Machine learning at scale using SQL
BigQuery ML - Machine learning at scale using SQL
Márton Kodok303 vistas
Applying BigQuery ML on e-commerce data analytics por Márton Kodok
Applying BigQuery ML on e-commerce data analyticsApplying BigQuery ML on e-commerce data analytics
Applying BigQuery ML on e-commerce data analytics
Márton Kodok1.5K vistas
Supercharge your data analytics with BigQuery por Márton Kodok
Supercharge your data analytics with BigQuerySupercharge your data analytics with BigQuery
Supercharge your data analytics with BigQuery
Márton Kodok189 vistas
Vibe Koli 2019 - Utazás az egyetem padjaitól a Google Developer Expertig por Márton Kodok
Vibe Koli 2019 - Utazás az egyetem padjaitól a Google Developer ExpertigVibe Koli 2019 - Utazás az egyetem padjaitól a Google Developer Expertig
Vibe Koli 2019 - Utazás az egyetem padjaitól a Google Developer Expertig
Márton Kodok150 vistas
BigQuery ML - Machine learning at scale using SQL por Márton Kodok
BigQuery ML - Machine learning at scale using SQLBigQuery ML - Machine learning at scale using SQL
BigQuery ML - Machine learning at scale using SQL
Márton Kodok1.1K vistas
Google Cloud Platform Solutions for DevOps Engineers por Márton Kodok
Google Cloud Platform Solutions  for DevOps EngineersGoogle Cloud Platform Solutions  for DevOps Engineers
Google Cloud Platform Solutions for DevOps Engineers
Márton Kodok1.1K vistas
GDG DevFest Romania - Architecting for the Google Cloud Platform por Márton Kodok
GDG DevFest Romania - Architecting for the Google Cloud PlatformGDG DevFest Romania - Architecting for the Google Cloud Platform
GDG DevFest Romania - Architecting for the Google Cloud Platform
Márton Kodok462 vistas

GCP - A felhőalapú architektúrák és szolgáltatások

  • 1. A felhőalapú architektúrák és szolgáltatások Kodok Márton @martonkodok Google Developer Expert REEA.net
  • 2. ● angolul „cloud computing” ● a szolgáltató eszközein (Google GCP, Amazon AWS, Microsoft Azure) ● a szolgáltatás üzemeltetési részleteit a felhasználótól elrejtve ● adatközpontok - data center - távoli hozzáféréssel irányítható ● nincs szükség dedikált hardver vásárlására ● Idényjellegű is lehet (“per second billing”, “black friday”) ● gyorsan változtatható az allokált erőforrások mérete is ● Helyfüggetlen - Méretezhető - Nagy rendelkezésre állás - Költségkímélő ● Rendszeres biztonsági frissítések Felhőalapú számítástechnika A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 3. A felhőalapú architektúrák és szolgáltatások @martonkodok Hogy is néz ki valójában egy szerverház, data center?
  • 6. REEA.net uses GCP Build on the same infrastructure that powers Google
  • 7. Google Cloud Platform (GCP) Compute Big Data BigQuery Cloud Dataflow Cloud Dataproc Cloud Datalab Cloud Pub/Sub Genomics Storage & Databases Cloud Storage Cloud Bigtable Cloud Datastore Cloud SQL Cloud Spanner Persistent Disk Machine Learning Cloud Machine Learning Cloud Vision API Cloud Speech API Cloud Natural Language API Cloud Translation API Cloud Jobs API Data Studio Cloud Dataprep Cloud Video Intelligence API Advanced Solutions Lab Compute Engine App Engine Kubernetes Engine GPU Cloud Functions Container- Optimized OS Identity & Security Cloud IAM Cloud Resource Manager Cloud Security Scanner Key Management Service BeyondCorp Data Loss Prevention API Identity-Aware Proxy Security Key Enforcement Internet of Things Cloud IoT Core Transfer Appliance
  • 8. Google Cloud Platform (GCP) Compute Big Data BigQuery Cloud Dataflow Cloud Dataproc Cloud Datalab Cloud Pub/Sub Genomics Storage & Databases Cloud Storage Cloud Bigtable Cloud Datastore Cloud SQL Cloud Spanner Persistent Disk Machine Learning Cloud Machine Learning Cloud Vision API Cloud Speech API Cloud Natural Language API Cloud Translation API Cloud Jobs API Data Studio Cloud Dataprep Cloud Video Intelligence API Advanced Solutions Lab Compute Engine App Engine Kubernetes Engine GPU Cloud Functions Container- Optimized OS Identity & Security Cloud IAM Cloud Resource Manager Cloud Security Scanner Key Management Service BeyondCorp Data Loss Prevention API Identity-Aware Proxy Security Key Enforcement Internet of Things Cloud IoT Core Transfer Appliance
  • 9. 1. Free for all - Learn and build on GCP for free. https://cloud.google.com/free/ 2. Codelabs - will step you through the process of building a small app https://codelabs.developers.google.com 3. Qwiklabs - Become a cloud expert with hands-on training $$$ https://qwiklabs.com/home?locale=en GCP pályakezdőknek A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 10. A felhőalapú architektúrák és szolgáltatások @martonkodok Free for all 1/3
  • 11. Google Compute Engine - Virtual Machines A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 12. General use > Compute Engine and REST A felhőalapú architektúrák és szolgáltatások @martonkodok iOS Android Web Mobile Services REST API Compute Engine Flexibility for Every Workload ● High-Performance, Scalable VMs ● Custom Machine Types ● CentOS, Ubuntu, Windows ● Persistent Disks or SSD (local or network based) ● Per-second billing ● Networking ● Firewall ● Load balancing ● Compliance & Security
  • 13. App Engine - PaaS A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 14. App Engine - Websites > API Hosting A felhőalapú architektúrák és szolgáltatások @martonkodok API App EngineREST API App Engine Frontend Container Engine Multiple Clients API Requests Cloud Load Balancing ● Fully managed serverless application platform ● Scale your applications seamlessly from zero to planet scale ● Automatically scales depending on your application traffic ● Traffic Splitting (app versions, A/B tests, incremental rollouts) ● Standard vs Flexible environments Python, Node.js, Go, Java, Ruby, PHP, .NET
  • 16. A felhőalapú architektúrák és szolgáltatások @martonkodok Codelabs 2/3
  • 17. Codelabs A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 18. A felhőalapú architektúrák és szolgáltatások @martonkodok QwikLabs 3/3
  • 19. QwikLabs A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 20. QwikLabs A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 21. A felhőalapú architektúrák és szolgáltatások @martonkodok How to scale your app to 1 million requests
  • 22. Legacy system: a server from a hosting company A felhőalapú architektúrák és szolgáltatások @martonkodok Android Web Endpoint Clients iOS Cons: Shared/Dedicated server No flexibility No additional CPU No additional Disk Problems: Heavy caching - unclear code optimizations High load - degraded performance Slow response time Hosting Company Local Compute
  • 23. Moving into cloud A felhőalapú architektúrák és szolgáltatások @martonkodok Android Web Endpoint Clients iOS Virtual Server Compute Engine Vertical scaling CPU size RAM HDD size SSD Horizontal scaling 2nd server, 3rd server Multiple DB nodes On demand (on campaigns on black friday etc…)
  • 24. A felhőalapú architektúrák és szolgáltatások @martonkodok Creating a VM instance steps
  • 25. Creating a VM instance A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 26. Creating a VM instance - Choosing Region, type A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 27. Creating a VM instance - OS, boot disk, Network A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 28. VM instances A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 29. Virtual Private Network - Firewall rules A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 30. A felhőalapú architektúrák és szolgáltatások @martonkodok Autoscaling with Instance Groups
  • 31. Creating an Instance Group A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 32. Setting Autoscaling settings A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 33. CMS with Autoscaling A felhőalapú architektúrák és szolgáltatások @martonkodok ZONE B Content Server Compute Engine Autoscaling ZONE A Content Server Compute Engine Autoscaling Static Content Cloud Storage Dynamic Content Cloud SQL Publisher Cloud Load Balancing Cloud DNS Content Server Compute Engine Autoscaling Content Server Compute Engine Autoscaling
  • 34. A felhőalapú architektúrák és szolgáltatások @martonkodok Example Architecture for Autoscaling on App Engine
  • 35. App Engine Autoscaling A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 36. A felhőalapú architektúrák és szolgáltatások @martonkodok Cloud Endpoints
  • 37. Cloud Endpoints: Develop, deploy and manage APIs A felhőalapú architektúrák és szolgáltatások @martonkodok App Engine Mobile Backend API Cloud Endpoints Android Web Endpoint Clients iOS Manages and protects your APIs ● Works with JSON web tokens, API keys, integration with Auth0, Firebase Auth ● Provides insight with Stackdriver Monitoring, Trace and Logging ● Less than 1ms per call ● Works best with Compute engine, App Engine, and Kubernetes Engine. ● JSON/Rest/gRPC Pricing: 0-2M $0.00 2M+ req $3/million
  • 38. A felhőalapú architektúrák és szolgáltatások @martonkodok Data layer design
  • 39. Database Mapping A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 40. DB multiple zones and Master/Slave topology A felhőalapú architektúrák és szolgáltatások @martonkodok Zone 1 us-central 1-a Instance Group Compute Engine Web Applications Master Cloud SQL Zone 2 us-central 1-f Instance Group Compute Engine Web Applications Read Replica Cloud SQL ReplicationCloud Load Balancing
  • 41. Task Queue - Message Queue systems A felhőalapú architektúrák és szolgáltatások @martonkodok Static Content Cloud Storage Dynamic Content Cloud SQL Dynamic Content Cloud Datastore Front End App App Engine Autoscaling Task Queues Memcache Batch App App Engine Autoscaling Cloud Load Balancing Cloud DNS Workers Compute Engine Autoscaling
  • 42. “ Data needs to be processed in multiple services. How can we pipe to multiple places? A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 43. Architecting for The Cloud On-Premises Servers Event Sourcing Frontend Platform Services Analyze Metrics / Logs/ Streaming Cloud Storage A felhőalapú architektúrák és szolgáltatások @martonkodok Cloud Dataflow Process BigQuery Cloud SQL Stream Batch Data Studio Third-Party Tools
  • 44. “ We have our app outside of GCP. How can we use the benefits of BigQuery? A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 45. Data Pipeline Integration at REEA.net Analytics Backend BigQuery On-Premises Servers Pipelines FluentD Event Sourcing Frontend Platform Services Metrics / Logs/ Streaming Development Team Data Analysts Report & Share Business Analysis Tools Tableau QlikView Data Studio Internal Dashboard Database SQL Application ServersServers Cloud Storage archive Load Export Replay Standard Devices HTTPS A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 46. ● SQL language to run BigData queries ● run raw ad-hoc queries (either by analysts/sales or Devs) ● no more throwing away-, expiring-, aggregating old data ● no provisioning/deploy ● no running out of resources ● no more focus on large scale execution plan Our benefits using BigQuery A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 47. Architecture: Retail > Real-Time Inventory Ingest App Engine Capture Changes Events Cloud Bigtable Processed Changes Aggregates Cloud SQL Inventory Counts Analytics BigQuery Data Warehouse Messaging Cloud Pub/Sub Streaming Changes Processing Cloud Dataflow Inventory Streams Services App Engine Inventory APIs Backoffice Business Applications Integrations Google Services Retail Store Inventory Changes A felhőalapú architektúrák és szolgáltatások @martonkodok
  • 48. Architecture: Retail > Recommendation Engines A felhőalapú architektúrák és szolgáltatások @martonkodok Data Sources Machine Learning Applications Browsing Compute Engine Shopping Cart App Engine Outreach Container Engine Purchases Cloud Datastore Wish Lists Cloud SQL Reviews Cloud Datastore Inventory Data Cloud SQL Analytics BigQuery Spark MLlib Cloud Dataproc ETL Cloud Dataflow Transform Data Normalized Data Cloud Storage Combined Sources Hosted Models Cloud Machine Learning Real-Time Prediction API
  • 49. Thank you. Slides available on: slideshare.net/martonkodok Reea.net - Integrated web solutions driven by creativity to deliver projects.