Más contenido relacionado
La actualidad más candente (8)
Similar a Machine Learning (20)
Más de Amazon Web Services (20)
Machine Learning
- 1. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.
- 2. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Machine Learning
e Intelligenza Artificiale in AWS
© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
16/10/2019
Leonardo Fenu, Sr. Solutions Architect
AWS World Wide Public Sector Italy
- 3. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Una lunga storia di ML in Amazon
Droni Interazioni voice-
driven
Esperienze nuove per
i clienti
Raccomandazioni
personalizzate
Automazione
della consegna
Gestione dei
magazzini
- 4. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
AI, Machine Learning, and Deep Learning
Machine Learning
1980s
Tecnica che permette ai computer di eseguire compiti senza
essere esplicitamente programmati
Artificial Intelligence
1950s
Tecniche che permettono ai computer di
simulare l’intelligenza umana
Turing Test Perceptron
Deep Learning
2010s
Sottoinsieme di ML che usa reti
neurali per l’apprendimento
- 5. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Modelli, algoritmi e dati
Un algoritmo di MLè il programma usato per addestrare un modello ad
imparare dai dati
Un modello di ML è il programma addestrato che mappa gli input agli
output
Image courtesy of Christoph Molnar
Dai dati di input che si ricavano i
modelli di apprendimento
- 6. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Supervised Machine Learning
Task driven
• Training Data: (X,Y) (Features, Labels)
• Predict: Y, minimizing some loss
• Classification, Regression
Unsupervised Machine Learning
Data driven
• Training Data: X (features only)
• Find similar points in high-dim X-space
• Clustering
Reinforcement Learning
Decision making
• Training data: (State, Action, Reward)
• Maximize long term rewards
• Robotics, games
Tre tipologie di Machine Learning
- 7. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Training Data Training
Test Data
Evaluation
Results
Trial
Model
All Labelled Data
75% 25%
Accuracy
Addestramento di un modello di ML: Supervised Learning
- 8. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
ML in AWS
LA NOSTRA MISSIONE
Mettere il Machine Learning a
disposizione di ogni
sviluppatore e data scientist
- 9. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Decine di migliaia di clienti che sviluppano ML su AWS
- 10. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
F R A M E W O R K &
I N F R A S T R U T T U R A
I servizi di AI e ML di AWS
S E R V I Z I
A P P L I C A T I V I R E K O G N I T I O N
I M A G E
P O L L Y T R A N S C R I B E T R A N S L A T E C O M P R E H E N D
& C O M P R E H E N D
M E D I C A L
L E XR E K O G N I T I O N
V I D E O
Visione Parlato Chatbots
A M A Z O N
S A G E M A K E R
B U I L D T R A I N
F O R E C A S TT E X T R A C T P E R S O N A L I Z E
D E P L O Y
Pre-built algorithms & notebooks
Data labeling (G R O U N D T R U T H )
One-click model training & tuning
Model Optimization ( N E O )
One-click deployment & hosting
P I A T T A F O R M E
F r a m e w o r k I n t e r f a c c e I n f r a s t r u c t u r e
E C 2 P 3
& P 3 d n
E C 2 C 5 F P G A s G R E E N G R A S S E L A S T I C
I N F E R E N C E
Hyperparameter optimizationAlgorithms & models ( A W S M A R K E T P L A C E
F O R M A C H I N E L E A R N I N G )
Lingua Forecasting Suggerimenti
Notebook hosting Reinforcement learning
Auto-scaling
Virtual private cloud
Private Link
Elastic Inference integration
A M A Z O N
M E C H A N I C A L T U R K
RL Coach
- 11. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Servizi pre addestrati che non
richiedono alcune conoscenza di
ML specifica
Aggiungi intelligenza alle tua
applicazioni semplicemente
Qualità e accuratezza grazie al
processo di apprendimento
continuo
S E R V I Z I
A P P L I C A T I V I R E K O G N I T I O N
I M A G E
P O L L Y T R A N S C R I B E T R A N S L A T E C O M P R E H E N D
& C O M P R E H E N D
M E D I C A L
L E XR E K O G N I T I O N
V I D E O
Visione Parlato Chatbots
F O R E C A S TT E X T R A C T P E R S O N A L I Z E
Lingua Forecasting Suggerimenti
I servizi di AI e ML di AWS
- 12. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Moderazione di immagini Rilevamento del testoRiconoscimento celebrità
Analisi facciale Confronto faccialeRilevamento di oggetti
Amazon Rekognition: Immagini
Servizio di riconoscimento immagini basato su Deep Learning
- 13. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Amazon Rekognition
- 14. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Amazon Rekognition: Video
Analisi facciale Riconoscimento LiveRileva oggetti e attività
Moderazione di immaginiRiconoscimento celebrità Tracking delle persone
- 15. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Amazon Textract: Estrarre testo e dati da qualunque tipo di documento
Estrazione da testi Estrazione da tabelle Estrazione da moduli
- 16. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Amazon Polly: Sintesi Vocale
Converte il testo
in voce naturale
57 voci 28 lingue Bassa latenza,
tempo reale
Servizio
completamente gestito
Casi d’uso:
Contact centers
Podcasting, Voice blogs
Navigazione
Insegnamento delle lingue
- 17. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Amazon Transcribe: dalla voce al testo
Identificazione
del canale
Vocabolario
personalizzato
Rilevamento di
più speakers
Time stampsPunteggiatura
Intervallo di
confidenza
- 18. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
25 Lingue
595 Combinazioni
Real-time
< 500ms / sentence on average
< 150ms / conversational / short form
Gestione del tagging
XML tags mantengono lo stile e la
formattazione durante la
traduzione
< / >
Data Security
Data ownership
Encryption
Access Management
Semplice da usare
Semplici chiamate alle API o
soluzioni evolute tramite partner
Riconoscimento della lingua
Riconosce automaticamente la lingua
Amazon Translate: traduzioni naturali ed accurate
- 19. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Estrae significato e relazioni dai testi
Entities
Key Phrases
Language
Sentiment
Syntax
Grouping
English, Spanish, German, French, Italian, Portuguese
Amazon Comprehend:
Amazon
Comprehend
- 20. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
A m a z o n . c o m , I n c . h a s e d e a
S e a t t l e , W A e d è s t a t a f o n d a t a
i l 5 l u g l i o 1 9 9 4 d a J e f f B e z o s .
I n o s t r i c l i e n t i a d o r a n o
c o m p r a r e t u t t o , d a i l i b r i a i
f r u l l a t o r i a p r e z z i e c c e z i o n a l i
E N T I T À D E N O M I N A T E
• A m a z o n . c o m : O r g a n i z z a z i o n e
• S e a t t l e , W A : S e d e
• 5 l u g l i o 1 9 9 4 : D a t a
• J e f f B e z o s : P e r s o n a
F R A S I C H I A V E
• I n o s t r i c l i e n t i
• l i b r i
• f r u l l a t o r i
• p r e z z i e c c e z i o n a l i
S E N T I M E N T
• P o s i t i v e
L I N G U A
• I t a l i a n o
Amazon Comprehend
- 21. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Entità
• Medicinali
• Condizioni Mediche
• Test, Trattamenti e Procedure
• Anatomia
• Protected Health Information (PHI)
Estrazione delle Relazioni
• Medicinali e dosaggi
• Risultati dei test
• …e molto altro…
Caratteristiche delle Entità
• Negazione
• Diagnosi
• Segnali o Sintomi
Protected Health Information
Identification
(PHId API)
Raggruppa un insieme complesso di elaborazioni in una singola API
Medical Named Entity and
Relationship Extraction (NERe API)
Non ancora disponibile in ITALIANO
Amazon Comprehend Medical
- 22. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Comprensione del testo e del linguaggio naturale: con la stessa tecnologia
di Alexa
Connettori SaaS enterprise: collegamento a sistemi enterprise
Deployment verso servizi di chatbot
Integrazione nativa con AMAZON CONNECT
Progettato per sviluppatori: strumenti efficienti e intuitivi
per creare conversazioni, dimensionamento automatico
Amazon Lex: interfacce conversazionali
Non ancora disponibile in ITALIANO
- 23. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Amazon Forecast: Previsioni accurate da serie temporali
Private
forecasting API
Amazon Forecast
Dati storici
Dati collegati
Inizia con pochi click
Importa i tuoi dati in Forecast
Addestra il modello
Scegli un modello di analisi o fallo scegliere a
noi
Scarica previsioni accurate
Accedi alle previsioni via private API
Vendite, domanda ,
supply chain scorte,
etc.
Meteo, offerte speciali,
dettagli
- 24. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Amazon Personalize: Suggerimenti personalizzati in tempo reale
Articoli, prodotti,
video, etc.
Età, location, etc. Amazon
Personalize
Pagine viste, login,
conversioni, etc.
Customized
personalization &
recommendation
API
Inizia con pochi click
Importa i tuoi dati in Forecast
Addestra il modello
Scegli un modello di analisi o fallo scegliere a
noi
Utilizza suggerimenti precisi
Accedi ai suggerimenti via private API
- 25. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
AWS Lambda
Amazon S3
Amazon
Athena
Input audio
Amazon
QuickSight
Amazon
Comprehend
Architettura di Esempio
Amazon
Transcribe
- 26. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
F R A M E W O R K &
I N F R A S T R U T T U R A
I servizi di AI e ML di AWS
S E R V I Z I
A P P L I C A T I V I R E K O G N I T I O N
I M A G E
P O L L Y T R A N S C R I B E T R A N S L A T E C O M P R E H E N D
& C O M P R E H E N D
M E D I C A L
L E XR E K O G N I T I O N
V I D E O
Visione Parlato Chatbots
A M A Z O N
S A G E M A K E R
B U I L D T R A I N
F O R E C A S TT E X T R A C T P E R S O N A L I Z E
D E P L O Y
Pre-built algorithms & notebooks
Data labeling (G R O U N D T R U T H )
One-click model training & tuning
Model Optimization ( N E O )
One-click deployment & hosting
P I A T T A F O R M E
F r a m e w o r k I n t e r f a c c e I n f r a s t r u c t u r e
E C 2 P 3
& P 3 d n
E C 2 C 5 F P G A s G R E E N G R A S S E L A S T I C
I N F E R E N C E
Hyperparameter optimizationAlgorithms & models ( A W S M A R K E T P L A C E
F O R M A C H I N E L E A R N I N G )
Lingua Forecasting Suggerimenti
Notebook hosting Reinforcement learning
Auto-scaling
Virtual private cloud
Private Link
Elastic Inference integration
A M A Z O N
M E C H A N I C A L T U R K
RL Coach
- 27. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Ground Truth Notebooks Training Inference
Crea, addestra e usa modelli di Machine Learning velocemente
Amazon SageMaker
- 28. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Ground Truth Notebooks Training Inference
Amazon SageMaker: Ground Truth
- 29. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Amazon SageMaker: Ground Truth
- 30. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Ground Truth Notebooks Training Inference
Amazon SageMaker: Notebook
- 31. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Algoritmi già pronti in
SageMaker
Supported Frameworks
AWS Marketplace
algorithms
Model
Data Data Data Data
Orchestration
Built-in Algorithms
SageMaker
Model Model Model
Orchestration
SageMaker
Custom Script
Algorithms or
Models
Script custom su
framework supportati
BYO algorithm and
framework
17 algoritmi già pronti Frameworks supportati: Apache
MXNet, TensorFlow , Scikit-learn,
PyTorch, Chainer
Algoritmi e modelli di terze parti
Supported Frameworks
Orchestration
SageMaker
Custom Script
and Custom
Framework
Orchestration
SageMaker
Amazon SageMaker: Build
Container Docker con i vostri
algoritmi e framework
- 32. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
• Jupyter notebooks
• Support Jupyter Lab
• Multiple built-in kernels
• Install external libraries
and kernels
• Integrate with Git
• Sample notebooks
Amazon SageMaker: Notebook
- 33. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Ground Truth Notebooks Training Inference
Amazon SageMaker: Training
- 34. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Un click in Console
Uso API/SDK
- OR -
Launch
Training
Amazon SageMaker: Training
- 35. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Perfette per inferenza ML/AI
Perfetta per il training
dei modelli di ML/AI
Perfette per i notebooks
Amazon SageMaker: Training
- 36. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Ground Truth Notebooks Training Inference
Amazon SageMaker: Inference
- 37. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Hosting
Services
Batch
Transform
Elastic
Inference
Trained Model
Neo
Run
Anywhere DeepRacer DeepLensMarketplace
Amazon SageMaker: Inference
- 38. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Hosting Services
Secure Endpoint
Inference
Code
Helper
Code
Deployment / Hosting
on ML Compute Instances
Model
Artifacts
Inference
code Images
Client Application
Inference
request
Inference
result
• Endpoint HTTPS
• Configurazione elastica (scala quando serve)
• Versioni multiple del modello (A/B testing)
• Supporto Multi-AZ
• Latenze sotto il secondo
• Persistenza
Amazon SageMaker: Inference
- 39. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Inference
Code
Helper
Code
Model
Artifacts
Inference
code Images
Transformed
Data
Batch Agent
Request
Data
Data results
Batch Cluster
on ML Compute Instances
Batch Transform
• Predizioni per l’intero dataset
• Risorse a tempo (le istanze vengono create
e terminate al termine del job)
• Nessuna infrastruttura da gestire
Amazon SageMaker: Inference
- 40. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
VPC
Elastic Inference
• La potenza di una GPU ad una frazione del costo
• Aggiunge accellerazione alle istanze CPU
• Funziona con i notebook e con le istanze di inferenza
• Supporta TensorFlow e MXNet, gli altri possono
essere utilizzati via ONNX Sagemaker Endpoint
or Notebook instance
Private Link Elastic
Inference
Amazon SageMaker: Inference
- 41. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Neo
• Addestra il modello e fallo girare dove vuoi
• Ottimizzato per le piattaforme target
• Distribuisci su EC2, Edge, IoT
• Open Source
• Fino a 2X incremento di performance
• 1/10th della dimensione del framework
originale
XGBoost
Neo
Sviluppa con il tuo
framework preferito
Compila per la
piattaforma target
Distribuisci il modello
ottimizzato
Amazon SageMaker: Inference
- 42. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Marketplace
• Crea un container Docker con il tuo
algoritmo o modello
• Crea un package utilizzando SageMaker
• Registrati sul marketplace e distribuiscilo
du AWS Marketplace
Algorithm
or model
code
Docker container AWS MarketplaceAlgorithm or model
Package
Amazon SageMaker: Inference
- 43. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
DeepLens
• Inference at the edge
• SageMaker trained models
• Simplified deployment
• Sample notebooks
DeepRacer
Amazon SageMaker: Inference
Impara la computer vision attraverso progetti,
esercitazioni ed esplorazioni pratiche del mondo reale
con la prima videocamera al mondo con funzionalità di
deep learning per gli sviluppatori.
Un'auto da corsa completamente autonoma in scala
1/18, piena di tutto ciò che è necessario per
imparare il reinforced learning attraverso la guida
autonoma.
- 44. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Vasta scelta di framework popolari
Fully managed Fai da solo
AWS is Framework Agnostic
- 45. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Storage di data lake
Amazon S3
Sicurezza
Controllo degli accessi
Crittografia
VPC
KMS
Audit
Compliance
Ruoli
Controllo granulare degli accessi
Calcolo
Istanze CPU e GPU potenti
AWS Lambda
Analytics
Amazon Athena
Amazon EMR
Amazon Redshift e Redshift Spectrum
Non solo Machine Learning
- 46. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Data Visualization
&
Analysis
Business Problem
ML problem framing Data Collection
Data Integration
Data Preparation &
Cleaning
Feature Engineering
Model Training &
Parameter Tuning
Model Evaluation
Are
Business
Goals
met?
Model Deployment
Monitoring &
Debugging
– Predictions
YesNo
DataAugmentation
Feature
Augmentation
Re-training
In pratica
Previsione di incendi nelle
regioni italiane
- 47. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Data Visualization
&
Analysis
Business Problem
ML problem framing Data Collection
Data Integration
Data Preparation &
Cleaning
Feature Engineering
Model Training &
Parameter Tuning
Model Evaluation
Are
Business
Goals
met?
Model Deployment
Monitoring &
Debugging
– Predictions
YesNo
DataAugmentation
Feature
Augmentation
Re-training
In pratica
Previsione di incendi nelle
regioni italiane
- 48. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Amazon SageMaker
AWS Deep Learning AMIs
Amazon Rekognition
Amazon Lex
AWS DeepLens
Amazon Comprehend
Amazon Translate
Amazon Transcribe
Amazon Polly
Amazon Athena
AWS Glue
Amazon Lake Formation
Amazon Redshift
Amazon Elasticsearch Service
Amazon Kinesis
Amazon QuickSight
AWS Direct Connect
AWS Snowball
AWS Snowmobile
AWS Database Migration Service
AWS IoT Core
Amazon Kinesis Data Firehose
Amazon Kinesis Data Streams
Amazon Kinesis Video Streams
Data Lake
on AWS
Storage | Archival Storage | Data Catalog
AnalyticsMachine learning
Real-time dataOn-premises movementdata movement
Abbiamo creato il Data Lake
- 49. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Data Visualization
&
Analysis
Business Problem
ML problem framing Data Collection
Data Integration
Data Preparation &
Cleaning
Feature Engineering
Model Training &
Parameter Tuning
Model Evaluation
Are
Business
Goals
met?
Model Deployment
Monitoring &
Debugging
– Predictions
YesNo
DataAugmentation
Feature
Augmentation
Re-training
In pratica
Previsione di incendi nelle
regioni italiane
- 50. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Raccolta e
preparazione dei
dati di training
Scelta ed
ottimizzazione dgli
algoritmi di ML
1
2
3
Setup dell’ ambiente
di training
Training ed
ottimizzazione del
modello
Deployment del
modello in
produzione
Scala e gestisci
l’ambiente di
produzione
Abbiamo utilizzato Amazon SageMaker per:
- 51. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
• Software troppo complesso
• Processo manuale costoso
• Disponibilità di dati per il training
• Semplice da esprimere in termini di ML
Image: Unsplash
Quando utilizzare il Machine Learning ?
- 52. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
• Pochi dati
• Nessuna classificazione
• Poco tempo
• Nessuna tolleranza agli
errori
Image: Unsplash
Quando non utilizzare il Machine Learning ?
- 53. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
• Qual‘è il business problem ?
• Chiediti:
• Come posso aggiungere valore con il ML?
• Come posso ridurre gli sprechi con il ML?
• Costruisci il data lake
• Conosci i tuoi dati
• Costruisci il progetto di ML
• Utilizza i servizi gestiti di AWS
• Usa Amazon SageMaker per creare il tuo progetto
Riassumendo:
- 54. © 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
ml.aws
Grazie