SlideShare una empresa de Scribd logo
1 de 82
Descargar para leer sin conexión
//Rebuild
Hätte ich auf der Titanic überlebt?
BigData Analysis End-To-End
Olivia Klose
Technical Evangelist, Microsoft
@oliviaklose
Sammeln
Analysieren
Konsumieren
Speichern
Was war? Was ist? Was wird?
Advanced Analytics – Beyond BI
What
happened?
Why did
it happen?
What will
happen?
How can we
make it happen?
Traditional BI Advanced Analytics
Was war? Was ist? Was wird?
Sensordaten im Geschäft
Sensordaten im Geschäft
ID Kunden ID Interaktionsdaten x- & y-Koordinaten
Product ID
Sensordaten im Geschäft
Display ID Display Name x-Koordinaten y-Koordinaten
Was sind die 5 beliebtesten Produkte?
Kunde +
Produkt
Produkt-
positionen
Sensordaten
Top 5
Produkte
Was sind die 5 beliebtesten Produkte?
Kunde +
Produkt
Produkt-
positionen
Sensordaten
Top 5
Produkte
Join
Nach Beliebtheit
sortieren
Hadoop
HDInsight
HDInsight
Azure Management Portal
http://manage.windowsazure.com
HDInsight
HDInsight
HDInsight
Was sind die 5 beliebtesten Produkte?
Kunde +
Produkt
Produkt-
positionen
Sensordaten
Top 5
ProdukteJoin 2 Tables Nach Beliebtheit sortieren
Orchestrieren?
Kunde +
Produkt
Produkt-
positionen
Sensordaten
Top 5
ProdukteJoin 2 Tables Nach Beliebtheit sortieren
Orchestrieren?
Azure Data Factory
C#
MapReduce
Hive
Pig
Stored Procedures
Azure Data Factory
Kunde +
Produkt
Produkt-
positionen
Sensordaten
Top 5
ProdukteJoin 2 Tables Nach Beliebtheit sortieren
Azure Data Factory
Kunde +
Produkt
Produkt-
positionen
Sensordaten
Top 5
ProdukteJoin 2 Tables
Nach Beliebtheit sortieren
In SQL DB
kopieren
Azure Data Factory
Datasets
Pipelines
Pipeline #1
Pipeline #1
Pipeline #1
Pipeline #1
Linked Services
Linked Service #1
Linked Service #2
Linked Service #3
Pipeline #2
Und was kam raus?
Sammeln
Speichern
Analysieren Konsumieren
Sensordaten Event-Hub
Stream
Analytics
Blob SQL DB
Dashboard
Data Factory HDInsight Machine
Learning
Cortana
Was war? Was ist? Was wird?
Echtzeitdaten von Geschäften
Azure Stream Analytics
Azure SQL DB
Azure Event Hubs
Azure Tables
Azure Blob Storage
Azure Blob
Storage
Azure
Event Hubs
Reference
Data
Query runs continuously against
incoming streams of events
Events
Optionally, have a defined
schema and are temporal
(sequenced in time)
Azure Stream Analytics – Query
Azure Stream Analytics – Query
Azure Stream Analytics – Query
Azure Stream Analytics – Query
Zeitfenster von 1 Sekunde, um halbe Sekunde versetzt
Azure Stream Analytics – Zeitfenster
Tumbling Window Hopping Window
Sliding Window
Azure Stream Analytics
Beliebte Produkte? In Echtzeit.
Wann, was,
wieviele
Sensordaten Event-Hub
Stream
Analytics
Dashboard
Gespeichert in SQL DB
Speichern
Sammeln Analysieren Konsumieren
Sensordaten Event-Hub
Stream
Analytics
Blob SQL DB
Dashboard
Data Factory HDInsight Machine
Learning
Cortana
Was war? Was ist? Was wird?
Was ist Machine Learning?
“The goal of machine learning is
to program computers to use
example data or past experience
to solve a given problem.”
Introduction to Machine Learning, 2nd Edition, MIT Press
Machine Learning – Warum?
1.Zu komplex:
Man kann es nicht programmieren.
(z.B. Natural Language Processing, Handschrifterkennung, Computer
Vision,…)
2.Zu viel: Man kann es nicht skalieren.
(z.B. Spam & Betrugsaufdeckung, Medizin)
3.Zu speziell: Man will
personalisierte Programme schreiben.
(z.B. Amazon, Netflix)
4.Autonomes Lernen
(z.B. Robotik)
Azure Machine Learning
Machine Learning für alle
Unternehmen, Data Scientists,
Entwickler, Analysten und Nutzer
überall auf der Welt zugänglich machen
Azure Machine Learning
HDInsight
SQL Server VM
SQL DB
Blobs & Tabellen
Cloud
Desktopdateien
Exceltabelle
Andere…
Lokal
ML
Studio
IDE für ML
Web Service
M
Monetarisieren
Speicherkonto
Azure Machine Learning
Speichern
Sammeln Analysieren Konsumieren
Sensordaten Event-Hub
Stream
Analytics
Blob SQL DB
Data Factory HDInsight Machine
Learning
Cortana
Dashboard
Wrap Up
Was haben wir gemacht?
Was war? Was ist? Was wird?
Speichern
Sammeln Analysieren Konsumieren
Sensordaten Event-Hub
Stream
Analytics
Blob SQL DB
Dashboard
Data Factory HDInsight Machine
Learning
Cortana
Machine Learning
Muss ich jetzt
Machine Learning lernen?
Azure Marketplace – Empfehlungsdienst
Build
Was ist neu?
Azure Data Lake
http://azure.com/datalake
Machine Learning API
http://gallery.azureml.net
Project Oxford
http://projectoxford.ai
Kostenloses E-Book
http://aka.ms/MLbook
Blog-Serie zu Machine Learning
http://aka.ms/MLSerie
Kostenlose Video-Serie zu Azure ML
http://aka.ms/AzureML-MVA
Weitere Informationen
http://aka.ms/startHDInsight
http://aka.ms/MVABigData
http://aka.ms/startADF
http://aka.ms/startASA
http://aka.ms/MLserie
http://aka.ms/AzureML-MVA
http://aka.ms/TechWiese
Danke! 
aka.ms/azurenow
oliviaklose.com
@oliviaklose

Más contenido relacionado

Similar a Dotnet Cologne 2015: //Rebuild - Big Data Analysis End-to-End

system worx: Wie Open Source Software zur Optimierung von Geschäftsprozessen ...
system worx: Wie Open Source Software zur Optimierung von Geschäftsprozessen ...system worx: Wie Open Source Software zur Optimierung von Geschäftsprozessen ...
system worx: Wie Open Source Software zur Optimierung von Geschäftsprozessen ...AKJoom
 
Den Usern mehr bieten: Business Objects Tools als Teil der Business Analytics...
Den Usern mehr bieten: Business Objects Tools als Teil der Business Analytics...Den Usern mehr bieten: Business Objects Tools als Teil der Business Analytics...
Den Usern mehr bieten: Business Objects Tools als Teil der Business Analytics...Wiiisdom
 
Predictive Analytics World Deutschland 2016
Predictive Analytics World Deutschland 2016Predictive Analytics World Deutschland 2016
Predictive Analytics World Deutschland 2016Rising Media Ltd.
 
Kollege Watson, übernehmen Sie ... oder: Was Systeme der künstlichen Intellig...
Kollege Watson, übernehmen Sie ... oder: Was Systeme der künstlichen Intellig...Kollege Watson, übernehmen Sie ... oder: Was Systeme der künstlichen Intellig...
Kollege Watson, übernehmen Sie ... oder: Was Systeme der künstlichen Intellig...Stefan Pfeiffer
 
AI im Fokus - Kunden- und Partner-Event bei der Deimos AG 2023
AI im Fokus - Kunden- und Partner-Event bei der Deimos AG 2023AI im Fokus - Kunden- und Partner-Event bei der Deimos AG 2023
AI im Fokus - Kunden- und Partner-Event bei der Deimos AG 2023Philipp Sauber
 
Marc Kroll (SERgroup Holding International GmbH)
Marc Kroll (SERgroup Holding International GmbH)Marc Kroll (SERgroup Holding International GmbH)
Marc Kroll (SERgroup Holding International GmbH)Praxistage
 
Neue Potentiale durch Recommendations erschliessen und Conversions steigern (...
Neue Potentiale durch Recommendations erschliessen und Conversions steigern (...Neue Potentiale durch Recommendations erschliessen und Conversions steigern (...
Neue Potentiale durch Recommendations erschliessen und Conversions steigern (...SHI Search | Analytics | Big Data
 
Big Data Webinar (Deutsch)
Big Data Webinar (Deutsch)Big Data Webinar (Deutsch)
Big Data Webinar (Deutsch)AWS Germany
 
Top 10 der Business Intelligence-Trends für das Jahr 2014
Top 10 der Business Intelligence-Trends für das Jahr 2014Top 10 der Business Intelligence-Trends für das Jahr 2014
Top 10 der Business Intelligence-Trends für das Jahr 2014Tableau Software
 
Plattformen für das Internet der Dinge, solutions.hamburg, 05.09.16
Plattformen für das Internet der Dinge, solutions.hamburg, 05.09.16Plattformen für das Internet der Dinge, solutions.hamburg, 05.09.16
Plattformen für das Internet der Dinge, solutions.hamburg, 05.09.16Boris Adryan
 
Unternehmen auf dem Weg zum Enterprise 2.0 (IHK-Vortrag)
Unternehmen auf dem Weg zum Enterprise 2.0 (IHK-Vortrag)Unternehmen auf dem Weg zum Enterprise 2.0 (IHK-Vortrag)
Unternehmen auf dem Weg zum Enterprise 2.0 (IHK-Vortrag)Martina Goehring
 
Big Data Discovery + Analytics = Datengetriebene Innovation!
Big Data Discovery + Analytics = Datengetriebene Innovation!Big Data Discovery + Analytics = Datengetriebene Innovation!
Big Data Discovery + Analytics = Datengetriebene Innovation!Harald Erb
 
Onpage SEO im Griff: Alerting und Monitoring für SEOs
Onpage SEO im Griff: Alerting und Monitoring für SEOsOnpage SEO im Griff: Alerting und Monitoring für SEOs
Onpage SEO im Griff: Alerting und Monitoring für SEOsget traction GmbH
 
SCHNELLES BIG-DATA-DEYPLOMENT DURCH CONTAINER IN DER CLOUD
SCHNELLES BIG-DATA-DEYPLOMENT DURCH CONTAINER IN DER CLOUDSCHNELLES BIG-DATA-DEYPLOMENT DURCH CONTAINER IN DER CLOUD
SCHNELLES BIG-DATA-DEYPLOMENT DURCH CONTAINER IN DER CLOUDinovex GmbH
 
Business Turbo Web 2.0
Business Turbo Web 2.0Business Turbo Web 2.0
Business Turbo Web 2.0AndraeM
 
Top 10 Internet Trends 2007
Top 10 Internet Trends 2007Top 10 Internet Trends 2007
Top 10 Internet Trends 2007Jürg Stuker
 

Similar a Dotnet Cologne 2015: //Rebuild - Big Data Analysis End-to-End (20)

Analytics für Einsteiger
Analytics für EinsteigerAnalytics für Einsteiger
Analytics für Einsteiger
 
Mehr Umsatz mit einer intelligenten Shop-Suche
Mehr Umsatz mit einer intelligenten Shop-SucheMehr Umsatz mit einer intelligenten Shop-Suche
Mehr Umsatz mit einer intelligenten Shop-Suche
 
system worx: Wie Open Source Software zur Optimierung von Geschäftsprozessen ...
system worx: Wie Open Source Software zur Optimierung von Geschäftsprozessen ...system worx: Wie Open Source Software zur Optimierung von Geschäftsprozessen ...
system worx: Wie Open Source Software zur Optimierung von Geschäftsprozessen ...
 
BigData?
BigData?BigData?
BigData?
 
Den Usern mehr bieten: Business Objects Tools als Teil der Business Analytics...
Den Usern mehr bieten: Business Objects Tools als Teil der Business Analytics...Den Usern mehr bieten: Business Objects Tools als Teil der Business Analytics...
Den Usern mehr bieten: Business Objects Tools als Teil der Business Analytics...
 
Predictive Analytics World Deutschland 2016
Predictive Analytics World Deutschland 2016Predictive Analytics World Deutschland 2016
Predictive Analytics World Deutschland 2016
 
Kollege Watson, übernehmen Sie ... oder: Was Systeme der künstlichen Intellig...
Kollege Watson, übernehmen Sie ... oder: Was Systeme der künstlichen Intellig...Kollege Watson, übernehmen Sie ... oder: Was Systeme der künstlichen Intellig...
Kollege Watson, übernehmen Sie ... oder: Was Systeme der künstlichen Intellig...
 
AI im Fokus - Kunden- und Partner-Event bei der Deimos AG 2023
AI im Fokus - Kunden- und Partner-Event bei der Deimos AG 2023AI im Fokus - Kunden- und Partner-Event bei der Deimos AG 2023
AI im Fokus - Kunden- und Partner-Event bei der Deimos AG 2023
 
Marc Kroll (SERgroup Holding International GmbH)
Marc Kroll (SERgroup Holding International GmbH)Marc Kroll (SERgroup Holding International GmbH)
Marc Kroll (SERgroup Holding International GmbH)
 
Neue Potentiale durch Recommendations erschliessen und Conversions steigern (...
Neue Potentiale durch Recommendations erschliessen und Conversions steigern (...Neue Potentiale durch Recommendations erschliessen und Conversions steigern (...
Neue Potentiale durch Recommendations erschliessen und Conversions steigern (...
 
Big Data Webinar (Deutsch)
Big Data Webinar (Deutsch)Big Data Webinar (Deutsch)
Big Data Webinar (Deutsch)
 
Top 10 der Business Intelligence-Trends für das Jahr 2014
Top 10 der Business Intelligence-Trends für das Jahr 2014Top 10 der Business Intelligence-Trends für das Jahr 2014
Top 10 der Business Intelligence-Trends für das Jahr 2014
 
Plattformen für das Internet der Dinge, solutions.hamburg, 05.09.16
Plattformen für das Internet der Dinge, solutions.hamburg, 05.09.16Plattformen für das Internet der Dinge, solutions.hamburg, 05.09.16
Plattformen für das Internet der Dinge, solutions.hamburg, 05.09.16
 
Unternehmen auf dem Weg zum Enterprise 2.0 (IHK-Vortrag)
Unternehmen auf dem Weg zum Enterprise 2.0 (IHK-Vortrag)Unternehmen auf dem Weg zum Enterprise 2.0 (IHK-Vortrag)
Unternehmen auf dem Weg zum Enterprise 2.0 (IHK-Vortrag)
 
Big Data Discovery + Analytics = Datengetriebene Innovation!
Big Data Discovery + Analytics = Datengetriebene Innovation!Big Data Discovery + Analytics = Datengetriebene Innovation!
Big Data Discovery + Analytics = Datengetriebene Innovation!
 
Onpage SEO im Griff: Alerting und Monitoring für SEOs
Onpage SEO im Griff: Alerting und Monitoring für SEOsOnpage SEO im Griff: Alerting und Monitoring für SEOs
Onpage SEO im Griff: Alerting und Monitoring für SEOs
 
SCHNELLES BIG-DATA-DEYPLOMENT DURCH CONTAINER IN DER CLOUD
SCHNELLES BIG-DATA-DEYPLOMENT DURCH CONTAINER IN DER CLOUDSCHNELLES BIG-DATA-DEYPLOMENT DURCH CONTAINER IN DER CLOUD
SCHNELLES BIG-DATA-DEYPLOMENT DURCH CONTAINER IN DER CLOUD
 
Business Turbo Web 2.0
Business Turbo Web 2.0Business Turbo Web 2.0
Business Turbo Web 2.0
 
2010 09 29 13-30 michael gniffke
2010 09 29 13-30 michael gniffke2010 09 29 13-30 michael gniffke
2010 09 29 13-30 michael gniffke
 
Top 10 Internet Trends 2007
Top 10 Internet Trends 2007Top 10 Internet Trends 2007
Top 10 Internet Trends 2007
 

Dotnet Cologne 2015: //Rebuild - Big Data Analysis End-to-End