SlideShare una empresa de Scribd logo
1 de 36
Descargar para leer sin conexión
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
1
10.11.2017
Dr. Flávio Eduardo Aoki Horita
flavio.horita@ufabc.edu.br | http://www.flaviohorita.com
Sala 509-2 – Torre 2 – Bloco A – Santo André - Brasil
Introdução ao Big Data: Conceitos e
Aplicações
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
2
10.11.2017
• Professor Adjunto, CMCC, UFABC.
• Membro do AGORA e LabGRIS
• Doutor em Ciências Matemáticas e de Computação,
ICMC, USP
• ... Desenvolvedor ... PHP... Java ... Flex ... Gerente
de Projetos ... Pesquisador ... Python.
• Interesses de pesquisa:
• Modelagem em sistemas-de-sistemas
• Data-driven decision-making
Flávio Horita
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
3
10.11.2017
• Introdução
• Conceitos
• Aplicações
• => Luiz ... Hadoop, Hands-On, ...
Agenda
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
4
10.11.2017
Introdução
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
5
10.11.2017
• Dados sempre foram empregados para apoiar a
tomada de decisão:
• Período de Automatização dos Processos (a partir
dos anos 70);
• Bancos transacionas;
• SGBSs;
• ERPs;
• Sistemas de Informação;
• Engenharia de Software.
Introdução
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
6
10.11.2017
GLOBALIZAÇÃO (a
partir anos 90)
• Internet;
• Desenvolvimento
distribuído;
• Interoperabilidade de
processos;
• Sistemas distribuídos;
• Aprimoramento de
software e hardwares.
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
7
10.11.2017
• Dados sempre foram empregados para apoiar a
tomada de decisão:
• Período da Mineração dos Dados (a partir dos anos
2000);
• Aprimoramento de software e hardwares.
• Mineração de dados;
• Armazenamento em larga escala;
• Big Data;
• Obtenção de conhecimento;
• Data-driven decision-making;
• Etc.
Introdução
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
8
10.11.2017
Big Data
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
9
10.11.2017
• Dados...
• são gerados pelas mais diversas plataformas:
• Redes sociais;
• Dispositivos móveis;
• Internet das coisas;
• Centrais de autoatendimento;
• Websites;
• etc.
Introdução
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
10
10.11.2017
• Dados...
• são produzidos para as mais diferentes finalidades:
• Gestão de desastres;
• Mobilidade urbana;
• Distribuição de energia elétrica;
• Consumo de água;
• Serviços urbanos;
• Marketing;
• Desenvolvimento e lançamento de produtos;
• etc.
Introdução
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
11
10.11.2017
• Dados...
• são produzidos e armazenados em grandes bancos
de dados;
Introdução
1 ZB = 1 073 741 824 TB
Aprox. 1milhão de HD comuns
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
12
10.11.2017
• Dados...
• são gerados continuamente;
Introdução
Flight Radar
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
13
10.11.2017
• Dados...
• são gerados continuamente;
Introdução
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
14
10.11.2017
• Como extrair conhecimento a partir desta
grande quantidade de dados?
• Como lidar com a heterogeneidade dos dados?
• Como processar essa grande volume de
dados?
• Como apoiar a tomada de decisão com dados
atualizados sobre as variáveis de interesse?
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
15
10.11.2017
Conceitos
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
16
10.11.2017
““Massivo crescimento da quantidade de
dados ao redor do mundo.”
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
17
10.11.2017
““Técnicas e iniciativas de tratamento,
integração e análise de dados provenientes
de diversas fontes em diferentes mídias e
formatos”
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
18
10.11.2017
Big Data x Ciência de Dados
Conceitos
• Ciência de dados tem como objetivo criar e
projetar modelos para extrair padrões
(“insights”) a partir de sistemas complexos.
• Big Data x Ciência de Dados: são conceitos
diferentes, embora relacionados com uma
mesma área.
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
19
10.11.2017
Conceitos
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
20
10.11.2017
velocity
Big Data
veracity
volume variety
Source: Hashem et al., (2015)
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
21
10.11.2017
Big data e a evolução da pesquisa científica
Conceitos
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
22
10.11.2017
O Quarto Paradigma da Ciência
Conceitos
• James Gray (Microsoft)
• Ciência é centrada nos dados,
sejam observados ou
simulados, unificando teoria,
experimentos e simulações:
eScience
• Três atividades básicas:
captura, tratamento e análise.
• Computação e estatística são
fundamentais.
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
23
10.11.2017
O Quarto Paradigma da Ciência
Conceitos
• Computação e
estatística são
fundamentais.
• Banco de
dados
• Linguagens
• Processamento
• Visualização.
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
24
10.11.2017
O Quarto Paradigma da Ciência
Conceitos
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
25
10.11.2017
O Quarto Paradigma da Ciência
Conceitos
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
26
10.11.2017
Aplicações
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
27
10.11.2017
Source: Rodríguez-Mazahua et al., (2016)
Aplicações
Big data
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
28
10.11.2017
Cidades Inteligentes
Aplicações
Source: Cavalcante et al., (2016)
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
29
10.11.2017
Cidades Inteligentes
Aplicações
Source: Pregnolato et al. (2016)
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
30
10.11.2017
Cidades Inteligentes
Aplicações
ImagensMensagens
TwitterFlickr Instagram
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
31
10.11.2017
Gestão de Desastres
Aplicações
Hard sensors Exploratory teams
Social Media Collaborative Platforms
Source: Elwood (2008); Goodchild & Glennon (2010); Niko et al., (2011); DeLongueville et al. (2012); Horita et al. (2013); Haworth &
Bruce (2015)
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
32
10.11.2017
Gestão de Desastres
Aplicações
Source: Chae et al. (2013)
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
33
10.11.2017
Gestão de Desastres
Aplicações
January 21st, 2018January 16st, 2018
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
34
10.11.2017
2. Big Data Analytics
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
35
10.11.2017
• http://www.mobimais.com.br/blog/dados-
informacao-conhecimento-ideia-e-sabedoria/
• https://lisianegc.wordpress.com/2011/04/17/dado
-informacao-e-conhecimento/
• https://audiotech.com/trends-
magazine/harnessing-big-data-opportunity/
• http://www.businessinsider.com/mobile-data-
consumption-will-surge-by-2021-2016-6
• http://blog.qmagico.com.br/educacao/big-data-
servico-da-educacao/
Imagens
Referências
Introdução ao Big Data: Conceitos e Aplicações
Dr. Flávio E. A. Horita | http://www.flaviohorita.com
36
10.11.2017
Introdução a Big Data: Conceitos e Aplicações
Dr. Flávio Eduardo Aoki Horita
E: flavio.horita@ufabc.edu.br
W: http://flavio.horita.com
Sala 509-2 – Torre 2 – Bloco A – Santo André - Brasil
Questions?

Más contenido relacionado

La actualidad más candente

Palestra big data_e_mineracao_dedados_5agosto13-versaoslideshare
Palestra big data_e_mineracao_dedados_5agosto13-versaoslidesharePalestra big data_e_mineracao_dedados_5agosto13-versaoslideshare
Palestra big data_e_mineracao_dedados_5agosto13-versaoslidesharepccdias
 
Big Data e Seus Impactos
Big Data e Seus ImpactosBig Data e Seus Impactos
Big Data e Seus ImpactosAlex Silva
 
O que é BIG DATA e como pode influenciar nossas vidas
O que é BIG DATA e como pode influenciar nossas vidasO que é BIG DATA e como pode influenciar nossas vidas
O que é BIG DATA e como pode influenciar nossas vidasElaine Naomi
 
Big Data, o que é isso?
Big Data, o que é isso?Big Data, o que é isso?
Big Data, o que é isso?Ambiente Livre
 
Big Data e Análise de Dados Massivos
Big Data e Análise de Dados MassivosBig Data e Análise de Dados Massivos
Big Data e Análise de Dados MassivosFrancisco Oliveira
 
Governança de Dados e Big Data
Governança de Dados e Big DataGovernança de Dados e Big Data
Governança de Dados e Big DataCarlos Barbieri
 
Data Science - A arte de estudar e analisar dados
Data Science - A arte de estudar e analisar dadosData Science - A arte de estudar e analisar dados
Data Science - A arte de estudar e analisar dadosDayane Cristine Leite
 
Big Data em 8 perguntas - 09.10.2014 - DATANORTE / GOV RN
Big Data em 8 perguntas -  09.10.2014 - DATANORTE / GOV RNBig Data em 8 perguntas -  09.10.2014 - DATANORTE / GOV RN
Big Data em 8 perguntas - 09.10.2014 - DATANORTE / GOV RNMarcos Luiz Lins Filho
 

La actualidad más candente (11)

Big Data
Big DataBig Data
Big Data
 
Palestra big data_e_mineracao_dedados_5agosto13-versaoslideshare
Palestra big data_e_mineracao_dedados_5agosto13-versaoslidesharePalestra big data_e_mineracao_dedados_5agosto13-versaoslideshare
Palestra big data_e_mineracao_dedados_5agosto13-versaoslideshare
 
Big data
Big dataBig data
Big data
 
Big Data e Seus Impactos
Big Data e Seus ImpactosBig Data e Seus Impactos
Big Data e Seus Impactos
 
Big Data, JVM e Redes Sociais
Big Data, JVM e Redes SociaisBig Data, JVM e Redes Sociais
Big Data, JVM e Redes Sociais
 
O que é BIG DATA e como pode influenciar nossas vidas
O que é BIG DATA e como pode influenciar nossas vidasO que é BIG DATA e como pode influenciar nossas vidas
O que é BIG DATA e como pode influenciar nossas vidas
 
Big Data, o que é isso?
Big Data, o que é isso?Big Data, o que é isso?
Big Data, o que é isso?
 
Big Data e Análise de Dados Massivos
Big Data e Análise de Dados MassivosBig Data e Análise de Dados Massivos
Big Data e Análise de Dados Massivos
 
Governança de Dados e Big Data
Governança de Dados e Big DataGovernança de Dados e Big Data
Governança de Dados e Big Data
 
Data Science - A arte de estudar e analisar dados
Data Science - A arte de estudar e analisar dadosData Science - A arte de estudar e analisar dados
Data Science - A arte de estudar e analisar dados
 
Big Data em 8 perguntas - 09.10.2014 - DATANORTE / GOV RN
Big Data em 8 perguntas -  09.10.2014 - DATANORTE / GOV RNBig Data em 8 perguntas -  09.10.2014 - DATANORTE / GOV RN
Big Data em 8 perguntas - 09.10.2014 - DATANORTE / GOV RN
 

Similar a Big Data Intro @ SemanaCMCC

Open Source Data Science - Elaborando uma plataforma de Big Data & Analytics ...
Open Source Data Science - Elaborando uma plataforma de Big Data & Analytics ...Open Source Data Science - Elaborando uma plataforma de Big Data & Analytics ...
Open Source Data Science - Elaborando uma plataforma de Big Data & Analytics ...Ambiente Livre
 
Erebd suenia bigdata
Erebd suenia bigdataErebd suenia bigdata
Erebd suenia bigdataSuenia Mendes
 
Futurecom - Big data
Futurecom - Big dataFuturecom - Big data
Futurecom - Big dataFelipe Ferraz
 
FISL18 - Open Data Science - Elaborando uma plataforma de Big Data & Analytic...
FISL18 - Open Data Science - Elaborando uma plataforma de Big Data & Analytic...FISL18 - Open Data Science - Elaborando uma plataforma de Big Data & Analytic...
FISL18 - Open Data Science - Elaborando uma plataforma de Big Data & Analytic...Ambiente Livre
 
BIG DATA
BIG DATA BIG DATA
BIG DATA ABEP123
 
O Potencial Competitivo da Ciencia de Dados e da Inteligencia Artificial nas ...
O Potencial Competitivo da Ciencia de Dados e da Inteligencia Artificial nas ...O Potencial Competitivo da Ciencia de Dados e da Inteligencia Artificial nas ...
O Potencial Competitivo da Ciencia de Dados e da Inteligencia Artificial nas ...Ambiente Livre
 
Web aula 46 - Conhecendo o ecossistema BIG DATA
Web aula 46 - Conhecendo o ecossistema BIG DATAWeb aula 46 - Conhecendo o ecossistema BIG DATA
Web aula 46 - Conhecendo o ecossistema BIG DATAProjetos e TI
 
Perfil e competências do profissional de informação para a gestão de dados (B...
Perfil e competências do profissional de informação para a gestão de dados (B...Perfil e competências do profissional de informação para a gestão de dados (B...
Perfil e competências do profissional de informação para a gestão de dados (B...Luísa Alvim
 
Documento de Iniciação Científica - Estudo utilizando big data, twitter e gephi
Documento de Iniciação Científica - Estudo utilizando big data, twitter e gephiDocumento de Iniciação Científica - Estudo utilizando big data, twitter e gephi
Documento de Iniciação Científica - Estudo utilizando big data, twitter e gephiNewton Calegari
 
Inteligência Geográfica e Big Data - ESPM Proxxima 2014 - Apresentação de Edu...
Inteligência Geográfica e Big Data - ESPM Proxxima 2014 - Apresentação de Edu...Inteligência Geográfica e Big Data - ESPM Proxxima 2014 - Apresentação de Edu...
Inteligência Geográfica e Big Data - ESPM Proxxima 2014 - Apresentação de Edu...Eduardo Francisco
 
Dados Abertos e os Serviços para a Gestão de Dados de Investigação - Workshop...
Dados Abertos e os Serviços para a Gestão de Dados de Investigação - Workshop...Dados Abertos e os Serviços para a Gestão de Dados de Investigação - Workshop...
Dados Abertos e os Serviços para a Gestão de Dados de Investigação - Workshop...Pedro Príncipe
 
Palestra Big Data SCTI
Palestra Big Data SCTIPalestra Big Data SCTI
Palestra Big Data SCTIBruna Pereira
 
Bigdata alexandre v2
Bigdata alexandre v2Bigdata alexandre v2
Bigdata alexandre v2alexculpado
 

Similar a Big Data Intro @ SemanaCMCC (20)

Open Source Data Science - Elaborando uma plataforma de Big Data & Analytics ...
Open Source Data Science - Elaborando uma plataforma de Big Data & Analytics ...Open Source Data Science - Elaborando uma plataforma de Big Data & Analytics ...
Open Source Data Science - Elaborando uma plataforma de Big Data & Analytics ...
 
Erebd suenia bigdata
Erebd suenia bigdataErebd suenia bigdata
Erebd suenia bigdata
 
Futurecom - Big data
Futurecom - Big dataFuturecom - Big data
Futurecom - Big data
 
FISL18 - Open Data Science - Elaborando uma plataforma de Big Data & Analytic...
FISL18 - Open Data Science - Elaborando uma plataforma de Big Data & Analytic...FISL18 - Open Data Science - Elaborando uma plataforma de Big Data & Analytic...
FISL18 - Open Data Science - Elaborando uma plataforma de Big Data & Analytic...
 
Big Data Analytics
Big Data AnalyticsBig Data Analytics
Big Data Analytics
 
BIG DATA
BIG DATA BIG DATA
BIG DATA
 
O Potencial Competitivo da Ciencia de Dados e da Inteligencia Artificial nas ...
O Potencial Competitivo da Ciencia de Dados e da Inteligencia Artificial nas ...O Potencial Competitivo da Ciencia de Dados e da Inteligencia Artificial nas ...
O Potencial Competitivo da Ciencia de Dados e da Inteligencia Artificial nas ...
 
Big data, e eu com isso?
Big data, e eu com isso?Big data, e eu com isso?
Big data, e eu com isso?
 
Web aula 46 - Conhecendo o ecossistema BIG DATA
Web aula 46 - Conhecendo o ecossistema BIG DATAWeb aula 46 - Conhecendo o ecossistema BIG DATA
Web aula 46 - Conhecendo o ecossistema BIG DATA
 
Big Data aplicado a Cidades Inteligentes
Big Data aplicado a Cidades InteligentesBig Data aplicado a Cidades Inteligentes
Big Data aplicado a Cidades Inteligentes
 
Perfil e competências do profissional de informação para a gestão de dados (B...
Perfil e competências do profissional de informação para a gestão de dados (B...Perfil e competências do profissional de informação para a gestão de dados (B...
Perfil e competências do profissional de informação para a gestão de dados (B...
 
Documento de Iniciação Científica - Estudo utilizando big data, twitter e gephi
Documento de Iniciação Científica - Estudo utilizando big data, twitter e gephiDocumento de Iniciação Científica - Estudo utilizando big data, twitter e gephi
Documento de Iniciação Científica - Estudo utilizando big data, twitter e gephi
 
Inteligência Geográfica e Big Data - ESPM Proxxima 2014 - Apresentação de Edu...
Inteligência Geográfica e Big Data - ESPM Proxxima 2014 - Apresentação de Edu...Inteligência Geográfica e Big Data - ESPM Proxxima 2014 - Apresentação de Edu...
Inteligência Geográfica e Big Data - ESPM Proxxima 2014 - Apresentação de Edu...
 
Dados Abertos e os Serviços para a Gestão de Dados de Investigação - Workshop...
Dados Abertos e os Serviços para a Gestão de Dados de Investigação - Workshop...Dados Abertos e os Serviços para a Gestão de Dados de Investigação - Workshop...
Dados Abertos e os Serviços para a Gestão de Dados de Investigação - Workshop...
 
A construção do plano de dados abertos de uma organização pública de pesquisa...
A construção do plano de dados abertos de uma organização pública de pesquisa...A construção do plano de dados abertos de uma organização pública de pesquisa...
A construção do plano de dados abertos de uma organização pública de pesquisa...
 
Tecnologias Digitais
Tecnologias DigitaisTecnologias Digitais
Tecnologias Digitais
 
Gestao de Midias Digitais
Gestao de Midias DigitaisGestao de Midias Digitais
Gestao de Midias Digitais
 
Palestra Big Data SCTI
Palestra Big Data SCTIPalestra Big Data SCTI
Palestra Big Data SCTI
 
Bigdata alexandre v2
Bigdata alexandre v2Bigdata alexandre v2
Bigdata alexandre v2
 
Business intelligence e Bigdata
Business intelligence e BigdataBusiness intelligence e Bigdata
Business intelligence e Bigdata
 

Más de Flávio Horita

Presentation @ ISCRAM 2018
Presentation @ ISCRAM 2018Presentation @ ISCRAM 2018
Presentation @ ISCRAM 2018Flávio Horita
 
Presentation @ ISCRAM 2016
Presentation @ ISCRAM 2016Presentation @ ISCRAM 2016
Presentation @ ISCRAM 2016Flávio Horita
 
Presentation @ Winter Doctoral Seminar 2015
Presentation @ Winter Doctoral Seminar 2015Presentation @ Winter Doctoral Seminar 2015
Presentation @ Winter Doctoral Seminar 2015Flávio Horita
 
Presentation @ SEKE 2012
Presentation @ SEKE 2012Presentation @ SEKE 2012
Presentation @ SEKE 2012Flávio Horita
 
Presentation @ SEKE 2013
Presentation @ SEKE 2013Presentation @ SEKE 2013
Presentation @ SEKE 2013Flávio Horita
 
Presentation @ SBSI 2014
Presentation @ SBSI 2014Presentation @ SBSI 2014
Presentation @ SBSI 2014Flávio Horita
 
Presentation @ ISCRAM 2014
Presentation @ ISCRAM 2014Presentation @ ISCRAM 2014
Presentation @ ISCRAM 2014Flávio Horita
 

Más de Flávio Horita (9)

Presentation @ ISCRAM 2018
Presentation @ ISCRAM 2018Presentation @ ISCRAM 2018
Presentation @ ISCRAM 2018
 
Workshop @ CEMADEN
Workshop @ CEMADEN Workshop @ CEMADEN
Workshop @ CEMADEN
 
Presentation @ ISCRAM 2016
Presentation @ ISCRAM 2016Presentation @ ISCRAM 2016
Presentation @ ISCRAM 2016
 
Workshop @ CEMADEN
Workshop @ CEMADENWorkshop @ CEMADEN
Workshop @ CEMADEN
 
Presentation @ Winter Doctoral Seminar 2015
Presentation @ Winter Doctoral Seminar 2015Presentation @ Winter Doctoral Seminar 2015
Presentation @ Winter Doctoral Seminar 2015
 
Presentation @ SEKE 2012
Presentation @ SEKE 2012Presentation @ SEKE 2012
Presentation @ SEKE 2012
 
Presentation @ SEKE 2013
Presentation @ SEKE 2013Presentation @ SEKE 2013
Presentation @ SEKE 2013
 
Presentation @ SBSI 2014
Presentation @ SBSI 2014Presentation @ SBSI 2014
Presentation @ SBSI 2014
 
Presentation @ ISCRAM 2014
Presentation @ ISCRAM 2014Presentation @ ISCRAM 2014
Presentation @ ISCRAM 2014
 

Big Data Intro @ SemanaCMCC

  • 1. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 1 10.11.2017 Dr. Flávio Eduardo Aoki Horita flavio.horita@ufabc.edu.br | http://www.flaviohorita.com Sala 509-2 – Torre 2 – Bloco A – Santo André - Brasil Introdução ao Big Data: Conceitos e Aplicações
  • 2. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 2 10.11.2017 • Professor Adjunto, CMCC, UFABC. • Membro do AGORA e LabGRIS • Doutor em Ciências Matemáticas e de Computação, ICMC, USP • ... Desenvolvedor ... PHP... Java ... Flex ... Gerente de Projetos ... Pesquisador ... Python. • Interesses de pesquisa: • Modelagem em sistemas-de-sistemas • Data-driven decision-making Flávio Horita
  • 3. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 3 10.11.2017 • Introdução • Conceitos • Aplicações • => Luiz ... Hadoop, Hands-On, ... Agenda
  • 4. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 4 10.11.2017 Introdução
  • 5. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 5 10.11.2017 • Dados sempre foram empregados para apoiar a tomada de decisão: • Período de Automatização dos Processos (a partir dos anos 70); • Bancos transacionas; • SGBSs; • ERPs; • Sistemas de Informação; • Engenharia de Software. Introdução
  • 6. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 6 10.11.2017 GLOBALIZAÇÃO (a partir anos 90) • Internet; • Desenvolvimento distribuído; • Interoperabilidade de processos; • Sistemas distribuídos; • Aprimoramento de software e hardwares.
  • 7. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 7 10.11.2017 • Dados sempre foram empregados para apoiar a tomada de decisão: • Período da Mineração dos Dados (a partir dos anos 2000); • Aprimoramento de software e hardwares. • Mineração de dados; • Armazenamento em larga escala; • Big Data; • Obtenção de conhecimento; • Data-driven decision-making; • Etc. Introdução
  • 8. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 8 10.11.2017 Big Data
  • 9. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 9 10.11.2017 • Dados... • são gerados pelas mais diversas plataformas: • Redes sociais; • Dispositivos móveis; • Internet das coisas; • Centrais de autoatendimento; • Websites; • etc. Introdução
  • 10. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 10 10.11.2017 • Dados... • são produzidos para as mais diferentes finalidades: • Gestão de desastres; • Mobilidade urbana; • Distribuição de energia elétrica; • Consumo de água; • Serviços urbanos; • Marketing; • Desenvolvimento e lançamento de produtos; • etc. Introdução
  • 11. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 11 10.11.2017 • Dados... • são produzidos e armazenados em grandes bancos de dados; Introdução 1 ZB = 1 073 741 824 TB Aprox. 1milhão de HD comuns
  • 12. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 12 10.11.2017 • Dados... • são gerados continuamente; Introdução Flight Radar
  • 13. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 13 10.11.2017 • Dados... • são gerados continuamente; Introdução
  • 14. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 14 10.11.2017 • Como extrair conhecimento a partir desta grande quantidade de dados? • Como lidar com a heterogeneidade dos dados? • Como processar essa grande volume de dados? • Como apoiar a tomada de decisão com dados atualizados sobre as variáveis de interesse?
  • 15. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 15 10.11.2017 Conceitos
  • 16. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 16 10.11.2017 ““Massivo crescimento da quantidade de dados ao redor do mundo.”
  • 17. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 17 10.11.2017 ““Técnicas e iniciativas de tratamento, integração e análise de dados provenientes de diversas fontes em diferentes mídias e formatos”
  • 18. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 18 10.11.2017 Big Data x Ciência de Dados Conceitos • Ciência de dados tem como objetivo criar e projetar modelos para extrair padrões (“insights”) a partir de sistemas complexos. • Big Data x Ciência de Dados: são conceitos diferentes, embora relacionados com uma mesma área.
  • 19. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 19 10.11.2017 Conceitos
  • 20. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 20 10.11.2017 velocity Big Data veracity volume variety Source: Hashem et al., (2015)
  • 21. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 21 10.11.2017 Big data e a evolução da pesquisa científica Conceitos
  • 22. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 22 10.11.2017 O Quarto Paradigma da Ciência Conceitos • James Gray (Microsoft) • Ciência é centrada nos dados, sejam observados ou simulados, unificando teoria, experimentos e simulações: eScience • Três atividades básicas: captura, tratamento e análise. • Computação e estatística são fundamentais.
  • 23. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 23 10.11.2017 O Quarto Paradigma da Ciência Conceitos • Computação e estatística são fundamentais. • Banco de dados • Linguagens • Processamento • Visualização.
  • 24. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 24 10.11.2017 O Quarto Paradigma da Ciência Conceitos
  • 25. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 25 10.11.2017 O Quarto Paradigma da Ciência Conceitos
  • 26. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 26 10.11.2017 Aplicações
  • 27. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 27 10.11.2017 Source: Rodríguez-Mazahua et al., (2016) Aplicações Big data
  • 28. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 28 10.11.2017 Cidades Inteligentes Aplicações Source: Cavalcante et al., (2016)
  • 29. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 29 10.11.2017 Cidades Inteligentes Aplicações Source: Pregnolato et al. (2016)
  • 30. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 30 10.11.2017 Cidades Inteligentes Aplicações ImagensMensagens TwitterFlickr Instagram
  • 31. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 31 10.11.2017 Gestão de Desastres Aplicações Hard sensors Exploratory teams Social Media Collaborative Platforms Source: Elwood (2008); Goodchild & Glennon (2010); Niko et al., (2011); DeLongueville et al. (2012); Horita et al. (2013); Haworth & Bruce (2015)
  • 32. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 32 10.11.2017 Gestão de Desastres Aplicações Source: Chae et al. (2013)
  • 33. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 33 10.11.2017 Gestão de Desastres Aplicações January 21st, 2018January 16st, 2018
  • 34. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 34 10.11.2017 2. Big Data Analytics
  • 35. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 35 10.11.2017 • http://www.mobimais.com.br/blog/dados- informacao-conhecimento-ideia-e-sabedoria/ • https://lisianegc.wordpress.com/2011/04/17/dado -informacao-e-conhecimento/ • https://audiotech.com/trends- magazine/harnessing-big-data-opportunity/ • http://www.businessinsider.com/mobile-data- consumption-will-surge-by-2021-2016-6 • http://blog.qmagico.com.br/educacao/big-data- servico-da-educacao/ Imagens Referências
  • 36. Introdução ao Big Data: Conceitos e Aplicações Dr. Flávio E. A. Horita | http://www.flaviohorita.com 36 10.11.2017 Introdução a Big Data: Conceitos e Aplicações Dr. Flávio Eduardo Aoki Horita E: flavio.horita@ufabc.edu.br W: http://flavio.horita.com Sala 509-2 – Torre 2 – Bloco A – Santo André - Brasil Questions?