Se ha denunciado esta presentación.
Utilizamos tu perfil de LinkedIn y tus datos de actividad para personalizar los anuncios y mostrarte publicidad más relevante. Puedes cambiar tus preferencias de publicidad en cualquier momento.

Minando dados de sua cidade para sua comunidade

204 visualizaciones

Publicado el

Nesta palestra, vamos introduzir conceitos de MapReduce de dados da cidade. Vamos explorar dados em BigData da cidade e importantes insights que podem ajudar o cidadão comum a descobrir o que está acontecendo em sua cidade e, assim, ajudar a política local a gastar dinheiro com projetos que realmente valham a pena serem investidos.

Palestra feita no Hacktown 2017, dia 9 de Setembro de 2017 (http://hacktown.com.br/palestra-minando-dados-de-sua-cidade-para-sua-comunidade-utilizando-java-ou-python/)

Publicado en: Tecnología
  • Sé el primero en comentar

Minando dados de sua cidade para sua comunidade

  1. 1. Minando dados de sua cidade para sua comunidade (utilizando Java ou Python) 09 de Setembro (15h30min - 16h30min) Restaurante Papão
  2. 2. Quem é o Cesar Nogueira? • Engenheiro de Software Pleno na Indra; • Trabalhou em grandes empresas como Instituto de Pesquisas Eldorado, IBM (USA), Fundação CPqD trabalhando diretamente com Java, Python e tecnologias voltadas para análise de dados para backend; ■ Atual organizador do @SouJavaCampinas; @cesarnogcps 26 anos
  3. 3. ATENÇÃO http://tiny.cc/AndroidQR http://tiny.cc/AppleQR ESTA APRESENTAÇÃO É DINÂMICA E INCLUI VÁRIOS QR CODES
  4. 4. Agenda ● O que é BigData? ● Minando dados com Java ● Minando dados com Python ● Projeto Serenata de Amor ● Minando dados interessantes pela API do Meetup.com para sua comunidade.
  5. 5. O que é Big Data?
  6. 6. Minando dados com Java
  7. 7. Utilizando Hadoop MapReduce
  8. 8. Job tracker é o componente mestre que é responsável pela execução completa do trabalho MapReduce global. Para um trabalho enviado, sempre haverá um jobtracker executado no Namenode. Tasktrackers são os componentes escravos que são responsáveis pela execução das tarefas individuais nos Datanodes.
  9. 9. Tutorial GRATUITO para você fazer em casa durante a madrugada REALTIME EVENT PROCESSING IN HADOOP WITH NIFI, KAFKA AND STORM https://br.hortonworks.com/tutorial/realtime-event-processing-in -hadoop-with-nifi-kafka-and-storm/
  10. 10. Minando dados com Python
  11. 11. MapReduce com Python
  12. 12. Hadoop Streaming com Python https://examples.javacodege eks.com/enterprise-java/apac he-hadoop/hadoop-streaming -example/ Source code: http://examples.javacodegeeks.com/wp-co ntent/uploads/2016/03/HadoopStreaming_ WordCount_Python.zip
  13. 13. https://github.com/fmasanori/treinamento Treinamento gratuito de raspagem de dados https://github.com/fmasanori/search-script-scrape
  14. 14. Minando dados interessantes pela API do Meetup.com para sua comunidade
  15. 15. https://raw.githubusercontent.com/comunidadescampinas/agenda-api/master/src/lib.js `${BASE_URL}/${comunidade}/events?key=${API_KEY}` export const listarEventosTodasComunidades = () => Promise.all(comunidades.map(listarEventos)) .then(res => res .filter(i => !!i) .reduce( (todos, atual) => ({ entities: { comunidades: mergeEntities('comunidades', todos.entities, atual.entities), locais: mergeEntities('locais', todos.entities, atual.entities), eventos: mergeEntities('eventos', todos.entities, atual.entities) }, result: todos.result.concat(atual.result) }) ) ) .catch( err => { throw new Error(err) })
  16. 16. https://agendatechrmc.surge.sh/
  17. 17. Veja com a API foi construída! https://github.com/comunidadescampinas/agenda-api
  18. 18. Curte programar em Java? Descubra o novíssimo slack nacional de Java! Entre agora pelo link: http://javadevbr.herokuapp.com
  19. 19. Curte programar em Python? Descubra o novíssimo slack nacional de Python! Entre agora pelo link: http://slack-pythonbrasil.herokuapp.com/
  20. 20. Dúvidas ??? Pode perguntar. Sério.
  21. 21. Plataforma com as principais séries temporais do Brasil em um só lugar Inteligência competitiva e de mercado
  22. 22. Valeu! o/ www.cesarnogueira.tech

×