Se ha denunciado esta presentación.
Utilizamos tu perfil de LinkedIn y tus datos de actividad para personalizar los anuncios y mostrarte publicidad más relevante. Puedes cambiar tus preferencias de publicidad en cualquier momento.

Získáváme, čistíme a ukládáme data

1.082 visualizaciones

Publicado el

Digital Humanities, Lekce druhá
Studia nových médií, 15. 10. 2012

Publicado en: Educación
  • Inicia sesión para ver los comentarios

Získáváme, čistíme a ukládáme data

  1. 1. Získáváme, čistíme aukládáme dataDigital Humanities, Lekce druháJosef Šlerka, Studia nových médií, 15. 10. 2012
  2. 2. ETL (light verze)Extracting data from outside sourcesTransforming it to fit operational needs (which caninclude quality levels)Loading it into the end target (database, morespecifically, operational data store, data mart or datawarehouse)(viz Wikipedie)
  3. 3. Real-life podle Wiki1. Cycle initiation2. Build reference data3. Extract (from sources)4. Validate5. Transform (clean, apply business rules, check fordata integrity, create aggregates or disaggregates)6. Stage (load into staging tables, if used)
  4. 4. Real-life podle Wiki7. Audit reports (for example, on compliance withbusiness rules. Also, in case of failure, helps todiagnose/repair)8. Publish (to target tables)9. Archive10. Clean up
  5. 5. Extractingco se vám bude hodit...
  6. 6. Extractstrukturovaná data vs nestrukturovanápro DH nejčastěji databáze vs webweb API vs scrappinglze si vystačit i jen malým znalostmistatická data vs real-time mohou být zákeřná, ale jdeto řešit
  7. 7. XPATHXPath, the XML Path Language, is a query languagefor selecting nodes from an XML document. Inaddition, XPath may be used to compute values (e.g.,strings, numbers, or Boolean values) from the contentof an XML document. XPath was defined by the WorldWide Web Consortium (W3C)
  8. 8. Jednoduché nástrojeGoogle Docs (hlavně statická data) (hlavně statická data) Pipes (hlavně dynamická data) (hlavně dynamická data)
  9. 9. Ale mocné....Twitter Archiving Google Spreadsheet TAGS v3
  10. 10. TransformingHlavně o čištění a sjednocování dat ...
  11. 11. Google Refine Refine is a standalone desktop applicationprovided by Google for data cleanup andtransformation to other formats. It is similar tospreadsheet applications (and can work withspreadsheet file formats), however acts more likedatabase.
  12. 12. Loadingkam s nimi, když ne do tradiční databáze...
  13. 13. Google Fusion Tablesjednoduché řešení pro běžné uživatele service provided by Google for datamanagement. Data is stored in multiple tables thatInternet users can view and download. The Webservice provides means for visualizing data with piecharts, bar charts, lineplots, scatterplots, timelines aswell as geographical maps. Data is exported in acomma-separated values file format.
  14. 14. A teď ještě jednodemo....