SlideShare una empresa de Scribd logo
1 de 23
Copyright © 2004-2007 GREE,Inc. All Rights Reserved.
DOMOによる
モニタリングオートメーションの
ススメ
リクルートジョブズ
商品本部プロダクト開発室
ITマネジメント部ITサービスマネジメントG
吉岡 太郎
私について
• 吉岡 太郎
• 出身
• 東京 国立生まれ
• どんな仕事
• NetyearでIAとして活動。
• その後、GREEでSNS開発ディレクターを担当。
• 2013年からリクルートジョブズで開発側のプランナーと
して、開発フローの改善やツール導入推進など行って
いる。
1
DOMOの特徴
1. 様々なデータソースにリンクして、データソースを組み合わせ
てダッシュボードが作れる
▼これは一部です。
DOMOの特徴
2. ETL機能が充実。内部JOINや正規化などの処理をビジュアル
プログラミングで行うことができる。
サイカタのコネ
クタでデータ取
得
必要ないカラム
は削除
列展開
内部ジョイン
DOMOの特徴
3. MySQLも書けるので、DOMO内にデータマートを作ることがで
きる。
特徴
ETLが充実してるデー
タマート作成兼BI
ハイパーピボットグラフ
ツール
フリーのピボットグラフ
作成BI
得意分野
複数データソースをま
とめて処理すること
指標同士の相関関係
を見つけるのが得意
無料なので人数制限な
くデータ共有できる
権限 こまかく設定可能 こまかく設定可能 設定できない
DWH DWHの構築可能
ないので、別途データ
マート構築必須
ないので、別途データ
マート構築必須
コネクタ
多数用意、
Spreadsheetコネクタ
とFTPコネクタが便利
代表的なDB、
Spreadsheet
代表的なDB、Pandas、
URL(json)
DOMOと他ツールの比較
ケーススタディ
DOMOコネクタがない時の
モニタリング・オートメーション実現方法
コネクタがない場合の3つの壁
• コネクタがない場合、モニタリングオートメーションを実現するに
は、3つの壁が立ちはだかる!
様々なデータソース
DOMO
データセン
ター
DOMO
ダッシュ
ボード
1
2
3
コネクタ
コネクタ
ちなみに、workbenchは使いません
• 理由1:mac環境で作業してるので。
• VMwareなんか使いたくない…結構メモリ消費しちゃうので。
• 理由2:できることが多くない。
• Excel や CSV、ODBC そして QuickBooks などの外部データソースからデータを
定期的に Domo にアップロード…ではたりない
• スクレイピングが必要!
• APIを実行しないといけない!
• 若干のデータ処理したい!タイムスタンプ追加とか。
• シェルで実行したい!
• osxのタスクランナーはiCalのほうが便利!
第1の壁:コネクタがない!…が、APIがある
• 例えば、ExperianのMailPublisherとかSearchmanとか…
コネクタがない!
APIがある!
サービスA
第1の壁の突破:API実行+FTPコネクタで解決
サービスA ローカル環境
API実行 → SQLite追記 → CSV生成 → FTPアップ
AWS FTP area DOMO SFTPコネクタ DOMO DWH
カレンダー(iCal)
(スケジューラ)
Automator
(アプリ実行)
自動実行
実行(ruby)
自動
実行
第1の壁を破壊!
様々なデータソース
DOMO
データセ
ンター
DOMO
ダッシュ
ボード
1
2
3
コネクタ
コネクタ
第2の壁:コネクタもAPIもない…がDOMが見える…
• APIもコネクタもないサービス…。ただHTMLを覗いてみると
データがソースに埋まっているようなサービスなら…
コネクタがない!
<table>
<tr>
<td>
データ
データが埋まってる
APIもない!
サービスB
第2の壁の突破:スクレイピング+FTPコネクタで解決
AWS FTP area DOMO SFTPコネクタ DOMO DWH
自動
実行
サービスB
ローカル環境
カレンダー(iCal)
(スケジューラ)
Automator
(アプリ実行)
自動実行
実行(node.js)
CasperJSスクレイピング → SQLite追記 → CSV生成→
FTPアップ
第2の壁を破壊!
様々なデータソース
DOMO
データセ
ンター
DOMO
ダッシュ
ボード
1
2
3
コネクタ
コネクタ
第3の壁:APIもないし、DOMも見えない…
• 最近ではスクレイピング対策されているサイトも増えてきていま
す、DOM見てもデータがHTMLに埋まってない…
コネクタがない!
<div>
</div>
データが埋まってな
い…
APIもない!
サービスC
第3の壁の突破: Automatorで手作業を自動実行する
AWS FTP area DOMO SFTPコネクタ DOMO DWH
自動
実行
サービスC
ローカル環境
カレンダー(iCal)
(スケジューラ)
Automator
(アプリ実行)
自動実行
実行(applescript+cliclick+シェル)
cliclickでログイン → cliclickでCSVダウンロード→ シェルで
CSVを移動 →シェルで追記スクリプト実行 → FTPアップ
第3の壁を破壊!
様々なデータソース
DOMO
データセ
ンター
DOMO
ダッシュ
ボード
1
2
3
コネクタ
コネクタ
3つの壁を撃破してモニタリングオートメーション実現!
様々なデータソース
自動で
定期
取得
DOMO
データセ
ンター
DOMO
ダッシュ
ボード
複数
ソース
の
データ
処理
おまけ:コネクタがあるがつかえない
• APIに不具合あって使えないサービス:代表的なのが、
AdobeAnalytics。データ欠損が結構頻発する
正常終了してるけど、
データ欠損!
Adobe
Analytics
接続先
Adobe
Analytics
コネクタ
DWH+FTPコネクタで解決
Adobe DWH
Adobe FTP area
ローカル環境
AWS FTP area DOMO SFTPコネクタ DOMO DWH
CSV自動
送信
自動
実行
ローカル環境
カレンダー(iCal)
(スケジューラ)
Automator
(アプリ実行)
自動実行
実行(ruby)
CSV取得→FTPエリアの古いCSV削除→CSV整形
→FTPアップ
最後に
エクセル手作業でのデータ集計は
もうやめましょう
モニタリングオートメーションで
空いた工数でより良い打ちてを
考えましょう!
さようなら、Excel
本日の内容は後日、
リクルートジョブズtechblogにて詳細掲載します!
https://techblog.recruitjobs.net/
より良き、モニタリングライフを!!

Más contenido relacionado

La actualidad más candente

チーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまで
チーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまでチーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまで
チーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまで
toshihiro ichitani
 
ホームオートメーションにおけるIo t(機器とクラウド連携について)
ホームオートメーションにおけるIo t(機器とクラウド連携について)ホームオートメーションにおけるIo t(機器とクラウド連携について)
ホームオートメーションにおけるIo t(機器とクラウド連携について)
iot_nifty
 

La actualidad más candente (20)

WCAN 2010 Summer Session-1: IA
WCAN 2010 Summer Session-1: IAWCAN 2010 Summer Session-1: IA
WCAN 2010 Summer Session-1: IA
 
G Suite勉強会資料(20200326)
G Suite勉強会資料(20200326)G Suite勉強会資料(20200326)
G Suite勉強会資料(20200326)
 
データプロダクト開発を成功に導くには
データプロダクト開発を成功に導くにはデータプロダクト開発を成功に導くには
データプロダクト開発を成功に導くには
 
デジタルトランスフォーメーション・ジャーニー・デッキ
デジタルトランスフォーメーション・ジャーニー・デッキデジタルトランスフォーメーション・ジャーニー・デッキ
デジタルトランスフォーメーション・ジャーニー・デッキ
 
【Tokyowebmining】open compute project
【Tokyowebmining】open compute project 【Tokyowebmining】open compute project
【Tokyowebmining】open compute project
 
PMI日本フォーラム2019 講演資料 iti奥田智洋
PMI日本フォーラム2019 講演資料 iti奥田智洋PMI日本フォーラム2019 講演資料 iti奥田智洋
PMI日本フォーラム2019 講演資料 iti奥田智洋
 
JIRA meets Tableau & AWS
JIRA meets Tableau & AWSJIRA meets Tableau & AWS
JIRA meets Tableau & AWS
 
深層学習による製造業のスマート化と産業応用の将来展望(クオリティフォーラム2020講演資料)
深層学習による製造業のスマート化と産業応用の将来展望(クオリティフォーラム2020講演資料)深層学習による製造業のスマート化と産業応用の将来展望(クオリティフォーラム2020講演資料)
深層学習による製造業のスマート化と産業応用の将来展望(クオリティフォーラム2020講演資料)
 
分析POCプロジェクト マネージメント奮闘記
分析POCプロジェクト マネージメント奮闘記分析POCプロジェクト マネージメント奮闘記
分析POCプロジェクト マネージメント奮闘記
 
チーム・ジャーニー・デッキ
チーム・ジャーニー・デッキチーム・ジャーニー・デッキ
チーム・ジャーニー・デッキ
 
AIエバンジェリストが語るAIと未来と働き方
AIエバンジェリストが語るAIと未来と働き方AIエバンジェリストが語るAIと未来と働き方
AIエバンジェリストが語るAIと未来と働き方
 
Cloud Firestoreを利用した地理空間検索実践
Cloud Firestoreを利用した地理空間検索実践Cloud Firestoreを利用した地理空間検索実践
Cloud Firestoreを利用した地理空間検索実践
 
EIoTLTvol1
EIoTLTvol1EIoTLTvol1
EIoTLTvol1
 
新世代の価値観へ越境せよ
新世代の価値観へ越境せよ新世代の価値観へ越境せよ
新世代の価値観へ越境せよ
 
組織にアジャイルの構造を作る
組織にアジャイルの構造を作る組織にアジャイルの構造を作る
組織にアジャイルの構造を作る
 
チーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまで
チーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまでチーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまで
チーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまで
 
[Track3-6] DXを推進するAI人材育成の在り方 ~ e-learning によるAIリテラシの向上~
[Track3-6] DXを推進するAI人材育成の在り方 ~ e-learning によるAIリテラシの向上~[Track3-6] DXを推進するAI人材育成の在り方 ~ e-learning によるAIリテラシの向上~
[Track3-6] DXを推進するAI人材育成の在り方 ~ e-learning によるAIリテラシの向上~
 
AIビジネス推進人材育成プログラムのご紹介
AIビジネス推進人材育成プログラムのご紹介AIビジネス推進人材育成プログラムのご紹介
AIビジネス推進人材育成プログラムのご紹介
 
ホームオートメーションにおけるIo t(機器とクラウド連携について)
ホームオートメーションにおけるIo t(機器とクラウド連携について)ホームオートメーションにおけるIo t(機器とクラウド連携について)
ホームオートメーションにおけるIo t(機器とクラウド連携について)
 
俺のDX
俺のDX俺のDX
俺のDX
 

Destacado (7)

First step of UX Monitoring 〜UXモニタリングこと始め〜
First step of UX Monitoring 〜UXモニタリングこと始め〜First step of UX Monitoring 〜UXモニタリングこと始め〜
First step of UX Monitoring 〜UXモニタリングこと始め〜
 
Py "Baseball" Data入門〜サービス(と野球)を支えるデータ分析基盤 #monotarotech
Py "Baseball" Data入門〜サービス(と野球)を支えるデータ分析基盤 #monotarotechPy "Baseball" Data入門〜サービス(と野球)を支えるデータ分析基盤 #monotarotech
Py "Baseball" Data入門〜サービス(と野球)を支えるデータ分析基盤 #monotarotech
 
Top 10 BI Trends for 2013
Top 10 BI Trends for 2013Top 10 BI Trends for 2013
Top 10 BI Trends for 2013
 
Treasure Data × Wave Analytics EC Demo
Treasure Data × Wave Analytics EC DemoTreasure Data × Wave Analytics EC Demo
Treasure Data × Wave Analytics EC Demo
 
Re:dash Use Cases at iPROS
Re:dash Use Cases at iPROSRe:dash Use Cases at iPROS
Re:dash Use Cases at iPROS
 
機械学習フレームワーク横断、Chainer, Keras
機械学習フレームワーク横断、Chainer, Keras機械学習フレームワーク横断、Chainer, Keras
機械学習フレームワーク横断、Chainer, Keras
 
分析手法のご紹介
分析手法のご紹介分析手法のご紹介
分析手法のご紹介
 

Similar a Domoによるモニタリングオートメーション

Similar a Domoによるモニタリングオートメーション (20)

PCCC21:株式会社日立製作所 「研究開発力向上のための研究DXソリューション」
PCCC21:株式会社日立製作所 「研究開発力向上のための研究DXソリューション」PCCC21:株式会社日立製作所 「研究開発力向上のための研究DXソリューション」
PCCC21:株式会社日立製作所 「研究開発力向上のための研究DXソリューション」
 
Task planner
Task plannerTask planner
Task planner
 
CTOの考えるエンジニアマネジメント2
CTOの考えるエンジニアマネジメント2CTOの考えるエンジニアマネジメント2
CTOの考えるエンジニアマネジメント2
 
DX白書2021 内製と外部活用・企業のソーシング戦略の考察、方向性
DX白書2021 内製と外部活用・企業のソーシング戦略の考察、方向性DX白書2021 内製と外部活用・企業のソーシング戦略の考察、方向性
DX白書2021 内製と外部活用・企業のソーシング戦略の考察、方向性
 
ノーツが日本を救う(2002/3/13)
ノーツが日本を救う(2002/3/13)ノーツが日本を救う(2002/3/13)
ノーツが日本を救う(2002/3/13)
 
.NET Lab2022年2月
.NET Lab2022年2月.NET Lab2022年2月
.NET Lab2022年2月
 
.NET 7期待の新機能
.NET 7期待の新機能.NET 7期待の新機能
.NET 7期待の新機能
 
アジャイル開発のためのDatadog
アジャイル開発のためのDatadogアジャイル開発のためのDatadog
アジャイル開発のためのDatadog
 
SORACOM Conference "Discovery" 2018 | E1. Wioで始めるIoTプロトタイプ開発 〜実践事例のご紹介〜
SORACOM Conference "Discovery" 2018 | E1. Wioで始めるIoTプロトタイプ開発 〜実践事例のご紹介〜SORACOM Conference "Discovery" 2018 | E1. Wioで始めるIoTプロトタイプ開発 〜実践事例のご紹介〜
SORACOM Conference "Discovery" 2018 | E1. Wioで始めるIoTプロトタイプ開発 〜実践事例のご紹介〜
 
SORACOM UG Explorer 2018 - IoTxAIを活用した小売業向け店舗解析サービスの仕組みとノウハウ
SORACOM UG Explorer 2018 -  IoTxAIを活用した小売業向け店舗解析サービスの仕組みとノウハウSORACOM UG Explorer 2018 -  IoTxAIを活用した小売業向け店舗解析サービスの仕組みとノウハウ
SORACOM UG Explorer 2018 - IoTxAIを活用した小売業向け店舗解析サービスの仕組みとノウハウ
 
Azureクラウドのネイティブアプリ、IoTとエッジAIの管理ソリューション
Azureクラウドのネイティブアプリ、IoTとエッジAIの管理ソリューションAzureクラウドのネイティブアプリ、IoTとエッジAIの管理ソリューション
Azureクラウドのネイティブアプリ、IoTとエッジAIの管理ソリューション
 
Saleshub 20220302
Saleshub 20220302Saleshub 20220302
Saleshub 20220302
 
DXと名の付くプロジェクトで忘れてはならないこと
DXと名の付くプロジェクトで忘れてはならないことDXと名の付くプロジェクトで忘れてはならないこと
DXと名の付くプロジェクトで忘れてはならないこと
 
Devとopsをつなぐchat ops
Devとopsをつなぐchat opsDevとopsをつなぐchat ops
Devとopsをつなぐchat ops
 
SORACOM Conference "Discovery" 2018 | E4. 現場で”結果を出す”IoT活用の進め方 〜SORACOMユーザーとイン...
SORACOM Conference "Discovery" 2018 | E4. 現場で”結果を出す”IoT活用の進め方 〜SORACOMユーザーとイン...SORACOM Conference "Discovery" 2018 | E4. 現場で”結果を出す”IoT活用の進め方 〜SORACOMユーザーとイン...
SORACOM Conference "Discovery" 2018 | E4. 現場で”結果を出す”IoT活用の進め方 〜SORACOMユーザーとイン...
 
datatech-jp Casual Talks#3 データエンジニアを採用するための試行錯誤
datatech-jp Casual Talks#3  データエンジニアを採用するための試行錯誤datatech-jp Casual Talks#3  データエンジニアを採用するための試行錯誤
datatech-jp Casual Talks#3 データエンジニアを採用するための試行錯誤
 
【15-A-4】Redmine + Lychee 導入のアンチパターン
【15-A-4】Redmine + Lychee 導入のアンチパターン【15-A-4】Redmine + Lychee 導入のアンチパターン
【15-A-4】Redmine + Lychee 導入のアンチパターン
 
出勤から企業開発者を解放し、エンジニアの働き方改革を実現するリモート開発環境構築
出勤から企業開発者を解放し、エンジニアの働き方改革を実現するリモート開発環境構築出勤から企業開発者を解放し、エンジニアの働き方改革を実現するリモート開発環境構築
出勤から企業開発者を解放し、エンジニアの働き方改革を実現するリモート開発環境構築
 
NucliOS 概要
NucliOS 概要NucliOS 概要
NucliOS 概要
 
20220319_新卒から活躍し続けるエンジニアが大切にしている5つのこと
20220319_新卒から活躍し続けるエンジニアが大切にしている5つのこと20220319_新卒から活躍し続けるエンジニアが大切にしている5つのこと
20220319_新卒から活躍し続けるエンジニアが大切にしている5つのこと
 

Domoによるモニタリングオートメーション