Enviar búsqueda
Cargar
MonotaRO のデータ活用と基盤の過去、現在、未来
Denunciar
Compartir
株式会社MonotaRO Tech Team
株式会社MonotaRO Tech Team
Seguir
•
1 recomendación
•
13,371 vistas
1
de
49
MonotaRO のデータ活用と基盤の過去、現在、未来
•
1 recomendación
•
13,371 vistas
Denunciar
Compartir
Descargar ahora
Descargar para leer sin conexión
Datos y análisis
2021/10/28 MonotaRO Tech Talk #9 (データマネジメント編) https://monotaro.connpass.com/event/226592/
Leer más
株式会社MonotaRO Tech Team
株式会社MonotaRO Tech Team
Seguir
Recomendados
全社のデータ活用を一段階上げる取り組み por
全社のデータ活用を一段階上げる取り組み
株式会社MonotaRO Tech Team
7.1K vistas
•
34 diapositivas
データ基盤グループを支えるチームビルディング por
データ基盤グループを支えるチームビルディング
株式会社MonotaRO Tech Team
8.7K vistas
•
30 diapositivas
JDMC LT#1 - なぜモノタロウでデータマネジメントが必要になったのか por
JDMC LT#1 - なぜモノタロウでデータマネジメントが必要になったのか
株式会社MonotaRO Tech Team
159 vistas
•
18 diapositivas
マッチングサービスにおけるKPIの話 por
マッチングサービスにおけるKPIの話
cyberagent
71K vistas
•
28 diapositivas
datatech-jp Casual Talks#3 データエンジニアを採用するための試行錯誤 por
datatech-jp Casual Talks#3 データエンジニアを採用するための試行錯誤
株式会社MonotaRO Tech Team
2.1K vistas
•
40 diapositivas
データ管理に重要なことは事業と組織の理解だった(Data Engineering Study #11 発表資料) por
データ管理に重要なことは事業と組織の理解だった(Data Engineering Study #11 発表資料)
株式会社MonotaRO Tech Team
766 vistas
•
13 diapositivas
Más contenido relacionado
La actualidad más candente
データ基盤に関わる問い合わせ対応を仕組みで解決する por
データ基盤に関わる問い合わせ対応を仕組みで解決する
株式会社MonotaRO Tech Team
10.3K vistas
•
29 diapositivas
DXとかDevOpsとかのなんかいい感じのやつ 富士通TechLive por
DXとかDevOpsとかのなんかいい感じのやつ 富士通TechLive
Tokoroten Nakayama
122.3K vistas
•
99 diapositivas
事業の進展とデータマネジメント体制の進歩(+プレトタイプの話) por
事業の進展とデータマネジメント体制の進歩(+プレトタイプの話)
Tokoroten Nakayama
9.4K vistas
•
34 diapositivas
45分間で「ユーザー中心のものづくり」ができるまで詰め込む por
45分間で「ユーザー中心のものづくり」ができるまで詰め込む
Yoshiki Hayama
50.7K vistas
•
110 diapositivas
ChatGPTは思ったほど賢くない por
ChatGPTは思ったほど賢くない
Carnot Inc.
4.5K vistas
•
30 diapositivas
【マーケティング・テクノロジーフェア 大阪 2023】 データから正しい意思決定を行うために 〜全社横断で実施したデータ活用プロジェクトの取... por
【マーケティング・テクノロジーフェア 大阪 2023】 データから正しい意思決定を行うために 〜全社横断で実施したデータ活用プロジェクトの取...
株式会社MonotaRO Tech Team
2.4K vistas
•
58 diapositivas
La actualidad más candente
(20)
データ基盤に関わる問い合わせ対応を仕組みで解決する por 株式会社MonotaRO Tech Team
データ基盤に関わる問い合わせ対応を仕組みで解決する
株式会社MonotaRO Tech Team
•
10.3K vistas
DXとかDevOpsとかのなんかいい感じのやつ 富士通TechLive por Tokoroten Nakayama
DXとかDevOpsとかのなんかいい感じのやつ 富士通TechLive
Tokoroten Nakayama
•
122.3K vistas
事業の進展とデータマネジメント体制の進歩(+プレトタイプの話) por Tokoroten Nakayama
事業の進展とデータマネジメント体制の進歩(+プレトタイプの話)
Tokoroten Nakayama
•
9.4K vistas
45分間で「ユーザー中心のものづくり」ができるまで詰め込む por Yoshiki Hayama
45分間で「ユーザー中心のものづくり」ができるまで詰め込む
Yoshiki Hayama
•
50.7K vistas
ChatGPTは思ったほど賢くない por Carnot Inc.
ChatGPTは思ったほど賢くない
Carnot Inc.
•
4.5K vistas
【マーケティング・テクノロジーフェア 大阪 2023】 データから正しい意思決定を行うために 〜全社横断で実施したデータ活用プロジェクトの取... por 株式会社MonotaRO Tech Team
【マーケティング・テクノロジーフェア 大阪 2023】 データから正しい意思決定を行うために 〜全社横断で実施したデータ活用プロジェクトの取...
株式会社MonotaRO Tech Team
•
2.4K vistas
運用してわかったLookerの本質的メリット : Data Engineering Study #8 por Masatoshi Abe
運用してわかったLookerの本質的メリット : Data Engineering Study #8
Masatoshi Abe
•
2.3K vistas
RailsGirls から始める エンジニアリングはじめの一歩 por Hiroshi SHIBATA
RailsGirls から始める エンジニアリングはじめの一歩
Hiroshi SHIBATA
•
846 vistas
ChatGPT 人間のフィードバックから強化学習した対話AI por Shota Imai
ChatGPT 人間のフィードバックから強化学習した対話AI
Shota Imai
•
106.2K vistas
エンジニアの個人ブランディングと技術組織 por Takafumi ONAKA
エンジニアの個人ブランディングと技術組織
Takafumi ONAKA
•
23.4K vistas
ビジネスパーソンのためのDX入門講座エッセンス版 por Tokoroten Nakayama
ビジネスパーソンのためのDX入門講座エッセンス版
Tokoroten Nakayama
•
52.6K vistas
私にとってのテスト por Takuto Wada
私にとってのテスト
Takuto Wada
•
16.8K vistas
ラボラトリーオートメーションのためのソフトウェア思想教育(非プログラマ―が知っておくべきプログラミングの本質) por Tokoroten Nakayama
ラボラトリーオートメーションのためのソフトウェア思想教育(非プログラマ―が知っておくべきプログラミングの本質)
Tokoroten Nakayama
•
20.1K vistas
シリコンバレーの「何が」凄いのか por Atsushi Nakada
シリコンバレーの「何が」凄いのか
Atsushi Nakada
•
183.9K vistas
大企業アジャイルの勘所 #devlovex #devlovexd por Itsuki Kuroda
大企業アジャイルの勘所 #devlovex #devlovexd
Itsuki Kuroda
•
46.8K vistas
フロー効率性とリソース効率性について #xpjug por Itsuki Kuroda
フロー効率性とリソース効率性について #xpjug
Itsuki Kuroda
•
106.4K vistas
IT系エンジニアのためのプレゼンテーション入門 por Masahito Zembutsu
IT系エンジニアのためのプレゼンテーション入門
Masahito Zembutsu
•
289.9K vistas
推薦アルゴリズムの今までとこれから por cyberagent
推薦アルゴリズムの今までとこれから
cyberagent
•
29.7K vistas
イミュータブルデータモデルの極意 por Yoshitaka Kawashima
イミュータブルデータモデルの極意
Yoshitaka Kawashima
•
23.9K vistas
テスト文字列に「うんこ」と入れるな por Kentaro Matsui
テスト文字列に「うんこ」と入れるな
Kentaro Matsui
•
178.7K vistas
Similar a MonotaRO のデータ活用と基盤の過去、現在、未来
リクルートのビッグデータ活用基盤とビッグデータ活用のためのメタデータ管理Webのご紹介 por
リクルートのビッグデータ活用基盤とビッグデータ活用のためのメタデータ管理Webのご紹介
Recruit Technologies
8.8K vistas
•
47 diapositivas
DeNA のデータ活用を支える BigQuery データの民主化とガバナンス強化の軌跡 | Google Cloud INSIDE Games & App... por
DeNA のデータ活用を支える BigQuery データの民主化とガバナンス強化の軌跡 | Google Cloud INSIDE Games & App...
Google Cloud Platform - Japan
1.8K vistas
•
55 diapositivas
[de:code 2019 振り返り Night!] Data Platform por
[de:code 2019 振り返り Night!] Data Platform
Naoki (Neo) SATO
1.4K vistas
•
108 diapositivas
リクルートのビッグデータ活用基盤とデータ活用に向けた取組み por
リクルートのビッグデータ活用基盤とデータ活用に向けた取組み
Recruit Technologies
7.2K vistas
•
41 diapositivas
最適なビックデータ・システムの構築のために por
最適なビックデータ・システムの構築のために
IBM Systems @ IBM Japan, Ltd.
1.1K vistas
•
16 diapositivas
D1-2-S07 オンプレミスのデータウェアハウス基盤を BigQuery へ por
D1-2-S07 オンプレミスのデータウェアハウス基盤を BigQuery へ
Hideaki Tokida
772 vistas
•
39 diapositivas
Similar a MonotaRO のデータ活用と基盤の過去、現在、未来
(20)
リクルートのビッグデータ活用基盤とビッグデータ活用のためのメタデータ管理Webのご紹介 por Recruit Technologies
リクルートのビッグデータ活用基盤とビッグデータ活用のためのメタデータ管理Webのご紹介
Recruit Technologies
•
8.8K vistas
DeNA のデータ活用を支える BigQuery データの民主化とガバナンス強化の軌跡 | Google Cloud INSIDE Games & App... por Google Cloud Platform - Japan
DeNA のデータ活用を支える BigQuery データの民主化とガバナンス強化の軌跡 | Google Cloud INSIDE Games & App...
Google Cloud Platform - Japan
•
1.8K vistas
[de:code 2019 振り返り Night!] Data Platform por Naoki (Neo) SATO
[de:code 2019 振り返り Night!] Data Platform
Naoki (Neo) SATO
•
1.4K vistas
リクルートのビッグデータ活用基盤とデータ活用に向けた取組み por Recruit Technologies
リクルートのビッグデータ活用基盤とデータ活用に向けた取組み
Recruit Technologies
•
7.2K vistas
最適なビックデータ・システムの構築のために por IBM Systems @ IBM Japan, Ltd.
最適なビックデータ・システムの構築のために
IBM Systems @ IBM Japan, Ltd.
•
1.1K vistas
D1-2-S07 オンプレミスのデータウェアハウス基盤を BigQuery へ por Hideaki Tokida
D1-2-S07 オンプレミスのデータウェアハウス基盤を BigQuery へ
Hideaki Tokida
•
772 vistas
NTTデータが考えるデータ基盤の次の一手 ~AI活用のために知っておくべき新潮流とは?~(NTTデータ テクノロジーカンファレンス 2020 発表資料) por NTT DATA Technology & Innovation
NTTデータが考えるデータ基盤の次の一手 ~AI活用のために知っておくべき新潮流とは?~(NTTデータ テクノロジーカンファレンス 2020 発表資料)
NTT DATA Technology & Innovation
•
497 vistas
複数DBのバックアップ・切り戻し運用手順が異なって大変?!運用性の大幅改善、その先に。。 por Insight Technology, Inc.
複数DBのバックアップ・切り戻し運用手順が異なって大変?!運用性の大幅改善、その先に。。
Insight Technology, Inc.
•
2.2K vistas
巨大なサービスと膨大なデータを支えるプラットフォーム por Tetsutaro Watanabe
巨大なサービスと膨大なデータを支えるプラットフォーム
Tetsutaro Watanabe
•
1.7K vistas
2023フライウィール会社紹介_導入事例集.pdf por FLYWHEEL Inc.
2023フライウィール会社紹介_導入事例集.pdf
FLYWHEEL Inc.
•
165 vistas
リクルートを支える横断データ基盤と機械学習の適用事例 por Tetsutaro Watanabe
リクルートを支える横断データ基盤と機械学習の適用事例
Tetsutaro Watanabe
•
17.9K vistas
基調講演「データのグループウェア化」 por Cybozucommunity
基調講演「データのグループウェア化」
Cybozucommunity
•
1.6K vistas
Open Cloud Innovation2016 day1(これからのデータ分析者とエンジニアに必要なdatascienceexperienceツールと... por Atsushi Tsuchiya
Open Cloud Innovation2016 day1(これからのデータ分析者とエンジニアに必要なdatascienceexperienceツールと...
Atsushi Tsuchiya
•
1.9K vistas
データプロダクトを支えるビッグデータ基盤 por Google Cloud Platform - Japan
データプロダクトを支えるビッグデータ基盤
Google Cloud Platform - Japan
•
6.7K vistas
[Oracle Innovation Summit Tokyo 2018] 水環境の持続を支えるクラウド型ICTプラットフォーム「Water Busine... por オラクルエンジニア通信
[Oracle Innovation Summit Tokyo 2018] 水環境の持続を支えるクラウド型ICTプラットフォーム「Water Busine...
オラクルエンジニア通信
•
378 vistas
Ext js 20100526 por Shinichi Tomita
Ext js 20100526
Shinichi Tomita
•
1.3K vistas
データ活用を俊敏に進めるためのDataOps実践方法とその高度化のためのナレッジグラフ活用の取り組み(NTTデータ テクノロジーカンファレンス 2020 ... por NTT DATA Technology & Innovation
データ活用を俊敏に進めるためのDataOps実践方法とその高度化のためのナレッジグラフ活用の取り組み(NTTデータ テクノロジーカンファレンス 2020 ...
NTT DATA Technology & Innovation
•
457 vistas
Base 20141011 1_for_slideshre por 正善 大島
Base 20141011 1_for_slideshre
正善 大島
•
1.4K vistas
リクルートのビッグデータ活用基盤とデータ活用に向けた取組み por Recruit Technologies
リクルートのビッグデータ活用基盤とデータ活用に向けた取組み
Recruit Technologies
•
8.7K vistas
yokyo-unv. por hirano
yokyo-unv.
hirano
•
566 vistas
Más de 株式会社MonotaRO Tech Team
PyConAPAC2023 ワークフローエンジン Apache Airflowを用いた 大規模データパイプライン構築と改善 por
PyConAPAC2023 ワークフローエンジン Apache Airflowを用いた 大規模データパイプライン構築と改善
株式会社MonotaRO Tech Team
266 vistas
•
41 diapositivas
[ITmedia Cloud Native 2023] モノタロウのクラウドネイティブ.pdf por
[ITmedia Cloud Native 2023] モノタロウのクラウドネイティブ.pdf
株式会社MonotaRO Tech Team
2.1K vistas
•
43 diapositivas
datatech-jp Casual Talks #5_データ基盤の立ち位置を考えるのに チームトポロジーの概念を活用した話 por
datatech-jp Casual Talks #5_データ基盤の立ち位置を考えるのに チームトポロジーの概念を活用した話
株式会社MonotaRO Tech Team
2.2K vistas
•
17 diapositivas
モノタロウの1900万商品を検索する Elasticsearch構築運用事例(2022-10-26 第50回Elasticsearch 勉強会発表資料) por
モノタロウの1900万商品を検索する Elasticsearch構築運用事例(2022-10-26 第50回Elasticsearch 勉強会発表資料)
株式会社MonotaRO Tech Team
606 vistas
•
36 diapositivas
信頼性とアジリティを同時に上げろ!モノタロウのカナリアリリース導入.pdf por
信頼性とアジリティを同時に上げろ!モノタロウのカナリアリリース導入.pdf
株式会社MonotaRO Tech Team
1.9K vistas
•
68 diapositivas
モノタロウの開発・リリースサイクルを支えるJenkinsの活用事例 - Jenkins Day Japan 2021 por
モノタロウの開発・リリースサイクルを支えるJenkinsの活用事例 - Jenkins Day Japan 2021
株式会社MonotaRO Tech Team
1.9K vistas
•
44 diapositivas
Más de 株式会社MonotaRO Tech Team
(20)
PyConAPAC2023 ワークフローエンジン Apache Airflowを用いた 大規模データパイプライン構築と改善 por 株式会社MonotaRO Tech Team
PyConAPAC2023 ワークフローエンジン Apache Airflowを用いた 大規模データパイプライン構築と改善
株式会社MonotaRO Tech Team
•
266 vistas
[ITmedia Cloud Native 2023] モノタロウのクラウドネイティブ.pdf por 株式会社MonotaRO Tech Team
[ITmedia Cloud Native 2023] モノタロウのクラウドネイティブ.pdf
株式会社MonotaRO Tech Team
•
2.1K vistas
datatech-jp Casual Talks #5_データ基盤の立ち位置を考えるのに チームトポロジーの概念を活用した話 por 株式会社MonotaRO Tech Team
datatech-jp Casual Talks #5_データ基盤の立ち位置を考えるのに チームトポロジーの概念を活用した話
株式会社MonotaRO Tech Team
•
2.2K vistas
モノタロウの1900万商品を検索する Elasticsearch構築運用事例(2022-10-26 第50回Elasticsearch 勉強会発表資料) por 株式会社MonotaRO Tech Team
モノタロウの1900万商品を検索する Elasticsearch構築運用事例(2022-10-26 第50回Elasticsearch 勉強会発表資料)
株式会社MonotaRO Tech Team
•
606 vistas
信頼性とアジリティを同時に上げろ!モノタロウのカナリアリリース導入.pdf por 株式会社MonotaRO Tech Team
信頼性とアジリティを同時に上げろ!モノタロウのカナリアリリース導入.pdf
株式会社MonotaRO Tech Team
•
1.9K vistas
モノタロウの開発・リリースサイクルを支えるJenkinsの活用事例 - Jenkins Day Japan 2021 por 株式会社MonotaRO Tech Team
モノタロウの開発・リリースサイクルを支えるJenkinsの活用事例 - Jenkins Day Japan 2021
株式会社MonotaRO Tech Team
•
1.9K vistas
MonotaRO LT - ESLintの仕組み por 株式会社MonotaRO Tech Team
MonotaRO LT - ESLintの仕組み
株式会社MonotaRO Tech Team
•
2.1K vistas
モノタロウECプラットフォームを支える開発運用モダナイゼーションの取り組み #devsumi por 株式会社MonotaRO Tech Team
モノタロウECプラットフォームを支える開発運用モダナイゼーションの取り組み #devsumi
株式会社MonotaRO Tech Team
•
2.2K vistas
ITPと、その他cookie関連のこと / ITP and cookie por 株式会社MonotaRO Tech Team
ITPと、その他cookie関連のこと / ITP and cookie
株式会社MonotaRO Tech Team
•
857 vistas
WSL2使ってみた / Preview for WSL2 por 株式会社MonotaRO Tech Team
WSL2使ってみた / Preview for WSL2
株式会社MonotaRO Tech Team
•
2.5K vistas
WebApp個人開発のすゝめ / Recommendation of personal web app development por 株式会社MonotaRO Tech Team
WebApp個人開発のすゝめ / Recommendation of personal web app development
株式会社MonotaRO Tech Team
•
784 vistas
大規模フロントエンドのクリーンアーキテクチャ化 ~ 年間売上1,000億円企業モノタロウの取組み ~ por 株式会社MonotaRO Tech Team
大規模フロントエンドのクリーンアーキテクチャ化 ~ 年間売上1,000億円企業モノタロウの取組み ~
株式会社MonotaRO Tech Team
•
4.4K vistas
レガシーコードに向き合ってみた話 por 株式会社MonotaRO Tech Team
レガシーコードに向き合ってみた話
株式会社MonotaRO Tech Team
•
2.5K vistas
モノタロウ AIストアのひみつ #devsumiA por 株式会社MonotaRO Tech Team
モノタロウ AIストアのひみつ #devsumiA
株式会社MonotaRO Tech Team
•
4K vistas
社内勉強会を続けるには(2016.10.07 DevLove 関西) por 株式会社MonotaRO Tech Team
社内勉強会を続けるには(2016.10.07 DevLove 関西)
株式会社MonotaRO Tech Team
•
3.7K vistas
Pythonエンジニアの最適なキャリアを考える (PyCon JP 2016 ジョブフェア LT) por 株式会社MonotaRO Tech Team
Pythonエンジニアの最適なキャリアを考える (PyCon JP 2016 ジョブフェア LT)
株式会社MonotaRO Tech Team
•
3.6K vistas
尼崎から世界へ!モノタロウの海外展開を支えるDevOps基盤 (デブサミ関西2016) por 株式会社MonotaRO Tech Team
尼崎から世界へ!モノタロウの海外展開を支えるDevOps基盤 (デブサミ関西2016)
株式会社MonotaRO Tech Team
•
3.3K vistas
マイクロサービスを利用する側のパフォーマンス向上策 (PyCon JP 2016) por 株式会社MonotaRO Tech Team
マイクロサービスを利用する側のパフォーマンス向上策 (PyCon JP 2016)
株式会社MonotaRO Tech Team
•
2.7K vistas
モノタロウがトレジャーデータを使う理由と、データを活かす企業文化 por 株式会社MonotaRO Tech Team
モノタロウがトレジャーデータを使う理由と、データを活かす企業文化
株式会社MonotaRO Tech Team
•
6.5K vistas
モノタロウの商品データ連携について por 株式会社MonotaRO Tech Team
モノタロウの商品データ連携について
株式会社MonotaRO Tech Team
•
4.4K vistas
MonotaRO のデータ活用と基盤の過去、現在、未来
1.
MonotaRO のデータ活用と基盤の 過去、現在、未来 1 2021.10.28 © 2021
MonotaRO Co., Ltd. All Rights Reserved.
2.
● 名前: 香川和哉 ●
データ基盤グループ マネージャ ● 入社 6年目 (マネージャ 4年目) ● 販促(マーケ)基盤運用 → データ基盤構築/運用 → データ管理 ● データエンジニアリング, クラウドインフラ あたりの経験が多め ● 前職は社員5人の会社でWebアプリ(フロントからインフラまで), スマホアプリ, 企画から営業まで担当 ● 2歳の娘がいます 2 自己紹介
3.
● MonotaRO について ●
データ基盤の過去と現在 ● データ基盤の未来 3 今日話すこと
4.
MonotaRO について 4
5.
5 ● 2000年 10月設立 ●
BtoB を対象に、自ら間接資材の 在庫を持ち、自らオンラインで売る EC 企業 ● コールセンター、商品採用、物流、 マーケティング、データサイエンス、 IT など多くの業務とシステムを 自社開発、自社運用している フルスタック EC カンパニー ● 商品数 :1,800 万点 (在庫 50万点) 市場規模:5~10 兆円 MonotaROについて
6.
6 2021年 1,800億円超を計画 リーマンショック コロナウイルス MonotaROの成長 ● 年率 20%以上の成長を11年継続 ●
システムは常にキャパシティとの戦いでもある
7.
❏ 管理部門 ❏ サプライチェーンマネジメント部門 ❏
商品部門 ❏ 商品開発部門 ❏ データマーケティング部門 ❏ ECシステムエンジニアリング部門 ❏ 海外事業部門 ❏ カスタマーサポート部門 ❏ エンタープライズビジネス部門 ❏ IT部門 ❏ 物流部門 7 MonotaROの組織 ● 全 11部門 ● 社員数 576人 (2021年 10月) ● 30%程度がテック職
8.
8 EC サイト 商品情報管理 CRM 受注管理 マーケティング 倉庫管理 その他 サブシステム 人事 会計 Data Platform MonotaROのシステム全体のイメージ
9.
データ基盤の歴史 9
10.
10 データ基盤の歴史: 全体像 ~ 2010 基幹システムか らの抽出と Excel 2010
~ 2015 販促基盤 2016 ~ 2017 BigQuery 導入 2020~2021 データ管理導入 Looker導入 DWH構築 2018 ~ 2019 BigQuery展開 2018 ~ 2019 他システム連携 DDP EC基盤への展開 2020~2021 サーチ基盤 2022 ~ データ管理展開 Looker展開 DWH展開 2022 ~ ??
11.
販促基盤によるデータ活用高度化 2010 ~ 2015 11
12.
12 データ基盤の歴史: 全体像 ~ 2010 基幹システムか らの抽出と Excel 2010
~ 2015 販促基盤 2016 ~ 2017 BigQuery 導入 2020~2021 データ管理導入 Looker導入 DWH構築 2018 ~ 2019 BigQuery展開 2018 ~ 2019 他システム連携 DDP EC基盤への展開 2020~2021 サーチ基盤 2022 ~ データ管理展開 Looker展開 DWH展開 2022 ~ ??
13.
13 販促基盤とDWH (2010 ~
2015頃) システム ● 基幹, ECサイトのシステムからデータを集約して 販促 用DWH を構築 (同期は 日次, 100テーブル程度) ● KXEN(今は SAP Predictive Analytics) による機械学 習を用いたレコメンドなど高度なマーケティングが可 能になった ● また SQL Server Analysis Service を用いたBIを構 築。 KPI ベースでの施策立案がより簡単に可能に。 データ利用者 ● データ分析スキルをもつ従業員はマーケティング 部門に集中しており全社のデータ活用をマーケ ティング部門がサポート マーケ用 MySQL Campaign Managment その他DB その他DB 基幹/EC DB ML (KXEN) BI SQLによる分析 MLによる予測 BIレポート マーケティング部門 の一部のメンバー 日次でのデータ同期 (100テーブル程度) DWH として機能
14.
課題 ● マシンリソースの枯渇 ○ 負荷軽減のためのハックが複雑化を招き運用コスト高 ○
複雑さにより変更コスト高く、データ同期対象も追加 も困難に ○ 利用ユーザ管理も限定 → 全社のデータ活用の基盤としては利用ができない 14 販促基盤とDWHでの成果と課題 成果 ● DWH, 機械学習基盤, BI という構成を小規模ながら 構築 ● マーケティング部門に SQL を使ってデータを利用 する文化が根付いた ● BIを社内展開することでマーケティング部門以外で もデータをみて意思決定できる環境が一定できた マーケ用 MySQL Campaign Managment その他DB その他DB 基幹/EC DB ML (KXEN) BI SQLによる分析 MLによる予測 BIレポート マーケティング部門 の一部のメンバー DWH として機能 日次でのデータ同期 (100テーブル程度)
15.
BigQuery の導入 2016 ~
2017 15
16.
16 データ基盤の歴史: 全体像 ~ 2010 基幹システムか らの抽出と Excel 2010
~ 2015 販促基盤 2016 ~ 2017 BigQuery 導入 2020~2021 データ管理導入 Looker導入 DWH構築 2018 ~ 2019 BigQuery展開 2018 ~ 2019 他システム連携 DDP EC基盤への展開 2020~2021 サーチ基盤 2022 ~ データ管理展開 Looker展開 DWH展開 2022 ~ ??
17.
マーケティング部門 17 データ分析人材の他部門への展開 (2016) ● 組織の拡大と事業規模の拡大に合わせて新規部門を設立 ●
マーケティング部門に所属していたデータ分析人材は新部門や別部門に異動することでデー タ分析の機能を全社の部門に展開 ● それまでの販促基盤ではなく全社レベルでのデータ基盤が必要に A部門 B部門 C部門 分析依頼 データ マーケティング部門 A部門 B部門 C部門 新メンバーの入社 分析スキルをもつメ ンバーの他部門への 展開
18.
18 BQ導入とデータ同期システムの開発(2017) EngineerScientist (50人 ~ ) Users
(40人 ~ ) 基幹システム & EC アプリケーション DWH & DataMart BigQuery Application Cloud Storage Apps Script Sheets Data Portal マーチャンダイ ザー マーケター カスタマサ ポート 物流 Application Database Database リアルタイム データパイプライン by (遅延:3分, テーブル:1,000~) ITエンジニア SQL データ サイエンティスト ● 社内のMySQL からニアリアルタイムにBigQueryにデータを同期するシステムを開発 ○ MySQL の Binary log を利用(Change Data Capture) ● BigQueryによって販促基盤DWHと比較して圧倒的なスケーラビリティを獲得 ● Google Workspace(当時はGSuite) と GCP のアカウント連携によって利用ユーザの管理も簡単にな り利用者も増加
19.
19 BigQuery 導入における成果と課題 扱えるデータ量 作成されたレポート数
SQL 業務利用者人数 10× 10× 4× ~ 100 テーブル 1000 テーブル~ ~ 30 レポート 300 レポート~ ~ 10 人 40 人~ ( IT エンジニア以外)
20.
BigQuery の展開 2018 ~
2020 20
21.
21 データ基盤の歴史: 全体像 ~ 2010 基幹システムか らの抽出と Excel 2010
~ 2015 販促基盤 2016 ~ 2017 BigQuery 導入 2020~2021 データ管理導入 Looker導入 DWH構築 2018 ~ 2019 BigQuery展開 2018 ~ 2019 他システム連携 DDP EC基盤への展開 2020~2021 サーチ基盤 2022 ~ データ管理展開 Looker展開 DWH展開 2022 ~ ??
22.
データ同期システムv2 (2018) ● Binlogを利用するというアプローチはそのままに実装としては完全にリプレース ●
誰でもニアリアルタイムのデータを利用できるように ○ 分析以外での用途(業務上必要なデータの抽出) でも利用されるように ■ 分析 → オペレーションのサイクルがより早くなった ● 監視や運用自動化をすすめ体制強化し、空いた工数でMySQL以外のデータの拡 充にも着手 (WMSのデータ, ウェブサーバログ など) Engineer, Scientist (100人 ~ ) Users (100人 ~ ) 基幹システム & EC アプリケーション DWH & DataMart BigQuery Application Apps Script Sheets Data Portal マーチャンダイ ザー マーケター カスタマサ ポート 物流 Application Database Database リアルタイムデータパイプラインV2 by (遅延: ~1分, テーブル:1,000~) ITエンジニア SQL データ サイエンティスト Pub/Sub Compute Engine
23.
23 ● サポート体制の構築 ○ Slack
でのヘルプデスク用チャネルの運用 ○ データ基盤Gによる業務利用のサポート ● SpreadSheetとGASで作成したジョブスケジュールツールの 提供 ● BigQuery とデータ基盤の説明会の実施 ● その他勉強会の実施(全社, グループ個別, 新入社員) ○ BigQuery + SQL 勉強会 ○ Data Studio 勉強会 データ基盤の全社展開 (2018, 2019)
24.
現在の状況と課題 24
25.
25 データ基盤の歴史: 全体像 ~ 2010 基幹システムか らの抽出と Excel 2010
~ 2015 販促基盤 2016 ~ 2017 BigQuery 導入 2020~2021 データ管理導入 Looker導入 DWH構築 2018 ~ 2019 BigQuery展開 2018 ~ 2019 他システム連携 DDP EC基盤への展開 2020~2021 サーチ基盤 2022 ~ データ管理展開 Looker展開 DWH展開 2022 ~ ??
26.
● 基幹システム, ECサイトシステムのMySQL
(約30スキーマ 1200超の テーブル) ○ 受注, 発注, 商品, 顧客, 在庫, 販促 ... ● Webサーバ, アプリケーションサーバ のLog, CDN(Akamai) のログ ● Google Analytics (ECサイト行動データ) ● WMS(Warehouse Management System) ● 顧客からの問い合わせ ● 各種サブシステムがもつシステム情報 ● 業務やプロジェクトで生成したデータ 26 どんなデータがどれくらいあるのか
27.
● 利用ユーザ: 350人以上/月 ○
全部門が利用 ○ 分析から 業務オペレーション用ツール , システムの メトリクスの保存までユースケースは様々 ● クエリ実行数: 270万 以上/月 ○ 一日 9万回実行されている 27 どれくらい利用されているのか
28.
● 各種KPIレポート ● ECサイトのレコメンデーション ●
検索エンジンの Indexing 用データ作成 ● 販促対象顧客選定 ● 需要予測、在庫最適化 ● … 28 利用例
29.
29 課題: データ/指標が管理されていない データに関する情報が集約管理されておらず、次のような問題が 発生している。 ● データ管理やデータ定義の局所最適化が進んでいる ○
個別・グループ内の管理に留まっている ○ 業務/組織等を横断した共有や活用が困難 ● データの使い方がわからない ○ データに関する情報が散在し、アクセスできない ○ SQLを書けなければ集計・分析できない
30.
~ 2010 基幹システムか らの抽出と Excel 2010 ~
2015 販促基盤 2016 ~ 2017 BigQuery 導入 2020~2021 データ管理導入 Looker導入 DWH構築 2018 ~ 2019 BigQuery展開 2018 ~ 2019 他システム連携 DDP EC基盤への展開 2020~2021 サーチ基盤 2022 ~ データ管理展開 Looker展開 DWH展開 2022 ~ ?? 30 データ基盤の歴史: ユーザの利用状況の変遷 特定の人だけ 使える 特定の部署だ け使える 自由に 使える より自由に 使える 自由, 安心, 安全, 簡 単に使える 自由に使えるが 難しい ● データが集約される仕組みはできた ● ユーザのユースケースもスキルレベルの幅も広がったため 誰もが簡単に利用するには難しくなってきた → より簡単に、安心して使えるようにする必要がある
31.
現在の取り組み 2020~2021 31
32.
● 2021年 5月よりデータ管理にフォーカスする組織として新 たに体制を構築 ●
課題とあるべき体制について経営層に説明と合意 ● ミッションを新たに定め、チームビルディングを実施 データ管理組織の立ち上げ
33.
● データ管理は領域も広く計画なしには効率的にすすめられない ● DMBOKをベースとしたアセスメントを実施し課題を把握 ●
課題の重要度、緊急度を評価してロードマップを作成する 33 データ管理中長期ロードマップの作成 アセスメントの結果を基に 依存関係を整理してロード マップを構築
34.
34 データ基盤とDWH / BI
(2021) ● Looker/LookML(モデル定義言語) を利用して全社統一された データマート を構築し更に BIとしても活用しSQLなどの分析スキルに関わらずデータを活用できる環境の実現を目標と して実施。現在継続中。 ● 並行して、IT部門や業務部門と協力しながら DWH を構築 ○ 他部門の既存の独自DWHを分解して再構成 ○ dbt (ツール) によって BigQuery でのDWH構築処理を管理 Looker (データマート) BigQuery Data Lake DWH データモデル (LookML) ダッシュボード Looker上ではモデルの定義のみ存在。 動的にBigQueryに対してクエリを実行 しデータモデルを元にデータを作る。 dbt
35.
MonotaROのデータ基盤の未来 35
36.
36 データ基盤の今後 ~ 2010 基幹システムか らの抽出と Excel 2010 ~
2015 販促基盤 2016 ~ 2017 BigQuery 導入 2020~2021 データ管理導入 Looker導入 DWH構築 2018 ~ 2019 BigQuery展開 2018 ~ 2019 他システム連携 DDP EC基盤への展開 2020~2021 サーチ基盤 2022 ~ データ管理展開 Looker展開 DWH展開 2022 ~ ?? より自由に 使える 自由, 安心, 安全, 簡 単に使える 自由に使えるが 難しい 特定の人だけ 使える 特定の部署だ け使える 自由に 使える
37.
P: 計画 D:
実行 C: 評価 A: 改善立案
38.
P: 計画 D:
実行 C: 評価 A: 改善立案 新機能作成, 既 存機能変更など の要求 ビジネス戦略/戦 術 プロジェクト計 画 概要設計書 システムと DB プロジェクト化 計画立案 概要設計 詳細設計/実装 データ収集 分析 レポート 施策立案 戦略/戦術立案 分析用 データ
39.
P: 計画 D:
実行 C: 評価 A: 改善立案 新機能作成, 既 存機能変更など の要求 ビジネス戦略/戦 術 プロジェクト計 画 概要設計書 システムと DB プロジェクト化 計画立案 概要設計 詳細設計/実装 データ収集 分析 レポート 施策立案 戦略/戦術立案 分析用 データ ボトルネック ~ 2015年(販促基盤とDWH)
40.
P: 計画 D:
実行 C: 評価 A: 改善立案 新機能作成, 既 存機能変更など の要求 ビジネス戦略/戦 術 プロジェクト計 画 概要設計書 システムと DB プロジェクト化 計画立案 概要設計 詳細設計/実装 データ統合 分析 レポート 施策立案 戦略/戦術立案 データレイク 2016 ~ 2018年(データ基盤の導入)
41.
P: 計画 D:
実行 C: 評価 A: 改善立案 新機能作成, 既 存機能変更など の要求 ビジネス戦略/戦 術 プロジェクト計 画 概要設計書 システムと DB プロジェクト化 計画立案 概要設計 詳細設計/実装 データ統合 分析 レポート 施策立案 戦略/戦術立案 データレイク ボトルネック 2019 ~ 2020年(データ基盤の展開)
42.
P: 計画 D:
実行 C: 評価 A: 改善立案 新機能作成, 既 存機能変更など の要求 ビジネス戦略/戦 術 プロジェクト計 画 概要設計書 システムと DB プロジェクト化 計画立案 概要設計 詳細設計/実装 データ統合 分析 施策立案 戦略/戦術立案 DWH データレイク データマート 業務指標 モデリング 分析ドメイン モデリング 2021年(現在)
43.
P: 計画 D:
実行 C: 評価 A: 改善立案 新機能作成, 既 存機能変更など の要求 ビジネス戦略/戦 術 プロジェクト計 画 概要設計書 システムと DB プロジェクト化 計画立案 概要設計 詳細設計/実装 データ統合 分析 施策立案 戦略/戦術立案 DWH データレイク データマート 業務指標 モデリング 分析ドメイン モデリング 2021年(見えてきた課題) システムアーキテクチャ の大規模な変更 ボトルネック 業務とシステムの複雑 化とナレッジの偏在 ボトルネック
44.
P: 計画 新機能作成, 既 存機能変更など の要求 ビジネス戦略/戦 術 プロジェクト計 画 概要設計書 システムと DB プロジェクト化 計画立案 概要設計 詳細設計/実装 データ統合 分析 施策立案 戦略/戦術立案 DWH データレイク データマート 業務指標 モデリング 分析ドメイン モデリング エンジニア プロデューサ/部門長 分析官
データ基盤 システムアーキテクチャ の大規模な変更 ボトルネック 業務とシステムの複雑 化とナレッジの偏在 ボトルネック 担当者と責任範囲
45.
P: 計画 新機能作成, 既存 機能変更などの要 求 ビジネス戦略/戦術 プロジェクト計画 概要設計書 システムと DB プロジェクト化 計画立案 概要設計 詳細設計/実装 データ統合 分析 施策立案 戦略/戦術立案 DWH データレイク データマート 業務指標 モデリング 分析ドメイン モデリング エンジニア プロデューサ/部門長 分析官 データ基盤 プロデューサ体制 (2019) これまでの取り組み システムアーキテク チャの大規模な変更 ボトルネック 業務とシステムの複雑 化とナレッジの偏在 ボトルネック
46.
P: 計画 新機能作成, 既存 機能変更などの要 求 ビジネス戦略/戦術 プロジェクト計画 概要設計書 システムと DB プロジェクト化 計画立案 概要設計 詳細設計/実装 データ統合 分析 施策立案 戦略/戦術立案 DWH データレイク データマート 業務指標 モデリング 分析ドメイン モデリング エンジニア プロデューサ/部門長 分析官 データ基盤 プロデューサ体制 (2019) DWH,
データマート構築 (2021) これまでの取り組み システムアーキテク チャの大規模な変更 ボトルネック 業務とシステムの複雑 化とナレッジの偏在 ボトルネック
47.
P: 計画 新機能作成, 既存 機能変更などの要 求 ビジネス戦略/戦術 プロジェクト計画 概要設計書 システムと DB プロジェクト化 計画立案 概要設計 詳細設計/実装 データ統合 分析 施策立案 戦略/戦術立案 DWH データレイク データマート 業務指標 モデリング 分析ドメイン モデリング エンジニア プロデューサ/部門長 分析官 データ基盤 プラットフォームベース
IT組織 とデータメッシュを指向した基盤と 組織 データ活用管理のための全社 横断CoE プロダクトマネージャ体制 DWH, データマート構築 データ管理の展開 これからの取組み システムアーキテク チャの大規模な変更 ボトルネック 業務とシステムの複雑 化とナレッジの偏在 ボトルネック
48.
データ基盤の未来まとめ ● システムも組織もデータ管理をすすめることで解 決できる課題領域が全社にまたがって存在する ● よってデータ管理の課題に全社で取り組む ●
データ基盤グループは組織とシステムと両方で リーダーシップをとってこれらを達成する 48
49.
49 © 2021 MonotaRO
Co., Ltd. All Rights Reserved.