SlideShare una empresa de Scribd logo
1 de 39
Descargar para leer sin conexión
HANA Startup
ビックデータに会いたくて
13年6月29日土曜日
13年6月29日土曜日
x 30人
13年6月29日土曜日
12億件の生データ
13年6月29日土曜日
Amazon S3
CSV:65.1 GiB
13年6月29日土曜日
どうやって料理する?
13年6月29日土曜日
13年6月29日土曜日
MySQL
Second Generation 2XL
(m3.2xlarge)
CPU:8コア
ECU:26
メモリ:30 GiB
ノード:1つ
価格:$1.520/h
13年6月29日土曜日
SAP HANA One
Cluster Compute 8XL
(cc2.8xlarge)
CPU:32コア
ECU:88
メモリ:60.5 GiB
ノード:1つ
価格:$4.065/h
13年6月29日土曜日
Amazon Redshift
High Storage 8XL
(dw.hs1.8xlarge)
CPU:16コア
ECU:35
メモリ:120 GiB
ノード:2つ
価格:$20.00/h
13年6月29日土曜日
Amazon EMR /w Hive
High Memory 4XL
(m2.4xlarge)
CPU:8コア
ECU:26
メモリ:68.4 GiB
ノード:4つ
価格:$4.04/h
13年6月29日土曜日
Amazon DynamoDB
Provisioned IOPS
write : 10000 IOPS
read : 10000 IOPS
価格:$10.12/h
13年6月29日土曜日
各環境の
テーブルを定義する
13年6月29日土曜日
CREATE TABLE detail(
client_id varchar(4) NOT NULL,
sales_key varchar(50) NOT NULL,
receipt_line integer NOT NULL,
sales_date timestamp NOT NULL,
article_key integer, article_key2 integer,
coupon_jancd varchar(13),
sales integer, sales_tax integer,
amount integer, discount integer,
coupon integer, gross integer,
regdate timestamp );
13年6月29日土曜日
Amazon S3のデータを
インポートする方法
13年6月29日土曜日
MySQLの場合
> LOAD DATA INFILE "/usr/local/detail_aa"
INTO TABLE hanatest.detail;
13年6月29日土曜日
SAP HANA Oneの場合
> IMPORT FROM CSV FILE
'/backup/detail_aa.csv'
INTO "HOGE"."DETAIL"
WITH THREADS 10
BATCH 10000
RECORD DELIMITED BY 'n'
FIELD DELIMITED BY 't';
MERGE DELTA OF "HOGE"."DETAIL";
13年6月29日土曜日
Amazon Redshiftの場合
> copy detail from
's3://bucket/hoge/detail_aa'
CREDENTIALS
'aws_access_key_id=?????;
aws_secret_access_key=?????'
delimiter 't';
13年6月29日土曜日
Amazon EMR /w Hiveの場合
> create external table detail (
client_id string, sales_key string,
receipt_line int, sales_date timestamp,)
row format delimited
fields terminated by 't'
lines terminated by 'n'
stored as textfile location 's3://hoge/detail';
13年6月29日土曜日
Amazon DynamoDBの場合
> CREATE	 EXTERNAL	 TABLE	 detail	 (client_id	 
string,	 sales_key	 string)	 STORED BY
'org.apache.hadoop.hive.dynamodb.Dynam
oDBStorageHandler'
TBLPROPERTIES	 ("dynamodb.table.name"	 =	 
"DETAIL_DYNAMO", 
"dynamodb.column.mapping"	 =	 "col1:
client_id,col2:	 sales_key"); 
13年6月29日土曜日
インデックス無し
13年6月29日土曜日
普通のテーブル定義です!
13年6月29日土曜日
select count(*) from ”DETAIL”;
result : 1,233,895,734
hana : 0.02 s
redshift : 0.42 s
mysql : 24.0 s
emr : 約60分...
13年6月29日土曜日
select * from ”DETAIL”
result : all
hana : 0.04 s
redshift : 0.27 s
mysql : 0.00 s (local)
13年6月29日土曜日
select count(*) from (select
distinct "ARTICLE_KEY"
from "DETAIL")
result : 30,253
hana : 1.31 s
redshift : 21.93 s
mysql : 53.42 s
13年6月29日土曜日
select "SALES_DATE" from "DETAIL"
where "SALES_KEY" = ‘123456781234567’
and "RECEIPT_LINE" = ‘123’
result : 1
hana : 0.04 s
redshift : 0.26 s
mysql : 32.41 s
13年6月29日土曜日
select "SALES_DATE"
from "DETAIL"
where "SALES_KEY" like ‘%5678123%’
and "RECEIPT_LINE" = ‘123’
result : 27,719
hana : 0.57 s
redshift : 6.88 s
mysql : 31.67 s
13年6月29日土曜日
実は、、、
13年6月29日土曜日
SAP HANA : 12億レコード
Amazon Redshift : 7億レコード
MySQL : 1億レコード
でした。
13年6月29日土曜日
なぜ早い?
13年6月29日土曜日
SAP HANAが早い理由
1.CPU最適化
2.インメモリ
3.カラム型データストア
4.データ圧縮
13年6月29日土曜日
Amazon Redshiftが良い場合
1.増え続けるビックデータ
2.クラスタリングしたい
3.サービス利用したい
4.処理性能を後から上げたい
13年6月29日土曜日
Amazon DynamoDBが良い場合
1.スパイクな書き込みを保証したい
2.スパイクな読込みを保証したい
3.読み取り一貫性を保証したい
※SQLな集計関数は使えません
13年6月29日土曜日
Amazon EMRが良い場合
1.非定型な情報を集計したい
2.Hiveと合わせてSQL使いたい
13年6月29日土曜日
MySQLが良い場合
1.正規化された情報を扱いたい
2.トランザクション管理したい
13年6月29日土曜日
Amazon S3が良い場合
1.無限にスケールするストレージ
2.検索などがない場合
3.KVSな情報の場合
4.追記書き込みが無い場合
5.結果整合性で問題ない場合
13年6月29日土曜日
クラウド破産w
13年6月29日土曜日
13年6月29日土曜日
次回予告
スパイクアクセスに耐えたくて
13年6月29日土曜日

Más contenido relacionado

Último

TSAL operation mechanism and circuit diagram.pdf
TSAL operation mechanism and circuit diagram.pdfTSAL operation mechanism and circuit diagram.pdf
TSAL operation mechanism and circuit diagram.pdftaisei2219
 
論文紹介:Automated Classification of Model Errors on ImageNet
論文紹介:Automated Classification of Model Errors on ImageNet論文紹介:Automated Classification of Model Errors on ImageNet
論文紹介:Automated Classification of Model Errors on ImageNetToru Tamaki
 
SOPを理解する 2024/04/19 の勉強会で発表されたものです
SOPを理解する       2024/04/19 の勉強会で発表されたものですSOPを理解する       2024/04/19 の勉強会で発表されたものです
SOPを理解する 2024/04/19 の勉強会で発表されたものですiPride Co., Ltd.
 
論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...
論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...
論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...Toru Tamaki
 
Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介
Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介
Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介Yuma Ohgami
 
スマートフォンを用いた新生児あやし動作の教示システム
スマートフォンを用いた新生児あやし動作の教示システムスマートフォンを用いた新生児あやし動作の教示システム
スマートフォンを用いた新生児あやし動作の教示システムsugiuralab
 
論文紹介:Semantic segmentation using Vision Transformers: A survey
論文紹介:Semantic segmentation using Vision Transformers: A survey論文紹介:Semantic segmentation using Vision Transformers: A survey
論文紹介:Semantic segmentation using Vision Transformers: A surveyToru Tamaki
 
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略Ryo Sasaki
 
Postman LT Fukuoka_Quick Prototype_By Daniel
Postman LT Fukuoka_Quick Prototype_By DanielPostman LT Fukuoka_Quick Prototype_By Daniel
Postman LT Fukuoka_Quick Prototype_By Danieldanielhu54
 

Último (9)

TSAL operation mechanism and circuit diagram.pdf
TSAL operation mechanism and circuit diagram.pdfTSAL operation mechanism and circuit diagram.pdf
TSAL operation mechanism and circuit diagram.pdf
 
論文紹介:Automated Classification of Model Errors on ImageNet
論文紹介:Automated Classification of Model Errors on ImageNet論文紹介:Automated Classification of Model Errors on ImageNet
論文紹介:Automated Classification of Model Errors on ImageNet
 
SOPを理解する 2024/04/19 の勉強会で発表されたものです
SOPを理解する       2024/04/19 の勉強会で発表されたものですSOPを理解する       2024/04/19 の勉強会で発表されたものです
SOPを理解する 2024/04/19 の勉強会で発表されたものです
 
論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...
論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...
論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...
 
Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介
Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介
Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介
 
スマートフォンを用いた新生児あやし動作の教示システム
スマートフォンを用いた新生児あやし動作の教示システムスマートフォンを用いた新生児あやし動作の教示システム
スマートフォンを用いた新生児あやし動作の教示システム
 
論文紹介:Semantic segmentation using Vision Transformers: A survey
論文紹介:Semantic segmentation using Vision Transformers: A survey論文紹介:Semantic segmentation using Vision Transformers: A survey
論文紹介:Semantic segmentation using Vision Transformers: A survey
 
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略
 
Postman LT Fukuoka_Quick Prototype_By Daniel
Postman LT Fukuoka_Quick Prototype_By DanielPostman LT Fukuoka_Quick Prototype_By Daniel
Postman LT Fukuoka_Quick Prototype_By Daniel
 

Destacado

2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by HubspotMarius Sescu
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTExpeed Software
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsPixeldarts
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthThinkNow
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfmarketingartwork
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024Neil Kimberley
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)contently
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024Albert Qian
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsKurio // The Social Media Age(ncy)
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Search Engine Journal
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summarySpeakerHub
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next Tessa Mero
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentLily Ray
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best PracticesVit Horky
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project managementMindGenius
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...RachelPearson36
 

Destacado (20)

2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPT
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage Engineerings
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental Health
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
 
Skeleton Culture Code
Skeleton Culture CodeSkeleton Culture Code
Skeleton Culture Code
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search Intent
 
How to have difficult conversations
How to have difficult conversations How to have difficult conversations
How to have difficult conversations
 
Introduction to Data Science
Introduction to Data ScienceIntroduction to Data Science
Introduction to Data Science
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best Practices
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project management
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
 

SAP Startup Forum Tokyo 2013 / SAP HANA One ビックデータに会いたくて