SlideShare a Scribd company logo
1 of 33
Download to read offline
Dr. Hüseyin ÇOTUK
02.10.2017
Ankara
Ceph Türkiye Meetup
İlk Bakışta Ceph
Gündem
• İlk Bakışta Ceph
• Geleneksel Depolama Mimarisi
• Dağıtık Depolama Mimarisi
• Diğer Depolama Sistemleri ile
Karşılaştırmalar
• Neden Ceph?
• Dünyada Ceph
• OpenStack’te Depolama Alternatifleri
• Neden OpenStack + Ceph?
• Soru/Cevap
İlk Bakışta Ceph
• Açık kaynak kodlu
• Donanım bağımsız, yazılım tabanlı
• Exabyte ölçeğinde tasarım
• Distributed object store
• Unified (Object, Block, FS desteği)
• Metadata sunucusu yok (CRUSH)
• Copy-on-write cloning
• Thin provisioning
• Snapshot, clone
• Mirroring
• Replika veya Erasure Coding (EC)
Veri Artış Hızı (1)
Veri Artış Hızı (2)
Veri Artış Hızı (3)
Geleneksel Depolama Mimarisi (1)
Geleneksel Depolama Mimarisi (2)
Geleneksel Depolama Mimarisi (3)
RAID Seviyeleri
RAID Devrinin Sonu
●
30 yıldır her türlü yük çalışıyor
●
Disk boyutları arttıkça uzun recovery time, yüksek
hesaplama gücü, ciddi performans etkisi
●
Birden fazla disk bozulduğunda hata toleransı düşük
●
Yedek diskler atıl bekliyor
●
Aynı RAID grubundaki (RG) disklerin birbiri ile aynı
tip ve özellikte olması gerek
●
RAID kartlarının maliyetleri yüksek (TCO)
●
Sistemin büyümesi kartlara bağlı
●
RAID gruplarına eklenecek disk sayısı sınırlı
●
Veri bütünlüğü aynı raf/RG içerisinde mümkün
●
Gelişmiş özellikler için gereken lisans maliyetleri
Dağıtık Mimaride Depolama Çözümleri
●
Lustre
●
GlusterFS
●
HDFS
●
GPFS
Diğer DD Çözümleri ile Karşılaştırmalar
●
GPFS
– Ticari (IBM), maliyeti yüksek
– Entegrasyon zor, sınırlı arayüz desteği
●
HDFS
– Blok depolama yok
– POSIX uyumlu değil
– HA desteği yok (single NameNode)
– Az sayıda büyük dosya saklamaya elverişli
●
Lustre
– Metadata problemi (performans, risk)
– Çok sayıda küçük boyutlu dosya saklamaya uygun değil
– Sunucu arızasını tespit eden mekanizma yok (Client farklı sunucuya
bağlanmak zorunda)
●
GlusterFS
– Sistem yöneticisinin farklı coğrafi lokasyon için strateji üretmesi gerekir
– Blok depolama desteği yok (plugin gerektirir)
Ceph vs Swift
●
Swift
– Transfer hızı ve gecikme problemi (proxy
servers)
– Blok ve dosya depolama yok
– Asenkron, verinin eski sürümüne erişme riski
(eventual consistency)
– Max nesne büyüklüğü 5 GB
●
Ceph
– Multi-region desteği (master-slave)
– Replica yönetimi
– OpenStack entegrasyonu mümkün
– S3, Swift API uyumlu
Karşılaştırma
Ceph: The Future of the Storage
Ceph Kullanım Alanları
Ceph İş Yükleri
Neden Ceph?
●
Ücretsiz
●
Donanım bağımsız
●
Esnek, ölçeklenebilir (exabyte scale)
●
Hata toleransı yüksek (dağıtık mimari)
●
Yüksek performans
●
Hızlı recovery
●
Unified (OS, BS, FS)
●
Gelişmiş özellikler (mirroring, replication)
●
Erasure coding opsiyonu
●
Hibrid çalışabilme (sunucu, disk)
●
Multi region desteği
●
S3, Swift API uyumlu
Dünyada Ceph
Dünyada Ceph - Yahoo
Dünyada Ceph - CERN
https://cds.cern.ch/record/2015206/files/CephScaleTestMarch2015.pdf
Dünyada Ceph – Monash Üniversitesi
https://www.itnews.com.au/news/monash-uni-builds-southern-
hemispheres-largest-ceph-storage-cluster-420408
Dünyada Ceph – Comcast
Dünyada Ceph - DreamHost
OpenStack Depolama Alternatifleri
Neden OpenStack + Ceph ?
●
OpenStack Depolama Gereksinimleri
– Ephemeral (Nova+Glance)
– Block (Cinder)
– File (Manila)
– Object (Swift)
●
Gelişmiş özellikler
– Live migration
– Direct snapshot & restore
– Mirroring
– HA
– Replication failover
Neden OpenStack + Ceph ?
OpenStack Kullanıcı Anketi 2017
Bonus: Luminuous Yenilikler
●
OSD için BlueStore mekanizması
●
Ceph-mgr daemon (kurulum)
●
CephFS için birden fazla aktif MDS desteği
●
“ceph status (ceph -s)” çıktısına eklemeler
●
S3 bucket lifecycle API eklemesi
●
Geliştirilmiş kararlılık
●
Pool etiketleri
●
RGW metadata search
●
“Upgrade complete ?” kontrolü
●
Basit web arayüzlü dashboard
Ceph Benchmark: Optimizasyon Öncesi
1 fio + 4 farklı pool rbd bench + 3 node cephfs üzerinden
dd aynı anda çalıştırılıp throughput ölçümü (4.372 GB/sn)
Ceph Benchmark: Optimizasyon Sonrası
1 fio + 4 farklı pool rbd bench + 3 node cephfs üzerinden
dd aynı anda çalıştırılıp throughput ölçümü (6.521 GB/sn)
Yaklaşan Etkinlikler
●
Ceph Türkiye 2. Meetup
11.10.2017 Saat:19:30
İstanbul YTE Davutpaşa
Kampüsü Teknoparkı, A1 Blok
●
OpenStack Days İstanbul
17.10.2017 Saat:09:00
Levent Wyndham Hotel İstanbul
●
TÜBİTAK 1.Ulusal Bulut Bilişim ve Büyük
Veri Sempozyumu B3S'17
19-20 Ekim 2017 Antalya
Soru / Cevap
●
Teşekkürler
●
Dr. Hüseyin ÇOTUK
– http://www.huseyincotuk.com
– huseyin@huseyincotuk.com
– https://twitter.com/huseyin_cotuk
●
Meetup davet / sunum / salon
●
Sorular

More Related Content

What's hot

Mongodb Ödev- İnternet programcılığı- IP2-Vize 2
Mongodb Ödev- İnternet programcılığı- IP2-Vize 2Mongodb Ödev- İnternet programcılığı- IP2-Vize 2
Mongodb Ödev- İnternet programcılığı- IP2-Vize 2
gulindasdan
 

What's hot (20)

Exchange Server 2010 Database Availability Group(DAG)
Exchange Server 2010 Database Availability Group(DAG)Exchange Server 2010 Database Availability Group(DAG)
Exchange Server 2010 Database Availability Group(DAG)
 
Exadata Performance Notes
Exadata Performance NotesExadata Performance Notes
Exadata Performance Notes
 
Oracle12c flex rac flex asm
Oracle12c flex rac flex asmOracle12c flex rac flex asm
Oracle12c flex rac flex asm
 
Exchange Server 2007 Cluster
Exchange Server 2007 ClusterExchange Server 2007 Cluster
Exchange Server 2007 Cluster
 
Nginx sunu 2014
Nginx sunu 2014Nginx sunu 2014
Nginx sunu 2014
 
Linkle mimari
Linkle mimariLinkle mimari
Linkle mimari
 
Active Directory ve Powershell ile Hyper-V Taşıma
Active Directory ve Powershell ile Hyper-V TaşımaActive Directory ve Powershell ile Hyper-V Taşıma
Active Directory ve Powershell ile Hyper-V Taşıma
 
Kak depolama stratejiniz nasıl olmalı?
Kak depolama stratejiniz nasıl olmalı?Kak depolama stratejiniz nasıl olmalı?
Kak depolama stratejiniz nasıl olmalı?
 
Veri tabanı
Veri tabanıVeri tabanı
Veri tabanı
 
Sunucularımızı Gözleyelim
Sunucularımızı GözleyelimSunucularımızı Gözleyelim
Sunucularımızı Gözleyelim
 
Hadoop & Cloudera Workshop
Hadoop & Cloudera WorkshopHadoop & Cloudera Workshop
Hadoop & Cloudera Workshop
 
Node js giriş (intro)
Node js giriş (intro)Node js giriş (intro)
Node js giriş (intro)
 
Karabük Üniversitesi Programlama Günleri - PostgreSQL Sunumu
Karabük Üniversitesi Programlama Günleri - PostgreSQL SunumuKarabük Üniversitesi Programlama Günleri - PostgreSQL Sunumu
Karabük Üniversitesi Programlama Günleri - PostgreSQL Sunumu
 
Mongodb Ödev- İnternet programcılığı- IP2-Vize 2
Mongodb Ödev- İnternet programcılığı- IP2-Vize 2Mongodb Ödev- İnternet programcılığı- IP2-Vize 2
Mongodb Ödev- İnternet programcılığı- IP2-Vize 2
 
Raid technologies
Raid technologiesRaid technologies
Raid technologies
 
Apache Spark : Genel Bir Bakış
Apache Spark : Genel Bir BakışApache Spark : Genel Bir Bakış
Apache Spark : Genel Bir Bakış
 
Dspace Migration and Dspace Piwik Integration
Dspace Migration and Dspace Piwik IntegrationDspace Migration and Dspace Piwik Integration
Dspace Migration and Dspace Piwik Integration
 
Hadoop,Pig,Hive ve Oozie ile Büyük Veri Analizi
Hadoop,Pig,Hive ve Oozie ile Büyük Veri AnaliziHadoop,Pig,Hive ve Oozie ile Büyük Veri Analizi
Hadoop,Pig,Hive ve Oozie ile Büyük Veri Analizi
 
Ankara Spark Meetup - Big Data & Apache Spark Mimarisi Sunumu
Ankara Spark Meetup - Big Data & Apache Spark Mimarisi SunumuAnkara Spark Meetup - Big Data & Apache Spark Mimarisi Sunumu
Ankara Spark Meetup - Big Data & Apache Spark Mimarisi Sunumu
 
DBA ve Geliştiriciler İçin Başarımı Artırıcı Öneriler - PostgreSQL Konferansı...
DBA ve Geliştiriciler İçin Başarımı Artırıcı Öneriler - PostgreSQL Konferansı...DBA ve Geliştiriciler İçin Başarımı Artırıcı Öneriler - PostgreSQL Konferansı...
DBA ve Geliştiriciler İçin Başarımı Artırıcı Öneriler - PostgreSQL Konferansı...
 

Similar to Ceph Türkiye 1.meetup Ankara

windows server 2008 r2 hyper-v fail over cluster
windows server 2008 r2 hyper-v fail over clusterwindows server 2008 r2 hyper-v fail over cluster
windows server 2008 r2 hyper-v fail over cluster
ÇözümPARK
 
Caylak Javacilara Yol Haritasi
Caylak Javacilara Yol HaritasiCaylak Javacilara Yol Haritasi
Caylak Javacilara Yol Haritasi
mehmetbicak
 
Caylak Javacilara Yol Haritasi
Caylak Javacilara Yol HaritasiCaylak Javacilara Yol Haritasi
Caylak Javacilara Yol Haritasi
mehmetbicak
 

Similar to Ceph Türkiye 1.meetup Ankara (15)

PHPkonf'15 - PHP Uygulamanızı Güçlendirin
PHPkonf'15 - PHP Uygulamanızı GüçlendirinPHPkonf'15 - PHP Uygulamanızı Güçlendirin
PHPkonf'15 - PHP Uygulamanızı Güçlendirin
 
Apache Kafka - Yüksek Performanslı Dağıtık Mesajlaşma Sistemi - Türkçe
Apache Kafka - Yüksek Performanslı Dağıtık Mesajlaşma Sistemi - TürkçeApache Kafka - Yüksek Performanslı Dağıtık Mesajlaşma Sistemi - Türkçe
Apache Kafka - Yüksek Performanslı Dağıtık Mesajlaşma Sistemi - Türkçe
 
Dba için oracle veritabanı 11g yeni özellikleri
Dba için oracle veritabanı 11g yeni özellikleriDba için oracle veritabanı 11g yeni özellikleri
Dba için oracle veritabanı 11g yeni özellikleri
 
EF Flas Array
EF Flas ArrayEF Flas Array
EF Flas Array
 
Openstack Magnum CaaS
Openstack Magnum CaaSOpenstack Magnum CaaS
Openstack Magnum CaaS
 
windows server 2008 r2 hyper-v fail over cluster
windows server 2008 r2 hyper-v fail over clusterwindows server 2008 r2 hyper-v fail over cluster
windows server 2008 r2 hyper-v fail over cluster
 
MongoDB - NoSQL Overview
MongoDB - NoSQL OverviewMongoDB - NoSQL Overview
MongoDB - NoSQL Overview
 
Big Data Sunum
Big Data SunumBig Data Sunum
Big Data Sunum
 
Berkeley Data Analytics Stack Genel Bakış
Berkeley Data Analytics Stack Genel Bakış Berkeley Data Analytics Stack Genel Bakış
Berkeley Data Analytics Stack Genel Bakış
 
Berkeley Data Analytics Stack Genel Bakış
Berkeley Data Analytics Stack Genel BakışBerkeley Data Analytics Stack Genel Bakış
Berkeley Data Analytics Stack Genel Bakış
 
Az 103 : Microsoft Azure Administrator - Bolum 3
Az 103 : Microsoft Azure Administrator - Bolum 3Az 103 : Microsoft Azure Administrator - Bolum 3
Az 103 : Microsoft Azure Administrator - Bolum 3
 
JavaScript Sunumu
JavaScript SunumuJavaScript Sunumu
JavaScript Sunumu
 
0439
04390439
0439
 
Caylak Javacilara Yol Haritasi
Caylak Javacilara Yol HaritasiCaylak Javacilara Yol Haritasi
Caylak Javacilara Yol Haritasi
 
Caylak Javacilara Yol Haritasi
Caylak Javacilara Yol HaritasiCaylak Javacilara Yol Haritasi
Caylak Javacilara Yol Haritasi
 

Ceph Türkiye 1.meetup Ankara

  • 1. Dr. Hüseyin ÇOTUK 02.10.2017 Ankara Ceph Türkiye Meetup İlk Bakışta Ceph
  • 2. Gündem • İlk Bakışta Ceph • Geleneksel Depolama Mimarisi • Dağıtık Depolama Mimarisi • Diğer Depolama Sistemleri ile Karşılaştırmalar • Neden Ceph? • Dünyada Ceph • OpenStack’te Depolama Alternatifleri • Neden OpenStack + Ceph? • Soru/Cevap
  • 3. İlk Bakışta Ceph • Açık kaynak kodlu • Donanım bağımsız, yazılım tabanlı • Exabyte ölçeğinde tasarım • Distributed object store • Unified (Object, Block, FS desteği) • Metadata sunucusu yok (CRUSH) • Copy-on-write cloning • Thin provisioning • Snapshot, clone • Mirroring • Replika veya Erasure Coding (EC)
  • 11. RAID Devrinin Sonu ● 30 yıldır her türlü yük çalışıyor ● Disk boyutları arttıkça uzun recovery time, yüksek hesaplama gücü, ciddi performans etkisi ● Birden fazla disk bozulduğunda hata toleransı düşük ● Yedek diskler atıl bekliyor ● Aynı RAID grubundaki (RG) disklerin birbiri ile aynı tip ve özellikte olması gerek ● RAID kartlarının maliyetleri yüksek (TCO) ● Sistemin büyümesi kartlara bağlı ● RAID gruplarına eklenecek disk sayısı sınırlı ● Veri bütünlüğü aynı raf/RG içerisinde mümkün ● Gelişmiş özellikler için gereken lisans maliyetleri
  • 12. Dağıtık Mimaride Depolama Çözümleri ● Lustre ● GlusterFS ● HDFS ● GPFS
  • 13. Diğer DD Çözümleri ile Karşılaştırmalar ● GPFS – Ticari (IBM), maliyeti yüksek – Entegrasyon zor, sınırlı arayüz desteği ● HDFS – Blok depolama yok – POSIX uyumlu değil – HA desteği yok (single NameNode) – Az sayıda büyük dosya saklamaya elverişli ● Lustre – Metadata problemi (performans, risk) – Çok sayıda küçük boyutlu dosya saklamaya uygun değil – Sunucu arızasını tespit eden mekanizma yok (Client farklı sunucuya bağlanmak zorunda) ● GlusterFS – Sistem yöneticisinin farklı coğrafi lokasyon için strateji üretmesi gerekir – Blok depolama desteği yok (plugin gerektirir)
  • 14. Ceph vs Swift ● Swift – Transfer hızı ve gecikme problemi (proxy servers) – Blok ve dosya depolama yok – Asenkron, verinin eski sürümüne erişme riski (eventual consistency) – Max nesne büyüklüğü 5 GB ● Ceph – Multi-region desteği (master-slave) – Replica yönetimi – OpenStack entegrasyonu mümkün – S3, Swift API uyumlu
  • 16. Ceph: The Future of the Storage
  • 19. Neden Ceph? ● Ücretsiz ● Donanım bağımsız ● Esnek, ölçeklenebilir (exabyte scale) ● Hata toleransı yüksek (dağıtık mimari) ● Yüksek performans ● Hızlı recovery ● Unified (OS, BS, FS) ● Gelişmiş özellikler (mirroring, replication) ● Erasure coding opsiyonu ● Hibrid çalışabilme (sunucu, disk) ● Multi region desteği ● S3, Swift API uyumlu
  • 22. Dünyada Ceph - CERN https://cds.cern.ch/record/2015206/files/CephScaleTestMarch2015.pdf
  • 23. Dünyada Ceph – Monash Üniversitesi https://www.itnews.com.au/news/monash-uni-builds-southern- hemispheres-largest-ceph-storage-cluster-420408
  • 24. Dünyada Ceph – Comcast
  • 25. Dünyada Ceph - DreamHost
  • 27. Neden OpenStack + Ceph ? ● OpenStack Depolama Gereksinimleri – Ephemeral (Nova+Glance) – Block (Cinder) – File (Manila) – Object (Swift) ● Gelişmiş özellikler – Live migration – Direct snapshot & restore – Mirroring – HA – Replication failover
  • 28. Neden OpenStack + Ceph ? OpenStack Kullanıcı Anketi 2017
  • 29. Bonus: Luminuous Yenilikler ● OSD için BlueStore mekanizması ● Ceph-mgr daemon (kurulum) ● CephFS için birden fazla aktif MDS desteği ● “ceph status (ceph -s)” çıktısına eklemeler ● S3 bucket lifecycle API eklemesi ● Geliştirilmiş kararlılık ● Pool etiketleri ● RGW metadata search ● “Upgrade complete ?” kontrolü ● Basit web arayüzlü dashboard
  • 30. Ceph Benchmark: Optimizasyon Öncesi 1 fio + 4 farklı pool rbd bench + 3 node cephfs üzerinden dd aynı anda çalıştırılıp throughput ölçümü (4.372 GB/sn)
  • 31. Ceph Benchmark: Optimizasyon Sonrası 1 fio + 4 farklı pool rbd bench + 3 node cephfs üzerinden dd aynı anda çalıştırılıp throughput ölçümü (6.521 GB/sn)
  • 32. Yaklaşan Etkinlikler ● Ceph Türkiye 2. Meetup 11.10.2017 Saat:19:30 İstanbul YTE Davutpaşa Kampüsü Teknoparkı, A1 Blok ● OpenStack Days İstanbul 17.10.2017 Saat:09:00 Levent Wyndham Hotel İstanbul ● TÜBİTAK 1.Ulusal Bulut Bilişim ve Büyük Veri Sempozyumu B3S'17 19-20 Ekim 2017 Antalya
  • 33. Soru / Cevap ● Teşekkürler ● Dr. Hüseyin ÇOTUK – http://www.huseyincotuk.com – huseyin@huseyincotuk.com – https://twitter.com/huseyin_cotuk ● Meetup davet / sunum / salon ● Sorular