AWS/Openstack integration with openQRM

ハイブリッド・クラウド⾃自動化基盤
openQRMで実現する
OpenStack/AWS統合管理
2014/6/22
140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved
http://www.ossl.co.jp
Mail: funai@ossl.co.jp
Twitter: @satoruf
FaceBook: http://www.facebook.com/satoru.funai
LinkedIn: http://jp.linkedin.com/in/satorufunai/ja
1
Open Programmable Infrastructure Environment

システム運⽤用の⽬目的
l  サービスの継続的提供
ビジネスに価値のあるサービスを、
l  より素早く ⇨計画リリースの期間を短く
l  ⽋欠陥を減らし ⇨性能低下、障害発⽣生の防⽌止
l  効率を改善し ⇨サポートコストの削減
継続的に提供する
l  障害対応
障害発⽣生時に
l  迅速にサービスを復旧し
l  再発を防⽌止する
14/06/23
Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved
2

⼿手作業の運⽤用の問題
l  撲滅できない操作ミス
l  タイプミス
l  ⼿手順書のタイポ
l  エラー時のロールバック⼿手順不備
l  原因不明の障害
l  開発環境、検証環境、本番環境が微妙に異なる（ライブラリやOS設定）
l  環境によって操作⼿手順が異なる
l  そもそも⼿手作業なので、再現が困難
l  ⾮非効率、⾮非⼈人間的な作業
l  端末操作、⼿手順書読み上げ、作業確認の3⼈人体制
l  ⻑⾧長時間にわたる操作の緊張と重圧
l  リリースサイクルの⻑⾧長期化
l  変更が適⽤用されるまでに、次の変更要求が滞留
l  変更頻度が少ないため、変更箇所が増え、変更のリスクが増⼤大
l  環境の複雑化への対応が困難
l  仮想化、クラウド化によってシステム環境が複雑化し、動的な変更／変化が発⽣生
l  それに伴い作業⼿手順も複雑化し、メンテナンスが困難に
14/06/23
3

運⽤用管理⾃自動化基盤の役割
14/06/23
4
要件
定義
設計
コーデ
ィング
テスト
継続的
インテグ
レーション
開発サイクルの⾼高速化
ジョブ管
理
監視
検知
リカバリ
運⽤用
サイクル
運⽤用サイクルの⾃自動化
運⽤用引き継ぎの⾃自動化
バージョン管理
構成管理
⾃自動デプロイ
⾃自動テスト
•  全てプログラム化
•  どの環境でも同じ⼿手順
•  何度実⾏行行しても同じ結果を再現
•  作業結果をログに保存

構成管理及びリリース管理の成熟度モデル
「継続的デリバリー　信頼できるソフトウェアリリースのためのビルド・テスト・デプロイメントの⾃自動化」
David Farley (著), Jez Humble (著), 和智右桂 (翻訳), ⾼高⽊木正弘 (翻訳) アスキー・メディアワークス (2012/3/14)
14/06/23
5

レベル -1 レベル 0 レベル 1 レベル 2 レベル 3
プラクティス
リグレッションエラー多発： 
プロセスは繰返せず管理も貧
弱、そして対症療法を行ってい
る。
繰返し可能： 
プロセスは文書化され、一部
は自動化されている。
一貫している： 
自動化されたプロセスが、アプ
リケーションのライフサイクル
全体に適用されている。
定量的な管理： 
プロセスが計測可能で制御さ
れている。
最適化： 
プロセスの改善に注力する。
ビルド管理及び
継続的インテグ
レーション
ソフトウェアのビルド手順が手
動である。成果物やビルド結果
の管理をしていない。
普段のビルドやテストを自動化
している。全てのビルドはソー
ス管理システムを使って自動
化された手順で再現できる。
自動ビルドと自動テストのサイ
クルを、変更がコミットされるた
びに実行する。依存関係を管
理する。スクリプトやツールを
再利用する。
ビルドメトリクスを収集して可視
化し、それに基づいて作業する。
ビルドを壊れたままにしない。
チームで定期的に話し合いの
場を持ち、統合時の問題やそ
の自動化による解決、素早い
フィードバック、そしてより良い
可視化について議論する。
環境及びデプロ
イメント
ソフトウェアのデプロイ手順が
手動である。バイナリが環境に
依存する。環境の配布が手動
である。
一部の環境ではデプロイを自
動化している。新しい環境を手
軽に作成できる。全ての構成
情報を外に出してバージョン管
理する。
ソフトウェアのデプロイは完全
に自動化され、ボタンを押すだ
けで完結する。全ての環境に
対して同じ手順でデプロイする。
統合したデプロイ管理、リリー
スやリリース取消の手順もテス
トしている。
全ての環境がうまく管理されて
いる。プロビジョニングは完全
に自動化、仮想化を適切に活
用する。
リリース管理及
びコンプライア
ンス
リリース頻度が低く、しかも信
頼できない。
面倒で頻度も低く、信頼できな
いリリース、リリース要件に関
するトレーサビリティも限定的。
変更管理とその承認プロセス
が定義され、それを守っている。
規約を遵守している。
環境はアプリケーションの健康
状態を監視し、能動的に管理
している。サイクルタイムを監
視している。
運用チームとデリバリーチーム
が協力し、リスク管理やサイク
ルタイム削減を行う。
テスト
開発をした後に手作業でのテ
ストを実施する。
ストーリーの開発の一環として
自動テストを書く。
ユニットテストや受入テストを
自動化する。受入テストはテス
ターが書く。テストが開発プロ
セスに組み込まれている。
品質のメトリクスとその傾向を
追跡する。非機能要件を定義
し、計測する。
本番環境への変更の取消は
滅多に発生しない。問題があ
ればすぐに見つかり、すぐに修
正される。
データ管理
データのマイグレーションはバ
ージョン管理されておらず、手
作業で操作する。
データベースへの変更は自動
化したスクリプトで行い、スクリ
プトはアプリケーションと共に
バージョン管理する。
データベースの変更はデプロ
イメントプロセスの一環として
自動的に行う。
データベースの更新やロール
バックはデプロイの度にテスト
される。データベースのパフ
ォーマンスを監視、最適化する。
リリースのたびに、データベー
スのパフォーマンスやデプロイ
メントプロセス自体についての
フィードバックを得る。
構成管理
バージョン管理システムを使っ
ていない、あるいは使っていて
も滅短チェックインしない。
バージョン管理システムを使っ
て、ソフトウェアの作成に必要
な物を全て管理する。ソースコ
ードや設定ファイル、ビルドや
デプロイ用スクリプト、データの
マイグレーション等。
ライブラリや依存関係を管理す
る。バージョン管理システムの
利用ポリシーは、変更管理プ
ロセスで定義する。
開発者は、少なくとも1日1度
はメインラインにチェックインす
る。ブランチはリリース作業の
ときだけ使う。
変更管理のポリシーを常に検
証し、効率的な共同作業や素
早いデプロイができているかを
確かめる。また、変更管理プロ
セスの可監査性もチェックする。

概念アーキテクチャ
運⽤用ポータル
ジョブモニタ
リソースモニタ
チケットモニタ
カレンダ
イベントモニタ
ニュース
監視／アラート
サービスデスク／
構成管理／変更管理
チケット作成
障害通知
プロジェクト管理作業依頼
ソースコード管理
コード
作成／修正
デプロイツール
ジョブ管理
クラウドAPI
テスト
デバッグ
リリース
クラウド
プロバイダ
リソース結果登録
オーケストレー
ションレイヤ
イメージ
置場
レポジトリ
CMDB
メール
14/06/23
6

i-doit
Ralph
Cobbler
LinuxCOE
Clonezilla
GlusterFS
Ceph
Puppet
Ansible
Nagios
Zabbix

openvswith
ネットワーク管理
アプリケーション
フレームワーク
監視
資源管理
（クラウド／VM／実機／ストレージ）
OSインストール
初期設定
アプリケーション構成
コマンド自動実行
Fabric
運⽤用管理⾃自動化基盤構成スタック
JobScheduler
ジョブ管理
14/06/23
7
サービスデスク／工程管理／リポジトリ
Redmine
Git/svn
OTRS

構成管理／CMDB

ハイブリッドクラウド⾃自動化基盤：openQRM
14/06/23
Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 8
オンプレミス
（物理・仮想マシン）
プライベートクラウド
（仮想マシン）
パブリッククラウドサービス
IPMI
API
システム
イメージ
システム
イメージ
クラウド管理
ダッシュボード
ユーザ
ポータル
AMI
VMware, KVM, Xen, etc.
プロビジョニ
ング
OSインスト
ール
各種
設定
アプリインス
トール
運用
監視
移行
HA/DR
ユーザ管理
課金管理
•  ベアメタル
•  AWS
•  OpenStack
•  VMware
•  KVM/Xen
•  LXC/OpenVZ
•  LinuxCOE
•  Cobbler
•  Clonezilla
•  FAI, OPSI
•  Puppet
•  Ansible
•  Kickstart
•  preseed
•  ZABBIX
•  Nagios/Icinga
•  Collectd
•  idoit
•  Live Migration
•  イメージインポート／エキスポート
•  LCMC
•  Pacemaker, Corosync, Heartbeat, DRBD
•  OpenLDAP
移⾏行行移⾏行行
API

異種クラウド環境を統合管理
14/06/23
オンプレミス
クラウド管理
⼀一つのインターフェースで、全ての環境の
リソース管理、⾃自動インストール、アプリケーション配備、
監視設定、構成管理、サービスレベル管理

異種クラウド間のシステム双⽅方向移⾏行行
14/06/23
オンプレミス
クラウド管理
⼀一つのシステムイメージを、全ての環境間で、双⽅方向に移⾏行行
システム
イメージ
システム
イメージ
AMI
移⾏行行移⾏行行

セルフサービス化と課⾦金金管理・リソース管理
14/06/23
オンプレミス
ユーザ
ポータル
セルフサービスポータル・管理APIの提供と
課⾦金金管理・リソース管理

運⽤用管理⾃自動化基盤の効果
l  継続的デリバリーの実現
l  リリースの多頻度化により、リリースのリスクを低減
l  ビジネスサイクルの⾼高速化に適応
l  構築実装サービス稼働までプログラム化
l  コスト低減、ミスの削減、期間短縮
l  運⽤用管理の集中化
l  ⼈人に依存しない標準化、品質向上
l  広域分散環境に対応
l  AWS等のクラウドサービスから、オンプレミスの既存物理サーバまで⼀一元管
理
l  リソースの最適化
l  ⽬目的に応じて最適なプラットフォームにアプリケーションを移動
l  DR/BCPへ対応
l  DR/BCPの⾃自動化
14/06/23
12
Open Programmable Infrastructure Environment

AWS/Openstackインテグレーション(1)
l  openQRMコンソールから、AWS/Openstackアカウントを管理
140622

AWS/Openstackインテグレーション(2)
l  openQRMコンソールから、インスタンスの作成／起動／停⽌止／削除
l  Nagios/Zabbix/Ansible/Puppetの設定も⾃自動化
140622

AWSインテグレーション(3)
l  EBS/snapshotの管理
140622
Openstack対応絶賛開発中

AWSインテグレーション(4)
l  openQRMコンソールから、S3/AMIの管理
140622
Openstack対応絶賛開発中

openQRMシステム概要
140622
サーバイメージ・ストレージ
openQRMサーバ
DHCP
PXE
仮想化環境
VMware, Xen, KVM, lxc, OpenVZ
DNS
プラグイン・マネージャ
Linux
Windows
NFS
SAN
iSCSI
Gluster
FS他
物理環境
Intel/AMD x64アーキテクチャ
Linux
Windows
クラウド・サービス
その他
プラグイン
API
クラウド
管理者
コンソール
ユーザ
管理者
コンソール
Solaris
SolarisPXE ブート
構成情報取得
サーバイメージ
ダウンロード
tftpd, SAN
Local, 他
サーバイメージ変換
REST API
17

プラグイン　アーキテクチャ
l  openQRMサーバは、プラグインの管理機能のみ
l  必要な機能は全てプラグインで提供
l  APIも提供されているため、カスタムプラグインの開発が可能
140622
仮想化環境プラグイン
•  VMware ESXi
•  Citrix XEN server
•  KVM/libvirtd
•  OpenVZ
•  Lxc
•  Local Server (ベアメタル)
クラウド管理プラグイン
•  セルフサービスポータル
•  ハイブリッド・クラウド
(AWS/Openstack/
Eucalyptus)
•  イメージシェルフ
•  ECサポート*
ストレージプラグイン
•  Local LVM/Block
•  tmpfs
•  NFS
•  iSCSI
•  AOE (ATA over Ethernet)
•  GlusterFS
管理ツールプラグイン
•  Nagios/Icinga
•  Collectd
•  Zabbix
•  Puppet
•  Ansible
•  Cobbler
•  LinuxCOE
•  LDAP認証*
•  i-doit CMDB*
ネットワークプラグイン
•  Dhcp
•  Dns
•  Tftp
•  Wake On Lan
•  IPMI管理*
•  IPプール管理*
•  ボンディング*
•  noVNC
•  SSH-term
HAサポートプラグイン
•  ⾃自動フェイルオーバー
•  OpenQRM HA構成
•  LCMC
Etc.
*はエンタープライズ版提供機能
18

openQRMの管理単位
140622
リソース
システムが稼働する⼊入れ物（物理サーバ／仮想マシ
ン）
カーネル
openQRMが集中管理するためのブートロー
ダ(PXELinux)
ルート
オペレーティング・システムのrootファ
イル＋サービスプログラム群
サーバ
ストレージ
サービスレベル
サーバへのリソースの割当等構成
情報
イメージ
ファイルシステム、デプロイメント情報
19
インストール初期設定
アプリ配備
監視設定
HA設定
構成管理課⾦金金管理
リソース管理

140622
サーバテンプレート機能
イメージシェルフ
既存サーバ
LAMPイメージ DBイメージWindowsServer Etc.
登録
NFS/ftp/http/local
オンプレミス
VMware/xen等
20

LinuxCOE+Ansible/Puppetで全⾃自動セットアップ
l  LinuxCOE：HPが開発しているOSS
l  Cobblerと同等のOS⾃自動インストールシステム
l  openQRMサーバと同居
l  openQRMとの連携の仕組み
1.  サーバ作成時に、LinunxCOE⾃自動インストールを選択
2.  初回サーバ起動時に、ネットワークブートし、LinuxCOEからtftpブー
トされる
3.  OSインストール完了後、openQRMサーバから再起動
4.  起動時にPuppet/Ansibleのマニフェスト／playbookが実⾏行行される
140622

HA機能
l  N+1フェイルオーバー
l  LCMCインテグレーション
l  Linux Cluster Management Consoleを使⽤用し、簡単にLinux-
HA環境を構築
140622
openQRM
N+1 フェイルオーバー
OpenQRM
リソースプール
従来のHA構成
本番系
待機系
22

マイグレーション機能
l  既存システムをopenQRM配下に追加
l  P2V/V2P（⾮非仮想化ó仮想化環境）
l  V2V（仮想化環境Aó仮想化環境B）
l  P2P（⾮非仮想化環境Aó⾮非仮想化環境B）
l  ライブマイグレーション
l  ハイパーバイザに依存、異種仮想化環境間は不可
l  KVM, Xen, OpenVZ, lxcをサポート
140622

CloudZones（エンタープライズ版機能）
l  WAN経由で複数のデータセンタにあるopenQRMク
ラスタへのプロビジョニング機能を提供
140622
24
CloudZones
https/SOAP
インターネット／
WAN
openQRMクラスタ #1 openQRMクラスタ #2

運⽤用管理機能
140622
Zabbix監視システム連携
i-doit構成管理システム
連携（エンタープライズ版）
Nagios監視システム連携

セルフサービスポータル機能
l  ユーザ管理
l  グループ／ユーザ毎の使⽤用プロダクト設定
l  課⾦金金管理
l  セルフ登録／管理者登録
l  プロダクト管理
l  各リソースの課⾦金金単位設定
l  IPプーリング／VLAN設定（エンタープライズ版）
l  セルフサービスポータル
l  GUIリソース管理
l  課⾦金金情報提供
l  管理API
l  SOAP
l  JSON-RPC（予定）
140622
システム担当者
クラウド管理者
ユーザー／グループ管理
リソースプール割当
サービスレベル管理
課⾦金金管理
プロビジョニング要求
リソース作成
構成設定／変更
サービス起動／停⽌止
リソースプール
構成DB
OpenQRM
26

ポータル画⾯面
140622

API
140622

利⽤用例：BCP/DRサービス
l  既存サーバ群のシステムイメージを複製
l  システムイメージをバックアップ
l  必要に応じてシステムイメージを複製、必要な環境で起動
140622
OpenQRM
サーバ
MySQL
イメージ・ストレージ
既存サーバ群
Windows
Linux
Vmware etc.
サーバ
イメー
ジ
クラウド
ストレージ
サービス
パブリック・クラウドサービ
ス
プライベート・クラウ
ド
バックアップセンター
複
製
29

利⽤用例：バッチ処理 as a Service
l  Hadoop上の基幹バッチ処理フレームワークAsakusaを
PaaSとして提供する
l  システム構成
l  Hadoopクラスタリソースは、物理環境、仮想化環境、パブリック
クラウドを選択可能
l  提供機能
l  オンデマンド・バッチ処理
l  ジョブ管理
140622
Asakusa
サーバ
MySQL
OpenQRM
サーバ
MySQL
Asakusa
サーバ
MySQL
Asakusa
サーバ
MySQL
Hadoop
クラスタ
Hadoop
クラスタ
Hadoop
クラスタ
Hadoopクラスタ・リソースプール
（物理サーバ群 & パブリッククラ
ウド）
バッチ処理毎に割当
ユーザ毎に割当
JobScheduler
30

稼働環境
(1) 物理HW
OpenQRMが動作するのに、必要なプロセッサ
／メモリ／ディスク
• Intel/AMD x86 2core、１.8Ghz
• メモリ 1GB
• ２０GB以上のフリーディスクスペース
(2) OS
OpenQRMが動作する、オペレーティングシス
テムとバージョン
• Ubuntu / Debian Lucid以降（推奨）
• CentOS / Redhat EL 5.5以降
(3) ミドルウェア
OpenQRMが動作するのに、サポートされるソフ
トウェアとバージョン
• Apache 2.2以降
• MySQL 5.1以降
• PHP 5.3以降
• 他、プラグインによって多数あるが、インス
トール時に⾃自動的に選択される
(4) ネットワーク
OpenQRMが動作するのに、必要なネットワーク
環境
• 管理／ストレージ⽤用と公開⽤用の別々の１Gbps
ネットワークを推奨
• 被管理サーバの管理／ストレージ⽤用ネットワ
ークは、dhcp設定が必要（但し、OpenQRM
側で固定IPアドレス割当は可能）
• 被管理サーバは、dhcp/PXEブートするために
管理サーバと同⼀一のarpブロードキャストドメ
インである事
• NTPが稼働している事（推奨）
140622

リソース
http://groups.google.com/group/openqrm-ja
openqrm-ja@googlegroups.com
開発元：http://www.openqrm-enterprise.com/
OSSホーム：http://www.openqrm.com
プロジェクト：https://sourceforge.net/projects/openqrm/
⽇日本語資料
l  製品紹介プレゼンテーション
l  クイックスタートガイド
l  プラグインガイド
http://www.ossl.co.jp
140622

OSSラボ株式会社　概要
l  英語社名：OSS Laboratories Inc.
l  資　本　⾦金金：２５００千円
l  代表取締役：船井　覚
l  顧問：松⽥田　俊介（元　松下電器産業株式会社　技
監）
l  主要取引先
伊藤忠テクノソリューションズ株式会社、ＴＩＳ株式会社、ネット
ワンシステムズ株式会社、株式会社セキュアスカイ・テクノロジー、
S&Jコンサルティング株式会社、株式会社トライコーダ、ヒューベ
ルサービス株式会社、等
140622
OSSラボ
コミュニティ
サービス
設計／構築
運⽤用／保守
ライセンス
ソースコード
保証
教育
2次サポート
OSSラボ　サービス
調査、検証、提案作成、コミュニティ代⾏行行
コンサルテーション、教育、設計、開発、保守
33

AWS/Openstack integration with openQRM

Recomendados

Recomendados

Más contenido relacionado

La actualidad más candente

La actualidad más candente (20)

Similar a AWS/Openstack integration with openQRM

Similar a AWS/Openstack integration with openQRM (20)

Más de OSSラボ株式会社

Más de OSSラボ株式会社 (20)

Último

Último (7)

AWS/Openstack integration with openQRM