vForum 2010 BJ Share

1. 1 Confidential
基于虚拟化平台创建企业私有云
张瑞飞

2. 2 Confidential
Agenda
如何利用虚拟化技术在企业内部署和管理私有云
如何利用云提升应用的计算性能和业务弹性

3. 3 Confidential
公司介绍
Virtualization
Management
Independent 3rd party
provider of virtualization
management solutions
产品及解决方案
• 虚拟化备份及容灾 – vRanger Pro, vReplicator
• 系统迁移（P2V,V2V,V2P） – vConverter
• 资产规划及性能管理 – vFoglight
• 计费 – vFoglight
• 物理监控及存储优化 – vOptimizer Pro
• 自助服务及工作流自动化 – vControl, VESI
关于Vizioncore
• 2002 年成立
• 23,000 客户; 2,200 合作伙伴
• 全球450+ 员工
• 同Vmware源代码级合作
• 是Quest的全资子公司
#1
www.vizioncore.com

4. 4 Confidential
在2008年并入Quest
Vizioncore is the Server Virtualization Group of Quest Software
11/1/2010

5. 5 Confidential
Quest
企业级应用管理及
应用级灾备的领导
者
Vizioncore
虚拟化基础架构管
理的领导者
Shared
expertise
• 覆盖云计算的各层应用
• 自动化数据中心管理
Vizioncore & Quest: 完美的融合
11/1/2010

6. 6 Confidential
云计算的历史
1． 97年Google 搜索引擎-两位创始人在斯坦福大学研究项目
2. 99年Google 决定使用x86系统集群作为主系统，从而开始云计算技术先驱实践
3. 2006年，亚马逊向付费用户开放了自己的计算机网络 (S3,EC2)
4. 2006年11月10日，Google 101计划启动，目标将“云计算”用一年时间扩展到全美的多家大学，
之后在全球部署。个人认为，以此为标志，“云计算”正式诞生。
5. 2006年12月，IBM首席执行官彭明盛访问Google，启动Google-IBM的联合大学“云”原型计划
6. 2007年2月，IBM-Google联合小组通过视频向位于纽约阿蒙克的IBM总部人员首次展示项目原型
7. 2007年11月，雅虎将电脑集群开放给卡内基-梅隆大学的研究人员
8. 2007年11月，华盛顿大学、加利福尼亚大学伯克利分校、斯坦福大学、麻省理工学院、卡内基-梅
隆大学以及马里兰大学等6所高校“云”计划启动
9. 同年，Google 在一年内增加了4个新的数据中心，平均每个成本达6亿美元
10. 2008年，MICROSOFT,INTEL,HP,DELL,SAP,VMWARE,CISCO,SUN,EMC等巨头公司纷纷宣布其
云战略

7. 7 Confidential
云计算是下列分布式技术逐渐成熟的自然结果
• 大型分布式文件系统（Redhat GFS,IBM GPFS,SUN Lustre）-中心服务，不缓
存，容错，节点动态加入，故障检测
• 海量数据并行处理技术-网格分布式算法的延伸 （数据搜索，分析，挖掘）
• 分布式锁服务-独立于应用，解决分布一致性，高可扩展性，支持缓存机制
• 大型分布式数据库- 内存表，子表服务器负载均衡，压缩，内存数据库，键值数
据库

8. 8 Confidential
定义以Google 为代表的云计算为——狭义云

9. 9 Confidential
第一个误区：利用狭义云建立私有云
•Google 不是用云解决所有问题
•搜索引擎索引不是云，而是内存数据库
•Google 云是面向特定应用的
•面向 PageRank 的 Map/Reduce 模型
•稀疏矩阵的存储结构
•不适用于大规模OLTP
•Google的云产品是不公开的，公开的只是论文
•使用Google的云环境只有租用一种方式
•现在比较流行的实现是Hadoop开源

10. 10 Confidential
引入广义云定义
广义云其本质是大规模分布式计算。
广义云追求更开放，更高效，更具“弹性”的计算架构，具备如下主要特
征：
• 适用于私有云，公共云及混合云
• 兼容原有的数据库、中间件、应用系统及应用程序
• 利用分布式计算/分布式任务调度/并行技术来线性提升计算能力
• 利用大规模集群技术来实现自动化的业务数据冗余及业务连续性
• 充分利用基于虚拟化的管理技术来实现数据中心自动化
• 跨广域网的负载均衡实现
对视图建立私有云的企业而言，广义云较狭义云更容易实现

11. 11 Confidential
广义云与狭义云技术映射
1. 分布式数据库 ——更多考虑传统数据库集群及SQL与NOSQL配合
2. 分布式并行算法——利用中间件集群及应用的分布式调度，记住，
MAP-REDUCE不是万能
3. 分布式文件系统——利用虚拟化VMFS
4. 应用弹性——利用虚拟化平台动态扩充机制 （CPU,网络，主机集群，
存储空间，存储IO）
5. 业务连续性——利用虚拟化平台的业务连续性保障（HA）
6. 安全性——兼容原有安全策略
7. 动态资源分配——自助服务（创建虚拟机及存储）

12. 12 Confidential
深入理解VMware虚拟化云未来战略
收购Spring后，开始讨论在ESX SERVER 内置JVM
并购内存数据库及缓存数据库厂商
测试大规模的vSwitch网络及支持万兆网
大规模部署虚拟机后的MAP-REDUCE测试
与思科及EMC的解决方案融合-vBlock
Terracotta – NAM ,JVM集群，把java应用程序扩展到任意数量的电脑上
分布式数据库的深入发展- CAP理论的灵活应用（并行、内存、
BIGTABLE）
更大规模的虚拟化集群部署-云计算数据中心
安全，负载均衡，虚拟网络，IPV6，及所谓的云存储（虚拟存储）

13. 13 Confidential
例如：一个仿真的Amazon EC2

14. 14 Confidential
后台维护的工作流

15. 15 Confidential
现在应着手考虑的问题
私有云是正在发展中的技术，目前应主要考虑四个步骤：
• 利用虚拟化技术搭建云计算基础平台（IaaS）
• 建立广义云管理系统 （动态资源分配，跨广域网负载均衡，专家系统，自愈能
力）
• 搭建应用测试环境，尝试利用广义云的分布式技术来提高应用的计算能力和弹性
，解决性能瓶颈和突发故障
• 在建设广义云数据中心的同时，考虑未来的多应用一体化灾备及系统资源整合上
收，本质上讲，云即是计算中心同时又是灾备中心

16. 16 Confidential
现在应着手考虑的问题
私有云是正在发展中的技术，目前应主要考虑四个步骤：
• 利用虚拟化技术搭建云计算基础平台（IaaS）
• 建立广义云管理系统 （动态资源分配，跨广域网负载均衡，专家系统，自愈能
力）
• 搭建应用测试环境，尝试利用广义云的分布式技术来提高应用的计算能力和弹性
，解决性能瓶颈和突发故障
• 在建设广义云数据中心的同时，考虑未来的多应用一体化灾备及系统资源整合上
收，本质上讲，云即是计算中心同时又是灾备中心

17. 17 Confidential
广义云计算自动化管理平台设计

18. 18 Confidential
广义云自动化管理核心组件
Physical I/F
STORAGE SERVER NETWORK
Virtual I/F Directory Services
Patch Management
Enterprise Monitoring
Disaster Recovery Services
Change Management (CMDB)
IT Asset Management
Capacity Management
Help Desk
Service Catalog
Run Book Automation
Physical
Provisioning
& Automation
广义云自动化管理平台

19. 19 Confidential
广义云自动化管理核心组件
Physical I/F
STORAGE SERVER NETWORK
Virtual I/F Directory Services
Patch Management
Enterprise Monitoring
Disaster Recovery Services
Change Management (CMDB)
IT Asset Management
Capacity Management
Help Desk
Service Catalog
Run Book Automation
Physical
Provisioning
& Automation
自助服务
Reservation &
Scheduling System
Multi-Tenant
Self-Service Portal
Secure Remote
Access

20. 20 Confidential
广义云自动化管理核心组件
Physical I/F
STORAGE SERVER NETWORK
Virtual I/F Directory Services
Patch Management
Enterprise Monitoring
Disaster Recovery Services
Change Management (CMDB)
IT Asset Management
Capacity Management
Help Desk
Service Catalog
Run Book Automation
Physical
Provisioning
& Automation
自助服务
Reservation &
Scheduling System
Multi-Tenant
Self-Service Portal
Secure Remote
Access

21. 21 Confidential
监控总体云服务等级SLA
4

22. 22 Confidential
监控具体云服务等级SLA

23. 23 Confidential
服务性能瓶颈及关联关系分析
4

24. 24 Confidential
广义云自动化管理核心组件
Physical I/F
STORAGE SERVER NETWORK
Virtual I/F Directory Services
Patch Management
Enterprise Monitoring
Disaster Recovery Services
Change Management (CMDB)
IT Asset Management
Capacity Management
Help Desk
Service Catalog
Run Book Automation
SELF-SERVICE
Reservation &
Scheduling System
Multi-Tenant
Self-Service Portal
Secure Remote
Access
Physical
Provisioning
& Automation
Policy-Based
Resource Allocation
Dynamic Resource
Capacity Management
IT Service Automation
Infrastructure
Orchestration
Performance
Optimization & Mgmt.
Availability Services
AUTOMATION SERVICES

25. 25 Confidential
广义云基础设施（IaaS）监控
4

26. 26 Confidential
分布式存储监控
4

27. 27 Confidential
广义云动态资源监控
4

28. 28 Confidential
资源池监控调度
4

29. 29 Confidential
广义云资源计费 – 基于vCloud API
4

30. 30 Confidential
广义云自恢复系统– 基于虚拟化容灾及集群技术
4

31. 31 Confidential
广义云自动化管理核心组件
Physical I/F
STORAGE SERVER NETWORK
Virtual I/F Directory Services
Patch Management
Enterprise Monitoring
Disaster Recovery Services
Change Management (CMDB)
IT Asset Management
Capacity Management
Help Desk
Service Catalog
Run Book Automation
SELF-SERVICE
Reservation &
Scheduling System
Multi-Tenant
Self-Service Portal
Secure Remote
Access
Policy-Based
Resource Allocation
Dynamic Resource
Capacity Management
IT Service Automation
Infrastructure
Orchestration
Performance
Optimization & Mgmt.
Availability Services
AUTOMATION SERVICES
Physical
Provisioning
& Automation
INTEGRATION
App Mgmt. Tools
Web Services API
IT Management Tools

32. 32 Confidential
广义云自动化管理核心组件
Physical I/F
STORAGE SERVER NETWORK
Virtual I/F Directory Services
Patch Management
Enterprise Monitoring
Disaster Recovery Services
Change Management (CMDB)
IT Asset Management
Capacity Management
Help Desk
Service Catalog
Run Book Automation
REPORTING
Utilization Reporting
Chargeback System
INTEGRATION
App Mgmt. Tools
Web Services API
IT Management Tools
SELF-SERVICE
Reservation &
Scheduling System
Multi-Tenant
Self-Service Portal
Secure Remote
Access
Policy-Based
Resource Allocation
Dynamic Resource
Capacity Management
IT Service Automation
Infrastructure
Orchestration
Performance
Optimization & Mgmt.
Availability Services
AUTOMATION SERVICES
Physical
Provisioning
& Automation

33. 33 Confidential
广义云自动化管理核心组件
Physical I/F
STORAGE SERVER NETWORK
Virtual I/F Directory Services
Patch Management
Enterprise Monitoring
Disaster Recovery Services
Change Management (CMDB)
IT Asset Management
Capacity Management
Help Desk
Service Catalog
Run Book Automation
REPORTING
Utilization Reporting
Chargeback System
INTEGRATION
App Mgmt. Tools
Web Services API
IT Management Tools
SELF-SERVICE
Reservation &
Scheduling System
Multi-Tenant
Self-Service Portal
Secure Remote
Access
Policy-Based
Resource Allocation
Dynamic Resource
Capacity Management
IT Service Automation
Infrastructure
Orchestration
Performance
Optimization & Mgmt.
Availability Services
AUTOMATION SERVICES
Physical
Provisioning
& Automation
SERVICE DESIGN
Service Lifecycle
Mgmt.
Service Library Mgmt.
Service Definition

34. 34 Confidential
Critical Technology Components
Physical I/F
STORAGE SERVER NETWORK
Virtual I/F Directory Services
Patch Management
Enterprise Monitoring
Disaster Recovery Services
Change Management (CMDB)
IT Asset Management
Capacity Management
Help Desk
Service Catalog
Run Book Automation
REPORTING
Utilization Reporting
Chargeback System
INTEGRATION
App Mgmt. Tools
Web Services API
IT Management Tools
SERVICE DESIGN
Service Lifecycle
Mgmt.
Service Library Mgmt.
Service Definition
SELF-SERVICE
Reservation &
Scheduling System
Multi-Tenant
Self-Service Portal
Secure Remote
Access
Policy-Based
Resource Allocation
Dynamic Resource
Capacity Management
IT Service Automation
Infrastructure
Orchestration
Performance
Optimization & Mgmt.
Availability Services
AUTOMATION SERVICES
Physical
Provisioning
& Automation
OPERATIONS
Administration
Dashboard
Event Broadcasting

35. 35 Confidential
现在应着手考虑的问题
私有云是正在发展中的技术，目前应主要考虑四个步骤：
• 利用虚拟化技术搭建云计算基础平台（IaaS）
• 建立广义云管理系统 （动态资源分配，跨广域网负载均衡，专家系统，自愈能
力）
• 搭建应用测试环境，尝试利用广义云的分布式技术来提高应用的计算能力和弹
性，解决性能瓶颈和突发故障
• 在建设广义云数据中心的同时，考虑未来的多应用一体化灾备及系统资源整合上
收，本质上讲，云即是计算中心同时又是灾备中心

36. 36 Confidential
虚拟化云如何满足计算能力的要求？
1. 分布式——将数据库，存储单元，中间件，操作系统，文件，应用服务器
及应用程序会话分布在多台虚拟机上
2. 高性能——内存是新的存储，存储是新的带库
3. 宽接口——I/O虚拟化中Infiniband，万兆网，FCOE的引入
4. 全异步——借鉴eBay的经验，独立设计任务（Session)，MQ技术的导入
5. 细分区——新的数据库技术实现（键值查询，缓存查询及分区多副本查询
）
6. 多算法——支持但不限于MAP-REDUCE，不仅在开发工具上实现，在数
据查询及业务逻辑处理里面也考虑实现

37. 37 Confidential
建立私有云开发平台（PaaS）应纳入考虑的系统选型
Operating Systems Linux, Windows, Solaris, AIX, HP/UX, etc.
Web Servers Apache Web Server, Microsoft IIS, etc.
Application Platforms
and Frameworks
Sun JVM, Spring Framework, SpringSource tc Server / Apache Tomcat,
Oracle WebLogic, IBM WebSphere, JBoss, Microsoft .NET, LAMP, etc.
Databases Oracle, MySQL, Microsoft SQL Server, IBM DB2, PostgreSQL, etc.
Messaging Middleware IBM MQ Series, Apache ActiveMQ, Microsoft MQ, etc.
Directory Services Microsoft Active Directory, OpenLDAP, etc.
Virtualization VMware vSphere, etc.

38. 38 Confidential
JAVA应用的分布式实现基础设计
1.Lightweight (sorry Terracotta)
2.Reliable
3.Scalable
4.No single point of failure
5.Asynchronous (for speed and efficiency)
6.Easy to configure
7.Zero (or nearly so) maintenance

39. 39 Confidential
JAVA应用的分布式实现基础设计-JAVA对象动态加载

40. 40 Confidential
虚拟化资源池
OS OS OS
对象运行管理调度中心
应用分解，对象分布式运行

41. 41 Confidential
业务会话任务工具化成生

42. 42 Confidential
重新开发编译器，并在运行调度中心统一管理对象池
ESX/ESXi
VM VM VM VM VM
虚拟化资源池
云计算中心资源池监控
VM虚机资源使用
对象运行分配
对象运行资源占用使用
对象连接情况
运行管理调度中心
App 对象生成与管理
INTERFACE应用开
发平台

43. 43 Confidential
监控各级资源以实现跨广域网分布式计算

44. 44 Confidential
基于新编译器/解释器的调度总线

45. 45 Confidential
业务对象调用运行机制（解释器完成）
定义页面对象
定义页面逻辑
定义数据实体
定义数据逻辑
定义数据通道
JSP
JS
XML
工
具
生
成
业务对象定义/生成（开发工具完成）
读取调用对象信息
确定调用业务对象
内存中
存在？
加载
业务
对象
解释执行
执行情
况？
显示异常页面 显示正常页面
结束
部署本地或网络VM
业务对象（USER SESSION）生成与运行示意图
N
Y
异常 正常

46. 46 Confidential
针对不同应用类型选取不同数据库 –两个趋势
随着硬件技术的进步，更多人倾向于把复杂SQL逻辑在应用层实现，比如
利用MAP-REDUCE对列族进行拆解和排序等
数据库种类繁多，适用于不同的应用场景
• 内存数据库
• 缓存数据库
• 键值数据库
• 列存数据库
• 混合数据库
• 多维数据库
• 容错数据库
• 文档数据库
• 自定义数据库（BIGTABLE）

47. 47 Confidential
云计算应用的设计原则
关系库与非关系库配合——SQL/NOSQL/其他
多种分布式调度算法配合——应用算法，对象分布式，会话分布式，远程
对象访问及多线程设计，集群
MQ与管理总线配合——在本次产品实现中，尚未设计与MQ配合的部分，
因为目前的消息触发及管理多是由中央会话管理调度单元实现，未来配合
中间件/前置设备/应用服务器/数据库的分布式实现过程中，考虑纳入MQ
的队列进行管理，并配套进行新的管理总线的设计

48. 48 Confidential
广义云需要配合下列技术
• 虚拟网络服务
• 分布式应用调度中心
• 虚拟化
• 管理平台及专家系统
• 统一认证
• 工作流管理，节点管理MQ
对视图建立私有云的企业而言，广义云较狭义云更容易实现

49. 49 Confidential
建立私有云应避免的误区
广义云其本质是追求更开放，更高效，更具“弹性”的计算架构，具备如
下主要特征：
• 适用于私有云，公共云及混合云
• 兼容原有的数据库、中间件、应用系统及应用程序
• 利用分布式计算/分布式任务调度/并行技术来线性提升计算能力
• 利用大规模集群技术来实现自动化的业务数据冗余及业务连续性
• 跨广域网的负载均衡实现
• 统一的调度管理系统
对视图建立私有云的企业而言，广义云较狭义云更容易实现

50. 50 Confidential
Thank You
Question & Answer Session