青云QingCloud推出大数据平台云服务
[导读] 青云QingCloud12月22日,基于Hadoop的大数据集群服务现已正式推出。 该服务包括三大核心组件,即HDFS分布式文件系统、YARN任务调度
青云QingCloud12月22日,基于Hadoop的大数据集群服务现已正式推出。
该服务包括三大核心组件,即HDFS分布式文件系统、YARN任务调度和集群资源管理系统,以及MapReduce并行计算系统。通过QingCloud Hadoop集群服务,用户能够在2-3分钟内创建一个Hadoop集群,并且可以进行横向和纵向的在线伸缩,极大地降低了Hadoop平台的技术门槛。
该服务包括三大核心组件,即HDFS分布式文件系统、YARN任务调度和集群资源管理系统,以及MapReduce并行计算系统。通过QingCloud Hadoop集群服务,用户能够在2-3分钟内创建一个Hadoop集群,并且可以进行横向和纵向的在线伸缩,极大地降低了Hadoop平台的技术门槛。
众所周知,Hadoop是一个针对海量大数据进行存储和处理的分布式开源平台,它使用简洁的MapReduce编程模型分布式处理跨集群的大型数据集,集群规模可以扩展到几千甚至上万。QingCloud Hadoop集群服务采用Master/Slave架构,由三种节点类型构成,即主节点(YARN Resource Manager和HDFS Name Node)、从节点(YARN Node Manager和HDFS Data Node),以及客户端节点(Hadoop Client Node)。用户在客户端节点发起MapReduce任务,通过与HDFS和YARN集群中各节点的交互存取文件、执行MapReduce任务,最终获取结果。
青云QingCloud Hadoop集群架构图
2015年8月,青云QingCloud就已推出基于Spark的大数据集群服务,此次Hadoop集群服务的上线是对QingCloud大数据基础平台的有力补充。Hadoop和Spark各有千秋,Hadoop适用于更大规模的离线数据处理,且对系统故障具备天然的抵抗力;Spark更适合做快速的实时数据分析。因此,用户可以根据应用场景的不同,选择灵活的大数据解决方案。
具体而言,青云QingCloud Hadoop集群服务具有以下特性:
一键部署:用户只需要简单的几步操作就能够在2-3分钟内创建出一个Hadoop集群,帮助用户降低Hadoop的技术门槛和开发成本,快速地利用Hadoop展开数据分析工作。
简化运维:大数据平台尤其是Hadoop的运维非常繁琐,QingCloud为用户提供了便捷的运维工具和图形化操作,极大地简化了Hadoop集群的运维和管理工作。
在线伸缩:Hadoop集群服务支持横向和纵向在线伸缩,以满足用户对计算能力和容量的需求。用户可以选择新增或者删除节点进行横向伸缩,也可以根据节点的监测数据随时调整各个节点的配置。
监控告警:QingCloud针对HDFS、YARN和MapReduce提供了丰富的监控信息,还为每个节点资源提供了监控告警服务,包括CPU使用率、内存使用率、硬盘使用率等,以帮助用户更好地管理和维护Hadoop集群。
安全性:Hadoop集群运行于100%二层隔离的私有网络内,结合QingCloud提供的高性能硬盘,在保障高性能的同时兼顾用户的数据安全。