智能手机华为OceanStor MVX存储系统技术漫谈一

发布时间:2015-07-28 阅读量:834 来源: 我爱方案网 作者:

【导读】华为OceanStor MVX存储系统,大数据的解决之道。我爱方案网推荐智能手机华为OceanStor MVX存储系统技术方案,希望对大家有所帮助。

大数据时代,用户处理的数据量越来越大,需要的容量越来越大;保存的数据越来越多样越来越复杂,包括不同的来源,不同的格式,包括结构化和非结构化数据等;需要的访问速度越来越高,访问延迟越来越低;对数据价值的挖掘能力要求越来越高。

根据Gartner的分析,满足大数据的IT架构,至少应具备下面几个特征

1) 横向扩展: 可以线性横向扩展而没有性能影响

2) 低成本组件:通过使用消费级硬件,降低采购成本

3) 高可用:硬件故障作为常态而非特例来解决

4) 不共享架构:节点之间相互独立

我们以此为基础,逐步揭开MVX的面纱。

Scale-up or Scale-out


传统的NAS设备一般使用双控制器节点提供服务,每个节点支持特定的业务负载,当容量不够时通过扩展磁盘框的方式增加存储容量。这种方式的缺陷在于,首先业务和节点的绑定,意味着一个业务及其关联的文件系统只在一个节点上工作,容易造成系统整体的负载不均。其次,这种系统本质上是Scale-up的扩容方式,追求单机性能,无法做到系统性能随容量的增加线性增加。Scale-Out方式则是横向扩展,叠加容量或性能节点,使容量性能得到扩展。

华为OceanStor MVX存储系统(以下简称MVX)采用Scale-out架构,节点之间完全对称,采用全Active的Share nothing方式,系统的数据和管理数据(元数据)分布在各个节点上,避免了系统资源争用,消除了系统瓶颈;即使出现整节点故障,系统能够自动识别故障节点,自动恢复故障节点涉及的数据和元数据,使故障对业务透明,完全不影响业务连续性。MVX支持3-288节点的弹性空间,100PB的全局统一命名空间,并且支持文件内的细粒度的全局锁,支持从多个节点并发访问相同文件的不同区域,实现高并发读,最终实现高性能的访问系统。MVX系统采用全互联组网机制,节点间采用10GE或者Infiniband高速互联,适配客户不同的组网需求,支持从集群任何一个节点并发访问系统中的任何文件。所以MVX通过节点的扩展来解决海量容量的增长,同时还能保持性能线性增长,以此满足业务发展需求。

智能手机华为OceanStor MVX存储系统技术漫谈一

MVX系统对数据和元数据分开管理,这样做带来的好处,MVX可以在存储容量不变的情况下,通过增加性能加速节点,进一步显著提高系统对IO的响应能力,最终向用户提供卓越的性能。

分布式Raid


传统Raid,把数据存放在一个节点内的不同硬盘上,当一个硬盘损坏时,通过Raid重构,恢复坏盘上的数据,但当整个节点故障时,整节点的数据就会出现丢失,针对这个问题,可以通过在节点间写多份来解决。节点间写多份可以解决传统RAID整节点故障时丢数据的问题,但磁盘利用率很低,导致高TCO。 MVX的数据通过分布式RAID,节点间冗余的方式进行保护,数据进入系统之后,被切分为N个数据片,然后计算出M个冗余分片,保存在N+M个不同节点的不同硬盘上。这种N+M的冗余模式可以对任意目录进行重新配置,甚至可以对同一目录下的不同文件配置不同的冗余比。这意味着用户可以灵活多变地根据自己的实际需求来指定数据冗余,从而设置不同的可靠性。

集群节点中,任意不超过M个硬盘故障后,MVX可以通过节点间数据重构的方式快速恢复出所损失的数据,进而恢复整系统的数据可靠性。集群中任意节点故障后,该节点所提供的服务会被自动迁移到其他节点上,使得故障对业务无感知。通过把数据分片写到不同的节点上,不仅可以提高读写性能,又能保证数据的高可靠性,还能保持高的磁盘利用率,节约投资。

分级存储和桌面盘


MVX产品对用户提供统一命名空间,组成统一命名空间的设备可以由不同系列的硬件组成,当高性能设备和大容量设备同时存在时,系统会自动识别并形成分级存储。

大容量节点可以使用桌面级硬盘。桌面级硬盘成本比较低,但是这种硬盘相对企业级硬盘来说,对业务的占空比要求比较苛刻,另外能持续在线工作的时间也比较短。MVX系统由于实现了自动在线分级,并且支持对硬盘下电,可以极大缩短硬盘在线工作的时间,在绿色节能的同时延长硬盘使用寿命。MVX通过支持桌面级硬盘在离线存储中的应用,大幅降低企业的采购成本。

多位一体


MVX在支持横向扩展,高可用,share-nothing的基础上, 进一步开创性提出了三位一体、按需分布的理念,即在一个系统内支持对数据的分布式存储、分布式备份以及分布式数据分析的一体化全生命周期管理,而且在数据统一调度模块的调度下,实现了数据在多域间有效流动。MVX可以对包括NFS、CIFS、POSIX在内的NAS接口,包括JDBC、ODBC在内的数据库接口,包括REST、SOAP在内的对象存储接口和VTL、OST等数据备份归档接口等多种接口和多种数据类型进行支持。

作为贴合大数据需求的产品,MVX在高性能分布式架构基础之上,以三位一体,按需分布的理念为指导,分布式存储、分布式数据库、分布式备份等功能可以作为功能插件插入到系统中来,从而实现多样化数据存储、数据快速检索、数据归档节能等不同领域的需求。而当用户需要这些特性时,需要做的只是增加更多的MVX节点或者在MVX的基础上增加更多的功能特性模块。

虽然融合了多个功能,MVX的管理却不复杂。管理系统支持域名访问,用户可以远程使用标准的网络浏览器,在一个界面上通过鼠标点击即可完成包括设备管理、空间管理、用户管理在内的各种管理操作,或者收集系统性能、容量、告警等统计信息。MVX提供了强大的管理功能,却不要求单独部署管理服务器,这意味着管理服务集成在系统内部而且可以被系统内部的故障切换模块管理,即使发生任意局部故障,用户也不用担心管理系统瘫痪。

华为OceanStor MVX存储系统横向Scale-out扩展,同时性能线性增长,轻易满足用户大容量、高并发、低时延、以及弹性扩展的要求;而其自动智能的分级存储使用户在性能和容量之间更容易找到一个平衡点。在提供弹性空间,卓越性能的同时,在一个架构里面智慧融合结构化数据和非结构化数据存储,分析,备份容灾,消除数据孤岛,数据全生命周期管理,支撑各种业务需求;还能实现软件硬件网络简单集中管理。

相关文章

浅淡美国NSS实验室测评华为USG9500系列数据中心产品

一款华为iODN解决方案实现FTTx ODN高效、轻松管理

逼疯华为荣耀7?魅族MX5拆解:做工出色且一体化程度高
相关资讯
超11万人次观展,5723名海外买家到场!IOTE 2025深圳物联网展圆满落幕​

​在AIoT技术加速赋能全球数字化转型、中国持续引领物联网产业创新的大背景下,IOTE 2025第24届国际物联网展·深圳站于8月29日在深圳会展中心(宝安新馆)圆满落幕。本届展会以“生态智能·物联全球”为主题,联合AGIC人工智能展与ISVE智慧商显展,汇聚1001家产业链企业,覆盖8万平方米展区,三日内吸引观众超11万人次,其中海外专业买家达5723人,来自30多个国家和地区,充分彰显了展会的国际影响力与行业凝聚力。

IOTE 2025物联网展开启AIoT生态新纪元:千家展商齐聚,首日超5万观众!

​8月27日,IOTE 2025·第24届国际物联网展于深圳国际会展中心(宝安新馆)隆重开幕。本届展会以“生态智能·物联全球”为主题,联合AGIC人工智能展与ISVE智慧商显展,在8万平方米的展区内汇聚超1000家全球展商,涵盖人形机器人、边缘计算、高精度定位、无源物联网、电子纸等前沿领域。开展首日即吸引超5万名专业观众到场,展现出AIoT融合背景下物联网产业的蓬勃活力与无限潜力!

第106届中国电子展11月在沪开幕,聚焦“创新强基”助推产业协同生态

在创新驱动与供给侧改革的持续深化下,2024年中国电子元器件行业迎来强劲复苏与高质量发展,整体销售收入突破2.2万亿元人民币,进出口贸易额稳步增长,展现出显著的发展韧性。行业在移动终端、汽车电子、新能源等关键下游市场的驱动下,不仅产业配套能力实现跃升,一批骨干企业的全球竞争力也持续增强。在此蓬勃发展的产业背景中,第106届中国电子展将于2025年11月5-7日在上海新国际博览中心举行,以“创新强基 智造升级”为主题,搭建全产业链协同创新的重要平台。

寒武纪登顶A股“股王”!单日暴涨15.73%,市值破6600亿,公司紧急提示:股价已严重脱离基本面

寒武纪发布《股票交易风险提示公告》明确指出:当前股价已严重脱离基本面,存在较大投资风险,提醒投资者理性决策,谨慎参与交易。

扫码PDA手持终端助力快递驿站:智能升级,高效处理每日千件包裹

在现代物流体系中,快递驿站作为“最后一公里”的关键节点,其运营效率直接影响用户体验。面对日益增长的包裹处理压力,传统人工登记模式已难以满足高效、精准的操作要求。而搭载智能扫码技术的PDA手持终端,正成为快递驿站实现数字化管理、提升出入库效率的核心工具。