解决方案

安擎存储系统设计方案
2017-11-17
 结构设计

存储系统采用主备2个元数据服务器和19个存储节点构成,使用3U×6、2U×13标准上架机器,安装在3个标准42U机柜内。整个系统的结构如下图所示:
 

1. 图1-1  EG-MS-G10存储系统结构
双管理节点即主元数据服务器节点和备份元数据服务器节点,支持主备双机热切换。元数据管理节点负责管理EG-MS-G10云存储系统的卷,存储各文件的元数据信息,调度各数据存储服务器。
每个3U的存储节点包含16块2T硬盘,每个2U的存储节点包含8块2T的硬盘,总容量共计6×32 + 13×16=400T。
 可靠性设计
在EG-MS-G10云存储系统中采用了下面两种可靠性保障机制,保证数据的安全可靠。
1)冗余备份
在该项目中EG-MS-G10采取的容错机制是通过1:1的冗余备份的方式实现云存储系统的可靠保证。备份因子可以根据服务的可靠性需求做动态的调整。服务启动后,自动为每个数据块做了一个备份副本。系统自动将源文件与副本存在不同的存储节点,实现了冗余备份。对于每一个Storage,必须将所有的副本全部写入成功,才视为成功写入。在其后的过程中,如果相关的副本出现丢失或不可恢复等状况,Master Server会自动将副本复制到其他Storage Server上,从而满足高度可靠的需求。
2)分级动态存储方式
EG-MS-G10存储系统,采用了分级技术,把存储信息根据信息的重要性、访问频率等对信息进行了分级存储,将文件的元数据等访问频繁的重要信息时刻保持在线存储,开机后保存在内存中,可以随时读取和修改,以满足前端应用服务器或数据库对数据访问的速度要求。将其它备份数据、冗余容错的数据等访问量小的数据等采用廉价的SATA硬盘存储。对于访问量小的数据采用离线存储,一旦需要访问这些数据可以使用相应的唤醒策略来实现将离线转为在线。 

网络部署方案(略)

按照总容量400T可用的用户要求,使用其他节点的2U-Storage Server填充机柜,最终设计状态如下图所示: 
 客户端方案
客户端通过FTP服务器对外提供服务,其中FTP采用LVS负载均衡技术实现负载均衡。
LVS不仅能实现负载均衡,而且能使每个服务节点的故障不会影响整个系统的正常使用。LVS结合多台FTP服务器可以充分利用所有的资源,使应用具有超高负荷的服务能力,可支持上百万个并发连接请求,它提供给客户一个统一的接口,方便用户使用。 LVS部署在EG-MS-G10云存储系统上,具体的框图如下所示:
 
图1-3 LVS服务部署示意图

客户受益

通过对客户需求的深入分析和反复研究,结合长时间在云存储上研究积累的经验,以其优异的设计方案和产品特性,在短时间内成功部署了海量数据存储数据中心,很好的满足的客户的需求,具体体现在:
1) 短时间内实现了在3个42U机柜内400T存储空间部署,并且可以根据使用情况方便的扩展容量。
2) 通过网络管理可以监控和管理整个存储网络,包括每个节点的状态、网络可用性、系统性能等。使得客户管理和维护方便。
3) 5000人并发使用EG-MS-G10存储系统情况下,客户仍能保持快速的访问数据中心。
4) 系统稳定可靠运行,未出现任何异常情况。
5) 以数据中心为依托,建立客户关注的价值资源池。