杉岩对象存储实现NAS文件的平滑迁移
随着技术的进步和时代的发展,企业级数据中心的数据量呈现出了爆发式的增长。数据的快速产生和各项配套政策的落实推动我国大数据行业高速发展,预计未来我国行业大数据市场规模增速将维持在15%-25%之间,到2025年中国大数据产业规模将达19508亿元的高点。这意味着,中国和世界早已进入大数据时代。
在大数据时代,海量的数据给ICT行业带来了全新的挑战,如何存储、管理和利用这些数据,如何借助规划有效的降低TCO,如何缩短开发周期从而保证业务系统快速上线等问题,传统的SAN和NAS 架构已经不能有效的应对这些行业的难题。
企业建设之初,数据规模较小,企业往往采用NAS存储非结构化数据,不同部门员工每时每刻都在访问文件系统,当有大量文件同时上传下载,易造成网络阻塞,NAS系统的流畅性将受到影响。随着数据大集中、数据挖掘、 商业 智能、协同作业等技术的成熟,数据价值呈指数上升。各种规模的企业均为数据量的高速增长带来的管理和成本问题而困扰,同时NAS存储也面临着无法支撑大数据智能的业务需求。面对海量的非结构化数据,对象存储应运而生。
杉岩对象存储面向海量非结构化数据存储的应用场景,可提供安全、可靠和高性能的对象存储服务,杉岩对象存储系统采用扁平化的文件组织结构,有效解决了传统树形文件目录处理海量文件的难题,提供一套REST API接口供开发使用,无需关注底层原理,能够帮助客户完成业务系统的快速开发和上线。但是客户使用的存储种类繁多,运维管理不便,增加了运维的复杂度和运维成本;企业启动针对NAS老旧存储的整理优化已经势在必行,从而实现存储设备的资源整合。
在企业用户从使用传统的文件存储到使用对象存储的应用改造过程中,主要有以下几个步骤:业务系统代码改造 > 数据迁移 > 数据校验 > 业务系统停机升级 > 增量数据迁移与校验 > 正式上线。上述过程中,工作量最大的往往不是业务系统的代码改造,而在于数据的迁移与校验。在数据迁移的过程中,涉及到数据的传输,文件数量及内容的校验,每一项工作都会消耗大量的时间与人力,为业务的割接上线带来了许多阻力。
杉岩对象存储在满足海量非结构化数据存储需求的同时, 通过支持NAS异构功能彻底解决了上述难题。通过将原有NAS的元数据进行纳管,将NAS数据转换为对象形成统一命名空间,业务切换时无需进行大量的数据迁移,即可同时访问对象存储及NAS中原有的数据;另外,在该架构下,若需要将NAS中的数据迁移至对象存储,数据迁移操作可在后台异步进行,迁移动作对业务无感知。
图1 NAS异构功能示意图
快速纳管:3 个节点的对象存储集群,对 1000 万个文件进行纳管只需要 9分钟,并且无需考虑文件大小。相比之下,使用传统方式迁移 1000 万个 16KB 大小的文件,需要 12 个小时左右的时间,若文件增大,迁移时间将更长;另外,在节点数更多的情况下,纳管时间会更短。根据现有的客户实践,NAS 纳管技术能够将整个业务系统改造、上线的时间周期缩短50%以上。
自动迁移:利用生命周期转移功能自动迁移数据,无需人为干预,大大减少人力成本,迁移过程完全透明,用户无感知。
利旧存储:整合异构存储资源,空间最大化利用,提高资源利用率,避免存储资源浪费,从而降低采购成本,提高 投资 回报率。
简化管理:纳管完成后,使用对象存储接口访问时,新写的对象直接存放在对象存储中,应用可以统一使用S3接口,同时访问对象存储及NAS中原有存储的数,从而降低数据管理的复杂度。
杉岩对象存储NAS异构技术,其核心是纳管NAS设备的元数据,形成统一的对象命名空间,无需立即触发数据内容搬迁,应用统一使用S3接口即可访问NAS和MOS的数据,通过生命周期转移策略,可以后期平滑迁移NAS文件到SandStone MOS,数据内容搬迁过程中无需停机,业务切割时间窗极短,实现业务系统的快速切换与上线。