让超算再升级的存储系统,华为凭什么?
让超算再升级的存储系统,华为凭什么?
张帅_
· 刚刚
不同于上世纪计算机的向下平民化,这次 HPC 向上拥抱更为复杂的业务负载。
世界上第一台计算机叫什么?很多人可以不假思索地回答——“埃尼阿克” (ENIAC)。
那么,“埃尼阿克” 最初被用来干什么呢?少有人知道,1946年,“埃尼阿克” 是为了解决弹道计算问题而生,宾夕法尼亚大学花费40万美元巨资才研制出“埃尼阿克” ,当时的计算机是一种战略物资。
在很长一段时间后,个人PC的普及才让计算机逐渐进入大众视野,IBM和Apple都是第一代家用电脑厂商,而计算机作为战略物资的属性以另一种名字保留了下来,也就是 HPC (High Performance Computing,高性能计算)。
HPC成为计算机科学的一个分支,使用超级计算机和并行处理技术解决复杂计算问题,主要瞄准大规模科学问题的计算和海量数据的处理,如科学研究、气象预报、计算模拟、CFD/CAE、生物制药、基因测序、图像处理等等。每年的全球HPC Top 500高性能计算机排行榜都备受瞩目。
近年来,大数据和AI等新兴应用催生 HPC 发生另一种变化,不同于上世纪计算机的向下平民化, HPC 向上拥抱更为复杂的业务负载,使得传统HPC开始向 HPDA (High Performance Data Analytics)方向演进。
华为常务董事、ICT产品与解决方案总裁汪涛
在2021年华为全联接大会上,华为常务董事、ICT产品与解决方案总裁汪涛介绍了数字基础设施七大创新与客户实践,其中业界首个面向HPDA的分布式存储OceanStor Pacific引起热议,何谓高性能数据分析HPDA,HPDA又需要什么样的分布式存储?不妨一观。
HPDA:从数据中攫取价值
我们手中智能手机的算力,远超NASA在1969年登月计划中最先进计算机的算力,但相较于手机,HPC所要解决业务的复杂水平,也呈现指数级发展,一大变化就是数据的爆炸式增长,使得原有HPC架构的存储不堪其重。
传统HPC主要从仿真物理模型中计算价值,需求是无与伦比的大算力,而HPDA泛指利用HPC资源的数据密集型负载,典型特点是数据量大、时效性强以及算法复杂,从数据本身提取价值,两者业务逻辑不同,导致存储需求不同。
例如地震勘探从二维向三维的演进中,数据量增加了5-10倍;电影渲染从2K升级到8K的革命中,数据量增长16倍;卫星测绘领域,探测精准度由20米缩小到2米,数据量同比增长70倍。海量的数据,需要高性能的存储,这是HPC向HPDA演进要解决的根本性问题。
传统HPC的存储主要用来文件共享、Scratch和归档,AI业务负载则涉及到数据收集、输入、清洗、训练、推理和归档一系列复杂操作,原有存储系统并不是为这种存储工作流程而设计的,自然也就无法很好满足新存储的需求。
在关键性能要求上,传统HPC负载通常基于顺序大I/O型,AI业务负载需要顺序大和随机小I/O型的混合,用于AI训练的数据存取需要快速的随机小I/O型。
应用场景的变化催生了各种耐用性和弹性解决方案需求。例如归档需要极具高性价比的解决方案,没有苛刻的性能要求;传统的临时应用需要将临时结果转移到持久存储,需要高性能以防止出现故障;HPDA 解决方案需要混合存储需求同时满足高性能、瞬态存储和持久弹性存储的不同要求。
此外,当存储系统变得复杂化,内部多种协议发展为另一种壁垒,不同数据采用不同的访问方式,每种访问方式都需要独特的协议支持,横亘在业务负载中消耗通信时间和计算资源。
据IDC统计,全球67%的高性能计算中心(HPC)已经在使用AI、大数据相关技术,HPC与AI、大数据加速融合,如何从海量数据中更高效、更经济地释放更大的数据价值,成为迫切诉求,存储系统的改变至关重要。
找寻HPDA存储新的平衡点
HPDA推动了存储架构的改变,从而匹配新业务负载的同步、空间分布式计算和存储需求,矛盾聚焦于不同 I/O 模型、支持多协议访问、各种数据访问频率、高密度高效设计等方面,归根究底是找寻存储性能、成本和效率新的平衡点。
OceanStor Pacific存储新品于2021华为全联接发布
华为发布了Huawei OceanStor Pacific 9950、Huawei OceanStor Pacific 9550两款新品,华为OceanStor Pacific系列高性能分布式存储,就是为打破HPC产业三重壁垒量身打造的HPDA存储系统。
第一重壁垒是高性能,HPC在不同流程阶段面临带宽型、OPS型业务负载需求,HPDA场景下这一情况会更加常态化,传统存储仅支持单一负载模型,形成了性能孤岛,使得流程间的数据需要在不同存储间迁移,降低了整体流程效率。
华为技术专家夏飞博士介绍,华为OceanStor Pacific系列存储搭载新一代分布式文件系统,一套存储即可实现2倍大文件高带宽,5倍小文件高IOPS性能,大大提高性能水平,同时该文件系统也能支持多种业务负载,既能兼顾客户原有的常规业务,也能很好适配企业对大数据和AI等新业务的探索,实现面向混合负载的全场景加速。
第二重壁垒是多协议无损互通,在以自动驾驶为代表的HPDA场景中,不同的流程阶段可能用到文件、大数据、对象多种服务,如何实现流程的高效数据访问成为用户面临的一大挑战。
华为OceanStor Pacific系列存储能够匹配多样化算力需求,一套系统支持多种协议,实现数据互通,减少中间环节,并且资源统一管理和运维,支撑业务敏捷响应。
第三重壁垒是大容量,随着HPDA的快速发展,海量数据的价值被进一步挖掘,用户愿意更长更久地保留数据,这对机房空间、功耗、存储成本都提出了新的挑战。
基于这种挑战,华为OceanStor Pacific全新推出了系列化超高密硬件,支持不同硬件间的数据自动分级,单位空间容量提升20%,全面降低HPC场景的存储成本。华为OceanStor Pacific系列高密大容量产品在5U空间里支持120个 3.5寸硬盘,通过高密实现60%以上的机柜空间节省,让海量数据不再成为负担。
越是基础的,越是核心的
中石油东方物探正行进在通过HPDA挖掘数据价值的路上。
自19世纪40年代至今,人类为探寻石油和天然气能源用上了最先进的理论和技术,其中高性能计算必不可少,在油气地震勘探数据采集、处理、解释的三大环节中,都需要大量的高性能计算、海量数据分析等平台,不同架构和规模的数据存储在不同系统部署,数据需要在和平台之间频繁传输拷贝,产生了额外的花销和不必要的时间损耗。
中石油东方物探有限责任公司教授级高级工程师、数据中心原总工程师赖能和在会上讲到,以中东某探区为例,3259平方公里三维地震勘探,190万个激发、采集数据量1049TB。东方物探用了近12个月时间顺利完成数据处理任务。据了解,这也是目前为止已完成的单体数据量最大的油气地震勘探数据处理项目。
OceanStor Pacific存储助力油气勘探
要支持如此之大的数据处理,东方物探选择了规模化集中部署华为OceanStor Pacific存储系统,其天然适合HPDA的设计在勘探场景下最大化程度得到发挥,不仅解决油气地震勘探不断增长的海量数据对存储容量的巨大需求的挑战,而且还可以保证存储性能和容量的线性增长,同时简化IT基础设施的复杂度,又可减少IT日常运维的工作量。
“华为OceanStor Pacific存储支持系统间远程直接访问、混合负载和多协议互通等功能,可大大减少数据拷贝时间和拷贝次数;同时满足大文件高并发、高带宽、小文件高IOPS的性能平衡要求;可实现一套存储同时供高性能计算、人机交互、资料解释、数值模拟、人工智能等多个不同技术应用平台共享。存储资源利用率提高30%以上;生产效率提升15%以上。”赖能和补充道。
越是基础的,越是核心的,不论是HPDA所要解决的问题,还是存储技术的突破,都再次证明了这一论断。
不止于油气勘探,从基因测序到自动驾驶研发,从天气预报到生物制药等等,这些场景要么是全新诞生的复杂业务,要么是旧技术难以解决的老大难问题,他们存在一个共性——关乎国计民生,解决问题之道在于底层基础技术的突破。
华为OceanStor Pacific存储支持着最顶尖的科研项目,同时这些科研项目的成果又让最广泛的人群受益,天气预报的及时预警,新药的快速开发,自动驾驶车辆的算法升级,存储的升级换代成为数字基础设施革命的必要因素,其带来的结果变化一点点传导到普罗大众的感知。
33篇资讯
39关注
张帅_ 认证作者
钛媒体 | 关注企业级To B行业与技术,添加微信(mr3right)请备注公司姓名来意。
最近资讯
- 让超算再升级的存储系统,华为凭什么?
- 华为下矿不挖煤,鸿蒙搭台不唱戏
- 网易数帆:不想做企业级应用的低代码平台没有未来
本文观点仅代表作者本人,钛媒体平台仅对用户提供信息及决策参考,本文不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里。
敬原创,有钛度,得赞赏
-
大山之子 赞赏了
2021中国餐饮营销力白皮书:企业营销的六大变化、...
约6小时以前 -
钛粉66527 赞赏了
透视防弹少年团的成功秘籍,国内偶像团体能学到什么?
约5天以前 -
钛粉45063 赞赏了
无声的陪伴,也是一门大生意
约6天以前 -
大山之子 赞赏了
求变的名创优品,还能怎么变?
2021-09-17 11:28 -
钛粉40333 赞赏了
“声音经济”不赚钱?喜马拉雅2.6亿月活换回20亿...
2021-09-15 19:55 -
钛粉69801 赞赏了
为了不让你被骗,公安部的国家反诈中心App操碎了心
2021-09-12 13:43 -
蒙MYH 赞赏了
比亚迪不是中国特斯拉
2021-09-09 14:23 -
钛粉28351 赞赏了
迎接中国的“波普”时代
2021-09-06 16:58 -
钛粉54471 赞赏了
靠PDF Reader成名之后,这家工具垂类公司如...
2021-09-04 17:06 -
钛粉12200 赞赏了
交易所“三胎”面世,北交所带来哪些重大机遇?
2021-09-03 18:25 -
钛粉14013 赞赏了
交易所“三胎”面世,北交所带来哪些重大机遇?
2021-09-03 16:24 -
钛粉02992 赞赏了
什么才是真正安全的“辅助自动驾驶”?
2021-08-23 11:26 -
宗旭 赞赏了
与华为分手、且长期亏损,AI芯片撑不起寒武纪千亿市...
2021-08-20 11:55 -
subey 赞赏了
抑郁症患者:深渊之中的自救
2021-08-13 23:55 -
hriyWn 赞赏了
5G时代系列谈:(四)应用之囿
2021-08-09 21:01 -
subey 赞赏了
互联网精神,不止崩于酒局
2021-08-09 08:42 -
钛粉49477 赞赏了
“中国需要什么样的资本”——一位投资人的反思
2021-08-06 09:50 -
hB9jMz 赞赏了
一个SaaS和物联网的新物种实践(下)
2021-08-03 10:51 -
钛粉54886 赞赏了
转型内容平台,迷你创想如何激励用户内容创作?
2021-08-01 12:50 -
钛粉07496 赞赏了
艺术家尹朝阳:NFT是一种新的交流方式,它可能代表...
2021-07-30 21:35 -
钛粉47967 赞赏了
安防厂商竞争加剧:华为份额不断提升,海康威视地位将...
2021-07-25 18:58 -
钛粉11165 赞赏了
教育「双减」政策正解,都在教育部「答记者问」里了
2021-07-25 12:43 -
钛粉26647 赞赏了
拿什么来拯救低迷的暑期档?
2021-07-22 20:43 -
钛粉55081 赞赏了
柴米油盐之上的柯文思 | 钛度专访
2021-07-22 17:09 -
钛a61422 赞赏了
云计算的牌局上,出局的巨头们不愿退场
2021-07-18 19:32 -
钛粉82019 赞赏了
致命的宠物托运
2021-07-16 10:56 -
钛粉30083 赞赏了
夫妻店,做汽车配件批发,能不能上云?
2021-07-13 09:58 -
钛粉13874 赞赏了
“深喉”发声,复盘社区团购死亡之路
2021-07-09 16:50 -
钛粉91954 赞赏了
“深喉”发声,复盘社区团购死亡之路
2021-07-09 16:46 -
hYrSeb 赞赏了
谁说电脑已死?
2021-07-01 18:18 -
subey 赞赏了
90后女程序员:身在大厂,心系创业
2021-06-11 13:24 -
钛粉27544 赞赏了
鸿蒙成败,在于生态
2021-06-08 17:41 -
钛粉22420 赞赏了
涿州楼盘停工下,被“不交房”拖住的生活 | 钛媒体...
2021-05-11 21:08 -
钛粉71674 赞赏了
台积电南京扩产惹争议:28纳米芯片制造“黄金线”之...
2021-05-11 16:16 -
钛粉25859 赞赏了
360被曝入局造车,周鸿祎看重了智能汽车哪块蛋糕?
2021-04-28 13:32 -
钛粉15018 赞赏了
新消费品牌如何“爆款中国”?
2021-04-26 12:08 -
钛粉46336 赞赏了
万字深扒“极端女拳”组织,谁在互联网上“引战”?
2021-04-26 01:00 -
钛粉65387 赞赏了
马云投资和自产的媒体,究竟在阿里生态中扮演着何种角...
2021-04-23 20:57 -
钛粉46198 赞赏了
万字深扒“极端女拳”组织,谁在互联网上“引战”?
2021-04-22 17:36 -
钛粉46653 赞赏了
万字深扒“极端女拳”组织,谁在互联网上“引战”?
2021-04-22 09:16 -
乔邦主 赞赏了
“异常流量”是互联网广告行业顽疾?秒针认为智能技术...
2021-04-16 21:10 -
钛粉54090 赞赏了
涨价拯救腾讯视频?
2021-04-11 20:53 -
钛粉38514 赞赏了
k12公司学霸君被传“倒闭”,创始人回应:在继续努...
2021-04-03 15:51 -
钛粉80481 赞赏了
女仆桌游馆:兼职半年,她陪伴过300多个孤独的人 ...
2021-04-03 07:49 -
钛粉38730 赞赏了
教育创业还有什么机会?
2021-03-29 14:21 -
钛粉38440 赞赏了
“超级App工厂”:教育赛道探索,进度如何?
2021-03-29 14:19 -
钛粉38714 赞赏了
k12公司学霸君被传“倒闭”,创始人回应:在继续努...
2021-03-29 14:17 -
hSmXxU 赞赏了
如果格局决定了人生,那到底什么决定了格局?
2021-03-26 12:02 -
钛粉03456 赞赏了
荣耀何时可以铸就属于自己的荣耀?
2021-03-26 10:25 -
钛粉92228 赞赏了
房产行业巨变后走向何方?居理买房网认为“深度导购”...
2021-03-18 16:58 - 查看精彩文章,打开钛媒体客户端
挺钛度,加点码!
- ¥ 5
- ¥ 10
- ¥ 20
- ¥ 50
- ¥ 100
支付方式
支付
支付金额:¥6
赞赏金额:¥ 6
赞赏时间:2020.02.11 17:32
账户【未登录】提示!
个人中心将无法记录并同步您的赞赏记录,
是否进行登录
分享文章
Oh! no
您是否确认要删除该条评论吗?
猜你感兴趣
分享文章