科技
业界 互联网 行业 通信 科学 创业

全自研!青云存储QingStor U10000“点数成金”

来源:财讯网 2022-10-09 16:25:43
A+ A-

新的时代——数字经济时代!

新的负载——全球自动驾驶汽车已累计出货3600多万辆,一辆无人驾驶汽车每天可产生约4TB的数据量;全球物联网终端设备的部署量达123亿,一家智慧工厂每天产生的数据量可达PB级;全球5G基站的数量已达237万个,一家云视频供应商每天产生的数据也达到了1PB……

那么,新的存储在哪里呢?海量且爆炸性增长的数据,以及以图片、音频、视频和日志类数据为代表的非结构化数据的处理,呼唤存储的快速创新与迭代。

专业存储服务专业场景

谈到存储未来的演进趋势,青云科技(qingcloud.com,股票代码:688316)存储产品总监冯相东归纳了三大驱动力,即场景化推动、算力的演进、数据的流动。近几年,随着5G、AI、IoT甚至元宇宙的概念兴起,新的应用场景、新的工作负载对存储提出了新的要求;客户对于算力无止境的追求,加速了存储从虚拟化到云计算乃至云原生的转变;数据只有流动起来才能更好地创造价值,支持数据的全生命周期,从采集、处理到后面的归档、再利用甚至销毁,都离不开存储。

如果说冯相东总结的是存储持续演进的内在驱动力,那么国家政策、市场推动则是强有力的外在驱动。从国家的“十四五”规划到2035年远景目标,从数字中国建设到产业数字化和数字产业化,满足数字化转型的需求成了存储创新的基石。另外,像“新基建”“东数西算”这些工程和项目的落地,存储都是其中最核心的技术支撑之一。存储正在迎来新的黄金发展时期。

存储是一个需要提前布局、长期积累、专业发展的行业,临时抱佛脚不行,投机取巧更行不通。作为存储阵营中一支特殊的力量,云服务商们又是如何破解存储专业发展这一难题的呢?“专业存储服务专业场景。”青云科技的回答简洁而有力。青云科技QingStor存储产品线的发展始终坚持技术与场景需求的同步,这才有了目前面向结构化数据的存储QingStor NeonSAN与面向非结构化数据的存储QingStor U10000的同步发展。归纳起来,QingStor NeonSAN主要针对的是云盘、数据库以及虚拟化存储资源池等应用场景,为实现I/O的极致性能而设计;而QingStor U10000主要针对各种影像数据、音视频数据,以及数据湖、大数据、物联网等应用场景,旨在帮助客户更好地挖掘海量数据的价值。

不可否认,支持块数据的SAN存储仍是企业级存储应用的主流,因为它们是数据库等关键应用不可或缺的底座。但是从越来越多新兴的应用来看,非结构化数据不仅量大,而且增长迅猛,更好地存储并挖掘其价值对于加速企业的数字化转型大有裨益。因此,各厂商都加大了对非结构化数据存储的投入和研究,产品形态、功能日益丰富。青云科技通过QingStor NeonSAN和QingStor U10000两个独立的产品,或者说两种独立的软件架构,分别支撑结构化数据和非结构化数据两大类场景,就是希望以专业的分工、专业的服务,更好地满足不同客户的需求,两类产品都做到极致。

“全自研”做对了

块存储的发展历史相对更长,也正因为如此,这一市场长期为国外厂商所主导。作为后来者,中国厂商一直处于跟跑地位。大数据概念的出现,让人们对非结构化数据有了更多更深入的了解,占数据总量80%~90%的非结构化的存储也成了现阶段存储创新的一片肥沃土壤。在这一相对较新的市场,中外厂商可以说是并驾齐驱,而中国天生的大数据环境,以及创新速度更快的应用场景,也为中国存储厂商在非结构化存储市场实现弯道超车提供了更多可能性和助力。另外从数据安全和合规性的角度考虑,只有掌握了存储的核心技术,才能将发展的主动权牢牢握在自己手中,更好地为企业的数字化转型保驾护航。

在存储方面,青云科技始终紧绷的一根弦就是“全自研”。QingStor NeonSAN与QingStor U10000都是青云科技自主设计的,没有继承任何开源的架构,更不存在任何知识产权的风险。“自主研发使得我们在技术上实现了百分百可控,不存在技术盲区。”冯相东表示,“我们的存储具备完整的处理任何复杂问题的能力,这是在踩过无数的‘坑’后沉淀下来的。如果是采用一些开源的方案,在经过十几年的发展后,像Ceph这样一个开源存储项目代码量累计已超过100万行,整体架构变得复杂且冗余,在面对更深层次的存储难题时就会捉襟见肘。”

青云科技为什么执着于走存储自研的道路?青云科技拥有一颗“技术之心”,以不断技术创新满足行业客户的业务需求。当初,青云科技在评估其云计算平台业务的时候,就做过非常严谨的技术评测。它并不是从一开始就在心理上排斥开源方案的,而是通过技术评测后发现,市面上当时确实没有一款开源存储方案能够满足通用大规模云计算平台对存储的全面需求。青云科技选择走存储自研这条路是经过深思熟虑的,经实践证明也是可行和必要的。

无论是从企业可持续发展的角度,还是从情怀的角度,青云科技作为中国领先的云计算公司,怀揣着中国科技服务数字中国的愿景,希望通过自身的努力,彻底消除企业对数据安全的顾虑,以真正自研的中国存储服务于数字中国建设。

当前信创大潮汹涌澎湃,也给了青云科技更多底气和动力。围绕着存储,青云科技进行了一系列国产化产品的适配,建立了包括从底层国产芯片、OS到上层PaaS、SaaS应用的信创生态。青云科技的存储产品与鲲鹏、飞腾、海光等主流的国产硬件平台,以及麒麟软件、统信、openEuler等国产操作系统实现了生产化的兼容。

存得稳、算得快、管得好

青云科技全面升级的QingStor U10000产品,从它的演进和创新上,也可以看出青云科技自研存储的信念与力量。

QingStor U10000继承了原来青云对象存储、文件存储的所有能力,同时在多个维度上实现了产品力的增强与迭代,致力于打造面向海量非结构化数据的统一存储平台,让数据存得稳、算得快、管得好。

冯相东介绍说,QingStor U10000的提升主要表现在:实现了数据协议的互通、功能和性能的增强,以及与算力平台对接的强化。

具体来看,作为面向海量非结构化数据的存储平台,QingStor U10000的基本立足点就是拥有支撑海量数据的存储能力,并且保证卓越的性能。整个存储集群能够做到线性扩展,其中元数据与数据存储服务都采用全分布式架构,从最小3节点起配,可横向扩展至大规模数据存储集群,所有节点规模增长的时候,可保证性能与容量的线性增长。特别值得一提的是,QingStor U10000在保证线性扩展和高性价比EC集群的基础上,还能为通用场景,包括海量小文件场景提供卓越的I/O性能,单桶单目录能支持百亿级小文件存储,并且能做到性能不衰减。这一特性能够非常好地满足AI场景的存储需求。比如在AI训练场景下,执行训练任务的文件基本上都是小文件,大小通常在几十KB到几MB之间。这些小文件的形态主要包括图片、音频和视频片段,虽然每个文件本身不大,但整个文件的量级非常大,一次训练的量级可达几亿甚至十几亿。QingStor U10000针对包括 AI训练这种典型场景在内的海量小文件场景,做了特别设计和优化,能够提供卓越的I/O吞吐能力。

多协议无损互通,让数据访问和流通更高效

QingStor U10000多协议无损互通的特性,实现了高效的数据访问与流通。比如,它采用统一的索引架构,并基于此提供了多种层次的能力,这样一来,无需通过格式转化就能让从对象接口存进来的数据通过NFS进行访问,或者NFS存进来的数据可以通过S3读取。由于存储和读取数据,中间不需要经过格式转化,也就不会有性能和语义的损失。另外,QingStor U10000还提供了多协议存储接口,包括POSIX、SMB、NFS、FTP、HDFS、S3、SDK等,完全能够满足常见应用的需要。冯相东介绍说,QingStor U10000的协议互通能力让数据分析更高效,这一点在自动驾驶、基因测序等新业务场景中表现得淋漓尽致。以自动驾驶场景为例,一辆路测车产生的数据要通过四个环节的处理,才能发挥其真正的作用。第一个环节,数据的上传和导入会用到S3和NFS协议;第二个环节数据预处理,基本以HDFS大数据分析框架为主;第三个环节AI训练则以NFS协议为主;第四个环节仿真测试主要以NFS和SMB协议为主。由此可见,一份数据在不同阶段,需要通过不同的数据访问协议对接不同的计算框架,只有协议互通才能让数据分析更加高效,而这正是QingStor U10000能够从容应对新负载的一大亮点。

“QingStor是更懂算力的存储平台。”冯相东如是说。QingStor U10000证明了这一点,因为它的一大优势就是与算力的无缝对接。QingStor U10000具备丰富的数据处理功能,能够提供一系列完善的API、SDK,轻松对接大数据平台、数据处理的框架与服务,实现数据和算力的高效结合。在实践中,无论是图片处理、音视频转码,还是AI大数据分析、HPC超算平台,QingStor U10000都有一整套完善的机制与之对接,点数成金。

对于存储而言,数据的安全是底线。QingStor U10000在这方面表现如何呢?第一,它采用了元数据和存储数据的分层设计,在数据层面提供了副本和多副本策略,并且有自校验机制和增量修复机制,确保了数据安全;第二,它采用多重访问安全机制,比如多租户访问隔离,基于用户、资源、访问行为或者访问IP的安全访问机制,以及存储产品本身所具有的版本管理、WORM、日志归档等高级存储特性,充分满足数据安全合规性要求;第三,它具有智能预警机制,可以对所有资源进行智能监控,在硬盘、网卡、存储节点等出现故障时提前预警;第四,它提供了强大的运维监控平台,实现了资源管理、配置管理、告警、日志、监控等一系列安全操作。

就像它的名字一样,在非结构化存储市场上,青云科技QingStor U10000可谓“万里挑一”,它不仅秉承创新的理念与架构,更具有满足企业级客户需求的强大功能与安全合规性,而且在面对自动驾驶、AI、HPC、物联网等新应用、新负载时,表现得游刃有余。青云存储以全自研的魄力和能力,引领了非结构化存储未来的发展。

责任编辑:kj005
文章投诉热线:156 0057 2229  投诉邮箱:29132 36@qq.com

相关新闻

精彩推荐