收获时节,偶数科技发布实时湖仓Skylab 5.4版本

来源:实况网 2023-10-20 09:11:10
A+ A-

2023年的金秋十月,不仅有着举国欢庆双节的热闹,同时也是偶数及其行业客户收获产品迭代成果的时节。10月13日, 偶数科技发布了最新的实时湖仓数据Skylab 5.4版本。其中,云原生分布式数据库OushuDB、数据分析与应用Kepler、数据资产管理Orbit、数据工厂Wasp、数据开发与调度Flow、系统管理软件Lava,在本次的新版本升级中都进行了迭代更新。

接下来让我们一起了解下Skylab 5.4各组件的更新情况。

云原生分布式数据库OushuDB 5.3更新

OushuDB 5.3支持Native ORC格式在线增量备份恢复。相较于全量备份恢复,增量备份恢复减少了备份和恢复时间,提供更快的数据恢复速度。同时,相对于传统的离线备份(需要停止数据库服务),在线备份减少了停机时间。这对于需要高可用和7*24运行的业务至关重要。行业客户对数据的安全愈发看中,在线增量备份恢复变得越来越必要,它在保障数据安全的同时,降低维护成本,减少业务干扰,提高系统可用

支持历史SQL监控功能。历史SQL监控可以跟踪和分析数据库中执行的SQL查询和事务的能。通过监控历史查询的执行计划、响应时间和资源消耗等指标,DBA可以识别潜在的能瓶颈,从而采取适当的优化措施,提高数据库能。

新版本的默认权限功能可以为指定的用户和schema设置新建对象(表、视图、函数、序列)的默认权限。因此,指定用户或者在指定schema创建对象时,会自动添加权限信息,而无需再手动授权。尤其是进行大范围、多对象的权限管理时,默认权限这一功能有效降低用户权限管理的时间成本和操作代价。

OushuDB 5.3实现分区列DISTINCT能优化,这意味着在执行DISTINCT查询时,不再需要扫描子表全部的数据,大幅减少数据扫描的数量,提高查询能,实现毫秒级返回复杂查询结果。

Hive External Catalog新增对Description的支持。同时,在过往版本对Hive表只读的基础上,支持同时访问Hive中多个不同Database,实现多表关联计算,为用户提供更便捷的查询方式。

OushuDB的客户端工作簿Worksheet在本次升级中对能、功能和交互体验都做了进一步优化。例如,查询结果列可拖拽、导出查询结果带表头、热键/别名、资源队列的切换等。

数据分析与应用Kepler 4.1更新

从4.0版本到4.1版本,Kepler报表开发、指标开发、可视化、服务等核心模块都进行了更新。

报表开发模块新增整体样式、撤销/重做、隐藏行/列、冻结滚动、参数跳转功能,提高了报表设计的灵活和效率,让用户可以创建更吸引人的报表。

数据可视化模块新增多种图表类型和地图配置属。通过增加了数据呈现多样,帮助用户更清晰地分析数据。

服务模块新增实时指标服务和数据服务详情页升级,提供了实时数据分析的能力,帮助用户更及时地做出业务决策。

指标开发模块新增SQL指标占位符、字段列表编辑、关联关系、空值过滤、自定义度量等功能,简化指标开发过程,加快数据分析流程,提高数据质量。

此外,Kepler增加了权限控制和血缘图节点数据下载功能,提供了更好的安全和数据追溯功能。支持复杂限定条件操作符in/not in,提升了数据查询的灵活,更容易筛选目标数据。

数据工厂Wasp 5.4更新

Wasp 5.4从容错、易用角度做了更新和优化。

Kafka、文件类数据源支持忽略大小写可以确保字段匹配和比对时不受大小写的影响,从而提高数据一致避免了大小写差异导致的匹配错误;支持跳过脏数据,排除格式错误、无效或不完整的数据防止脏数据对后续处理和分析造成干扰,保持数据质量。

支持数据同步对象的重新映射,在数据源或者目标表结构有变化的情况下,允许将重新修改源与目标表的字段映射,降低运维复杂度。

此外,Wasp 5.4还支持任务、文件夹的移动;优化了指标监控;支持显示源表的主键信息。体而言,新版 Wasp 的健壮进一步提高,其新功能和易用将帮助用户有效降低运维成本。

数据资产管理Orbit 2.3更新

首先,新版本Orbit着力提升了自动化元数据采集和血缘采集的稳定和容错能力。用户在进行元数据和血缘分析时,将更少遇到中断和故障,更容易跟踪数据的流向和关系,有助于数据决策的准确

其次,Orbit在前一版主数据管理模块的基础上,优化了主数据模块里数据服务接口的配置页面,以提高用户操作体验。更流畅和直观的界面,为用户提供了更便捷的操作方式。比如在配置多表关联查询时,用户能够更轻松地创建和管理多表关联,提高了数据检索和分析的效率。

此外,新版Orbit进行了安全升级,保障数据的机密和完整,以及防范潜在的数据风险和威胁。

数据开发与调度Flow 5.4更新

Flow 5.4进一步丰富了控制面板的功能,新增定时日历、任务占比、作业历史统计图等功能,帮助用户更方便地了解Flow的使用情况。此外还新增了作业的移动和复制、任务历史等功能。

系统管理软件Lava 5.4更新

新版Lava增强了HA(High Availability)功能,确保系统在面临硬件故障、软件故障或其他不可预测事件时仍能保持运行。

Lava的监控运维部分,增加了对OushuDB备份恢复、脚本迁移工具、SQL监控、自定义指标监控等功能。添加产品专员信了解和体验产品:oushukeji

偶数Skylab是一个拥有海量数据存储、计算、分析、应用和 AI 能力的实时湖仓数据,提供完整的数据管理生态闭环,帮助用户实现批流一体、实时数据处理、自动化机器学、自助可视化分析和数据资产管理。依托Skylab,用户可以轻松实现智慧营销、智能风控、智慧审计、智慧监管等数据应用场景。

 

责任编辑:kj005
文章投诉热线:156 0057 2229  投诉邮箱:29132 36@qq.com

相关新闻

精彩推荐