暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

数据同步工具ETL、ELT傻傻分不清楚?3分钟看懂两者区别

原创 偶数科技 2020-09-04
3433

什么是数据同步工具(ETL、ELT)

数据同步工具ETL或者ELT的作用是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程,目的是将企业中的分散、零乱、标准不统一的数据整合到一起,为企业的决策提供分析依据。数据同步是大数据项目重要的一个环节。通常情况下,在大数据项目中数据同步会花掉整个项目至少1/3的时间,数据同步工具设计的好坏直接关接到BI项目的成败。

关于ETL与ELT的区别

ETL,是英文 Extract-Transform-Load 的缩写,用来描述将数据从来源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程。

微信图片_20200904164938.png

ETL其实并不是一个新的概念,大家经常使用的像Informatica、Kettle、DataStage等,就是传统的ETL数据同步工具。ETL的理念着重体现在一些数据清洗转化功能,比如空值处理、规范化数据、数据替换、数据验证等等。

在数据湖或数据中台则往往会采用ELT的方式进行数据同步。

微信图片_20200904164949.png

ELT是一个比较新潮的概念,相比于ETL,从功能上来说没有差异,只是换了一个顺序。差别在于,如果采用ELT的方案,首先把数据用一种高效的方式从数据源抽取出来,然后在数据仓库中进行数据的转换处理。这种ELT的方式相比于ETL有很大的优势,而本文介绍的偶数数据中台Lava中的数据同步工具,使用的就是ELT这种理念。

关于偶数数据中台里的数据同步工具产品设计

作为一个数据同步工具,偶数的数据同步工具支持很多常用数据源比如DB2、Oracle、MySQL、SQLServer、Postgresql等关系型数据库以及HDFS等。

偶数的数据同步工具符合ELT的理念,把数据的转换处理交给目标数据仓库来做。并且很好的利用目标数据仓库,例如OushuDB的高效特性来进行数据同步,块级别的并发导入效率远远高于JDBC的方式导入。基于OushuDB的高效性能,ELT的优势更加明显:

1.更快的数据同步速度

传统的ETL需要将数据加载到临时空间中,而且随着数据大小的增加,转换时间也会增加。但是在ELT过程中,速度不会数据大小的影响,而且仅需加载到目标系统一次,无需使用临时空间。

2.更快的清洗、分析速度

在ELT的理念下,数据转换依赖强大的目标系统,相比ETL在数据抽取过程中对数据处理的复杂性,ELT的方式更加高效。通过对目标数据仓库的调优,ELT可获得数倍的效率提升。

3.更好的维护性和扩展性

采用ELT模式,我们可以避免构建一个专有的数据转换集群,而是通过一个通用的、易于创建和维护的分布式计算集群来完成所有的工作。

分布式的数据加载、强大的任务监控、简单的操作步骤以及傻瓜式的部署方式,使得偶数数据中台Lava中的数据同步工具可以为构建数据仓库或者搭建数据中台提供强大助力。




我们是偶数科技,更多信息请关注我们的公众号:偶数科技


微信图片_20200904133607.jpg


最后修改时间:2020-09-04 16:53:24
「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论