如何选型
ETL产品的选型工作一直以来都是困扰架构师的一块心病,国外付费产品用不起,国外免费产品学习成本高、不易实施
- 多数软件又为什么逐渐国产化?
长期以来,国内数据技术都由海外厂商主导。然而随着国际竞争环境日益激烈,争端所引发的技术卡脖子事件频发,面对特殊的大环境,全球化带来的科技创新共同体背后,国家IT产业实现自主可控的重要性不言而喻。为确保国家信息安全,政府部门出台了一系列的相关政策以支持IT系统的国产化。 - 落地项目中真正的需求又是什么?
传统的数据导出、格式各种转换、装载;
上游对接消息中间件、格式各种转换、数据分发;
移植到设备终端上运行是否会省去更多复杂因素?是否会更加接地气?
适配各种当下流行的非关系型数据库、时序数据库; - 真的是靠拖拉拽就能解决所有问题吗?
拖拉拽只解决了部分实施性工作,但业务场景往往是复杂多元化的,需要实施人员能在此基础上进行适应性开发。
轻量级 跨平台 易集成
- go语言开发,部署简单,开箱即用。
不需要JVM虚拟机等环境的部署,不需要依赖各种静态库、动态库,go编译出的二进制文件是可以独立运行的、而且跨平台,实施简单方便集成。 - 不只是数据交换工具,还是可以嵌入并解析go语言脚本的开发工具。
嵌入脚本并能解析性运行解决了动态需求的场景,是必不可少的一项功能。 - 完善的ETL解决方案,提供可视化任务设计器、调度配置及日志查看功能。
为方便实施与监控需要有图形化功能来支撑。
支持丰富的数据源
- 关系型数据库
Oralce、MySQL、PostgreSQL、Sqlite - 非关系型数据库
ElasticSearch、Redis - 时序数据库
InfluxDB、ClickHouse、Prometheus - 消息中间件
Kafka、RocketMQ - Hadoop生态
Hive - 文件
Excel、CSV
参考资料
[资源下载](https://github.com/hw2499/etl-engine/releases) [etl-engine使用手册](https://github.com/hw2499/etl-engine) [etl-crontab使用手册](https://github.com/hw2499/etl-engine/wiki/etl-crontab%E8%B0%83%E5%BA%A6) [嵌入脚本开发](https://github.com/hw2499/etl-engine/wiki/%E5%B5%8C%E5%85%A5%E8%84%9A%E6%9C%AC%E5%BC%80%E5%8F%91)
复制
最后修改时间:2023-02-20 21:03:51
「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。
评论
相关阅读
数据库国产化替代深化:DBA的机遇与挑战
代晓磊
1092次阅读
2025-04-27 16:53:22
数据库,没有关税却有壁垒
多明戈教你玩狼人杀
546次阅读
2025-04-11 09:38:42
【活动】分享你的压箱底干货文档,三篇解锁进阶奖励!
墨天轮编辑部
435次阅读
2025-04-17 17:02:24
Oracle 加密不求人:一篇文章教你搞定 TDE
Digital Observer
292次阅读
2025-04-09 15:31:52
Oracle闪回时间旅行(Flashback Time Travel)详解
听见风的声音
227次阅读
2025-04-22 09:20:04
Redo Log损坏紧急处理(从Inactive到Active的实战解析)
zwtian
191次阅读
2025-04-29 10:20:22
Oracle 和 Google Cloud 深化合作伙伴关系
甲骨文中国
175次阅读
2025-04-22 10:12:21
国产非关系型数据库 Eloqkv 初体验
JiekeXu
155次阅读
2025-04-10 23:51:35
繁华落尽,烟火人间,3000万相亲局的行业百态
多明戈教你玩狼人杀
139次阅读
2025-04-22 11:53:46
大家也一起去捕捉宝可梦吧!
多明戈教你玩狼人杀
128次阅读
2025-04-14 11:41:47