暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

GBase 8a MPP Cluster 高级特性(上)

原创 公司网站 2021-11-29
337

1.数据加载及集成 

1.1 数据加载 

 GBase 8a MPP Cluster 中,集群加载功能直接集成在 GBase 8a MPP Cluster 内部,不需要额外部署外部加载工具。 

数据加载具备如下一些特性和优点: 

 1)与集群高度集成;

 2)面向用户的 SQL 接口方式更符合用户的使用习惯;

 3)支持单表多数据源并行加载,支持多加载机对单表的并行加载,最大化 提升加载性能; 

 4)支持从通用数据服务器拉取数据,支持 ftp/sftp/hdfs/Kafka/http/https 等多种文件传输协议;

 5)支持普通文本、gzip 压缩、snappy 压缩、lzo 压缩等多种格式数据文 件; 

 6)支持普通文本、定长文本、宽松模式的加载; 

 7)支持用户自定义列分割符、行分隔符和日期时间格式; 

 8)支持错误数据溯源功能,可以准确定位错误数据在源文件中的位置; 

 9)加载性能可以随着集群规模的扩展而持续提升。

1.2 kafka 数据集成 

 数据同步系统通过 Oracle Golden Gate(OGG)、GBase RTSync 等工具复制 Oracle、GBase 8s 等数据库的业务数据,通过 kafka 同步到 GBase 8a MPP Cluster,为了应对业务系统可能的峰值,

在系统中加入 Kafka 消息队列作为缓冲区。总 体流程如下:

OGG 发送端(GoldenGate Extract)从 Oracle 的在线日志和归档日志中抽 取事务信息,生成 Trail 文件。OGG 接收端(GoldenGate Replicat)收到 Trail 文件抽取事务信息转换为目标格式,并生产

事务消息到 Kafka。

Consumer 从 Kafka 中消费事务消息,将数据更新到 8a MPP Cluster 中。 Kafka consumer 的主要功能就是同步 Kafka 数据到 8a MPP Cluster:

 1) 根据配置,可以指定需要同步的业务;

 2) 在同步过程中,提供同步状态查询功能; 

 3) 实现数据同步的高可用性和事务数据一致性。

2.虚拟集群及镜像集群

2.1 虚拟集群 

 虚拟集群以大规模集群为基础开发,一个集群中包含多个虚拟子集群(VC)。 各 VC 在整个集群范围内独立运行,共享统一的入口。

权限许可的情况下,各虚 拟集群间可以相互访问。支持 Coordinator node(包含 Gcluster node 和 Gcware node)和 VC 的 data node 在同一个物理节点上。 

统一管理 在集群内部进行虚拟集群划分,在增强集群的扩展能力同时,提供统一的 管理视图,集群可以达到千节点规模。 集群统一访问入口

用户选择 Coordinator cluster(包含 Gcluster 调度集群和 Gcware 管理 集群,通常将这两个集群部署在一起统称为 Coordinator cluster)中的任意 一个 Coordinator node 作为集群入口。

Coordinator node 根据用户确定默认 VC。 注:coordinator 节点存储了所有 VC 的 database 和表的元数据。 业务隔离 虚拟集群对集群进行垂直资源隔离,在实际的业务场景中,可以实现不同 业务

的资源物理隔离。

2.2 镜像集群 

 虚拟集群的镜像功能有以下特点: 灵活的镜像配置:支持库级、表级镜像设置; 数据实时同步:对具备镜像关系的库、表进行数据变更时两边实时同步。

 互为镜像的库下所有表都将自动创建镜像。库下所有函数、存储过程和视图都 会同步在目标库下创建; 高可用:镜像关系为数据提供更多的冗余分片,具备更高的可用性;灾备: 支持同城异地部署集群。

最后修改时间:2021-11-30 11:25:09
「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论

墨天轮
关注
暂无图片
获得了138次点赞
暂无图片
内容获得276次评论
暂无图片
获得了234次收藏