大约是上周一也就是9月6号,朋友圈看到墨天轮 openGauss 训练营(第二期)发布了,心想错过了第一期,那么第二期就不能错过了,于是报名了周末两天为期 8 小时的 openGauss 训练营(第二期),大概也是去年八九月份首次尝试了安装单机版的 openGauss ,那么技术也就停留在了安装阶段[链接如下:https://mp.weixin.qq.com/s/mQAvq0yTxFvvtDB7I7ERZw],周末刚好有时间了可以在接触一下,多了解一番,有时间了搭建一个主备玩玩。
9月11日12日中午13:30,openGauss布道师朱金伟出品:8小时玩转openGauss训练营(第二期)如期举行,每天4小时两天完成8小时玩转 openGauss,确实是这样,这八小时真的不一样,干活满满,收获也满满。课程安排如下,总共十三讲,第一天的 4 小时全是原理性的干活,第二天则是实践性的经验总结,对于我来说第一天的内容则是硬着头皮过了一遍,第二天的实践总结由于没有接触 PG 和 openGauss 的机会,当然也是听的是是非非,后期回放生成了还得在看一遍才能有更多的收获。
opengauss 体系结构图
opengauss SQL 处理流程示意图
周末两天过去,基本上能记住的也不多了,只能返回来翻看 PPT,尤其 朱金伟 老师的 73 页体系结构全貌,内容较多也较全面,看了两三遍,其他老师的 PPT 则看了一遍有个大概影响,便来参加训练营的结营考试了,很遗憾,25 道题 60 分通过,我没有达到 60 分;怎么办,不放弃呀,第一次训练营就错过了,这次就不能再错过了,于是在上班期间的闲暇时间也看了看,终于在快要结营的最后几个小时内通过了,终于获取了结营证书。
那么,接下来就在说说 opengauss 吧,华为在 2020 年 6 月 30 日,开源其单机数据库 openGauss,这一年半的时间内,墨天轮排行榜排名不断上升,单机版主备型的关系型数据库一路过关斩将,成绩斐然,让人忍不住多了解了解。单表大小 32TB,单行数据大小 1GB,每条记录单个字段大小 1G ,单表记录是2的48次方,单表列数 250-1600 等等等等。在此就不列举了,可查看官方文档,中文版方便多了。
https://opengauss.org/zh/docs/2.0.1/docs/Description/%E4%BC%81%E4%B8%9A%E7%BA%A7%E5%A2%9E%E5%BC%BA%E7%89%B9%E6%80%A7.html
看官网以及王天庆老师讲的《openGauss在AI自治数据库上的演进》确实功能很不错,虽然混 Oracle 好几年了,一直宣称自治的 Oracle 不知道怎么样,也没体验过,就无法评判了。
AI 能力
Predictor: AI查询时间预测
X-Tuner: 参数调优与诊断
SQLdiag: 慢SQL发现
Anomaly-detection:数据库指标采集、预测与异常监控
Index-advisor:索引推荐
DeepSQL:库内AI算法
最后再说一下 openGauss 的日志,因为不管什么系统,日志是至关重要的一部分,通过日志才能够排查问题,解决问题,这也是判断系统健康状况的重要环节。
openGausss 日 志
日志类型简介
在数据库运行过程中,会出现大量日志,既有保证数据库安全可靠的 WAL(Write-Ahead Logging)日志(预写式日志,也称为Xlog),也有用于数据库日常维护的运行和操作日志等。在数据库发生故障时,可以参考这些日志进行问题定位和数据库恢复的操作。
日志类型
日志类型的详细说明请参见下表。
类型 | 说明 |
---|---|
系统日志 | 数据库系统进程运行时产生的日志,记录系统进程的异常信息。 |
操作日志 | 通过客户端工具(例如gs_guc)操作数据库时产生的日志。 |
Trace日志 | 打开数据库的调试开关后,会记录大量的Trace日志。这些日志可以用来分析数据库的异常信息。 |
黑匣子日志 | 数据库系统崩溃的时候,通过故障现场堆、栈信息可以分析出故障发生时的进程上下文,方便故障定位。黑匣子具有在系统崩溃时,dump出进程和线程的堆、栈、寄存器信息的功能。 |
审计日志 | 开启数据库审计功能后,将数据库用户的某些操作记录在日志中,这些日志称为审计日志。 |
WAL日志 | 又称为REDO日志,在数据库异常损坏时,可以利用WAL日志进行恢复。由于WAL日志的重要性,所以需要经常备份这些日志。 |
性能日志 | 数据库系统在运行时检测物理资源的运行状态的日志,在对外部资源进行访问时的性能检测,包括磁盘、Hadoop openGauss等外部资源的访问检测信息。 |
系统日志 | openGauss运行时数据库节点以及openGauss安装部署时产生的日志统称为系统日志。如果openGauss在运行时发生故障,可以通过这些系统日志及时定位故障发生的原因,根据日志内容制定恢复openGauss的方法。 |
日志文件存储路径
数据库节点的运行日志放在“/var/log/gaussdb/用户名/pg_log”中各自对应的目录下。
OM openGauss安装卸载时产生的日志放在“/var/log/gaussdb/用户名/om”目录下。
日志文件命名格式
数据库节点运行日志的命名规则:
postgresql-创建时间.log
默认情况下,每日0点或者日志文件大于16MB或者数据库实例(数据库节点)重新启动后,会生成新的日志文件。
日志内容说明
数据库节点每一行日志内容的默认格式:
日期+时间+时区+用户名称+数据库名称+会话ID+日志级别+日志内容
操作日志
操作日志是指数据库管理员使用工具操作数据库时以及工具被openGauss调用时产生的日志。如果openGauss发生故障,可以通过这些日志信息跟踪用户对数据库进行了哪些操作,重现故障场景。
日志文件存储路径
默认在“GAUSSLOG/bin”目录下,如果环境变量GAUSSLOG不存在或者变量值为空,则工具日志信息不会记录到对应的工具日志文件中,日志信息只会打印到屏幕上。
其中$GAUSSLOG默认为“/var/log/gaussdb/用户名”。
说明: 如果使用om脚本部署时,则日志路径为 “/var/log/gaussdb/_用户名_”。
日志文件命名格式
日志文件命名格式为:
工具名-日志创建时间.log
工具名-日志创建时间-current.log
其中,“工具名-日志创建时间.log”是历史日志文件,“工具名-日志创建时间-current.log”是当前日志文件。
如果日志大小超过16MB,在下一次调用该工具时,会重命名当前日志文件为历史日志文件,并以当前时间生成新的当前日志文件。
例如将“gs_guc-2015-01-16_183728-current.log”重命名为“gs_guc-2015-01-16_183728.log”,然后重新生成“gs_guc-2015-01-17_142216-current.log”。
维护建议
建议定时对过期的日志文件进行转储,以避免大量日志占用太多的磁盘空间和避免重要日志丢失。
审计日志
审计功能开启时会不断产生大量的审计日志,占用磁盘空间。用户可以根据磁盘空间的大小设置审计日志维护策略。
关于如何设置审计日志维护策略请参见《开发者指南》中“管理数据库安全 > 设置数据库审计 > 维护审计日志”章节。
WAL日志
预写式日志WAL(Write Ahead Log,也称为Xlog)是实现事务日志的标准方法,对数据文件(表和索引的载体)持久化修改之前必须先持久化相应的日志。如果要修改数据文件,必须是在这些修改操作已经记录到日志文件之后才能进行修改,即在描述这些变化的日志记录刷新到永久存储器之后。在系统崩溃时,可以使用WAL日志对openGauss进行恢复操作。
日志文件存储路径
以一个数据库节点为例,默认在“/gaussdb/data/data_dn/pg_xlog”目录下。
其中“/gaussdb/data/data_dn”代表openGauss节点的数据目录。
日志文件命名格式
日志文件以段文件的形式存储的,每个段为16MB,并分割成若干页,每页8KB。对WAL日志的命名说明如下:一个段文件的名称由24个十六进制组成,分为三个部分,每个部分由8个十六进制字符组成。第一部分表示时间线,第二部分表示日志文件标号,第三部分表示日志文件的段标号。时间线由1开始,日志文件标号和日志文件的段标号由0开始。
例如,系统中的第一个事务日志文件是000000010000000000000000。
说明: 这些数字一般情况下是顺序增长使用的(要把所有可用数字都用光也需要非常长的时间),但也存在循环使用的情况。
日志内容说明
WAL日志的内容取决于记录事务的类型,在系统崩溃时可以利用WAL日志进行恢复。
默认配置下,openGauss每次启动时会先读取WAL日志进行恢复。
维护建议
WAL日志对数据库异常恢复有重要的作用,建议定期对WAL日志进行备份。
性能日志
性能日志主要关注外部资源的访问性能问题。性能日志指的是数据库系统在运行时检测物理资源的运行状态的日志,在对外部资源进行访问时的性能检测,包括磁盘、Hadoop openGauss等外部资源的访问检测信息。在出现性能问题时,可以借助性能日志及时的定位问题发生的原因,能极大地提升问题解决效率。
日志文件存储路径
数据库节点的性能日志目录在“$GAUSSLOG/gs_profile”中各自对应的目录下。
日志文件命名格式
数据库节点的性能日志的命名规则:
postgresql-创建时间.prf
默认情况下,每日0点或者日志文件大于20MB或者数据库实例(数据库节点)重新启动后,会生成新的日志文件。
日志内容说明
数据库节点每一行日志内容的默认格式:
主机名称+日期+时间+实例名称+线程号+日志内容。
根据这些日志便可以更好的学习,排错则更进一步。学习 openGauss 不止是口号,行动起来吧,也希望 openGauss 有更优秀的表现,未来百尺竿头更进一步,我们一起加油!
———————————————————————————
公众号:JiekeXu DBA之路
墨天轮:https://www.modb.pro/u/4347
CSDN :https://blog.csdn.net/JiekeXu
腾讯云:https://cloud.tencent.com/developer/user/5645107
———————————————————————————