暂无图片
暂无图片
1
暂无图片
暂无图片
暂无图片

SQLServer性能优化之---数据库级日记监控

逸鹏说道 2019-07-10
561
  • 4.6.6.SQLServer监控

    • 1.图形化演示

    • 2.SQL的方式

    • SQL附录

    • 1.配置发件人邮箱

    • 2.发生预警邮箱

    • 3.邮件查询相关

    • 4.6.6.1 发送邮件

    • 4.6.6.2.监控实现

4.6.6.SQLServer监控

脚本示意:https://github.com/lotapp/BaseCode/tree/master/database/SQL/SQLServer

PS:这些脚本都是我以前用SQLServer手写的,参考即可(现在用MySQL,下次也整理一下)

之前写SQLServer监控系列文章因为换环境断篇了,只是简单演示了下基础功能,现在准备写 MySQL
监控相关内容了,于是补了下:

SQLServer性能优化之---数据库级日记监控:https://www.cnblogs.com/dunitian/p/6022967.html

在说监控前你可以先看下数据库发邮件:https://www.cnblogs.com/dunitian/p/6022826.html

应用:一般就是设置个定时任务,把耗时SQL信息或者错误信息通过邮件的方式及时预警

好处就太多了,eg:客户出错如果是数据库层面,那瞬间就可以场景重放(PS:等客户找会降低业绩)

以往都是程序的 try
+ catch
来捕获错误,但数据库定时任务之类的出错程序是捕获不到的,所以就需要数据库层面的监控了

PS:开发的时候通过 SQLServerProfiler
来监控

先说说本质吧:SQLServer2012的XEVENT机制已经完善,eg:常用的扩展事件 error_reported
就可以在错误的时候通过邮件来通知管理员了

PS:扩展事件性能较高,而且比较轻量级

PS:SQLServer的监控大体思路三步走:发邮件
事件监控
定时执行

4.6.6.1 发送邮件

这个之前讲过,这边就再说下SQL的方式:

1.配置发件人邮箱

这个配置一次即可,以后使用就可以直接通过配置名发邮件

  1. --开启发邮件功能

  2. exec sp_configure 'show advanced options',1

  3. reconfigure with override

  4. go

  5. exec sp_configure 'database mail xps',1

  6. reconfigure with override

  7. go

  8. --创建邮件帐户信息

  9. exec msdb.dbo.sysmail_add_account_sp

  10. @account_name ='dunitian', -- 邮件帐户名称

  11. @email_address ='xxx@163.com', -- 发件人邮件地址

  12. @display_name ='SQLServer2014_192.168.36.250', -- 发件人姓名

  13. @MAILSERVER_NAME = 'smtp.163.com', -- 邮件服务器地址

  14. @PORT =25, -- 邮件服务器端口

  15. @USERNAME = 'xxx@163.com', -- 用户名

  16. @PASSWORD = '邮件密码或授权码' -- 密码(授权码)

  17. GO

  18. --数据库配置文件

  19. exec msdb.dbo.sysmail_add_profile_sp

  20. @profile_name = 'SQLServer_DotNetCrazy', -- 配置名称

  21. @description = '数据库邮件配置文件' -- 配置描述

  22. go

  23. --用户和邮件配置文件相关联

  24. exec msdb.dbo.sysmail_add_profileaccount_sp

  25. @profile_name = 'SQLServer_DotNetCrazy', -- 配置名称

  26. @account_name = 'dunitian', -- 邮件帐户名称

  27. @sequence_number = 1 -- account profile 中顺序(默认是1

  28. go

2.发生预警邮箱

同样我只演示SQL的方式,图形化的方式可以看我以前写的文章:

  1. -- 发邮件测试

  2. exec msdb.dbo.sp_send_dbmail

  3. @profile_name = 'SQLServer_DotNetCrazy', --配置名称

  4. @recipients = 'xxx@qq.com', --收件邮箱

  5. @body_format = 'HTML', --内容格式

  6. @subject = '文章标题', --文章标题

  7. @body = '邮件内容<br/><h2>This is Test</h2>...' --邮件内容

效果:

3.邮件查询相关

主要用途其实就是出错排查:

  1. -- 查询相关

  2. select * from msdb.dbo.sysmail_allitems --查看所有邮件消息

  3. select * from msdb.dbo.sysmail_mailitems --查看邮件消息(更多列)

  4. select * from msdb.dbo.sysmail_sentitems --查看已发送的消息

  5. select * from msdb.dbo.sysmail_faileditems --失败状态的消息

  6. select * from msdb.dbo.sysmail_unsentitems --看未发送的消息

  7. select * from msdb.dbo.sysmail_event_log --查看记录日记


4.6.6.2.监控实现

会了邮件的发送,那下面就是监控了

1.图形化演示

不推荐使用图形化的方式,但可以来理解扩展事件的监控

1.新建一个会话向导(熟悉后可以直接新建会话)

2.设置需要捕获的扩展事件

3.这边捕获的全局字段和左边SQL是一样的(截图全太麻烦了,所以偷个懒,后面会说怎么生成左边的核心SQL)

4.自己根据服务器性能设置一个合理的值(IO、内存、CPU)

5.生成核心SQL(我们图形化的目的就是生成核心SQL,后面可以根据这个SQL自己扩展)

6.核心代码如下

7.启动会话后一个简单的扩展事件监控就有了

8.SQLServer提供了查看方式

9.日志可以自己查下 xxx\Microsoft SQLServer\MSSQL12.MSSQLSERVER\MSSQL\Log


2.SQL的方式

上面只是过家家,主要目的就是让大家知道核心SQL是怎么来的,凭什么这么写

下面就来个制定化监控:

先截图演示下各个核心点,然后贴一个我封装的存储过程附件

1.扩展事件相关的核心代码

2.内存中数据存储到临时表

3.临时表中的数据存储到自己建立的表中

我抛一个课后小问给大家:为什么先存储在临时表中?(提示:效率)

4.发送监控提醒的邮件

5.看看数据库层面多了什么:

6.来个测试

7.效果(可以自己美化)

SQL附录
  1. -- 切换到需要监控的数据库

  2. USE [dotnetcrazy]

  3. GO

  4. --收集服务器上逻辑错误的信息

  5. SET QUOTED_IDENTIFIER ON

  6. SET ANSI_NULLS ON

  7. GO

  8. -- 自定义的错误信息表

  9. IF OBJECT_ID('log_error_message') IS NULL

  10. BEGIN

  11. CREATE TABLE [dbo].[log_error_message]

  12. (

  13. [login_message_id] [uniqueidentifier] NULL CONSTRAINT [DF__PerfLogic__Login__7ACA4E21] DEFAULT (newid()),

  14. [start_time] [datetime] NULL,

  15. [database_name] [nvarchar] (128) COLLATE Chinese_PRC_CI_AS NULL,

  16. [message] [nvarchar] (max) COLLATE Chinese_PRC_CI_AS NULL,

  17. [sql_text] [nvarchar] (max) COLLATE Chinese_PRC_CI_AS NULL,

  18. [alltext] [nvarchar] (max) COLLATE Chinese_PRC_CI_AS NULL,

  19. -- [worker_address] [nvarchar] (1000) COLLATE Chinese_PRC_CI_AS NULL,

  20. [username] [nvarchar] (1000) COLLATE Chinese_PRC_CI_AS NULL,

  21. [client_hostname] [nvarchar] (1000) COLLATE Chinese_PRC_CI_AS NULL,

  22. [client_app_name] [nvarchar] (1000) COLLATE Chinese_PRC_CI_AS NULL

  23. ) ON [PRIMARY] TEXTIMAGE_ON [PRIMARY]

  24. END

  25. GO

  26. -- 创建存储过程

  27. CREATE PROCEDURE [dbo].[event_error_monitor]

  28. AS

  29. IF NOT EXISTS( SELECT 1 FROM sys.dm_xe_sessions dxs(NOLOCK) WHERE name = 'event_error_monitor') -- 不存在就创建EVENT

  30. -- 创建扩展事件,并把数据放入内存中

  31. BEGIN

  32. CREATE EVENT session event_error_monitor on server

  33. ADD EVENT sqlserver.error_reported -- error_reported扩展事件

  34. (

  35. ACTION -- 返回结果

  36. (

  37. sqlserver.session_id, -- 会话id

  38. sqlserver.plan_handle, -- 计划句柄,可用于检索图形计划

  39. sqlserver.tsql_stack, -- T-SQ堆栈信息

  40. package0.callstack, -- 当前调用堆栈

  41. sqlserver.sql_text, -- 遇到错误的SQL查询

  42. sqlserver.username, -- 用户名

  43. sqlserver.client_app_name, -- 客户端应用程序名称

  44. sqlserver.client_hostname, -- 客户端主机名

  45. -- sqlos.worker_address, -- 当前任务执行时间

  46. sqlserver.database_name -- 当前数据库名称

  47. )

  48. WHERE severity >= 11 AND Severity <=16 -- 指定用户级错误

  49. )

  50. ADD TARGET package0.ring_buffer -- 临时放入内存中

  51. WITH (max_dispatch_latency=1seconds)

  52. -- 启动监控事件

  53. ALTER EVENT SESSION event_error_monitor on server state = START

  54. END

  55. ELSE

  56. -- 存储过程已经存在就把数据插入表中

  57. BEGIN

  58. -- 将内存中已经收集到的错误信息转存到临时表中(方便处理)

  59. SELECT

  60. DATEADD(hh,

  61. DATEDIFF(hh, GETUTCDATE(), CURRENT_TIMESTAMP),

  62. n.value('(event/@timestamp)[1]', 'datetime2')) AS [timestamp],

  63. n.value('(event/action[@name="database_name"]/value)[1]', 'nvarchar(128)') AS [database_name],

  64. n.value('(event/action[@name="sql_text"]/value)[1]', 'nvarchar(max)') AS [sql_text],

  65. n.value('(event/data[@name="message"]/value)[1]', 'nvarchar(max)') AS [message],

  66. n.value('(event/action[@name="username"]/value)[1]', 'nvarchar(max)') AS [username],

  67. n.value('(event/action[@name="client_hostname"]/value)[1]', 'nvarchar(max)') AS [client_hostname],

  68. n.value('(event/action[@name="client_app_name"]/value)[1]', 'nvarchar(max)') AS [client_app_name],

  69. n.value('(event/action[@name="tsql_stack"]/value/frames/frame/@handle)[1]', 'varchar(max)') AS [tsql_stack],

  70. n.value('(event/action[@name="tsql_stack"]/value/frames/frame/@offsetStart)[1]', 'int') AS [statement_start_offset],

  71. n.value('(event/action[@name="tsql_stack"]/value/frames/frame/@offsetEnd)[1]', 'int') AS [statement_end_offset]

  72. into #error_monitor -- 临时表

  73. FROM

  74. ( SELECT td.query('.') as n

  75. FROM

  76. (

  77. SELECT CAST(target_data AS XML) as target_data

  78. FROM sys.dm_xe_sessions AS s

  79. JOIN sys.dm_xe_session_targets AS t

  80. ON t.event_session_address = s.address

  81. WHERE s.name = 'event_error_monitor'

  82. --AND t.target_name = 'ring_buffer'

  83. ) AS sub

  84. CROSS APPLY target_data.nodes('RingBufferTarget/event') AS q(td)

  85. ) as TAB

  86. -- 把数据存储到自己新建的表中(有SQL语句的直接插入到表中)

  87. INSERT INTO log_error_message(start_time,database_name,message,sql_text,alltext,username,client_hostname,client_app_name)

  88. SELECT TIMESTAMP,database_name,[message],sql_text,'',username,client_hostname,client_app_name

  89. FROM #error_monitor as a

  90. WHERE a.sql_text != '' --AND client_app_name !='Microsoft SQL Server Management Studio - 查询'

  91. AND a.MESSAGE NOT LIKE '找不到会话句柄%' AND a.MESSAGE NOT LIKE '%SqlQueryNotification%' --排除server broker

  92. AND a.MESSAGE NOT LIKE '远程服务已删除%'

  93. -- 插入应用执行信息(没有SQL的语句通过句柄查询下SQL

  94. INSERT INTO log_error_message(start_time,database_name,message,sql_text,alltext,username,client_hostname,client_app_name)

  95. SELECT TIMESTAMP,database_name,[message],

  96. SUBSTRING(qt.text,a.statement_start_offset/2+1,

  97. (case when a.statement_end_offset = -1

  98. then DATALENGTH(qt.text)

  99. else a.statement_end_offset end -a.statement_start_offset)/2 + 1) sql_text,qt.text alltext,

  100. username,client_hostname,client_app_name

  101. FROM #error_monitor as a

  102. CROSS APPLY sys.dm_exec_sql_text(CONVERT(VARBINARY(max),a.tsql_stack,1)) qt -- 通过句柄查询具体的SQL语句

  103. WHERE a.sql_text IS NULL AND tsql_stack != '' --AND client_app_name = '.Net SqlClient Data Provider'

  104. DROP TABLE #error_monitor -- 删除临时表

  105. --重启清空

  106. ALTER EVENT SESSION event_error_monitor ON SERVER STATE = STOP

  107. ALTER EVENT SESSION event_error_monitor on server state = START

  108. END

  109. -- 美化版预警邮箱

  110. DECLARE @body_html VARCHAR(max)

  111. set @body_html = '<table style="width:100%" cellspacing="0"><tr><td colspan="6" align="center" style="font-weight:bold;color:red">数据库错误监控</td></tr>'

  112. set @body_html = @body_html + '<tr style="text-align: left;"><th>运行时间</th><th>数据库</th><th>发生错误的SQL语句</th><th>消息</th><th>用户名</th><th>应用</th><th>应用程序名</th></tr>'

  113. -- 格式处理(没内容就空格填充)

  114. select @body_html = @body_html + '<tr><td>'

  115. + case (isnull(start_time, '')) when '' then '&nbsp;' else convert(varchar(20), start_time, 120) end + '</td><td>'

  116. + case (isnull(database_name, '')) when '' then '&nbsp;' else database_name end + '</td><td>'

  117. + case (isnull(sql_text, '')) when '' then '&nbsp;' else sql_text end + '</td><td>'

  118. + case (isnull(message, '')) when '' then '&nbsp;' else message end + '</td><td>'

  119. + case (isnull(username, '')) when '' then '&nbsp;' else username end + '</td><td>'

  120. + case (isnull(client_hostname, '')) when '' then '&nbsp;' else client_hostname end + '</td><td>'

  121. + case (isnull(client_app_name, '')) when '' then '&nbsp;' else client_app_name end + '</td></tr>'

  122. from (

  123. select start_time, database_name,sql_text, message, username, client_hostname, client_app_name

  124. from [dbo].[log_error_message]

  125. where start_time >= dateadd(hh,-2,getdate()) -- 当前时间 - 定时任务的时间间隔(2h

  126. and client_app_name != 'Microsoft SQL Server Management Studio - 查询' -- and client_hostname in('')

  127. ) as temp_message

  128. set @body_html= @body_html+'</table>'

  129. -- 发送警告邮件

  130. exec msdb.dbo.sp_send_dbmail

  131. @profile_name = 'SQLServer_DotNetCrazy', --配置名称

  132. @recipients = 'xxxxx@qq.com', --收件邮箱

  133. @body_format = 'HTML', --内容格式

  134. @subject = '数据库监控通知', --文章标题

  135. @body = @body_html --邮件内容

  136. go

下节预估:定时任务、完整版监控

PS:估计先得更八字的文章(拖太久)然后更完SQLServer更MySQL,等MySQL监控更完会说下备份与恢复,接着我们开架构篇(MyCat系列先不讲放在Redis和爬虫系列的后面)


文章转载自逸鹏说道,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论