使用Anemometer基于pt-query-digest将MySQL慢查询日志可视化
XQKDon
8年前
<p>MySQL慢查询日志分析工具不少，比如：</p> <p>1、mysqldumpslow，MySQL官方提供。</p> <p>2、mysqlsla，hackmysql.com推出的一款日志分析工具。功能非常强大，数据报表，非常有利于慢查询分析，包括执行频率、数据量和查询消耗等。</p> <p>虽然都可以满足日常的使用，但是不够直观，并且无法方便开发人员进一步完善SQL语句。</p> <h2>pt-query-digest</h2> <p>是用于分析mysql慢查询的一个工具，它可以分析binlog、General log、slowlog，也可以通过SHOWPROCESSLIST或者通过tcpdump抓取的MySQL协议数据来进行分析。可以把分析结果输出到文件中，分析过程是先对查询语句的条件进行参数化，然后对参数化以后的查询进行分组统计，统计出各查询的执行时间、次数、占比等，可以借助分析结果找出问题进行优化。</p> <h2>Anemometer</h2> <p>将MySQL慢查询log可视化。</p> <p>MySQL开启慢查询日志</p> <p>不同的版本，MySQL开启慢查询日志方式有点不同。可以通过</p> <pre> #show variables like '%slow%'</pre> <p>命令查看都需要配置哪些参数。以5.6版本为例，修改my.cnf的数据库配置文件</p> <pre> slow_query_log = ON slow_launch_time = 2 slow_query_log_file = /自定义日志目录/mysql-slow.log log_queries_not_using_indexes = 1 &nbsp;//没有使用到索引的查询也将被记录在日志中</pre> <h2>安装pt-query-digest</h2> <p>1、下载 wget percona.com/get/percona-toolkit.rpm</p> <p>2、安装 yum install -y percona-toolkit.rpm</p> <p>3、给出pt-query-digest参考配置</p> <pre> pt-query-digest --user=数据库用户名 --password=数据库密码 --review h=数据库IP和域名,D=slow_query_log,t=global_query_review --history h=数据库IP和域名,D=slow_query_log,t=global_query_review_history --no-report --limit=0% --filter=" \$event-&gt;{Bytes} = length(\$event-&gt;{arg}) and \$event-&gt;{hostname}=\"$HOSTNAME\"" 数据库日志文件地址</pre> <p>4、语法及重要选项</p> <p>pt-query-digest[OPTIONS] [FILES] [DSN]</p> <p>–create-review-table当使用–review参数把分析结果输出到表中时，如果没有表就自动创建。</p> <p>–create-history-table当使用–history参数把分析结果输出到表中时，如果没有表就自动创建。</p> <p>–filter对输入的慢查询按指定的字符串进行匹配过滤后再进行分析</p> <p>–limit限制输出结果百分比或数量，默认值是20,即将最慢的20条语句输出，如果是50%则按总响应时间占比从大到小排序，输出到总和达到50%位置截止。</p> <p>–hostMySQL服务器地址</p> <p>–usermysql用户名</p> <p>–passwordmysql用户密码</p> <p>–history将分析结果保存到表中，分析结果比较详细，下次再使用–history时，如果存在相同的语句，且查询所在的时间区间和历史表中的不同，则会记录到数据表中，可以通过查询同一CHECKSUM来比较某类型查询的历史变化。</p> <p>–review将分析结果保存到表中，这个分析只是对查询条件进行参数化，一个类型的查询一条记录，比较简单。当下次使用–review时，如果存在相同的语句分析，就不会记录到数据表中。</p> <p>–output分析结果输出类型，值可以是report(标准分析报告)、slowlog(Mysql slow log)、json、json-anon，一般使用report，以便于阅读。</p> <p>–since从什么时间开始分析，值为字符串，可以是指定的某个”yyyy-mm-dd [hh:mm:ss]”格式的时间点，也可以是简单的一个时间值：s(秒)、h(小时)、m(分钟)、d(天)，如12h就表示从12小时前开始统计。</p> <p>–until截止时间，配合—since可以分析一段时间内的慢查询。</p> <p>5、分析报告图如下：</p> <p><img src="https://simg.open-open.com/show/9e9e5dddfd9ff0d67710afbb3f8ece55.jpg"></p> <h2>安装Anemometer</h2> <p>1、安装说明和配置pt-query-digest 请参考 https://github.com/box/Anemometer</p> <p>2、Anemometer配置，如果监控多个数据库，配置多个即可。</p> <pre> $conf['datasources']['localhost'] = array( 'host' => 'db.example.com', 'port' => 3306, 'db' => 'slow_query_log', 'user' => 'anemometer', 'password' => 'superSecurePass', 'tables' => array( 'global_query_review' => 'fact', 'global_query_review_history' => 'dimension' ) );</pre> <p>4、Anemometer可以独立配置在单独的服务器上，方便管理。</p> <p>5、结果如下</p> <p><img src="https://simg.open-open.com/show/ae7848794b28d07d955d9d10b73fdb9b.jpg"></p> <h2>总结</h2> <p>1、使用Anemometer可视化MySQL的慢查询日志，方便开发人员查看。</p> <p>2、从网上学习的资料了解到，pt-query-digest对系统的资源开销较大。解决办法可以将日志拷贝到测试机器上，进行分析。</p> <p>参考链接：</p> <p>1、 <a href="/misc/goto?guid=4959674301796301711" rel="nofollow,noindex">https://www.percona.com/doc/percona-toolkit/2.2/installation.html</a></p> <p>2、 <a href="http://www.open-open.com/lib/view/open1465646089180.html">pt-query-digest查询日志分析工具教程</a></p> <p>3、http://www.cnblogs.com/xuanzhi201111/p/4128894.html</p> <p> </p> <p>来自： <a href="/misc/goto?guid=4959674301896099347" rel="nofollow">http://blog.mofeiwo.com/使用anemometer基于pt-query-digest将mysql慢查询日志可视化/</a></p> <p> </p>