MySQL 性能:在 MySQL 5.7 中使用 InnoDB Memcached 插件实现每秒 100 万 QPS
在上周, Tomas 在 MySQL Percona Live Conference in London ,宣布了MySQL 5.7的版本--在只读的(Read-Only)测试环境,InnoDB 的 Memcached plugin的版本中,可以处理 每秒 1,000,000 次的查询。这个文章就是证实这个说法的。
实际上,我至今也没有准确说法,到底可拓展性有多么的准确和有多少的性能限制在这里面..我们可以在最新的MySQL 5.7 中可以得到最大的性能提升,并且,并且可以让我们轻松的在“普通的”(normal)SQL 在只读的环境中(Read-Only workload) 测试到 500K QPS 。接下来,更多的性能提升在InnoDB Memcached Plugin代码中变为可能,然而,一切都是那么自然。尤其在非死book团队,他们突破并展现出巨大的性能点。当然,非死book给我们提供了 一个测试case,我们也用它来成功的提高了我们代码。最终,同样的测试案例会在下面的测试评分结果中展示出来;-)
这个测试是在”独立“(standalone)模式上测试的。(包括服务器,客户端都在上面运行)。所以,我们使用我们实验室最大的HW box - 一个48核的机器。这个服务器能够迅速的给我们指出一个存在的,或者潜在的性能瓶颈(最有趣的是,大部分他们都是在memcached代码上面)。然 而,QPS 依赖于内存和CPU。因此,这台服务器是只有2Ghz的CPU 核,如果有存在其他更快的HW,你可能能得到更好的积分统计 :-)
现在,比较 最好-最好 的QPS结果如下:
我曾经把MySQL5.6放上神坛,给它打上“有史以来最好的结果”这样的标签;-))——由于一部分的Memcached代码性能提高也会反过来提升 MySQL5.6的性能,所以我们也期望在5.6的下一版本中也能运行的良好。实际上,只需要MySQL5.7,你就可以达到一个很高的水平……
在我在伦敦的Percona现场讨论会上,我曾经展示过下面这些图表——Memcached QPS是符合InnoDB的“dml_read/sec”的状态:
这些图表代表着在“上一版”MySQL上所做的4个Memcached负载测试:
- #1运行在48核的机器上……——我们遇到了与MVCC相关的服务器冲突(在最新版的MySQL5.7中已经修复了)
- #2限制MySQL服务运行在16核的机器上,以降低这个冲突……——然后,我们遇到了事务冲突(这也在最新版的MySQL5.7中修复了)
- #3调整Memcached plugin,在一个独立的事务内部保持一些读操作——神啊,救救我吧,我又遇到了一些其他的冲突……
- #4限制MySQL服务运行在8核的机器上,看是否会降低冲突——事实表明,最大QPS有所提高(在32个用户的情况下),但是整体性能却更糟了……
相反的,在最新版的MySQL5.7中,情况确实完全不同:
这些图所表示的是两个测试:
- #1-运行在48核的机器上(不做太多评论;-))
- #2-调整了一些参数,在一个独立的内部事务中保持一些读取的操作,结果只有在QPS的峰值上稍微好点,其他方面没有什么区别。
你可以更形象的看到这两者的不同。
- 图表的左半部分曲线代表的QPS水平都是在“旧版”的MySQL5.6/5.7上得到的。
- 然后右半部分的曲线是在最新版的MySQL5.7上得到的。
这项工作仍在进展中,关于在这个最新的MySQL 5.7版本中我们实现的巨大进步,我会让Sunny 和 Jimmy给你们提供其中所有深入的细节。
我不知道这里的性能极限在于哪里。可能只存在于HW(HardWare)层面。我也不知道是否有足够庞大的HW来观察它;-)——现在经由一个单独的1Gbit网络链接,我们已经观察到超过700K QPS的 性能了,当这个来自于单独网络链路的极限峰值到达时,主要的麻烦却来自于客户端处理程序,而不是服务器——所以,看上去相比较“原始 的”Memcached本身来说,Memcached @InnoDB具有更好的伸缩性;-)——那么,当有几个网络链接启用(或者仅仅只是使用更快速的网卡)的时候可能会有什么样的性能呢——还有许多东西需 要去探索发掘的!而且RW(ReadWrite)工作负载性能也是另一项挑战;-)
感谢Sunny和Jimmy!还要特殊感谢yoshinori(非死book)!-我认为这是一个很典型的例子!想要了解更多关于Memecached Plugin 的设计-你可以follow this link : https://blogs.oracle.com/MySQL/entry/nosql_memcached_api_for_mysql 。-然后,你把结果都印在心里面,我现在让你现在想象一下”如果是数据是直接通过“本地”(native)InnoDB API 访问的,然后通过Memcached 层面传输的“,你所期待是哪种性能?
Rgds,
-Dimitri