高性能的MySQL(6)查询慢与重构查询
只有好的库表结构、合理的索引还不够,我们还需要合理的设计查询,齐头并进,一个不少才能充分发挥MySQL的优势。
一、查询为什么会慢?
每一个查询由一系列的子任务组成,每个子任务都会消耗一定的时间。这个我们在之前的单个查询分析时已经简单介绍了,当然还有额外的因素,比方说包括网络,CPU计算,统计信息,执行计划,锁等待等操作,或者底层引擎在调用内存,CPU操作,I/O操作等上的消耗时间。、
优化查询的目的就是减少和消除这些操作所花费的时间。
查询性能低下的最基本原因是访问的数据太多,大部分的性能低下的查询可以通过减少访问的数据量进行优化,一般有2个简单的分析方法:
1、确认应用程序是否返回了大量超过需要的数据,这就是说访问了太多的行,也有时候是因为访问了太多的列,这会增加很多额外的开销,包括,网络,CPU,内存等。
一些常见的例子:
a、查询不需要的记录
一个常见的错误是常常会以为MySQL会只返回需要的数据,实际上却是先返回全部的查询结果再进行计算,一个简单有效的解决方法是在查询后面加上LIMIT。
b、多表关联时返回全部列
比如,要查找所有在电影hreo中出现的演员,不要这样去写
1 2 3 4 | select * from actor inner join film_actor using(actor_id) inner join film using(film_id) where film.title = "hreo" ; |
这会返回三个表的全部列,应该只返回需要的列
1 2 3 4 | select actor.* from actor inner join film_actor using(actor_id) inner join film using(film_id) where film.title = "hreo" ; |
c、不要总是取出全部的列
1 | select * from actor.... |
d、重复查询相同的数据
例如在用户评论的地方需要查询用户的头像,如果用户多次评论,可能会反复查询这个数据,可以先缓存起来,这样会更好。
2、确认MySQL服务层是否在返回前检索大量超过需要的数据行。
如果查询为了返回结果扫描过多的数据,那么就不合适了,一般看3个指标:
a、响应时间
响应时间分为服务时间和排队时间。这个很难细分,如果是在一个合理的值,那就可以接受。
b、扫描的行和返回的行
这个在一定程度上能够说明该查询找到需要的数据效率怎么样。理想的情况下,扫描的行和返回的行是相同的,不过实际中这是很难的,特别是做关联查询时。
c、扫描的行和访问类型
在explain语句中的type列反应了访问类型。从全表扫描到索引扫描,范围扫描,唯一索引查询,常数引用等,速度从慢到快,扫描的行从大到小。一般我们增加一个合适的索引就可以很高效了。
1 2 3 4 5 6 7 8 9 10 11 12 | CREATE TABLE `emp5` ( `id` int (11) NOT NULL DEFAULT '0' , ` name ` varchar (100) NOT NULL , `job` varchar (100) NOT NULL , `num1` int (10) DEFAULT NULL , `num2` int (10) DEFAULT NULL , `num3` int (10) DEFAULT NULL , `job_num` int (10) DEFAULT NULL , `d` date DEFAULT NULL , PRIMARY KEY (`id`), KEY `job_num` (`job_num`) ) ENGINE=MyISAM DEFAULT CHARSET=utf8; |
这里说明使用了索引类型,如果去掉了索引
访问类型为全表扫描(ALL)
一般MySQL能够使用如下三种方式应用where,从好到坏依次是
a、在索引中使用where过滤不匹配的数据,引擎层完成。
b、使用索引覆盖扫描,在Extra中出现了Using index,直接从索引中过滤掉不需要的记录,服务层完成,不需回表取数据。
c、从数据表返回数据,然后过滤,在Extra中出现了Using where ,在服务层完成。
二、重构查询
一个复杂查询还是多个简单查询,是否需要将一个复杂的查询分成多个简单的查询,这是一个需要好好衡量的问题了。
1、切分查询
删除数据就是一个很好的例子。定期的清楚大量的数据,可能需要锁住大量的数据,占满整个事务,耗尽资源,阻塞很多小的查询,切分是一个很好的办法。
比方说:把如下的句子
1 | delete from message where create_time < date_sub(now(),interval 3 month ); |
换成如下:
1 2 3 4 5 6 | rows_affected=0 do{ rows_affected = do_query( "delete from message where create_time < date_sub(now(),interval 3 month limit 10000" ) ) }while rows_affected > 0 |
一次删除10000行,影响就会很小,压力就会分担开来了。
2、分解关联查询
把关联查询进行分解,例如下面的查询:
1 2 3 4 | select * from tag join tag_post on tag_post.tag_id = tag_id join post on tag_post.post_id = post.id where tag.tag = 'hreo' ; |
分解为:
1 2 3 | select * from tag where tag = 'hreo' ; select * from tag_post where tag_id=1234; select * from post where id in (123,546,432); |
乍一看,我们好像复杂化了,但是分解后还是有很多好处的,有的时候我们的却是需要这样做的 。
a、让缓存的效率更高,如果第一个查询的结果已经缓存了,那么就可以跳过第一个查询,另外对一MySQL的查询缓存Query Cache来说,如果关联的表发生了修改,就无法使用缓存了,拆分后,那么一个表的改变不会影响其他表的缓存。
b、单个查询可以减少锁的竞争。
c、在应用层做关联,有更好的扩展性。
d、可以减少冗余记录的查询,因为数据库关联查询时,可能需要重复的访问一部分数据。
e、这个相当于实现了哈希关联,而不是MySQL的嵌套循环关联,某些时候哈希关联效率高很多,这点以后会有介绍。
这个效果,在负载均衡,或者数据分布在不同的数据库是更明显。
相关文章:

wamp找不到服务器,WampServer服务器多站点配置后打不开phpMyAdmin的解决办法
WampServer服务器多站点配置后打不开phpMyAdmin的解决办法 (Forbidden You dont have permission to access / on this server.解决方法)1、首先找到wampserver安装目录下面的httpd.conf配置文件 文件路径:电脑磁盘:\wamp\bin\apache\Apache2.2.21\conf\httpd.conf打…

TSM简介(一)- 原理与特点
IBM的TSM软件是市场上主流的企业备份解决方案。它可以通过网络或者SAN集中备份企业中几乎所有系统平台的数据到磁带机或者磁带库。它可以对大多数数据,如ORACLE, SQL SERVER, DB2, LOTUS DOMINO进行在线备份,也是唯一可以对AS/400数据进行网络备份的解决…

AI人工智能的未来?AI科技与AI教程?答案都在这里!
欢迎大家关注CSDN旗下专业的AI平台【AI科技大本营】,AI科技大本营公众号为广大读者提供中国AI技术分析、学习AI技术、AI技术应用和AI科技资讯等服务。 AI科技大本营是中国专业IT社区CSDN旗下的AI垂直媒体,致力于关注并报道全球人工智能领域技术及产业方面…

Linux命令:文本处理工具awk详解
awk命令简介: awk是一个强大的文本分析工具,通常,awk是以文件的每一行,为处理单位的。awk每接收文件的一行,然后执行相应的命令,来处理文本。 1.命令格式: awk pattern {action}{filenames} 其中 pattern 表…

ForefrontTMG关于单一的网络适配器限制
来自于ISA2008的帮助文件.Microsoft Forefront Threat Management Gateway 可以安装在具有单一网络适配器的计算机上。 通常,当 Forefront TMG 位于公司内部网络或位于外围网络而网络边缘有另一防火墙时使用此配置,防止公司资源受到来自 Internet 的***。…

ajax的auto是true,一个AJAX自动完成功能的js封装源码[支持中文]
ScreenshotsPaginationInternationalizationRich formatText selection源码下载有个问题,等高手解决,就是怎么搞都不能支持中文,不知道要改哪个地方!期待比如 new CAPXOUS.AutoComplete("wiki", function() {return "autocomplete3.asp?typing" …

非计算机专业如何转行AI,找到算法offer?
作者 | Nick-Atom 责编 | 琥珀 【AI科技大本营导读】目前,各行业都在尝试着用机器学习/深度学习来解决自身行业的需求。在这个过程中,最为稀缺的也是高质量人工智能人才。 这一年我们见证了不断有非计算机专业学生转行人工智能的现象,每个想…

Swing布局管理器介绍
当选择使用JPanel和顶层容器的content pane时,需要考虑布局管理。JPanel缺省是初始化一个FlowLayout,而content pane缺省是初始化一个BorderLayout。下面将分别介绍几种最常用的布局管理器:FlowLayout、BorderLayout、BoxLayout、CardLayout、…

圣诞节!教你用Python画棵圣诞树
作者 | 糖甜甜甜,985高校经管研二,擅长用 Python、R、tableau 等工具结合统计学和机器学习模型做数据分析。来源 | 经管人学数据分析(ID:DAT-2017)如何用Python画一个圣诞树呢?最简单:1height 523stars 1…

给动态生成的按钮添加ajax,Ajax/Javascript动态创建按钮的问题
你没有指定一个事件处理程序,您调用它。函数createButtons马上被调用,并且它返回的任何东西都被赋值给window.onload。window.onload createButtons();必须window.onload createButtons;你必须是你正在使用domready中和的onload另一个问题。两个不同的…

Android进阶笔记:Messenger源码详解
Messenger可以理解为一个是用于发送消息的一个类用法也很多,这里主要分析一下再跨进程的情况下Messenger的实现流程与源码分析。相信结合前面两篇关于aidl解析文章能够更好的对aidl有一个认识。(Android进阶笔记:AIDL内部实现详解 ࿰…

程序员春运抢票的正确姿势!
作者 | 屠敏出品 | CSDN资讯「有钱没钱,回家过年。」转瞬间,2018 年余额已严重不足,而 2019 年还正在赶来的路上:根据国家法定假日规定,距离 2019 年春节( 2019 年 2 月 5 日)的到来还有 45 天&…

centos 6.8 编译安装git 2.11.0
系统环境:CentOS release 6.8 (Final) 默认Git :1.7.1 需求git :2.11 卸载centos自带的git:yum remove git -y 下载git-2.11.0.tar.gz 上传至服务器,下载链接:http://distfiles.macports.org/git/ 解压安装…

小黑盒不显示服务器,steam上买的游戏小黑盒不显示 | 手游网游页游攻略大全
发布时间:2018-04-18贪吃蛇遇上打方块是一款最近非常热门的休闲小游戏,游戏将贪吃蛇和打方块合而为一吸引了很多玩家!但是好多小伙们都不知道该怎么玩,下面小编来教你一个快速入门的小技巧吧!~ 小技巧: 1.通过吃游戏带数字的黄色圆点,增加自己的长 ...标签ÿ…

基于架构的上网行为管理产品界面对比
当前上网行为管理产品风靡市场,对用户的网络管理的能力有很大的提高,给用户带来便利的同时也给用户带来很多困惑。目前市场上的上网行为管理产品在功能点上基本相同,于是一些设备的厂商开始关注设备的其它附加功能,比如网络管理人…

AI in 美团:吃喝玩乐背后的黑科技
作者 | 杨丽出品 | AI科技大本营(rgznai100)很多人都会发现日常生活已经越来越离不开美团了,这个互联网平台涵盖了吃、住、行、游、购、娱……能帮我们做很多事情,非常接地气。黄色的美团外卖骑手,橙色的摩拜单车&…

手机贷服务器维护升级,手机贷服务器升级
手机贷服务器升级 内容精选换一换本章节介绍如何创建告警规则。用户可自定义监控目标与通知策略,及时了解云手机服务器、云手机、磁盘以及GPU卡的状况,从而起到预警作用。登录管理控制台。在管理控制台左上角,选择待创建告警规则的区域。在服…

Windows Server 2008 R2 Beta VHD镜像文件发布
微软刚刚发布了一个VHD格式的Windows Server 2008 R2 Beta镜像文件,它可以用于Hyper-V环境下作评估. 您需要事先安装Windows Server 2008 (64bit edition) 或 Windows Server 2008 R2 Beta,需要更多信息请参阅Hyper-V主页.下载:Windows Server 2008 R2 Beta .uation Virtual Ha…
linux下的usb抓包方法【转】
转自:http://blog.chinaunix.net/uid-11848011-id-4508834.html 1、配置内核使能usb monitor: make menuconfig Device Drivers --> USB Support --> USB M…

中小学AI教育靠谱吗?50%教师教学经验不足1年
作者 | 琥珀出品 | AI科技大本营(rgznai100)近日,一份《中小学阶段人工智能普及教育现状调研报告》的发布让我们不禁汗颜当下中国中小学人工智能教育普及程度、教师教育水平所存在的问题。链接:http://www.cacsi.org.cn/Uploads/a…
你,保持童心;我,帮你保持童颜
在周星驰的《美人鱼》里有这样一句: 童话是存在的,只不过不是幻想的,而是自己去搭建的儿童节到了 感觉自己又小了一岁 越来越年轻了呢! 望遍朋友圈, 都是一群该当妈的在过六一 大龄儿童这么凑热闹是不是不太好呢&#…

java程序通过命令行运行之Path和ClassPath的注意点
习惯用IDE的朋友可能早就不用cmd,想当初我们刚学java的时候还记得对着黑屏幕敲的,哈哈。让我们再来重温旧梦。 我们在现在有这样一个文件HelloWorld.java,它的路径是这样的E:\javaTest\HelloWorld.java public class HelloWorld { public…

美通信与动力公司向WIN-T军事通信计划提供支持
美通信与动力公司向WIN-T军事通信计划提供支持[据美国军事与航宇电子网2009年2月17日报道]日前,通信与动力工业公司(CPI)从通用动力卫星通信技术公司获得一项价值大约为1300万美元的后续合同,向美国陆军士兵信息网络战术ÿ…

看动画轻松理解“递归”与“动态规划”
作者 | 程序员小吴来源 | 五分钟学算法在学习「数据结构和算法」的过程中,因为人习惯了平铺直叙的思维方式,所以「递归」与「动态规划」这种带循环概念(绕来绕去)的往往是相对比较难以理解的两个抽象知识点。程序员小吴打算使用动…
毕业季:理想很丰满,现实也可以很丰满!
六月,原本不是一个适合离开的季节,不是烈日,就是暴雨,让人不得不走走停停,频频回望。然而,哪个季节又适合离开呢?六月,确实得离开了。大学几年的时光终将逝去,而之后各位…

php扩展模块安装-lamp
php扩展模块安装 PECL 的全称是 The PHP Extension Community Library ,是一个开放的并通过 PEAR(PHP Extension and Application Repository,PHP 扩展和应用仓库)打包格式来打包安装的 PHP扩展库仓库。通过 PEAR 的 Package Manager 的安装管理方式&…

一文搞懂K近邻算法(KNN),附带多个实现案例
简介:本文作者为 CSDN 博客作者董安勇,江苏泰州人,现就读于昆明理工大学电子与通信工程专业硕士,目前主要学习机器学习,深度学习以及大数据,主要使用python、Java编程语言。平时喜欢看书,打篮球…
致那些还在创业之路上孤独前行的青年大学生们!
彩虹,在大雨后出现 腊梅,在风雪中吐蕊 雄鹰,在险峰上空盘旋 人,在困境中弥坚 在这个创业的浪潮中 你是否也是其中之一 当所有事情都将有你一个人来完成 你是否有信心和能力把它做好 成功不是回首,不是寄望,…

MS DTC 无法正确处理 DC 升级/降级事件的解决
当Windows 2003安装AD后,经常出现以下警告信息的解决方法:MS DTC 无法正确处理 DC 升级/降级事件。MS DTC 将继续运行并将使用现有的安全设置。错误说明: %1, 打开管理工具的组件服务管理控制台,打开组件服务,计算机。右击我的电…

UML图的分类
作为一种建模语言,UML的定义包括UML语义和UML表示法两个部分。 (1) UML语义 描述基于UML的精确元模型定义。元模型为UML的所有元素在语法和语义上提供了简单、一致、通用的定义性说明,使开发者能在语义上取得一致,消除了因人而异的最佳表达方法所造成的影响。此外UML还支持对元…