mysql优化配置?mysql优化参数详解
- 开发语言
- 2023-08-13
- 77
大家好,关于mysql优化配置很多朋友都还不太明白,不过没关系,因为今天小编就来为大家分享关于mysql优化参数详解的知识点,相信应该可以解决大家的一些困惑和问题,如果...
大家好,关于mysql优化配置很多朋友都还不太明白,不过没关系,因为今天小编就来为大家分享关于mysql优化参数详解的知识点,相信应该可以解决大家的一些困惑和问题,如果碰巧可以解决您的问题,还望关注下本站哦,希望对各位有所帮助!
SQL数据库如何优化
之前在BAT里参与过一个公司级应用(非市场级,投入的人力也不会那么大),上线2年后,总是被用户投诉,原因是这个应用使用MySql数据库来做持久层,但是2年了,有一张非常重要的存储历史任务的表实在是太大了,导致通过页面想要查询历史数据的速度变得非常非常慢,所以用户很是不满意。
分析下来,这不是用Redis能解决的缓存问题,而是历史数据的查询响应速度问题。
我们最开始是希望能够通过增加索引的方式解决,但是面对千万级别的数据量,我们也不敢贸然加索引,因为一旦数据库hang住,期间的所有数据库写入请求都会被放到等待队列中,如果请求是通过http请求发过来的,很有可能导致服务发生分钟级别的超时不响应。
虽然经常被用户投诉反应慢,也不能破罐破摔,直接超时不响应了吧。
于是我们陷入了两难的境地。
后来我们分了两个部分来优化持久层。
MySQL的主从配置第一步就是配置MySQL的主从库,通过将读写请求分离,来提高数据库的响应速度。
从上图可知,来自同一台服务器的请求,经过MySQL-proxy被分流给了不同的MySQL节点,其中写请求给了主节点,读请求给了从节点。因此,我们首先通过分流的方式,减轻了单节点MySQL的响应压力,实现了优化的第一步。
引入ElasticSearch但是,只配置MySQL的主从是远远不够的。
通过查阅论坛,相关资料,我们最终敲定在持久层引入ElasticSearch。
ElasticSearch是一个轻量级的持久层工具,它支持动态多节点部署,自动备份,节点掉线后能够自动切换主从,动态广播发现新上线的节点,而这些优点的应用,无须修改任何server端配置。可以这样理解,如果你部署了4个elasticsearch节点,其中2个掉了,服务器还是可以很好的继续运行。
此外,它还有一个最重要的优势,那就是支持大数据快速查询。一张几千万的表,如果用MySQL查询,可能需要几秒到几十秒不等,但是如果用elasticsearch,只需要毫秒级别就能查询到结果。完美的解决了我们当前的问题,还顺带帮我们巩固了持久层的稳定性问题。
综上,优化Mysql的目的是为持久层服务,除了引入主从配置,当MySQL自身局限性导致无法继续优化后,引入其他技术也是十分必要的。
如果你对这篇回答有任何问题,欢迎在下方点赞,留言。
我是苏苏思量,来自BAT的java开发工程师,头像是本人,每天都会分享科技类见闻,欢迎关注我,与我共同进步。
mysql数据库设计与优化,应不应该使用约束
首先使用约束可以确保表数据的准确完整和唯一性;
其中常见的约束有
PRIMARYKEY,DEFAULT,UNIQUE,FOREIGNKEY,NOTNULL
一般情况下:DEFAULT和NOTNULL是会限制的,可以确保数据完整避免程序逻辑不够严谨造成的系统异常。但也不是绝对的,如果是后期优化还要考虑现有数据是否会造成冲突。
PRIMARYKEY在大对数情况下会设置作为业务数据的唯一标识符。但一些关系表一般可以不设置。有人说PRIMARYKEY必须自增,其实也未必。得就实际业务需求而定。
UNIQUE约束可以保证一列或者多列组合值都是唯一的。可以提升这一列的搜索效率。但同样也得考虑历史数据的情况。
当然以上情况只是经验之谈,具体数据库的优化一定是根据实际的业务逻辑进行的。可能没有什么必须遵守不可违背的定律。
只要符合业务需求并且能够提升业务效率,就是合理的设计。
如何优化MySQL千万级大表
概述
使用阿里云rdsforMySQL数据库(就是MySQL5.6版本),有个用户上网记录表6个月的数据量近2000万,保留最近一年的数据量达到4000万,查询速度极慢,日常卡死,严重影响业务。
老系统,当时设计系统的人大概是大学没毕业,表设计和SQL语句写的不仅仅是垃圾,简直无法直视。原开发人员都已离职,到我来维护,这就是传说中的维护不了就跑路,然后我就是掉坑的那个!!!
方案概述
方案一:优化现有MySQL数据库。优点:不影响现有业务,源程序不需要修改代码,成本最低。缺点:有优化瓶颈,数据量过亿就玩完了。
方案二:升级数据库类型,换一种100%兼容MySQL的数据库。优点:不影响现有业务,源程序不需要修改代码,你几乎不需要做任何操作就能提升数据库性能,缺点:多花钱。
方案三:一步到位,大数据解决方案,更换newSQL/noSQL数据库。优点:没有数据容量瓶颈,缺点:需要修改源程序代码,影响业务,总成本最高。
优化现有MySQL数据库数据库设计
表字段避免null值出现,null值很难查询优化且占用额外的索引空间,推荐默认数字0代替null。
尽量使用INT而非BIGINT,如果非负则加上UNSIGNED(这样数值容量会扩大一倍),当然能使用TINYINT、SMALLINT、MEDIUM_INT更好。
尽量使用TIMESTAMP而非DATETIME。
单表不要有太多字段,建议在20以内。
用整型来存IP。
索引并不是越多越好,要根据查询有针对性的创建,考虑在WHERE和ORDERBY命令上涉及的列建立索引,可根据EXPLAIN来查看是否用了索引还是全表扫描。
应尽量避免在WHERE子句中对字段进行NULL值判断,否则将导致引擎放弃使用索引而进行全表扫描。
值分布很稀少的字段不适合建索引,例如"性别"这种只有两三个值的字段。
字符字段最好不要做主键。
不用外键,由程序保证约束。
尽量不用UNIQUE,由程序保证约束。
使用多列索引时注意顺序和查询条件保持一致,同时删除不必要的单列索引。
使用可存下数据的最小的数据类型,整型<date,time<char,varchar<blob*
使用简单的数据类型,整型比字符处理开销更小,因为字符串的比较更复杂。如,int类型存储时间类型,bigint类型转ip函数。
使用合理的字段属性长度,固定长度的表会更快。使用enum、char而不是varchar。
尽可能使用notnull定义字段。
尽量少用text,非用不可最好分表。
查询频繁的列,在where,groupby,orderby,on从句中出现的列。
where条件中<,<=,=,>,>=,between,in,以及like字符串+通配符(%)出现的列。
长度小的列,索引字段越小越好,因为数据库的存储单位是页,一页中能存下的数据越多越好。
离散度大(不同的值多)的列,放在联合索引前面。查看离散度,通过统计不同的列值来实现,count越大,离散程度越高。
SQL编写
使用limit对查询结果的记录进行限定。
避免select*,将需要查找的字段列出来。
使用连接(join)来代替子查询。
拆分大的delete或insert语句。
可通过开启慢查询日志来找出较慢的SQL。
不做列运算:SELECTidWHEREage+1=10,任何对列的操作都将导致表扫描,它包括数据库教程函数、计算表达式等等,查询时要尽可能将操作移至等号右边。
SQL语句尽可能简单:一条SQL只能在一个cpu运算;大语句拆小语句,减少锁时间;一条大SQL可以堵死整个库。
OR改写成IN:OR的效率是n级别,IN的效率是log(n)级别,in的个数建议控制在200以内。
不用函数和触发器,在应用程序实现。
避免%xxx式查询。
少用JOIN。
使用同类型进行比较,比如用'123'和'123'比,123和123比。
尽量避免在WHERE子句中使用!=或<>操作符,否则将引擎放弃使用索引而进行全表扫描。
对于连续数值,使用BETWEEN不用IN:SELECTidFROMtWHEREnumBETWEEN1AND5。
列表数据不要拿全表,要使用LIMIT来分页,每页数量也不要太大。
分区
分区表的数据更容易维护,可以通过清楚整个分区批量删除大量数据,也可以增加新的分区来支持新插入的数据。另外,还可以对一个独立分区进行优化、检查、修复等操作。
部分查询能够从查询条件确定只落在少数分区上,速度会很快。
分区表的数据还可以分布在不同的物理设备上,从而搞笑利用多个硬件设备。
可以使用分区表赖避免某些特殊瓶颈,例如InnoDB单个索引的互斥访问、ext3文件系统的inode锁竞争。
可以备份和恢复单个分区。
一个表最多只能有1024个分区。
如果分区字段中有主键或者唯一索引的列,那么所有主键列和唯一索引列都必须包含进来。NULL值会使分区过滤无效。
所有分区必须使用相同的存储引擎。
分表
分表就是把一张大表,按照如上过程都优化了,还是查询卡死,那就把这个表分成多张表,把一次查询分成多次查询,然后把结果组合返回给用户。
分表分为垂直拆分和水平拆分,通常以某个字段做拆分项。比如以id字段拆分为100张表:表名为tableName_id%100。
但:分表需要修改源程序代码,会给开发带来大量工作,极大的增加了开发成本,故:只适合在开发初期就考虑到了大量数据存在,做好了分表处理,不适合应用上线了再做修改,成本太高!!!而且选择这个方案,都不如选择我提供的第二第三个方案的成本低!故不建议采用。
分库升级数据库
开源数据库会带来大量的运维成本且其工业品质和MySQL尚有差距,有很多坑要踩,如果你公司要求必须自建数据库,那么选择该类型产品。如tiDBpingcap/tidb,CubridOpenSourceDatabaseWithEnterpriseFeatures。
阿里云POLARDB,POLARDB是阿里云自研的下一代关系型分布式云原生数据库,100%兼容MySQL,存储容量最高可达100T,性能最高提升至MySQL的6倍。POLARDB既融合了商业数据库稳定、可靠、高性能的特征,又具有开源数据库简单、可扩展、持续迭代的优势,而成本只需商用数据库的1/10。
阿里云OcenanBase,淘宝使用的,扛得住双十一,性能卓著,但是在公测中,我无法尝试,但值得期待。
阿里云HybridDBforMySQL(原PetaData),云数据库HybridDBforMySQL(原名PetaData)是同时支持海量数据在线事务(OLTP)和在线分析(OLAP)的HTAP(HybridTransaction/AnalyticalProcessing)关系型数据库。
腾讯云DCDB,DCDB又名TDSQL,一种兼容MySQL协议和语法,支持自动水平拆分的高性能分布式数据库——即业务显示为完整的逻辑表,数据却均匀的拆分到多个分片中;每个分片默认采用主备架构,提供灾备、恢复、监控、不停机扩容等全套解决方案,适用于TB或PB级的海量数据场景。
hadoop家族。hbase/hive怼上就是了。但是有很高的运维成本,一般公司是玩不起的,没十万投入是不会有很好的产出的!
我选择了阿里云的MaxCompute配合DataWorks,使用超级舒服,按量付费,成本极低。
MaxCompute可以理解为开源的Hive,提供SQL/mapreduce/ai算法/python脚本/shell脚本等方式操作数据,数据以表格的形式展现,以分布式方式存储,采用定时任务和批处理的方式处理数据。DataWorks提供了一种工作流的方式管理你的数据处理任务和调度监控。
当然你也可以选择阿里云hbase等其他产品,我这里主要是离线处理,故选择MaxCompute,基本都是图形界面操作,大概写了300行SQL,费用不超过100块钱就解决了数据处理问题。
如何在WordPress后台直接优化MySQL数据库
使用数据库优化清理插件
MySQL实现批量插入以优化性能的教程
开启mysql事务,打开MyBatis的DEBUG日志查看执行的SQL,并打印DELETE返回的effectcount
好了,文章到这里就结束啦,如果本次分享的mysql优化配置和mysql优化参数详解问题对您有所帮助,还望关注下本站哦!
本文链接:http://xinin56.com/kaifa/3747.html