通过与 Jira 对比,让您更全面了解 PingCode

  • 首页
  • 需求与产品管理
  • 项目管理
  • 测试与缺陷管理
  • 知识管理
  • 效能度量
        • 更多产品

          客户为中心的产品管理工具

          专业的软件研发项目管理工具

          简单易用的团队知识库管理

          可量化的研发效能度量工具

          测试用例维护与计划执行

          以团队为中心的协作沟通

          研发工作流自动化工具

          账号认证与安全管理工具

          Why PingCode
          为什么选择 PingCode ?

          6000+企业信赖之选,为研发团队降本增效

        • 行业解决方案
          先进制造(即将上线)
        • 解决方案1
        • 解决方案2
  • Jira替代方案

25人以下免费

目录

MySQL为什么在单表数据量达到千万/亿级别时性能比百万级别时差很多

MySQL在单表数据量达到千万/亿级别时性能比百万级别时差很多的原因:1、索引失效;2、I/O 压力增加;3、锁竞争。索引失效是指当数据量逐渐增大时,MySQL 在执行查询时需要扫描大量的数据块,如果没有合适的索引支持,就会导致查询效率降低。

一、MySQL在单表数据量达到千万/亿级别时性能比百万级别时差很多的原因

1、索引失效

在数据量增大后,查询慢的一个主要原因是索引失效。当数据量逐渐增大时,MySQL 在执行查询时需要扫描大量的数据块,如果没有合适的索引支持,就会导致查询效率降低。

2、I/O 压力增加

当数据量增大时,MySQL 在磁盘上需要读取更多的数据块,这会增加 I/O 压力,从而导致查询效率降低。此外,随着数据量的增大,MySQL 需要利用更多的内存来缓存数据,而内存资源是有限的,当内存不足时也会增加磁盘 I/O 压力。

3、锁竞争

在并发访问高的情况下,MySQL 的性能也会收到锁竞争的影响。当多个用户同时对同一张表进行修改时,MySQL 需要使用锁来保证数据的一致性。当数据量增大时,锁竞争的机会也会增加,从而导致性能下降。

二、MySQL单表数据量过大导致性能变差的解决方案

1、优化现有mysql数据库

方法

  • 数据库设计和表创建时就要考虑性能
  • sql的编写需要注意优化
  • 分区
  • 分表
  • 分库

优点:不影响现有业务,源程序不需要修改代码,成本最低。

缺点:有优化瓶颈,数据量不能过亿。

2、升级数据库类型

为保证源程序代码不修改,保证现有业务平稳迁移,故需要换一个100%兼容mysql的数据库。

  • 开源选择:tiDB https://github.com/pingcap/tidb或者Cubrid https://www.cubrid.org/
  • 云数据选择:阿里云POLARDB https://www.aliyun.com/product/polardb?spm=a2c4g.11174283.cloudEssentials.47.7a984b5cS7h4wH

优点:不影响现有业务,源程序不需要修改代码,几乎不需要做任何操作就能提升数据库性能。

缺点:多花钱。

3、更换newsql/nosql数据库

去掉mysql,换大数据引擎处理数据:

  • 开源解决方案:hadoop家族。
  • 云解决方案:这个就比较多了,也是一种未来趋势,大数据由专业的公司提供专业的服务,小公司或个人购买服务,大数据就像水/电等公共设施一样,存在于社会的方方面面。国内做的较好的当属阿里云。

优点:没有数据容量瓶颈。

缺点:需要修改源程序代码,影响业务,总成本较高。

三、MySQL单表数据量上限

曾经在中国互联网技术圈广为流传着这么一个说法:MySQL 单表数据量大于 2000 万行,性能会明显下降。事实上,这个传闻据说较早起源于百度。具体情况大概是这样的,当年的 DBA 测试 MySQL性能时发现,当单表的量在 2000 万行量级的时候,SQL 操作的性能急剧下降,因此,结论由此而来。然后又据说百度的工程师流动到业界的其它公司,也带去了这个信息,所以,就在业界流传开这么一个说法。

再后来,阿里巴巴《Java 开发手册》提出单表行数超过 500 万行或者单表容量超过 2GB,才推荐进行分库分表。对此,有阿里的黄金铁律支撑,所以,很多人设计大数据存储时,多会以此为标准,进行分表操作。

事实上,这个数值和实际记录的条数无关,而与 MySQL 的配置以及机器的硬件有关。因为,MySQL 为了提高性能,会将表的索引装载到内存中。InnoDB buffer size 足够的情况下,其能完成全加载进内存,查询不会有问题。但是,当单表数据库到达某个量级的上限时,导致内存无法存储其索引,使得之后的 SQL 查询会产生磁盘 IO,从而导致性能下降。当然,这个还有具体的表结构的设计有关,最终导致的问题都是内存限制。这里,增加硬件配置,可能会带来立竿见影的性能提升。

延伸阅读1:数据库是什么

数据库(Database)是按照数据结构来组织、存储和管理数据的仓库。每个数据库都有一个或多个不同的 API 用于创建,访问,管理,搜索和复制所保存的数据。我们也可以将数据存储在文件中,但是在文件中读写数据速度相对较慢。所以,现在我们使用关系型数据库管理系统(RDBMS)来存储和管理大数据量。所谓的关系型数据库,是建立在关系模型基础上的数据库,借助于集合代数等数学概念和方法来处理数据库中的数据。

相关文章