当前位置:首页 > 编程教程 > mysql技术文章 > mysql数据库如何实现亿级数据快速清理

mysql数据库实现亿级数据快速清理的方法

  • 发布时间:
  • 作者:码农之家
  • 点击:78

这篇文章主要知识点是关于mysql、数据清理、的内容,如果大家想对相关知识点有系统深入的学习,可以参阅以下电子书

MySQL技术内幕:InnoDB存储引擎
  • 类型:MySQL大小:39.3 MB格式:PDF作者:姜承尧
立即下载

mysql数据库如何实现亿级数据快速清理

今天收到磁盘报警异常,50G的磁盘被撑爆了,分析解决过程如下:

1. 进入linux服务器,查看mysql文件夹中各个数据库所占的磁盘空间大小

看到了吗,光olderdb就占了25G

2. 用SQLyog登录mysql数据库,查看数据库各个表的占用空间情况

SELECT CONCAT(table_schema,'.',table_name) AS 'aaa',  
  table_rows AS 'Number of Rows',  
  CONCAT(ROUND(data_length/(1024*1024*1024),6),' G') AS 'Data Size',  
  CONCAT(ROUND(index_length/(1024*1024*1024),6),' G') AS 'Index Size' ,  
  CONCAT(ROUND((data_length+index_length)/(1024*1024*1024),6),' G') AS'Total' 
FROM information_schema.TABLES  
WHERE table_schema LIKE 'olderdb'; 

3. 查询主键索引

SHOW INDEX FROM orbit 

采取策略

前提:目前需要删除80%的数据

① delete语句

我们知道delete语句的删除速度与索引量成正比,此表中的索引量已经很大了,而且数据量非常之巨大,若采用常规delete语句删除,必定会话费几天的时间。

Delete语句删除不会释放出磁盘空间,所以肯定还是会出现报警,所以此种方式不可取。

② drop掉表

新建结构相同的表,命名“cc”,'将需要保存的数据插入到此表中,然后drop掉老表。

Sql语句如下:

基于老表新建新表

CREATE TABLE cc LIKE orbit ;

插入数据(几百万的数据量一定要分批插入,一次30万-40万为最佳,毕竟mysql的数据处理能力有限)

按日期查询后插入(每天大概会产生30多万数据量,所以采用日期插入)

INSERT INTO cc SELECT * FROM orbit WHERE xttime > '2018-04-16 00:00:00' AND xttime<='2018-04-17 00:00:00';

结果如下:

可以看到50多万的数据量用了不到5分钟,还是比较快的。

清理后数据表空间得以释放

然后drop掉老表

DROP TABLE orbit

目测只用了3秒左右

重命名新表“cc”

ALTER TABLE cc RENAME TO orbit

总结

以上所述是小编给大家介绍的mysql数据库如何实现亿级数据快速清理 ,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对码农之家网站的支持!

以上就是本次给大家分享的关于java的全部知识点内容总结,大家还可以在下方相关文章里找到相关文章进一步学习,感谢大家的阅读和支持。

您可能感兴趣的文章:

  • mysql数据库优化总结
  • 如何将Ghost从SQLite3数据库迁移到MySQL数据库
  • 深入理解MySql数据表之间的连接、查询
  • my.ini优化mysql数据库性能的重要参数
  • node.js中mysql数据库配置及连接知识点分享
  • 如何解决MYSQL数据库导入数据时出现乱码的问题
  • mysqldump加-w参数备份数据时需要留意的地方
  • Python爬取数据并写入MySQL数据库操作示例
  • 如何解决linux配置mysql数据库远程连接失败的问题
  • 详解使用MySQL中数据类型binary和varbinary
  • 相关电子书
    学习笔记

    Copyright 2018-2020 www.xz577.com 码农之家

    版权投诉 / 书籍推广 / 赞助:520161757@qq.com