PHP结合MySQL实现千万级数据处理

mysql分表思路

PHP结合MySQL实现千万级数据处理
一张一亿的订单表,可以分成五张表,这样每张表就只有两千万数据,分担了原来一张表的压力,分表需要根据某个条件进行分,这里可以根据地区来分表,需要一个中间件来控制到底是去哪张表去找到自己想要的数据。
中间件:根据主表的自增id作为中间件(什么样的字段适合做中间件?要具备唯一性)
怎么分发?主表插入之后返回一个id,根据这个id和表的数量进行取模,余数是几就往哪张表中插入数据。
注意:子表中的id要与主表的id保持一致
以后只有插入操作会用到主表,修改,删除,读取,均不需要用到主表

PHP 结合 MySQL 千万级数据处理

redis消息队列

1,什么是消息队列?
消息传播过程中保存消息的容器
2,消息队列产生的历史原因

PHP 结合 MySQL 千万级数据处理

消息队列的特点:先进先出
把要执行的sql语句先保存在消息队列中,然后依次按照顺利异步插入的数据库中
应用:新浪,把瞬间的评论先放入消息队列,然后通过定时任务把消息队列里面的sql语句依次插入到数据库中

修改

操作子表进行修改

PHP 结合 MySQL 千万级数据处理

这样修改有一个问题,主表和子表的数据会出现不一致,如何让主表和字表数据一致?

redis队列保持主表子表数据一致

修改完成后将要修改主表的数据,存入redis队列中

PHP 结合 MySQL 千万级数据处理

然后linux定时任务(contble)循环执行redis队列中的sql语句,同步更新主表的内容

PHP 结合 MySQL 千万级数据处理

mysql分布式之分表(查,删)

查询只需要查询子表,不要查询总表

PHP 结合 MySQL 千万级数据处理

删除,先根据id找到要删除的子表,然后删除,然后往消息队列中压入一条删除总表数据的sql语句
然后执行定时任务删除总表数据

PHP 结合 MySQL 千万级数据处理

定时任务:

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库

分库思路

PHP 结合 MySQL 千万级数据处理

分库原理图:

PHP 结合 MySQL 千万级数据处理

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(增)

PHP 结合 MySQL 千万级数据处理
注意:操作完一个数据库一定要把数据库连接关闭,不然mysql会以为一直连接的同一个数据库

还是取模确定加载哪个配置文件连接哪个数据库

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(改)

原理同新增

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(查,删)

原理类似

PHP 结合 MySQL 千万级数据处理
删除

PHP 结合 MySQL 千万级数据处理
执行队列

mysql分布式之缓存(memcache)的应用

将数据放入缓存中,节省数据库开销,先去缓存中查,如果有直接取出,如果没有,去数据库查,然后存入缓存中

PHP 结合 MySQL 千万级数据处理

在编辑信息之后需要删除缓存,不然一直读取的是缓存的数据而不是修改过的数据

PHP 结合 MySQL 千万级数据处理

关于PHP结合MySQL实现千万级数据处理的文章就分享到这,如果对你有帮助欢迎继续关注我们哦

本文来自投稿,不代表重蔚自留地立场,如若转载,请注明出处https://www.cwhello.com/41819.html

如有侵犯您的合法权益请发邮件951076433@qq.com联系删除

(0)
php学习php学习订阅用户
上一篇 2022年6月23日 16:30
下一篇 2022年6月23日 16:31

相关推荐

  • 分享宝塔php-fpm。

    宝塔面板是一款服务器管理软件,可以方便地安装、配置和管理PHP-FPM。通过宝塔面板,您可以快速搭建一个稳定高效的PHP环境。 宝塔面板是一款非常实用的服务器管理工具,可以帮助我们轻松地安装和管理PHP扩展,下面…

    2024年6月27日
    010
  • 如何使用PHP实现更快的直播功能。

    随着互联网的发展,直播已经成为了越来越受欢迎的网络应用。直播平台在吸引用户的同时,也面临着技术难题,如何提升用户体验。PHP作为一种常用的服务器端脚本语言,在直播应用中也扮演着重要的角色。本文将介绍如何…

    2023年5月30日
    04
  • PHP与数据库优化建议的集成。

    如今,在互联网领域,PHP和数据库已经成为开发者常用的技术。PHP与数据库的提高不仅仅意味着性能上的提高,即使在数据安全性和数据可靠性方面也将大大提高。因此,本文将探讨一些PHP和数据库方面的优化建议,以帮助…

    2023年5月21日
    04
  • PHP实现微信小程序多语音效果技巧。

    随着移动互联网的发展,微信小程序已经成为了许多企业和开发者的首选开发平台。而在小程序开发过程中,语音效果是非常重要的一个环节。本文将介绍PHP实现微信小程序多语音效果的技巧。一、微信小程序语音效果的基本…

    2023年6月3日
    04
  • PHP中的LBS地图操作指南。

    PHP是一种常用的Web编程语言,它可以被用来创建交互式的地图应用程序。其中,LBS(Located Based Services,基于位置服务)是一种非常重要的技术,能够让应用程序利用用户的位置信息来提供更加智能、个性化的服务。在…

    2023年5月30日
    03
  • PHP中如何进行人机交互和生物特征识别。

    PHP是一种广泛使用的编程语言,它在Web应用程序的开发中具有很大的用途。在PHP中,人机交互和生物特征识别是两个非常重要的方面,它们可以被广泛应用于各种Web应用程序的开发中。本文将探讨PHP中人机交互和生物特征…

    2023年5月23日
    07
  • PHP8中的数组函数:array_reduce()的多种应用示例。

    PHP8中的数组函数:array_reduce()的多种应用示例在PHP中,数组是一种非常重要的数据类型,它可以存储多个值,并且可以使用各种数组函数进行操作和处理。其中,array_reduce()函数是一种非常有用的函数,它可以将一…

    2023年5月21日
    02
  • 探索php+ajax实现带进度条的大数据排队导出思路

    废话不多说,先上效果图:点击导出,实现点击导出统计完成之后点击确定下面来谈谈实现的思路:前面导出操作简单,从第二个导出操作开始:点击"确定"调用exportCsv函数代码如下:<a class="on&quot…

    2022年6月12日 PHP自学教程
    0141

联系我们

QQ:951076433

在线咨询:点击这里给我发消息邮件:951076433@qq.com工作时间:周一至周五,9:30-18:30,节假日休息