数据量大时——使用分布式

数据量大时——使用分布式

  • 代码处理

可以使用spring cloud 微服务,Spring Cloud核心子项目

  • Spring Cloud Netflix:核心组件,可以对多个Netflix OSS开源套件进行整合,包括以下几个组件:
    • Eureka:服务治理组件,包含服务注册与发现
    • Hystrix:容错管理组件,实现了熔断器
    • Ribbon:客户端负载均衡的服务调用组件
    • Feign:基于Ribbon和Hystrix的声明式服务调用组件
    • Zuul:网关组件,提供智能路由、访问过滤等功能
    • Archaius:外部化配置组件
  • 数据库处理

  •  mysql 可以使用MySQL Cluster 

  • redis 可以使用Redis-Cluster( Redis-Cluster是在Redis3.0后推出的官方集群方案。它的实现负载均衡的原理本质上也是通过对槽位的分配。)

如果有一个特别大的访问量到数据库上时,往往查询速度会变得很慢,所以我们需要进行优化。优化从三个方面考虑:SQL语句优化、主从复制,读写分离,负载均衡、数据库分库分表。

一、SQL查询语句优化

    1、使用索引

    建立索引可以使查询速度得到提升,我们首先应该考虑在where及order by,group by涉及的列上建立索引。

   2、借助explain(查询优化神器)选择更好的索引和优化查询语句

    SQL 的 Explain 通过图形化或基于文本的方式详细说明了 SQL 语句的每个部分是如何执行以及何时执行的,以及执行效果。通过

对选择更好的索引列,或者对耗时久的SQL语句进行优化达到对查询速度的优化。

   3、任何地方都不要使用SELECT * FROM语句。

   4、不要在索引列做运算或者使用函数

   5、查询尽可能使用limit来减少返回的行数

   6、使用查询缓存,并将尽量多的内存分配给MYSQL做缓存

二、主从复制,读写分离,负载均衡

   目前大多数的主流关系型数据库都提供了主从复制的功能,通过配置两台(或多台)数据库的主从关系,可以将一台数据库服务器的数据更新同步到另一台服务器上。网站可以利用数据库这一功能,实现数据库的读写分离,从而改善数据库的负载压力。一个系统的读操作远远多于写操作,因此写操作发向master,读操作发向slaves进行操作(简单的轮询算法来决定使用哪个slave)。

   利用数据库的读写分离,Web服务器在写数据的时候,访问主数据库(master),主数据库通过主从复制将数据更新同步到从数据库(slave),这样当Web服务器读数据的时候,就可以通过从数据库获得数据。这一方案使得在大量读操作的Web应用可以轻松地读取数据,而主数据库也只会承受少量的写入操作,还可以实现数据热备份,可谓是一举两得。

三、数据库分表、分区、分库

   1、分表

   通过分表可以提高表的访问效率。有两种拆分方法:

   垂直拆分

   在主键和一些列放在一个表中,然后把主键和另外的列放在另一个表中。如果一个表中某些列常用,而另外一些不常用,则可以采用垂直拆分。

   水平拆分

   根据一列或者多列数据的值把数据行放到两个独立的表中。

   2、分区

   分区就是把一张表的数据分成多个区块,这些区块可以在一个磁盘上,也可以在不同的磁盘上,分区后,表面上还是一张表,但是数据散列在多个位置,这样一来,多块硬盘同时处理不同的请求,从而提高磁盘I/O读写性能。实现比较简单,包括水平分区和垂直分区。

   3、分库

   分库是根据业务不同把相关的表切分到不同的数据库中,比如web、bbs、blog等库。


  分库解决的是数据库端 并发量的问题。分库和分表并不一定两个都要上,比如数据量很大,但是访问的用户很少,我们就可以只使用分表不使用分库。如果数据量只有1万,而访问用户有一千,那就只使用分库。  

  注意:分库分表最难解决的问题是统计,还有跨表的连接(比如这个表的订单在另外一张表),解决这个的方法就是使用中间件,比如大名鼎鼎的MyCat,用它来做路由,管理整个分库分表,乃至跨库跨表的连接

原文地址:https://www.cnblogs.com/dayspring/p/12035317.html