暂无图片
暂无图片
1
暂无图片
暂无图片
暂无图片

数据库架构设计

原创 薛定谔的比干 2022-06-07
1216

基本概念

  • 单库
  • 分片

分片解决的是“数据量太大”的问题,也就是常说的水平切分。引入分片会产生‘数据路由’的概念。

路由规则常用的三种方法:

  1. 范围:range
    优点:简单,容易扩展
    缺点:各库压力不均(新号段更活跃)

  2. 哈希:hash
    优点:简单,数据均衡,负载均匀
    缺点:迁移麻烦(2库扩3库数据要迁移)

  3. 路由服务:router-config-server
    优点:灵活性强,业务与路由算法解耦
    缺点:每次访问数据库前多一次查询

大部分互联网公司采用的方案二:哈希分库,哈希路由

  • 分组

分组解决“可用性”问题,分组通常通过主从复制的方式实现。
数据库实际软件架构是:又分片,又分组

数据库架构设计思路

至少要考虑以下四点:

  1. 如何保证数据可用性

解决可用性问题的思路是-----冗余
数据的冗余,会带来一个副作用,引发一致性问题

  1. 如何提高数据库读性能(大部分应用读多写少,读会先成为瓶颈)
  2. 如何保证一致性
  3. 如何提高扩展性

1.1 如何保证数据库“读”高可用
冗余读库
image.png
冗余读库带来的副作用,读写有延时,可能不一致
上面这个图,,写仍然是单点,不能保证写高可用。

1.2 如何保证数据库“写”高可用
冗余写库
image.png
采用双主互备的方式,可以冗余写库
双写同步,数据可能冲突(例如“自增id”同步冲突),有两种常见解决方案:
(1)两个写库使用不同的初始值,相同的步长来增加id:1写库的id为0,2,4,6…;2写库的id为1,3,5,7…
(2)不使用数据的id,业务层自己生成唯一的id,保证数据不冲突

1.3 双主当主从用,做读写的“高可用”
image.png
仍是双主,但只有一个主提供服务(读+写),另一个主是“shadow-master”,只用来保证高可用,平时不提供服务。
master挂了,shadow-master顶上(vip漂移,对业务层透明,不需要人工介入)
这种方式的好处:
1)读写没有延时
2)读写高可用
不足:
1)不能通过加从库的方式扩展读性能
2)资源利用率为50%,一台冗余主没有提供服务

2.1 如何提高数据库读性能
提高读性能的方式大致有三种:
1)建立索引,不同的库可以建立不同的索引。

写库不建立索引;
线上读库建立线上访问索引,例如uid;
线下读库建立线下访问索引,例如time;

2)增加从库

从库越多,同步越慢
同步越慢,数据不一致窗口越大

3)增加缓存

常见的缓存架构
上游是业务应用,下游是主库,从库(读写分离),缓存。

业务层不直接面向db和cache,服务层屏蔽了底层db、cache的复杂性。“服务+数据库+缓存一套”的方式提供数据访问,用cache提高读性能。
不管采用主从的方式扩展读性能,还是缓存的方式扩展读性能,数据都要复制多份(主+从,db+cache),一定会引发一致性问题。

3.1 如何保证一致性

  • 主从数据库的一致性,通常有两种解决方案:
    1)中间件
    image.png
    如果某一个key有写操作,在不一致时间窗口内,中间件会将这个key的读操作也路由到主库上。
    这个方案的缺点是,数据库中间件的门槛较高

    2)强制读主
    “双主当主从用”的架构,不存在主从不一致的问题。

  • db与缓存间的不一致
    常见的缓存架构如上,写操作的顺序是:
    1)淘汰cache
    2)写数据库
    读操作的顺序是:
    1)读cache,如果cache hit则返回
    2)如果cache miss,则读从库
    3)读从库后,将数据放回cache

在一些异常时序情况下,有可能从【从库读到旧数据(同步还没有完成),旧数据入cache后】,数据会长期不一致。
解决办法是“缓存双淘汰”,写操作时序升级为:
1)淘汰cache
2)写数据库
3)在经验“主从同步延时窗口时间”后,再次发起一个异步淘汰cache的请求

这样,即使有脏数据如cache,一个小的时间窗口之后,脏数据还是会被淘汰。带来的代价是,多引入一次读miss(成本可以忽略)。

除此之外,可以为所有cache中的item设置一个超时时间。

4.1 如何提高数据库扩展性
首先,我们不做2库变3库的扩容,我们做2库变4库(库加倍)的扩容(未来4->8->16)
image.png

服务+数据库是一套(省去了缓存)
数据库采用“双主”的模式。

扩容步骤:
1)将一个主库提升
2)修改配置,2库变4库(原来MOD2,现在配置修改后MOD4)
扩容完成
image.png

原MOD2为偶的部分,现在会MOD4余0或者2
原MOD2为奇的部分,现在会MOD4余1或者3
数据不需要迁移,同时,双主互相同步,一遍是余0,一边余2,两边数据同步也不会冲突,秒级完成扩容!

最后,要做一些收尾工作:
1)将旧的双主同步解除
2)增加新的双主(双主是保证可用性的,shadow-master平时不提供服务)
3)删除多余的数据(余0的主,可以将余2的数据删除掉)
image.png
这样,秒级别内,我们就完成了2库变4库的扩展。

最后修改时间:2022-06-08 10:49:06
「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论

暂无图片
获得了116次点赞
暂无图片
内容获得47次评论
暂无图片
获得了197次收藏
目录
  • 基本概念
  • 数据库架构设计思路