暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

企业高并发架构方案

追梦Java 2023-09-13
68
点击下方关注我,然后右上角点击...“设为星标”,就能第一时间收到更新推送啦~~~

高并发(High Concurrency)是互联网分布式系统架构设计中必须考虑的因素,它通常是指,系统能够同时并行处理很多的请求。也就是说高并发指的是同一时刻不同的用户访问了同一个资源,或者是同一时刻有多个线程访问了同一个数据。


说到高并发,一般有3个技术指标:QPS、响应时间,吞吐量


QPS:(Query Per Second:每秒查询率),在互联网领域,指每秒响应请求数(http请求)。


响应时间:系统对请求做出响应的时间。假设某个接口处理一个http请求需要200ms,那么该接口的响应时间就是200ms。


吞吐量:单位时间内处理的请求数量。


提高系统并发能力的方法主要有两种:垂直扩展(Scale Up)与水平扩展(Scale Out)。


垂直扩展就是提升单机处理能力,水平扩展就是增加服务器数量。


垂直扩展:

  • 增强单机硬件性能:增加CPU核数,增加内存,更换更好的硬盘等

  • 提升单机架构性能:使用缓存来减少IO,使用异步来增加单服务吞吐量,使用无锁数据结构来减少响应时间


但是单机性能总是有极限的,因此互联网分布式架构设计的高并发终极解决方案还是水平扩展


下面分享一个高并发的企业整体架构,如下图:


下面对这个架构做个介绍:


1、用户访问系统之前要经过防火墙的隔离,它主要的功能是把企业内外网络进行物理隔离,通过预先制的安全策略控制用户的访问。


2、负载均衡服务器可以转发请求,使用户请求均匀地分配到应用服务器,避免单机的压力。可以通过硬件和软件解决。软件有:LVS,nginx,硬件有F5比较贵。


3、负载均衡使用主备机制达到高可用(HA)的目的。


4、应用服务器分布式,面临的一个问题是session共享的问题,假设用户登录了应用1,下次请求到了应用2,那么如果没有处理session共享的话,就会导致用户需要重新登录。目前一般使用缓存服务器来解决session共享问题,比如Redis集群。


5、数据库服务器一般使用MySQL,因为Oracle是按CPU收费的,非常贵。


6、使用Redis等缓存系统,使用ELK快速检索,使用hadoop进行数据分析。


在这个架构里,高并发体现在负载均衡和数据库2个地方。


负载均衡:无论使用LVS+keepalived还是使用nginx,都要考虑做负载的集群,考虑主备机制。


数据库高并发:

1、读写分离:



2、水平拆分+库表散列

  • MySQL集群替代Oracle单点

  • 根据字段值的一致性Hash分布

  • 数据查询根据where中的拆分字段分发


以上,就是常用的一个企业高并发架构方案。

文章转载自追梦Java,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论