处理高并发的一般思路

2020-10-29 11:22:22 浏览数 (1)

前言

今天看见有人聊目前系统有2亿的PV,该如何优化?当我看到这个话题的时候,突然在想自己工作中也遇到了不少高并发的场景了,所以即兴发挥,在这里简单总结和分享下服务端相关,欢迎指正和补充。

正文

读操作

关于读,我们一般遵循如下优先级:

优先级

技术方案

说明

示例

最高

尽可能静态化

对实时性要求不高的数据,尽可能全走CDN

例如获取基础商品信息

就近使用内存

优先级服务器内存、远程内存服务

例如秒杀、抢购库存(优先分配库存到服务器内存,其次远程内存服务<又涉及额外网络IO>)

极低

数据库(能不读就不要读)

连接池、sql优化

常见业务

写操作

关于写,我们一般会按照数据的一致性要求级别来看:

数据一致性要求

技术方案

不高

先写内存(优先级从服务器内存到远程内存服务) 再异步储存

同步完成最关键的任务 异步保证其他任务最终成功

削峰限流

从简单到复杂:

简单程度

技术方案

最简单

百分比流量拒绝(随机、没有先到先得不够公平)

简单

原子操作限流(优先级使用服务器内存、其次远程内存服务)

稍麻烦

队列限流(先到先得,公平)

服务稳定性

在高并发的场景,有时候为了保证核心业务的正常进行,我们需要对一些次要的业务进行服务降级。简单的降级方案如下:

  1. 配置开关降级:手动进行配置开关降级
  2. 定时开关降级:自动定时降级

系统架构

关于系统架构,不用想的太复杂,简单的拆离此业务即可。

运维架构

部署层面,尽可能的把此类服务单独部署。

武器

“工欲善其事,必先利其器”,处理高并发我们当然少不了好的武器。以下是高并发“三剑客”:

技术名词

说明

异步

例如nodejs,层层回调似灾难(Promise也是很臃肿的链式代码)

epoll

IO多路复用,nginx/redis方案

协程

轻量,用户态调度高并发能力

0 人点赞