mirror of
https://github.com/Snailclimb/JavaGuide
synced 2025-06-16 18:10:13 +08:00
[docs update]部分描述修正完善
This commit is contained in:
parent
38cebbc123
commit
0c0efe5c3c
@ -6,7 +6,7 @@ icon: limit_rate
|
|||||||
|
|
||||||
针对软件系统来说,限流就是对请求的速率进行限制,避免瞬时的大量请求击垮软件系统。毕竟,软件系统的处理能力是有限的。如果说超过了其处理能力的范围,软件系统可能直接就挂掉了。
|
针对软件系统来说,限流就是对请求的速率进行限制,避免瞬时的大量请求击垮软件系统。毕竟,软件系统的处理能力是有限的。如果说超过了其处理能力的范围,软件系统可能直接就挂掉了。
|
||||||
|
|
||||||
限流可能会导致用户的请求无法被正确处理,不过,这往往也是权衡了软件系统的稳定性之后得到的最优解。
|
限流可能会导致用户的请求无法被正确处理或者无法立即被处理,不过,这往往也是权衡了软件系统的稳定性之后得到的最优解。
|
||||||
|
|
||||||
现实生活中,处处都有限流的实际应用,就比如排队买票是为了避免大量用户涌入购票而导致售票员无法处理。
|
现实生活中,处处都有限流的实际应用,就比如排队买票是为了避免大量用户涌入购票而导致售票员无法处理。
|
||||||
|
|
||||||
@ -18,23 +18,27 @@ icon: limit_rate
|
|||||||
|
|
||||||
### 固定窗口计数器算法
|
### 固定窗口计数器算法
|
||||||
|
|
||||||
固定窗口其实就是时间窗口。**固定窗口计数器算法** 规定了我们单位时间处理的请求数量。
|
固定窗口其实就是时间窗口,其原理是将时间划分为固定大小的窗口,在每个窗口内限制请求的数量或速率,即固定窗口计数器算法规定了系统单位时间处理的请求数量。
|
||||||
|
|
||||||
假如我们规定系统中某个接口 1 分钟只能访问 33 次的话,使用固定窗口计数器算法的实现思路如下:
|
假如我们规定系统中某个接口 1 分钟只能被访问 33 次的话,使用固定窗口计数器算法的实现思路如下:
|
||||||
|
|
||||||
|
- 将时间划分固定大小窗口,这里是 1 分钟一个窗口。
|
||||||
- 给定一个变量 `counter` 来记录当前接口处理的请求数量,初始值为 0(代表接口当前 1 分钟内还未处理请求)。
|
- 给定一个变量 `counter` 来记录当前接口处理的请求数量,初始值为 0(代表接口当前 1 分钟内还未处理请求)。
|
||||||
- 1 分钟之内每处理一个请求之后就将 `counter+1` ,当 `counter=33` 之后(也就是说在这 1 分钟内接口已经被访问 33 次的话),后续的请求就会被全部拒绝。
|
- 1 分钟之内每处理一个请求之后就将 `counter+1` ,当 `counter=33` 之后(也就是说在这 1 分钟内接口已经被访问 33 次的话),后续的请求就会被全部拒绝。
|
||||||
- 等到 1 分钟结束后,将 `counter` 重置 0,重新开始计数。
|
- 等到 1 分钟结束后,将 `counter` 重置 0,重新开始计数。
|
||||||
|
|
||||||
这种限流算法限流不够平滑。例如,我们限制某个接口每分钟只能访问 30 次,假设前 30 秒就有 30 个请求到达的话,那后续 30 秒将无法处理请求,这是不可取的,用户体验极差!
|
|
||||||
|
|
||||||
除此之外,这种限流算法无法保证限流速率,因而无法应对突然激增的流量。例如,我们限制某个接口 1 分钟只能访问 1000 次,该接口的 QPS 为 500,前 55s 这个接口 1 个请求没有接收,后 1s 突然接收了 1000 个请求。然后,在当前场景下,这 1000 个请求在 1s 内是没办法被处理的,系统直接就被瞬时的大量请求给击垮了。
|
|
||||||
|
|
||||||

|

|
||||||
|
|
||||||
|
优点:实现简单,易于理解。
|
||||||
|
|
||||||
|
缺点:
|
||||||
|
|
||||||
|
- 限流不够平滑。例如,我们限制某个接口每分钟只能访问 30 次,假设前 30 秒就有 30 个请求到达的话,那后续 30 秒将无法处理请求,这是不可取的,用户体验极差!
|
||||||
|
- 无法保证限流速率,因而无法应对突然激增的流量。例如,我们限制某个接口 1 分钟只能访问 1000 次,该接口的 QPS 为 500,前 55s 这个接口 1 个请求没有接收,后 1s 突然接收了 1000 个请求。然后,在当前场景下,这 1000 个请求在 1s 内是没办法被处理的,系统直接就被瞬时的大量请求给击垮了。
|
||||||
|
|
||||||
### 滑动窗口计数器算法
|
### 滑动窗口计数器算法
|
||||||
|
|
||||||
**滑动窗口计数器算法** 算的上是固定窗口计数器算法的升级版。
|
**滑动窗口计数器算法** 算的上是固定窗口计数器算法的升级版,限流的颗粒度更小。
|
||||||
|
|
||||||
滑动窗口计数器算法相比于固定窗口计数器算法的优化在于:**它把时间以一定比例分片** 。
|
滑动窗口计数器算法相比于固定窗口计数器算法的优化在于:**它把时间以一定比例分片** 。
|
||||||
|
|
||||||
@ -44,7 +48,15 @@ icon: limit_rate
|
|||||||
|
|
||||||

|

|
||||||
|
|
||||||
滑动窗口计数器算法可以应对突然激增的流量,但依然存在限流不够平滑的问题。
|
优点:
|
||||||
|
|
||||||
|
- 相比于固定窗口算法,滑动窗口计数器算法可以应对突然激增的流量。
|
||||||
|
- 相比于固定窗口算法,滑动窗口计数器算法的颗粒度更小,可以提供更精确的限流控制。
|
||||||
|
|
||||||
|
缺点:
|
||||||
|
|
||||||
|
- 与固定窗口计数器算法类似,滑动窗口计数器算法依然存在限流不够平滑的问题。
|
||||||
|
- 相比较于固定窗口计数器算法,滑动窗口计数器算法实现和理解起来更复杂一些。
|
||||||
|
|
||||||
### 漏桶算法
|
### 漏桶算法
|
||||||
|
|
||||||
@ -54,7 +66,15 @@ icon: limit_rate
|
|||||||
|
|
||||||

|

|
||||||
|
|
||||||
漏桶算法可以控制限流速率,避免网络拥塞和系统过载。不过,漏桶算法无法应对突然激增的流量,因为只能以固定的速率处理请求,对系统资源利用不够友好。
|
优点:
|
||||||
|
|
||||||
|
- 实现简单,易于理解。
|
||||||
|
- 可以控制限流速率,避免网络拥塞和系统过载。
|
||||||
|
|
||||||
|
缺点:
|
||||||
|
|
||||||
|
- 无法应对突然激增的流量,因为只能以固定的速率处理请求,对系统资源利用不够友好。
|
||||||
|
- 桶流入水(发请求)的速率如果一直大于桶流出水(处理请求)的速率的话,那么桶会一直是满的,一部分新的请求会被丢弃,导致服务质量下降。
|
||||||
|
|
||||||
实际业务场景中,基本不会使用漏桶算法。
|
实际业务场景中,基本不会使用漏桶算法。
|
||||||
|
|
||||||
@ -64,7 +84,15 @@ icon: limit_rate
|
|||||||
|
|
||||||

|

|
||||||
|
|
||||||
令牌桶算法可以限制平均速率和应对突然激增的流量,还可以动态调整生成令牌的速率。不过,如果令牌产生速率和桶的容量设置不合理,可能会出现问题比如大量的请求被丢弃、系统过载。
|
优点:
|
||||||
|
|
||||||
|
- 可以限制平均速率和应对突然激增的流量。
|
||||||
|
- 可以动态调整生成令牌的速率。
|
||||||
|
|
||||||
|
缺点:
|
||||||
|
|
||||||
|
- 如果令牌产生速率和桶的容量设置不合理,可能会出现问题比如大量的请求被丢弃、系统过载。
|
||||||
|
- 相比于其他限流算法,实现和理解起来更复杂一些。
|
||||||
|
|
||||||
## 针对什么来进行限流?
|
## 针对什么来进行限流?
|
||||||
|
|
||||||
@ -225,9 +253,9 @@ Resilience4j 不仅提供限流,还提供了熔断、负载保护、自动重
|
|||||||
|
|
||||||
> ShenYu 地址: <https://github.com/apache/incubator-shenyu>
|
> ShenYu 地址: <https://github.com/apache/incubator-shenyu>
|
||||||
|
|
||||||

|

|
||||||
|
|
||||||
另外,如果不想自己写 Lua 脚本的话,也可以直接利用 Redisson 中的 `RRateLimiter` 来实现分布式限流,其底层实现就是基于 Lua 代码。
|
另外,如果不想自己写 Lua 脚本的话,也可以直接利用 Redisson 中的 `RRateLimiter` 来实现分布式限流,其底层实现就是基于 Lua 代码+令牌桶算法。
|
||||||
|
|
||||||
Redisson 是一个开源的 Java 语言 Redis 客户端,提供了很多开箱即用的功能,比如 Java 中常用的数据结构实现、分布式锁、延迟队列等等。并且,Redisson 还支持 Redis 单机、Redis Sentinel、Redis Cluster 等多种部署架构。
|
Redisson 是一个开源的 Java 语言 Redis 客户端,提供了很多开箱即用的功能,比如 Java 中常用的数据结构实现、分布式锁、延迟队列等等。并且,Redisson 还支持 Redis 单机、Redis Sentinel、Redis Cluster 等多种部署架构。
|
||||||
|
|
||||||
@ -265,5 +293,6 @@ boolean res = rateLimiter.tryAcquire(1, 5, TimeUnit.SECONDS);
|
|||||||
- 实战 Spring Cloud Gateway 之限流篇 👍:<https://www.aneasystone.com/archives/2020/08/spring-cloud-gateway-current-limiting.html>
|
- 实战 Spring Cloud Gateway 之限流篇 👍:<https://www.aneasystone.com/archives/2020/08/spring-cloud-gateway-current-limiting.html>
|
||||||
- 详解 Redisson 分布式限流的实现原理:<https://juejin.cn/post/7199882882138898489>
|
- 详解 Redisson 分布式限流的实现原理:<https://juejin.cn/post/7199882882138898489>
|
||||||
- 一文详解 Java 限流接口实现 - 阿里云开发者:<https://mp.weixin.qq.com/s/A5VYjstIDeVvizNK2HkrTQ>
|
- 一文详解 Java 限流接口实现 - 阿里云开发者:<https://mp.weixin.qq.com/s/A5VYjstIDeVvizNK2HkrTQ>
|
||||||
|
- 分布式限流方案的探索与实践 - 腾讯云开发者:<https://mp.weixin.qq.com/s/MJbEQROGlThrHSwCjYB_4Q>
|
||||||
|
|
||||||
<!-- @include: @article-footer.snippet.md -->
|
<!-- @include: @article-footer.snippet.md -->
|
||||||
|
@ -194,7 +194,7 @@ MySQL 主从同步延时是指从库的数据落后于主库的数据,这种
|
|||||||
|
|
||||||
- 单表的数据达到千万级别以上,数据库读写速度比较缓慢。
|
- 单表的数据达到千万级别以上,数据库读写速度比较缓慢。
|
||||||
- 数据库中的数据占用的空间越来越大,备份时间越来越长。
|
- 数据库中的数据占用的空间越来越大,备份时间越来越长。
|
||||||
- 应用的并发量太大。
|
- 应用的并发量太大(应该优先考虑其他性能优化方法,而非分库分表)。
|
||||||
|
|
||||||
不过,分库分表的成本太高,如非必要尽量不要采用。而且,并不一定是单表千万级数据量就要分表,毕竟每张表包含的字段不同,它们在不错的性能下能够存放的数据量也不同,还是要具体情况具体分析。
|
不过,分库分表的成本太高,如非必要尽量不要采用。而且,并不一定是单表千万级数据量就要分表,毕竟每张表包含的字段不同,它们在不错的性能下能够存放的数据量也不同,还是要具体情况具体分析。
|
||||||
|
|
||||||
|
@ -232,10 +232,10 @@ static class Entry extends WeakReference<ThreadLocal<?>> {
|
|||||||
|
|
||||||
另外,《阿里巴巴 Java 开发手册》中强制线程池不允许使用 `Executors` 去创建,而是通过 `ThreadPoolExecutor` 构造函数的方式,这样的处理方式让写的同学更加明确线程池的运行规则,规避资源耗尽的风险
|
另外,《阿里巴巴 Java 开发手册》中强制线程池不允许使用 `Executors` 去创建,而是通过 `ThreadPoolExecutor` 构造函数的方式,这样的处理方式让写的同学更加明确线程池的运行规则,规避资源耗尽的风险
|
||||||
|
|
||||||
`Executors` 返回线程池对象的弊端如下(后文会详细介绍到):
|
`Executors` 返回线程池对象的弊端如下:
|
||||||
|
|
||||||
- **`FixedThreadPool` 和 `SingleThreadExecutor`**:使用的是无界的 `LinkedBlockingQueue`,任务队列最大长度为 `Integer.MAX_VALUE`,可能堆积大量的请求,从而导致 OOM。
|
- **`FixedThreadPool` 和 `SingleThreadExecutor`**:使用的是无界的 `LinkedBlockingQueue`,任务队列最大长度为 `Integer.MAX_VALUE`,可能堆积大量的请求,从而导致 OOM。
|
||||||
- **`CachedThreadPool`**:使用的是同步队列 `SynchronousQueue`, 允许创建的线程数量为 `Integer.MAX_VALUE` ,如果任务数量过多且执行速度较慢,可能会创建大量的线程,从而导致 OOM。
|
- **`CachedThreadPool`**:使用的是同步队列 `SynchronousQueue`, 允许创建的线程数量为 `Integer.MAX_VALUE` ,如果任务数量过多且执行速度较慢,可能会创建大量的线程,从而导致 OOM。
|
||||||
- **`ScheduledThreadPool` 和 `SingleThreadScheduledExecutor`**:使用的无界的延迟阻塞队列`DelayedWorkQueue`,任务队列最大长度为 `Integer.MAX_VALUE`,可能堆积大量的请求,从而导致 OOM。
|
- **`ScheduledThreadPool` 和 `SingleThreadScheduledExecutor`**:使用的无界的延迟阻塞队列`DelayedWorkQueue`,任务队列最大长度为 `Integer.MAX_VALUE`,可能堆积大量的请求,从而导致 OOM。
|
||||||
|
|
||||||
```java
|
```java
|
||||||
|
@ -167,8 +167,8 @@ Spring 通过 `ThreadPoolTaskExecutor` 或者我们直接通过 `ThreadPoolExecu
|
|||||||
|
|
||||||
`Executors` 返回线程池对象的弊端如下(后文会详细介绍到):
|
`Executors` 返回线程池对象的弊端如下(后文会详细介绍到):
|
||||||
|
|
||||||
- **`FixedThreadPool` 和 `SingleThreadExecutor`**:使用的是无界的 `LinkedBlockingQueue`,任务队列最大长度为 `Integer.MAX_VALUE`,可能堆积大量的请求,从而导致 OOM。
|
- **`FixedThreadPool` 和 `SingleThreadExecutor`**:使用的是无界的 `LinkedBlockingQueue`,任务队列最大长度为 `Integer.MAX_VALUE`,可能堆积大量的请求,从而导致 OOM。
|
||||||
- **`CachedThreadPool`**:使用的是同步队列 `SynchronousQueue`, 允许创建的线程数量为 `Integer.MAX_VALUE` ,可能会创建大量线程,从而导致 OOM。
|
- **`CachedThreadPool`**:使用的是同步队列 `SynchronousQueue`, 允许创建的线程数量为 `Integer.MAX_VALUE` ,如果任务数量过多且执行速度较慢,可能会创建大量的线程,从而导致 OOM。
|
||||||
- **`ScheduledThreadPool` 和 `SingleThreadScheduledExecutor`**:使用的无界的延迟阻塞队列`DelayedWorkQueue`,任务队列最大长度为 `Integer.MAX_VALUE`,可能堆积大量的请求,从而导致 OOM。
|
- **`ScheduledThreadPool` 和 `SingleThreadScheduledExecutor`**:使用的无界的延迟阻塞队列`DelayedWorkQueue`,任务队列最大长度为 `Integer.MAX_VALUE`,可能堆积大量的请求,从而导致 OOM。
|
||||||
|
|
||||||
```java
|
```java
|
||||||
|
@ -49,8 +49,8 @@ icon: project
|
|||||||
- [HOJ](https://gitee.com/himitzh0730/hoj):分布式架构的在线测评平台 OJ ,功能非常全面,支持刷题、训练、比赛、评测等功能。
|
- [HOJ](https://gitee.com/himitzh0730/hoj):分布式架构的在线测评平台 OJ ,功能非常全面,支持刷题、训练、比赛、评测等功能。
|
||||||
- [VOJ](https://github.com/simplefanC/voj):基于微服务架构的高性能在线评测系统。拥有本地判题服务,同时支持其它知名 OJ (HDU、POJ...) 的远程判题。采用现阶段流行技术实现,采用 Docker 容器化部署。
|
- [VOJ](https://github.com/simplefanC/voj):基于微服务架构的高性能在线评测系统。拥有本地判题服务,同时支持其它知名 OJ (HDU、POJ...) 的远程判题。采用现阶段流行技术实现,采用 Docker 容器化部署。
|
||||||
- [OnlineJudge](https://github.com/SDUOJ/OnlineJudge):基于微服务架构的在线评测系统,支持多种国际赛制支持(ICPC/OI/IOI),采用 Docker 容器化部署。
|
- [OnlineJudge](https://github.com/SDUOJ/OnlineJudge):基于微服务架构的在线评测系统,支持多种国际赛制支持(ICPC/OI/IOI),采用 Docker 容器化部署。
|
||||||
- [uexam](https://gitee.com/mindskip/uexam):一个非常不错的考试系统!考试系统应用场景还挺多的,不论是对于在校大学生还是已经工作的小伙伴,并且,类似的私活也有很多。相关阅读:[《好一个 Spring Boot 开源在线考试系统!解决了我的燃眉之急》](http://link.zhihu.com/?target=https%3A//mp.weixin.qq.com/s%3F__biz%3DMzg2OTA0Njk0OA%3D%3D%26mid%3D2247491585%26idx%3D1%26sn%3D8d3c6768c22e72d6bfcbeee9624886a7%26chksm%3Dcea1afcaf9d626dc918760289c37025ad526f6255786bc198d2402203df64c873ad7934f58df%26scene%3D178%26cur_album_id%3D1345382825083895808%23rd) 。
|
- [uexam](https://gitee.com/mindskip/uexam):功能全面的在线考试系统,开发部署简单快捷、界面设计友好、代码结构清晰。相关阅读:[好一个 Spring Boot 开源在线考试系统!解决了我的燃眉之急](http://link.zhihu.com/?target=https%3A//mp.weixin.qq.com/s%3F__biz%3DMzg2OTA0Njk0OA%3D%3D%26mid%3D2247491585%26idx%3D1%26sn%3D8d3c6768c22e72d6bfcbeee9624886a7%26chksm%3Dcea1afcaf9d626dc918760289c37025ad526f6255786bc198d2402203df64c873ad7934f58df%26scene%3D178%26cur_album_id%3D1345382825083895808%23rd) 。
|
||||||
- [PassJava-Platform](https://github.com/Jackson0714/PassJava-Platform):一个基于微服务(SpringBoot、Spring Cloud)的面试刷题系统!相关阅读:[《一个基于 Spring Cloud 的面试刷题系统。面试、毕设、项目经验一网打尽》](http://link.zhihu.com/?target=https%3A//mp.weixin.qq.com/s%3F__biz%3DMzg2OTA0Njk0OA%3D%3D%26mid%3D2247497045%26idx%3D1%26sn%3D577175bfd6c040a0df5a494fce6f9758%26chksm%3Dcea1ba9ef9d633883a2e213c0fb9a88bdc87051347d4b3fad2c2befb65d8b16e1ea81d8146dd%26scene%3D178%26cur_album_id%3D1345382825083895808%23rd)。
|
- [PassJava-Platform](https://github.com/Jackson0714/PassJava-Platform):基于微服务架构的面试刷题小程序!相关阅读:[一个基于 Spring Cloud 的面试刷题系统。面试、毕设、项目经验一网打尽](http://link.zhihu.com/?target=https%3A//mp.weixin.qq.com/s%3F__biz%3DMzg2OTA0Njk0OA%3D%3D%26mid%3D2247497045%26idx%3D1%26sn%3D577175bfd6c040a0df5a494fce6f9758%26chksm%3Dcea1ba9ef9d633883a2e213c0fb9a88bdc87051347d4b3fad2c2befb65d8b16e1ea81d8146dd%26scene%3D178%26cur_album_id%3D1345382825083895808%23rd)。
|
||||||
|
|
||||||
## 商城系统
|
## 商城系统
|
||||||
|
|
||||||
@ -59,9 +59,7 @@ icon: project
|
|||||||
- [congomall](https://gitee.com/nageoffer/congomall):不一样的 TOC 商城系统,SpringCloud-Alibaba 微服务架构设计,基于 DDD 领域驱动模型开发,代码设计优雅,涵盖商城核心业务。
|
- [congomall](https://gitee.com/nageoffer/congomall):不一样的 TOC 商城系统,SpringCloud-Alibaba 微服务架构设计,基于 DDD 领域驱动模型开发,代码设计优雅,涵盖商城核心业务。
|
||||||
- [mall](https://github.com/macrozheng/mall "mall"):mall 项目是一套电商系统,包括前台商城系统及后台管理系统,基于 SpringBoot+MyBatis 实现。
|
- [mall](https://github.com/macrozheng/mall "mall"):mall 项目是一套电商系统,包括前台商城系统及后台管理系统,基于 SpringBoot+MyBatis 实现。
|
||||||
- [mall-swarm](https://github.com/macrozheng/mall-swarm "mall-swarm") : mall-swarm 是一套微服务商城系统,采用了 Spring Cloud Greenwich、Spring Boot 2、MyBatis、Docker、Elasticsearch 等核心技术,同时提供了基于 Vue 的管理后台方便快速搭建系统。
|
- [mall-swarm](https://github.com/macrozheng/mall-swarm "mall-swarm") : mall-swarm 是一套微服务商城系统,采用了 Spring Cloud Greenwich、Spring Boot 2、MyBatis、Docker、Elasticsearch 等核心技术,同时提供了基于 Vue 的管理后台方便快速搭建系统。
|
||||||
- [onemall](https://github.com/YunaiV/onemall):mall 商城,基于微服务的思想,构建在 B2C 电商场景下的项目实战。核心技术栈,是 Spring Boot + Dubbo 。未来,会重构成 Spring Cloud Alibaba 。
|
|
||||||
- [litemall](https://github.com/linlinjava/litemall "litemall"):又一个小商城。litemall = Spring Boot 后端 + Vue 管理员前端 + 微信小程序用户前端 + Vue 用户移动端。
|
- [litemall](https://github.com/linlinjava/litemall "litemall"):又一个小商城。litemall = Spring Boot 后端 + Vue 管理员前端 + 微信小程序用户前端 + Vue 用户移动端。
|
||||||
- [xmall](https://github.com/Exrick/xmall) :基于 SOA 架构的分布式电商购物商城 前后端分离 前台商城:Vue 全家桶 后台管理系统:Spring/Dubbo/SSM/Elasticsearch/Redis/MySQL/ActiveMQ/Shiro/Zookeeper 等
|
|
||||||
- [newbee-mall](https://github.com/newbee-ltd/newbee-mall) :newbee-mall 项目(新蜂商城)是一套电商系统,包括 newbee-mall 商城系统及 newbee-mall-admin 商城后台管理系统,基于 Spring Boot 2.X 及相关技术栈开发。
|
- [newbee-mall](https://github.com/newbee-ltd/newbee-mall) :newbee-mall 项目(新蜂商城)是一套电商系统,包括 newbee-mall 商城系统及 newbee-mall-admin 商城后台管理系统,基于 Spring Boot 2.X 及相关技术栈开发。
|
||||||
|
|
||||||
## 售票系统
|
## 售票系统
|
||||||
|
Loading…
x
Reference in New Issue
Block a user