1
0
mirror of https://github.com/Snailclimb/JavaGuide synced 2025-06-16 18:10:13 +08:00

[docs update]完善消息队列基础知识总结

This commit is contained in:
Guide 2023-02-23 16:04:35 +08:00
parent 12cd4a2be9
commit 7598de7c9e
3 changed files with 49 additions and 16 deletions

View File

@ -1,5 +1,5 @@
--- ---
title: 消息队列基础常见面试题总结 title: 消息队列基础知识总结
category: 高性能 category: 高性能
tag: tag:
- 消息队列 - 消息队列
@ -15,11 +15,21 @@ tag:
![Message queue](https://guide-blog-images.oss-cn-shenzhen.aliyuncs.com/%E6%B6%88%E6%81%AF%E9%98%9F%E5%88%97/message-queue-small.png) ![Message queue](https://guide-blog-images.oss-cn-shenzhen.aliyuncs.com/%E6%B6%88%E6%81%AF%E9%98%9F%E5%88%97/message-queue-small.png)
参与消息传递的双方称为生产者和消费者,生产者负责发送消息,消费者负责处理消息。 参与消息传递的双方称为 **生产者** **消费者** ,生产者负责发送消息,消费者负责处理消息。
![发布/订阅Pub/Sub模型](../images/message-queue/message-queue-pub-sub-model.png) ![发布/订阅Pub/Sub模型](../images/message-queue/message-queue-pub-sub-model.png)
我们知道操作系统中的进程通信的一种很重要的方式就是消息队列。我们这里提到的消息队列稍微有点区别,更多指的是各个服务以及系统内部各个组件/模块之前的通信,属于一种中间件。 我们知道操作系统中的进程通信的一种很重要的方式就是消息队列。我们这里提到的消息队列稍微有点区别,更多指的是各个服务以及系统内部各个组件/模块之前的通信,属于一种 **中间件**
维基百科是这样介绍中间件的:
> 中间件英语Middleware又译中间件、中介层是一类提供系统软件和应用软件之间连接、便于软件各部件之间的沟通的软件应用软件可以借助中间件在不同的技术架构之间共享信息与资源。中间件位于客户机服务器的操作系统之上管理着计算资源和网络通信。
简单来说: **中间件就是一类为应用软件服务的软件,应用软件是为用户服务的,用户不会接触或者使用到中间件。**
除了消息队列之外,常见的中间件还有 RPC 框架、分布式组件、HTTP 服务器、任务调度框架、配置中心、数据库层的分库分表工具和数据迁移工具等等。
关于中间件比较详细的介绍可以参考阿里巴巴淘系技术的一篇回答: https://www.zhihu.com/question/19730582/answer/1663627873 。
随着分布式和微服务系统的发展,消息队列在系统设计中有了更大的发挥空间,使用消息队列可以降低系统耦合性、实现任务异步、有效地进行流量削峰,是分布式和微服务系统中重要的组件之一。 随着分布式和微服务系统的发展,消息队列在系统设计中有了更大的发挥空间,使用消息队列可以降低系统耦合性、实现任务异步、有效地进行流量削峰,是分布式和微服务系统中重要的组件之一。
@ -27,7 +37,7 @@ tag:
通常来说,使用消息队列能为我们的系统带来下面三点好处: 通常来说,使用消息队列能为我们的系统带来下面三点好处:
1. **通过异步处理提高系统性能(减少响应所需时间)** 1. **通过异步处理提高系统性能(减少响应所需时间)**
2. **削峰/限流** 2. **削峰/限流**
3. **降低系统耦合性。** 3. **降低系统耦合性。**
@ -63,9 +73,19 @@ tag:
另外,为了避免消息队列服务器宕机造成消息丢失,会将成功发送到消息队列的消息存储在消息生产者服务器上,等消息真正被消费者服务器处理后才删除消息。在消息队列服务器宕机后,生产者服务器会选择分布式消息队列服务器集群中的其他服务器发布消息。 另外,为了避免消息队列服务器宕机造成消息丢失,会将成功发送到消息队列的消息存储在消息生产者服务器上,等消息真正被消费者服务器处理后才删除消息。在消息队列服务器宕机后,生产者服务器会选择分布式消息队列服务器集群中的其他服务器发布消息。
**备注:** 不要认为消息队列只能利用发布-订阅模式工作,只不过在解耦这个特定业务环境下是使用发布-订阅模式的。除了发布-订阅模式,还有点对点订阅模式(一个消息只有一个消费者),我们比较常用的是发布-订阅模式。另外,这两种消息模型是 JMS 提供的AMQP 协议还提供了 5 种消息模型。 **备注:** 不要认为消息队列只能利用发布-订阅模式工作,只不过在解耦这个特定业务环境下是使用发布-订阅模式的。除了发布-订阅模式,还有点对点订阅模式(一个消息只有一个消费者),我们比较常用的是发布-订阅模式。另外,这两种消息模型是 JMS 提供的AMQP 协议还提供了另外 5 种消息模型。
## 使用消息队列哪些问题? ### 实现分布式事务
我们知道分布式事务的解决方案之一就是 MQ 事务。
RocketMQ 、 Kafka、Pulsar 、QMQ 都提供了事务相关的功能。事务允许事件流应用将消费,处理,生产消息整个过程定义为一个原子操作。
详细介绍可以查看 [分布式事务详解(付费)](https://javaguide.cn/distributed-system/distributed-transaction.html) 这篇文章。
![分布式事务详解 - MQ事务](https://img-blog.csdnimg.cn/img_convert/07b338324a7d8894b8aef4b659b76d92.png)
## 使用消息队列会带来哪些问题?
- **系统可用性降低:** 系统可用性在某种程度上降低,为什么这样说呢?在加入 MQ 之前,你不用考虑消息丢失或者说 MQ 挂掉等等的情况,但是,引入 MQ 之后你就需要去考虑了! - **系统可用性降低:** 系统可用性在某种程度上降低,为什么这样说呢?在加入 MQ 之前,你不用考虑消息丢失或者说 MQ 挂掉等等的情况,但是,引入 MQ 之后你就需要去考虑了!
- **系统复杂性提高:** 加入 MQ 之后,你需要保证消息没有被重复消费、处理消息丢失的情况、保证消息传递的顺序性等等问题! - **系统复杂性提高:** 加入 MQ 之后,你需要保证消息没有被重复消费、处理消息丢失的情况、保证消息传递的顺序性等等问题!
@ -75,15 +95,15 @@ tag:
### JMS 是什么? ### JMS 是什么?
JMSJAVA Message Service,java 消息服务)是 java 的消息服务JMS 的客户端之间可以通过 JMS 服务进行异步的消息传输。**JMSJAVA Message ServiceJava 消息服务API 是一个消息服务的标准或者说是规范**,允许应用程序组件基于 JavaEE 平台创建、发送、接收和读取消息。它使分布式通信耦合度更低,消息服务更加可靠以及异步性。 JMSJAVA Message Service,java 消息服务)是 Java 的消息服务JMS 的客户端之间可以通过 JMS 服务进行异步的消息传输。**JMSJAVA Message ServiceJava 消息服务API 是一个消息服务的标准或者说是规范**,允许应用程序组件基于 JavaEE 平台创建、发送、接收和读取消息。它使分布式通信耦合度更低,消息服务更加可靠以及异步性。
JMS 定义了五种不同的消息正文格式以及调用的消息类型,允许你发送并接收以一些不同形式的数据: JMS 定义了五种不同的消息正文格式以及调用的消息类型,允许你发送并接收以一些不同形式的数据:
- StreamMessageJava 原始值的数据流 - `StreamMessageJava` 原始值的数据流
- MapMessage一套名称-值对 - `MapMessage`:一套名称-值对
- TextMessage一个字符串对象 - `TextMessage`:一个字符串对象
- ObjectMessage一个序列化的 Java 对象 - `ObjectMessage`:一个序列化的 Java 对象
- BytesMessage一个字节的数据流 - `BytesMessage`:一个字节的数据流
**ActiveMQ已被淘汰 就是基于 JMS 规范实现的。** **ActiveMQ已被淘汰 就是基于 JMS 规范实现的。**
@ -120,9 +140,20 @@ AMQP即 Advanced Message Queuing Protocol一个提供统一消息服务的
**总结:** **总结:**
- AMQP 为消息定义了线路层wire-level protocol的协议而 JMS 所定义的是 API 规范。在 Java 体系中,多个 client 均可以通过 JMS 进行交互,不需要应用修改代码,但是其对跨平台的支持较差。而 AMQP 天然具有跨平台、跨语言特性。 - AMQP 为消息定义了线路层wire-level protocol的协议而 JMS 所定义的是 API 规范。在 Java 体系中,多个 client 均可以通过 JMS 进行交互,不需要应用修改代码,但是其对跨平台的支持较差。而 AMQP 天然具有跨平台、跨语言特性。
- JMS 支持 TextMessage、MapMessage 等复杂的消息类型;而 AMQP 仅支持 byte[] 消息类型(复杂的类型可序列化后发送)。 - JMS 支持 `TextMessage``MapMessage` 等复杂的消息类型;而 AMQP 仅支持 `byte[]` 消息类型(复杂的类型可序列化后发送)。
- 由于 Exchange 提供的路由算法AMQP 可以提供多样化的路由方式来传递消息到消息队列,而 JMS 仅支持 队列 和 主题/订阅 方式两种。 - 由于 Exchange 提供的路由算法AMQP 可以提供多样化的路由方式来传递消息到消息队列,而 JMS 仅支持 队列 和 主题/订阅 方式两种。
## RPC 和消息队列的区别
RPC 和消息队列都是分布式微服务系统中重要的组件之一,下面我们来简单对比一下两者:
- **从用途来看** RPC 主要用来解决两个服务的远程通信问题,不需要了解底层网络的通信机制。通过 RPC 可以帮助我们调用远程计算机上某个服务的方法,这个过程就像调用本地方法一样简单。消息队列主要用来降低系统耦合性、实现任务异步、有效地进行流量削峰。
- **从通信方式来看** RPC 是双向直接网络通讯,消息队列是单向引入中间载体的网络通讯。
- **从架构上来看** 消息队列需要把消息存储起来RPC 则没有这个要求,因为前面也说了 RPC 是双向直接网络通讯。
- **从请求处理的时效性来看** :通过 RPC 发出的调用一般会立即被处理,存放在消息队列中的消息并不一定会立即被处理。
RPC 和消息队列本质上是网络通讯的两种不同的实现机制,两者的用途不同,万不可将两者混为一谈。
## 消息队列技术选型 ## 消息队列技术选型
### 常见的消息队列有哪些? ### 常见的消息队列有哪些?
@ -242,8 +273,10 @@ Pulsar 更新记录可以直观看到项目是否还在维护https://gi
- RabbitMQ 在吞吐量方面虽然稍逊于 Kafka 、RocketMQ 和 Pulsar但是由于它基于 Erlang 开发,所以并发能力很强,性能极其好,延时很低,达到微秒级。但是也因为 RabbitMQ 基于 Erlang 开发,所以国内很少有公司有实力做 Erlang 源码级别的研究和定制。如果业务场景对并发量要求不是太高十万级、百万级那这几种消息队列中RabbitMQ 或许是你的首选。 - RabbitMQ 在吞吐量方面虽然稍逊于 Kafka 、RocketMQ 和 Pulsar但是由于它基于 Erlang 开发,所以并发能力很强,性能极其好,延时很低,达到微秒级。但是也因为 RabbitMQ 基于 Erlang 开发,所以国内很少有公司有实力做 Erlang 源码级别的研究和定制。如果业务场景对并发量要求不是太高十万级、百万级那这几种消息队列中RabbitMQ 或许是你的首选。
- RocketMQ 和 Pulsar 支持强一致性,对消息一致性要求比较高的场景可以使用。 - RocketMQ 和 Pulsar 支持强一致性,对消息一致性要求比较高的场景可以使用。
- RocketMQ 阿里出品Java 系开源项目,源代码我们可以直接阅读,然后可以定制自己公司的 MQ并且 RocketMQ 有阿里巴巴的实际业务场景的实战考验。 - RocketMQ 阿里出品Java 系开源项目,源代码我们可以直接阅读,然后可以定制自己公司的 MQ并且 RocketMQ 有阿里巴巴的实际业务场景的实战考验。
- Kafka 的特点其实很明显就是仅仅提供较少的核心功能但是提供超高的吞吐量ms 级的延迟,极高的可用性以及可靠性,而且分布式可以任意扩展。同时 kafka 最好是支撑较少的 topic 数量即可保证其超高吞吐量。Kafka 唯一的一点劣势是有可能消息重复消费,那么对数据准确性会造成极其轻微的影响,在大数据领域中以及日志采集中,这点轻微影响可以忽略这个特性天然适合大数据实时计算以及日志收集。如果是大数据领域的实时计算、日志采集等场景,用 Kafka 是业内标准的,绝对没问题,社区活跃度很高,绝对不会黄,何况几乎是全世界这个领域的事实性规范。 - Kafka 的特点其实很明显就是仅仅提供较少的核心功能但是提供超高的吞吐量ms 级的延迟,极高的可用性以及可靠性,而且分布式可以任意扩展。同时 Kafka 最好是支撑较少的 topic 数量即可保证其超高吞吐量。Kafka 唯一的一点劣势是有可能消息重复消费,那么对数据准确性会造成极其轻微的影响,在大数据领域中以及日志采集中,这点轻微影响可以忽略这个特性天然适合大数据实时计算以及日志收集。如果是大数据领域的实时计算、日志采集等场景,用 Kafka 是业内标准的,绝对没问题,社区活跃度很高,绝对不会黄,何况几乎是全世界这个领域的事实性规范。
## 参考 ## 参考
- 《大型网站技术架构 》
- KRaft: Apache Kafka Without ZooKeeperhttps://developer.confluent.io/learn/kraft/ - KRaft: Apache Kafka Without ZooKeeperhttps://developer.confluent.io/learn/kraft/
- 消息队列的使用场景是什么样的https://mp.weixin.qq.com/s/4V1jI6RylJr7Jr9JsQe73A

View File

@ -1,5 +1,5 @@
--- ---
title: 2021校招我的个人经历和经验 title: 我的个人校招经历和经验
category: 技术文章精选集 category: 技术文章精选集
author: 月色真美 author: 月色真美
tag: tag:

View File

@ -7,7 +7,7 @@
👉 [《Java 面试指北》](./../zhuanlan/java-mian-shi-zhi-bei.md)持续更新完善中!这是一份教你如何更高效地准备面试的小册,涵盖常见八股文(系统设计、常见框架、分布式、高并发 ......)、优质面经等内容。 👉 [《Java 面试指北》](./../zhuanlan/java-mian-shi-zhi-bei.md)持续更新完善中!这是一份教你如何更高效地准备面试的小册,涵盖常见八股文(系统设计、常见框架、分布式、高并发 ......)、优质面经等内容。
::: :::
精选一些优质技术文章,每一篇都值得你阅读 3 遍以上! 这里主要会收录一些我看到的优质技术文章,每一篇都值得你阅读 3 遍以上!
## 练级攻略 ## 练级攻略