AMQP

AMQP

消息队列的历史

了解一件事情的来龙去脉,将不会对它感到神秘。让我们来看看消息队列(Message Queue)这项技术的发展历史。


Message Queue的需求由来已久,80年代最早在金融交易中,高盛等公司采用Teknekron公司的产品,当时的Message queue软件叫做:the information bus(TIB)。 TIB被电信和通讯公司采用,路透社收购了Teknekron公司。之后,IBM开发了MQSeries,微软开发了Microsoft Message Queue(MSMQ)。这些商业MQ供应商的问题是厂商锁定,价格高昂。2001年,Java Message queuing试图解决锁定和交互性的问题,但对应用来说反而更加麻烦了。


于是2004年,摩根大通和iMatrix开始着手Advanced Message Queuing Protocol (AMQP)开放标准的开发。2006年,AMQP规范发布。2007年,Rabbit技术公司基于AMQP标准开发的RabbitMQ 1.0 发布。
目前RabbitMQ的最新版本为3.5.7,基于AMQP 0-9-1。


RabbitMQ采用Erlang语言开发。Erlang语言由Ericson设计,专门为开发高并发和分布式系统的一种语言,在电信领域使用广泛。OTP(Open Telecom Platform)作为Erlang语言的一部分,包含了很多基于Erlang开发的中间件/库/工具,如mnesia/SASL,极大方便了Erlang应用的开发。OTP就类似于Python语言中众多的module,用户借助这些module可以很方便的开发应用。

AMQP messaging 中的基本概念

  • Broker:接收和分发消息的应用,RabbitMQ Server就是Message Broker
  • Virtual host:出于多租户和安全因素设计的,把AMQP的基本组件划分到一个虚拟的分组中,类似于网络中namespace概念.当多个不同的用户使用同一个RabbitMQ Server提供的服务时,可以划分出多个vhost,每个用户在自己的vhost创建exchange/queue等.
  • Connection: publisher/consumer和broker之间的TCP连接.断开连接的操作只会在client端进行,Broker不会断开连接,除非出现网络故障或broker服务出现问题.
  • Channel: 如果每一次访问RabbitMQ都建立一个Connection,在消息量大的时候建立TCP Connection的开销将是巨大的,效率也较低.Channel是在Connection内部建立的逻辑连接,如果应用程序支持多线程,通常每个Thread创建单独的Channel进行通信,AMQP method包含了channel id帮助客户端合message broker识别channel,所以channel之间是完全隔离的.Channel作为轻量级的Connection极大减少了操作系统建立TCP connection的开销.
  • Exchange: message到达broker的第一站,根据分发规则,匹配查询表中的routing key,分发消息到queue中去.常用的类型有:Direct(point-to-point),Topic(publish-subcribe) and fanout(multicast).
  • Queue:消息最终被送到这里等待consumer取走.一个message可以同时拷贝到多个queue中.
  • Binding:exchange和queue之间的虚拟连接,binding中可以包含routing key.Binding信息被保存到exchange中的查询表中,用于message的分发依据.

1721289958193.jpg

典型的"生产/消费"消息模型

生产者发送消息到broker server(RabbitMQ).在Broker内部,用户创建Exchange/Queue,通过Binding规则将两者联系在一起.Exchange分发消息,根据类型/binding的不同分发策略有区别.消息最后来到Queue中,等待消费者取走.

Exchange类型

Exchange有多种类型,最常用的是Direct/Fanout/Topic三种类型.

Read more

RocketMQ消息的文件组织形式

RocketMQ消息的文件组织形式

RocketMQ文件的组织形式主要围绕消息的高效存储与检索设计,主要包括CommitLog、ConsumeQueue和IndexFile三类文件。以下是对这三类文件组织形式的详细阐述: 1. CommitLog文件 * 作用:CommitLog是消息存储的主体文件,用于存储Producer端写入的消息主体内容。 * 组织形式: * 所有topic的消息都存储在同一个CommitLog文件中,确保消息发送时按顺序写文件,以追求极致的消息存储性能和高吞吐量。 * 单个文件大小默认1G,文件名长度为20位,左边补零,剩余为起始偏移量。例如,第一个文件名为00000000000000000000,代表起始偏移量为0,文件大小为1G。当第一个文件写满后,第二个文件名为00000000001073741824,以此类推。 * 存储内容:消息内容不是定长的,每条消息在CommitLog中的存储结构包括消息长度、消息体、消息属性等。 2. ConsumeQueue文件 * 作用:ConsumeQueue是消息消费队列文件,主要用于提高消息消费的性

By Zhewen Cao
记一次消息推送业务的探索

记一次消息推送业务的探索

什么是服务端消息推送 服务端消息推送(Push Notification)是一种技术概念,指的是从服务端实时发送信息到客户端的过程。在移动互联网和Web应用中,服务端消息推送被广泛用于提升用户体验、增加用户粘性和活跃度。以下是服务端消息推送的详细解释: 定义 服务端消息推送,简称推送(Push),是指服务器主动向客户端发送信息,而无需客户端显式请求。这种方式使得信息能够实时地到达用户,无需用户手动刷新页面或应用。 实现方式 服务端消息推送的实现方式多种多样,主要包括以下几种: 1. 短轮询(Short Polling): * 客户端定时向服务器发送请求,询问是否有新消息。 * 优点:实现简单。 * 缺点:实时性差,服务器资源消耗大。 2. 长轮询(Long Polling): * 客户端向服务器发送请求后,服务器会保持连接,直到有新消息才返回响应并关闭连接。 * 优点:相比短轮询,实时性更好,资源消耗更少。

By Zhewen Cao
Redis Stream:构建高效、可靠的消息队列新选择

Redis Stream:构建高效、可靠的消息队列新选择

引言 随着分布式系统的日益复杂,消息队列作为一种重要的中间件,在解决系统间异步通信、负载均衡、数据缓冲等方面发挥着不可替代的作用。Redis,作为一个高性能的键值存储系统,在5.0版本中引入了Stream这一新的数据结构,为构建高效、可靠的消息队列提供了新的选择。本文将深入探讨Redis Stream的架构、特性及其在消息队列中的应用。 Redis Stream概述 Redis Stream是Redis 5.0版本引入的一种新的数据结构,它提供了一种持久化的、可查询的、可扩展的消息队列服务。Stream类型的数据结构类似于一个日志系统,数据被添加到Stream的末尾,并且每个数据都会被分配一个唯一的序列号(Entry ID),这个序列号是按照时间顺序递增的。这使得Stream类型非常适合用于实现消息队列、事件驱动的系统、数据流处理等场景。 Stream的底层结构 Redis Stream的底层结构主要由基数树(Radix Tree)和Listpack组成。基数树用于索引Listpack,而Listpack用于存储Stream Entry。每个Stream Ent

By Zhewen Cao
MQTT协议帧结构解析

MQTT协议帧结构解析

MQTT(Message Queuing Telemetry Transport)是一种基于发布/订阅模式的轻量级消息传输协议,广泛应用于物联网(IoT)、移动应用等领域。MQTT的报文帧结构是其通信的基础,主要由三部分组成:固定报头(Fixed Header)、可变报头(Variable Header)和有效载荷(Payload)。以下是对这三部分的详细解析: 1. 固定报头(Fixed Header) 固定报头是MQTT报文帧的开始部分,每个MQTT报文都必须包含固定报头。它占据报文帧的前两个字节,具体结构如下: * 报文类型(4位):第一个字节的前4位(7-4位)用于标识报文类型,MQTT协议定义了16种报文类型,但并非所有类型都已被使用或定义。常见的报文类型包括CONNECT(连接服务器)、CONNACK(连接确认)、PUBLISH(发布消息)、PUBACK(发布确认)、SUBSCRIBE(订阅主题)、SUBACK(订阅确认)等。 * 标志位(

By Zhewen Cao