搜公众号
推荐 原创 视频 Java开发 开发工具 Python开发 Kotlin开发 Ruby开发 .NET开发 服务器运维 开放平台 架构师 大数据 云计算 人工智能 开发语言 其它开发 iOS开发 前端开发 JavaScript开发 Android开发 PHP开发 数据库
Lambda在线 > 高可用架构 > 被视为代替Kafka的消息队列:Apache Pulsar设计简介

被视为代替Kafka的消息队列:Apache Pulsar设计简介

高可用架构 2019-05-15
举报

导读:在传统消息系统中,存在一些问题。一方面,消息的存储和服务一般是紧耦合的,节点的扩容和运维不便,特别是在需要多备份来保证高可用性的场景。另一方面,消息的消费模式被固定,在企业内部需要维护多套系统来保证不同的消息消费场景。另外消息系统中,多租户,多机房互备等企业级的特性和功能也不太丰富。


Apache Pulsar采用了分层的架构,解决了存储计算的耦合,同时提供了很好的扩展性和可维护性。Pulsar也通过订阅层的抽象,提供了统一的消息消费模型。特别是在Pulsar的设计之初,就注重对多租户,多机房互备等方面的需求,提供了众多完备的企业级的特性。


Apache Pulsar从2015年初在Yahoo全球近十个机房内部大规模部署,稳定服务了Yahoo内部邮箱,金融,Flickr,广告,NoSQL等众多的应用场景,一共创建了80多个租户,230多万个topic。 智联招聘在18年用Pulsar替换了线上原有的RabbitMQ,作为内部的消息总线,服务内部的20多个应用,每天会产生6亿多条消息和3TB的数据。在减轻硬件,运维和部署成本的同时,为系统提供了更好的服务质量和扩展性。


Apache Pulsar,是一个使用Apache Bookkeeper提供持久化的pub/sub消息平台,它可以提供如下特性:

  • 跨地域复制

  • 多租户

  • 零数据丢失

  • 零Rebalancing时间

  • 统一的队列和流模型

  • 高可扩展性

  • 高吞吐量

  • Pulsar Proxy

  • 函数


Apache Pulsar的文档对这些特性都有详细解释,有兴趣可以去看官方文档。


架构



Pulsar使用分层结构,将存储机制与broker隔离开来。此体系结构为Pulsar提供以下好处:

  1. 独立扩展broker

  2. 独立扩展存储(Bookies)

  3. 更容易容器化Zookeeper, Broker and Bookies

  4. ZooKeeper提供集群的配置和状态存储


被视为代替Kafka的消息队列:Apache Pulsar设计简介

亮点如下:

  1. 负载均衡器:Pulsar内置负载均衡器,可在内部将负载分配给所有broker

  2. 服务发现:Pulsar具有内置的服务发现功能,可以识别在何处以及如何连接到broker。

  3. 全局复制器:可以在为同一个命名空间配置的N个borker之间复制数据。

  4. 全局ZK: 全局ZK用于实现跨地域复制


跨地域复制


跨地域复制是Pulsar提供的解决方案。全局集群可以在名称空间级别进行配置,以便在任意数量的集群(n-wayMesh解决方案)中进行复制。从下面的示例中,数据中心C没有消费者,但数据中心A或B中仍会根据订阅模型消费消息。

被视为代替Kafka的消息队列:Apache Pulsar设计简介


多租户


多租户特性通过对数据存储的隔离,帮助为企业建立Pulsar集群。这一内置功能将大大降低组织的基础设施建设和运营成本。


零Rebalancing时间


Pulsar的分层架构和代理的无状态性质有助于实现零Rebalancing时间。如果一个新的broker被添加到集群中,它将立即可用;无需在集群中rebalancing数据。

从Bookies的角度来看:当一个新的Bookie添加到集群中时,由于其底层的分布式日志架构(读/写隔离),该节点立刻可以写入数据。基于段复制配置的数据rebalance在后台进行,不会对集群产生任何影响。


统一的队列和流模型


Pulsar使用同一个模型支持流和队列语义。这个特性可以通过订阅模型实现。消费者使用订阅模型中的任何一个订阅主题:

  1. Exclusive - 支持流语义

  2. Failover - 支持流语义

  3. Shared - 支持队列语义

被视为代替Kafka的消息队列:Apache Pulsar设计简介


函数


函数是能够在Pulsar内部或外部存在的本地监听器。从用途本身来看,函数可用于基于内容的路由,这将帮助企业应用程序路由预期的消息。


Proxy


当broker部署在云或Kubernetes中时,需要使用proxy将broker暴露于外部世界。Proxy本身可以提供身份验证和授权。Proxy内置将授权令牌传递给broker以进行命名空间权限验证的功能。


结论


Apache Pulsar使用基于分层体系结构的pub/sub模型,它具有跨地域复制、多租户、零Rebalancing时间等功能。



参考阅读:





版权声明:本站内容全部来自于腾讯微信公众号,属第三方自助推荐收录。《被视为代替Kafka的消息队列:Apache Pulsar设计简介》的版权归原作者「高可用架构」所有,文章言论观点不代表Lambda在线的观点, Lambda在线不承担任何法律责任。如需删除可联系QQ:516101458

文章来源: 阅读原文

相关阅读

举报