chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Kafka的核心概念

馬哥Linux運維 ? 來源:馬哥Linux運維 ? 作者:馬哥Linux運維 ? 2022-06-20 14:24 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

Kafka 是主流的消息流系統(tǒng),其中的概念還是比較多的,下面通過圖示的方式來梳理一下 Kafka 的核心概念,以便在我們的頭腦中有一個清晰的認(rèn)識。

01 基礎(chǔ)

Kafka 是一套流處理系統(tǒng)(也可以叫消息隊列),可以讓后端服務(wù)輕松地相互溝通,是微服務(wù)架構(gòu)中的常用組件。

d73d250e-efd4-11ec-ba43-dac502259ad0.jpg

02 生產(chǎn)者消費者

生產(chǎn)者服務(wù) Producer 向 Kafka 發(fā)送消息,消費者服務(wù) Consumer 監(jiān)聽 Kafka 接收消息。

d74b5980-efd4-11ec-ba43-dac502259ad0.jpg

一個服務(wù)可以同時為生產(chǎn)者和消費者。

d75cb8f6-efd4-11ec-ba43-dac502259ad0.jpg

03 Topics 主題

Topic 是生產(chǎn)者發(fā)送消息的目標(biāo)地址,是消費者的監(jiān)聽目標(biāo)。

d76a322e-efd4-11ec-ba43-dac502259ad0.jpg

一個服務(wù)可以監(jiān)聽、發(fā)送多個 Topics。

d785daa6-efd4-11ec-ba43-dac502259ad0.jpg

Kafka 中有一個【consumer-group(消費者組)】的概念。

這是一組服務(wù),扮演一個消費者。

d79d6504-efd4-11ec-ba43-dac502259ad0.jpg

如果是消費者組接收消息,Kafka 會把一條消息路由到組中的某一個服務(wù)。

d7bbde76-efd4-11ec-ba43-dac502259ad0.jpg

這樣有助于消息的負(fù)載均衡,也方便擴(kuò)展消費者。

Topic 扮演一個消息的隊列。首先,一條消息發(fā)送了。

d7ccbb06-efd4-11ec-ba43-dac502259ad0.jpg

然后,這條消息被記錄和存儲在這個隊列中,不允許被修改。

d7ef00d0-efd4-11ec-ba43-dac502259ad0.jpg

接下來,消息會被發(fā)送給此 Topic 的消費者。

但是,這條消息并不會被刪除,會繼續(xù)保留在隊列中。

d7fe1098-efd4-11ec-ba43-dac502259ad0.jpg

繼續(xù)發(fā)送消息。

d814eea8-efd4-11ec-ba43-dac502259ad0.jpg

像之前一樣,這條消息會發(fā)送給消費者,不允許被改動,一直呆在隊列中(消息在隊列中能待多久,取決于 Kafka 的配置)。

d825185a-efd4-11ec-ba43-dac502259ad0.jpg

d8426d9c-efd4-11ec-ba43-dac502259ad0.jpg

04 Partitions 分區(qū)

上面 Topic 的描述中,把 Topic 看做了一個隊列,實際上,一個 Topic 是由多個隊列組成的,被稱為【Partition(分區(qū))】。

這樣可以便于 Topic 的擴(kuò)展。

d85453e0-efd4-11ec-ba43-dac502259ad0.jpg

生產(chǎn)者發(fā)送消息的時候,這條消息會被路由到此 Topic 中的某一個分區(qū)(Partition)。

d85f8152-efd4-11ec-ba43-dac502259ad0.jpg

消費者監(jiān)聽的是所有分區(qū)并消耗所有人的事件。

d879a960-efd4-11ec-ba43-dac502259ad0.jpg

生產(chǎn)者發(fā)送消息時,默認(rèn)是面向 Topic 的,由 Topic 決定放在哪個 Partition,默認(rèn)使用輪詢策略。

d889aef0-efd4-11ec-ba43-dac502259ad0.jpg

也可以配置 Topic,讓同類型的消息都在同一個 Partition。

例如,處理用戶消息,可以讓某一個用戶所有消息都在一個 Partition。

例如,用戶 1 發(fā)送了 3 條消息:A、B、C,默認(rèn)情況下,這 3 條消息是在不同的 Partition 中(如 P1、P2、P3)。

在配置之后,可以確保用戶 1 的所有消息都發(fā)到同一個分區(qū)中(如 P1)。

d8a34644-efd4-11ec-ba43-dac502259ad0.jpg

這個功能有什么用呢?這是為了提供消息的【有序性】。

消息在不同的 Partition 是不能保證有序的,只有一個 Partition 內(nèi)的消息是有序的。

d8bd0782-efd4-11ec-ba43-dac502259ad0.jpg

d8cf8ca4-efd4-11ec-ba43-dac502259ad0.jpg

05 架構(gòu)

Kafka 是集群架構(gòu)的,ZooKeeper 是其重要組件。

d8f4aa84-efd4-11ec-ba43-dac502259ad0.jpg

ZooKeeper 管理著所有的 Topic 和 Partition。

Topic 和 Partition 存儲在 Node 物理節(jié)點中,ZooKeeper 負(fù)責(zé)維護(hù)這些 Node。

d907fc4c-efd4-11ec-ba43-dac502259ad0.jpg

例如,有 2 個 Topic,各自有 2 個 Partition。

d919a65e-efd4-11ec-ba43-dac502259ad0.jpg

這是邏輯上的形式,但在 Kafka 集群中的實際存儲可能是這樣的:

d92779aa-efd4-11ec-ba43-dac502259ad0.jpg

Topic A 的 Partition#1有 3 份,分布在各個 Node 上。

這樣可以增加 Kafka 的可靠性和系統(tǒng)彈性。

3 個 Partition#1中,ZooKeeper 會指定一個 Leader,負(fù)責(zé)接收生產(chǎn)者發(fā)來的消息。

d93a0c5a-efd4-11ec-ba43-dac502259ad0.jpg

其他 2 個 Partition #1 會作為 Follower,Leader 接收到的消息會復(fù)制給 Follower。

d958fc82-efd4-11ec-ba43-dac502259ad0.jpg

這樣,每個 Partition 都含有了全量消息數(shù)據(jù)。

d9782cf6-efd4-11ec-ba43-dac502259ad0.jpg

即使某個 Node 節(jié)點出現(xiàn)了故障,也不用擔(dān)心消息的損壞。

Topic A 和 Topic B 的所有 Partition 分布可能就是這樣的:

d98d59b4-efd4-11ec-ba43-dac502259ad0.jpg

這樣一來,你對 Kafka 的組件有了一個初步認(rèn)識,更多關(guān)于 Kafka 或消息隊列的內(nèi)容,可以查閱相關(guān)資料,感謝您的閱讀,希望對您有所幫助。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 架構(gòu)
    +關(guān)注

    關(guān)注

    1

    文章

    532

    瀏覽量

    26545
  • kafka
    +關(guān)注

    關(guān)注

    0

    文章

    55

    瀏覽量

    5551

原文標(biāo)題:講真!Kafka 的原理竟是這樣的,一看就明白!

文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運維】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    進(jìn)程概念和特征

    進(jìn)程的概念   在多道程序環(huán)境下,允許多個程序并發(fā)執(zhí)行,此時它們將失去封閉性,并具有間斷性及不可再現(xiàn)性的特征。為此引入了進(jìn)程(Process)的概念,以便更好地描述和控制程序的并發(fā)執(zhí)行,實現(xiàn)操作系統(tǒng)
    發(fā)表于 01-15 06:39

    工程師之夜系列分享第三十九篇:Kafka、RocketMQ、JMQ 存儲架構(gòu)深度對比

    引言 消息隊列的存儲架構(gòu)是決定其可靠性、吞吐量、延遲性能的核心因素,直接影響業(yè)務(wù)場景適配能力。本文聚焦三款主流消息隊列 ——Kafka(LinkedIn 開源,側(cè)重高吞吐)、RocketMQ(阿里
    的頭像 發(fā)表于 01-13 16:19 ?65次閱讀
    工程師之夜系列分享第三十九篇:<b class='flag-5'>Kafka</b>、RocketMQ、JMQ 存儲架構(gòu)深度對比

    Hudi系列:Hudi核心概念之索引(Indexs)

    Hudi系列:Hudi核心概念(版本1.0) ?Hudi架構(gòu) ?一. 時間軸(TimeLine)s ?1.1 時間軸(TimeLine)概念 ?1.2 Hudi的時間線由組成 ?1.3 時間線
    的頭像 發(fā)表于 10-21 09:47 ?311次閱讀
    Hudi系列:Hudi<b class='flag-5'>核心</b><b class='flag-5'>概念</b>之索引(Indexs)

    Hudi系列:Hudi核心概念之文件布局(Storage Layouts)

    Hudi系列:Hudi核心概念(版本1.0) ?Hudi架構(gòu) ?一. 時間軸(TimeLine) ?1.1 時間軸(TimeLine)概念 ?1.2 Hudi的時間線由組成 ?1.3 時間線
    的頭像 發(fā)表于 10-14 16:06 ?426次閱讀
    Hudi系列:Hudi<b class='flag-5'>核心</b><b class='flag-5'>概念</b>之文件布局(Storage Layouts)

    RK3576與RK3588核心板如何選型?1分鐘速通!#RK3576核心板 #RK3588核心

    核心
    廣州靈眸科技有限公司
    發(fā)布于 :2025年09月23日 17:31:12

    一文讀懂大模型常見的10個核心概念

    這些常見的專業(yè)術(shù)語,你又了解多少?這篇文章將幫助你快速掌握AI行業(yè)常見的核心概念。1、大模型型號每個大模型都有其獨特的設(shè)計和功能,有些大模型可能在語言理解方面表現(xiàn)出
    的頭像 發(fā)表于 09-22 17:02 ?1191次閱讀
    一文讀懂大模型常見的10個<b class='flag-5'>核心</b><b class='flag-5'>概念</b>

    《AI芯片:科技探索與AGI愿景》—— 深入硬件核心的AGI指南

    《AI芯片:科技探索與AGI愿景》一書如同一張詳盡的“藏寶圖”,為讀者指明了通往下一代人工智能的硬件之路。作者沒有停留在空洞的概念層面,而是直擊核心,從馮·諾依曼架構(gòu)的“內(nèi)存墻”瓶頸切入,清晰闡述了
    發(fā)表于 09-17 09:29

    CoWoP封裝的概念、流程與優(yōu)勢

    本文介紹了CoWoP(Chip?on?Wafer?on?Substrate)封裝的概念、流程與優(yōu)勢。
    的頭像 發(fā)表于 08-12 10:49 ?2450次閱讀
    CoWoP封裝的<b class='flag-5'>概念</b>、流程與優(yōu)勢

    Kafka生產(chǎn)環(huán)境應(yīng)用方案

    Apache Kafka作為分布式流處理平臺,在現(xiàn)代大數(shù)據(jù)架構(gòu)中扮演著消息中間件的核心角色。本文將從運維工程師的角度,詳細(xì)介紹Kafka在生產(chǎn)環(huán)境中的部署方案、配置優(yōu)化、監(jiān)控運維等關(guān)鍵技術(shù)。通過實戰(zhàn)案例和代碼示例,幫助運維團(tuán)隊構(gòu)
    的頭像 發(fā)表于 07-09 09:56 ?500次閱讀

    第十三章 通訊的基本概念

    本章介紹通訊基本概念,包括串行/并行、全雙工/半雙工/單工、同步/異步通訊,還提及通訊速率中比特率與波特率的概念。
    的頭像 發(fā)表于 05-22 17:29 ?1891次閱讀
    第十三章 通訊的基本<b class='flag-5'>概念</b>

    概念模擬電子電路(全彩版)

    《新概念模擬電子電路》,五部合集。 純分享貼,有需要可以直接下載附件獲取完整資料! (如果內(nèi)容有幫助可以關(guān)注、點贊、評論支持一下哦~)
    發(fā)表于 05-19 16:17

    Kafka工作流程及文件存儲機(jī)制

    Kafka 中消息是以 topic 進(jìn)行分類的,生產(chǎn)者生產(chǎn)消息,消費者消費消息,都是面向 topic 的。
    的頭像 發(fā)表于 05-19 10:14 ?856次閱讀
    <b class='flag-5'>Kafka</b>工作流程及文件存儲機(jī)制

    Linux系統(tǒng)管理的核心概念

    在前一篇文章中,我們深入探討了Linux中的文件操作命令,如cp、mv、rm,以及文本處理命令grep、wc和管道符。本文將繼續(xù)深入Linux系統(tǒng)管理的核心概念,包括root用戶的角色、用戶和用戶組
    的頭像 發(fā)表于 05-15 17:05 ?574次閱讀

    人工智能和機(jī)器學(xué)習(xí)以及Edge AI的概念與應(yīng)用

    與人工智能相關(guān)各種技術(shù)的概念介紹,以及先進(jìn)的Edge AI(邊緣人工智能)的最新發(fā)展與相關(guān)應(yīng)用。 人工智能和機(jī)器學(xué)習(xí)是現(xiàn)代科技的核心技術(shù) 人工智能(AI)和機(jī)器學(xué)習(xí)(ML)是現(xiàn)代科技的核心技術(shù)之一,且已經(jīng)在許多領(lǐng)域中得到廣泛應(yīng)用
    的頭像 發(fā)表于 01-25 17:37 ?1788次閱讀
    人工智能和機(jī)器學(xué)習(xí)以及Edge AI的<b class='flag-5'>概念</b>與應(yīng)用

    ALD和ALE核心工藝技術(shù)對比

    技術(shù)革新。 ? 核心概念與原理 ALD(Atomic Layer Deposition): 原子層沉積是一種逐層生長薄膜的工藝。 每個循環(huán)通過“自限性反應(yīng)”,將化學(xué)前體逐層吸附并反應(yīng),沉積一個原子層的材料。 目標(biāo):構(gòu)建具有高均勻性、無缺陷、埃級厚度精度的薄膜。
    的頭像 發(fā)表于 01-23 09:59 ?2302次閱讀
    ALD和ALE<b class='flag-5'>核心</b>工藝技術(shù)對比