国产一区二区精品-国产一区二区精品久-国产一区二区精品久久-国产一区二区精品久久91-免费毛片播放-免费毛片基地

千鋒教育-做有情懷、有良心、有品質(zhì)的職業(yè)教育機構(gòu)

手機站
千鋒教育

千鋒學(xué)習(xí)站 | 隨時隨地免費學(xué)

千鋒教育

掃一掃進入千鋒手機站

領(lǐng)取全套視頻
千鋒教育

關(guān)注千鋒學(xué)習(xí)站小程序
隨時隨地免費學(xué)習(xí)課程

當(dāng)前位置:首頁  >  技術(shù)干貨  > 有了Kafka+流處理框架,為什么還需要時序數(shù)據(jù)庫?

有了Kafka+流處理框架,為什么還需要時序數(shù)據(jù)庫?

來源:千鋒教育
發(fā)布人:xqq
時間: 2023-10-13 02:57:26 1697137046

一、有了Kafka+流處理框架,為什么還需要時序數(shù)據(jù)庫

在物聯(lián)網(wǎng)實際部署中,消息中間件(kafka,emq等)和時序數(shù)據(jù)庫通常是上下游的關(guān)系。

消息中間件有非常高的并發(fā)能力,能夠同時接受百萬級的網(wǎng)絡(luò)連接。一個數(shù)據(jù)庫(包括關(guān)系數(shù)據(jù)庫和時序數(shù)據(jù)庫)創(chuàng)建一個會話(客戶端連接)的成本比較高,能接受的連接數(shù)量也就在幾百和幾千這樣的級別(分布式數(shù)據(jù)庫可以按節(jié)點數(shù)增加,但數(shù)量遠遠小于消息中間件)。當(dāng)面對大量的物聯(lián)網(wǎng)傳感器,消息中間件架設(shè)在中間,接受傳感器的數(shù)據(jù),然后再批量寫入到時序數(shù)據(jù)庫中。時序數(shù)據(jù)庫的寫入吞吐量遠遠高于關(guān)系數(shù)據(jù)庫,每秒寫入百萬級和千萬級的數(shù)據(jù)點都不是問題。以分布式時序數(shù)據(jù)庫DolphinDB為例,6個服務(wù)器構(gòu)成的集群,每秒能達到千萬測點的三副本寫入。可以這么說,消息中間件的高并發(fā)能力和時序數(shù)據(jù)庫的高吞吐量聯(lián)合起來,解決了物聯(lián)網(wǎng)海量數(shù)據(jù)的實時處理和存儲問題。

至于時序數(shù)據(jù)庫的用途,參考其它回答,包括:提供永久的數(shù)據(jù)存儲和管理能力,數(shù)據(jù)查詢和分析等。

抽象來看,消息隊列與時序數(shù)據(jù)庫沒有本質(zhì)的區(qū)別,都是對時間序列數(shù)據(jù)的處理。但功能上,時序數(shù)據(jù)庫要有查詢、計算,而消息隊列只是簡單的生產(chǎn)、消費,先進先出。由于要有計算、分析,無論是結(jié)構(gòu)化寫入還是schemaless寫入,時序數(shù)據(jù)庫內(nèi)部一定要把數(shù)據(jù)結(jié)構(gòu)化處理,否則沒法進行計算和分析的。而消息隊列完全不用考慮這個,完全做非結(jié)構(gòu)化數(shù)據(jù)處理就行。從存儲設(shè)計的角度來看,兩者是沒有區(qū)別的,都需要有數(shù)據(jù)的保留策略,都需要對數(shù)據(jù)進行分區(qū)分片。一個時間線的ID可以作為kafka來的key, 對數(shù)據(jù)指定partition.

兩者正在融合,開源的TDengine就是這樣的,它不僅是時序數(shù)據(jù)庫,但同時又具備消息隊列的功能。這樣在大數(shù)據(jù)框架下,就能減少一個環(huán)節(jié),降低系統(tǒng)復(fù)雜度,降低運維成本。Kafka的企業(yè)版也在做類似的事情,除消息隊列功能外,對外還提供SQL查詢,提供各種分析計算功能。

更進一步,流式計算也可以融合進來。流式計算也是基于時序數(shù)據(jù)的,因此TDengine從設(shè)計的名列前茅天起,就考慮了流式計算,但目前還僅僅提供時間驅(qū)動的流式計算,后續(xù)版本會提供基于事件驅(qū)動的流式計算。這樣對于物聯(lián)網(wǎng)、車聯(lián)網(wǎng)、IT運維等場景,系統(tǒng)架構(gòu)將更進一步簡化,運維成本進一步降低。

延伸閱讀:

二、時間序列數(shù)據(jù)庫TSDB

TSDB(Time Series Database):一系列數(shù)據(jù)點按照時間順序排列;時間序列數(shù)據(jù)就是歷史烙印,具有不變性、時間排序性。

(基于時間的一系列數(shù)據(jù),在有時間的坐標(biāo)中將這些數(shù)據(jù)點連成線,往過去看可以做成多維度報表,揭示其趨勢性、規(guī)律性、異常性;往未來看可以做大數(shù)據(jù)分析、機器學(xué)校、實現(xiàn)預(yù)測和預(yù)警。

時序數(shù)據(jù)庫就是存放時序數(shù)據(jù)的數(shù)據(jù)庫,并且需要支持時序數(shù)據(jù)的快速寫入、持久化、多維度的聚合查詢等基本功能)。

聲明:本站稿件版權(quán)均屬千鋒教育所有,未經(jīng)許可不得擅自轉(zhuǎn)載。
10年以上業(yè)內(nèi)強師集結(jié),手把手帶你蛻變精英
請您保持通訊暢通,專屬學(xué)習(xí)老師24小時內(nèi)將與您1V1溝通
免費領(lǐng)取
今日已有369人領(lǐng)取成功
劉同學(xué) 138****2860 剛剛成功領(lǐng)取
王同學(xué) 131****2015 剛剛成功領(lǐng)取
張同學(xué) 133****4652 剛剛成功領(lǐng)取
李同學(xué) 135****8607 剛剛成功領(lǐng)取
楊同學(xué) 132****5667 剛剛成功領(lǐng)取
岳同學(xué) 134****6652 剛剛成功領(lǐng)取
梁同學(xué) 157****2950 剛剛成功領(lǐng)取
劉同學(xué) 189****1015 剛剛成功領(lǐng)取
張同學(xué) 155****4678 剛剛成功領(lǐng)取
鄒同學(xué) 139****2907 剛剛成功領(lǐng)取
董同學(xué) 138****2867 剛剛成功領(lǐng)取
周同學(xué) 136****3602 剛剛成功領(lǐng)取
相關(guān)推薦HOT
Oracle數(shù)據(jù)庫的實例是什么?

一、Oracle數(shù)據(jù)庫的實例Oracle實例指的是由Oracle內(nèi)存結(jié)構(gòu)(SGA)和Oracle進程組合在一起的統(tǒng)稱,是一系列復(fù)雜的內(nèi)存結(jié)構(gòu)和操作系統(tǒng)進程;在任...詳情>>

2023-10-13 04:34:10
oracle數(shù)據(jù)庫有什么優(yōu)勢?

一、oracle數(shù)據(jù)庫有什么優(yōu)勢1、Oracle是大型數(shù)據(jù)庫而Mysql是中小型數(shù)據(jù)庫,Oracle市場占有率達40%,Mysql只有20%左右,同時Mysql是開源的而Orac...詳情>>

2023-10-13 04:33:00
為什么不用key-value型數(shù)據(jù)庫實現(xiàn)關(guān)系型數(shù)據(jù)庫?

一、為什么不用key-value型數(shù)據(jù)庫實現(xiàn)關(guān)系型數(shù)據(jù)庫TiDB / CockroachDB 都是基于 KV 模型做的分布式關(guān)系型數(shù)據(jù)庫。TiDB 實際上是構(gòu)建在 TiKV + p...詳情>>

2023-10-13 04:21:53
關(guān)系型數(shù)據(jù)庫是什么?

一、什么是關(guān)系型數(shù)據(jù)庫關(guān)系型數(shù)據(jù)庫是按照關(guān)系模型組織和存儲數(shù)據(jù)的數(shù)據(jù)庫。它使用表格(表)的形式來表示和存儲數(shù)據(jù),每個表代表一個實體,而...詳情>>

2023-10-13 04:12:45
什么情況下需要使用分布式數(shù)據(jù)庫?

一、需要使用分布式數(shù)據(jù)庫的情況1、大規(guī)模數(shù)據(jù)存儲和處理當(dāng)數(shù)據(jù)量非常大時,單個數(shù)據(jù)庫可能無法滿足存儲和處理的需求。分布式數(shù)據(jù)庫可以將數(shù)據(jù)...詳情>>

2023-10-13 04:09:56
快速通道