徐州科技館物聯(lián)網(wǎng)大數(shù)據(jù)平臺研發(fā)

來源: 發(fā)布時間:2024-11-15

高可靠性需要運營商級別的高可靠服務(wù)。物聯(lián)網(wǎng)系統(tǒng)對接的往往是生產(chǎn)、經(jīng)營系統(tǒng),如果數(shù)據(jù)處理系統(tǒng)宕機(jī),直接導(dǎo)致停產(chǎn),產(chǎn)生經(jīng)濟(jì)有損失、導(dǎo)致對終端消費者的服務(wù)無法正常提供。比如智能電表,如果系統(tǒng)出問題,直接導(dǎo)致的是千家萬戶無法正常用電。因此物聯(lián)網(wǎng)大數(shù)據(jù)系統(tǒng)必須是高可靠的,必須支持?jǐn)?shù)據(jù)實時備份,必須支持異地容災(zāi),必須支持軟件、硬件在線升級,必須支持在線IDC機(jī)房遷移,否則服務(wù)一定有被中斷的可能。4.高效緩存需要高效的緩存功能。絕大部分場景,都需要能快速獲取設(shè)備當(dāng)前狀態(tài)或其他信息,用以報警、大屏展示或其他。系統(tǒng)需要提供一高效機(jī)制,讓用戶可以獲取全部、或符合過濾條件的部分設(shè)備的狀態(tài)。為提高大數(shù)據(jù)分析師的工作效率,系統(tǒng)應(yīng)該提供一命令行工具或容許用戶通過其他工具,執(zhí)行SQL查詢。徐州科技館物聯(lián)網(wǎng)大數(shù)據(jù)平臺研發(fā)

實時數(shù)據(jù)在緩存里,歷史數(shù)據(jù)在持久化存儲介質(zhì)里,而且可能依據(jù)時長,保留在不同存儲介質(zhì)里。系統(tǒng)應(yīng)該隱藏背后的存儲,給用戶和應(yīng)用呈現(xiàn)的是同一個接口和界面。無論是訪問新采集的數(shù)據(jù)還是十年前的老數(shù)據(jù),除輸入的時間參數(shù)不同之外,其余應(yīng)該是一樣的。8.數(shù)據(jù)持續(xù)穩(wěn)定寫入需要保證數(shù)據(jù)能持續(xù)穩(wěn)定寫入。對于物聯(lián)網(wǎng)系統(tǒng),數(shù)據(jù)流量往往是平穩(wěn)的,因此數(shù)據(jù)寫入所需要的資源往往是可以估算的。但是變化的是查詢、分析,特別是即席查詢,有可能耗費很大的系統(tǒng)資源,不可控。因此系統(tǒng)必須保證分配足夠的資源以確保數(shù)據(jù)能夠?qū)懭胂到y(tǒng)而不被丟失。準(zhǔn)確的說,系統(tǒng)必須是一個寫優(yōu)先系統(tǒng)。9.數(shù)據(jù)多維度分析需要對數(shù)據(jù)支持靈活的多維度分析。對于聯(lián)網(wǎng)設(shè)備產(chǎn)生的數(shù)據(jù),需要進(jìn)行各種維度的統(tǒng)計分析,比如從設(shè)備所處的地域進(jìn)行分析,從設(shè)備的型號、供應(yīng)商進(jìn)行分析,從設(shè)備所使用的人員進(jìn)行分析等等。而且這些維度的分析是無法事先想好的,而是在實際運營過程中,根據(jù)業(yè)務(wù)發(fā)展的需求定下來的。因此物聯(lián)網(wǎng)大數(shù)據(jù)系統(tǒng)需要一個靈活的機(jī)制增加某個維度的分析。蘇州工程咨詢物聯(lián)網(wǎng)大數(shù)據(jù)平臺哪家好因此處理系統(tǒng)必須是分布式的,水平擴(kuò)展的。

  數(shù)據(jù)處理:數(shù)據(jù)處理包括實時計算和離線計算兩種。TIZASTAR采用Storm作為實時處理引擎,并在它的基礎(chǔ)上包裝了自己的實時計算服務(wù),可以支持應(yīng)用層的調(diào)度和管理。基于實時計算服務(wù)可以很容易實現(xiàn)對物聯(lián)網(wǎng)數(shù)據(jù)的清洗、解析、報警等實時的處理。離線計算支持MapReduce和Hive等,主要用于對物聯(lián)網(wǎng)數(shù)據(jù)做日/周/月/年等多個時間維度做報表分析和數(shù)據(jù)挖掘,并將結(jié)果輸出到關(guān)系數(shù)據(jù)庫中?!駭?shù)據(jù)交換接口:數(shù)據(jù)交換接口支持SQL、Restful、Thrift和JavaAPI等,用戶可以根據(jù)實際情況靈活選擇數(shù)據(jù)交換的方式。數(shù)據(jù)交換的內(nèi)容包括物聯(lián)網(wǎng)終端的當(dāng)前狀態(tài)、物聯(lián)網(wǎng)終端的歷史狀態(tài)/軌跡、指令下發(fā)、數(shù)據(jù)訂閱與發(fā)布等等?!衿脚_管理:平臺管理包括監(jiān)控報警和管理UI。監(jiān)控報警采用Ganglia和Nagios結(jié)合的形式,包括硬件級別(服務(wù)器、cpu、內(nèi)存、磁盤等)、進(jìn)程級別(進(jìn)程不存在、端口***異常等)、關(guān)鍵業(yè)務(wù)指標(biāo)(中間隊列的元素數(shù)、網(wǎng)關(guān)建立的tcp連接數(shù)等)等三個級別。管理UI包括界面化安裝部署、用戶管理、終端管理、集群管理、數(shù)據(jù)接入管理、實時和離線計算任

 物聯(lián)網(wǎng)是一個很寬泛的概念,是指各種設(shè)備、機(jī)器都通過互聯(lián)網(wǎng)連接起來,車聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)等都屬于物聯(lián)網(wǎng)范疇。聯(lián)網(wǎng)的設(shè)備在2019年已經(jīng)超過142億,預(yù)計2021年將達(dá)到250億,這是一個巨大的數(shù)量。毫無疑問,我們需要一個物聯(lián)網(wǎng)大數(shù)據(jù)平臺來處理這些聯(lián)網(wǎng)設(shè)備產(chǎn)生的海量數(shù)據(jù)。1.必須是高效的分布式系統(tǒng)。物聯(lián)網(wǎng)產(chǎn)生的數(shù)據(jù)量巨大,中國而言,就有5億多臺智能電表,每臺電表每隔15分鐘采集一次數(shù)據(jù),全國智能電表就會產(chǎn)生500多億條記錄。這么大的數(shù)據(jù)量,任何一臺服務(wù)器都無能力處理,因此處理系統(tǒng)必須是分布式的,水平擴(kuò)展的。為降低成本,一個節(jié)點的處理性能必須是高效的,需要支持?jǐn)?shù)據(jù)的快速寫入和快速查詢。系統(tǒng)應(yīng)該提供訂閱功能,只要有新的數(shù)據(jù)更新,就應(yīng)該實時提醒應(yīng)用。

需要保證數(shù)據(jù)能持續(xù)穩(wěn)定寫入。對于物聯(lián)網(wǎng)系統(tǒng),數(shù)據(jù)流量往往是平穩(wěn)的,因此數(shù)據(jù)寫入所需要的資源往往是可以估算的。但是變化的是查詢、分析,特別是即席查詢,有可能耗費很大的系統(tǒng)資源,不可控。因此系統(tǒng)必須保證分配足夠的資源以確保數(shù)據(jù)能夠?qū)懭胂到y(tǒng)而不被丟失。準(zhǔn)確的說,系統(tǒng)必須是一個寫優(yōu)先系統(tǒng)。9.需要對數(shù)據(jù)支持靈活的多維度分析。對于聯(lián)網(wǎng)設(shè)備產(chǎn)生的數(shù)據(jù),需要進(jìn)行各種維度的統(tǒng)計分析,比如從設(shè)備所處的地域進(jìn)行分析,從設(shè)備的型號、供應(yīng)商進(jìn)行分析,從設(shè)備所使用的人員進(jìn)行分析等等。而且這些維度的分析是無法事先想好的,而是在實際運營過程中,根據(jù)業(yè)務(wù)發(fā)展的需求定下來的。因此物聯(lián)網(wǎng)大數(shù)據(jù)系統(tǒng)需要一個靈活的機(jī)制增加某個維度的分析。必須是實時處理的系統(tǒng)。徐州園區(qū)物聯(lián)網(wǎng)大數(shù)據(jù)平臺銷售

需要運營商級別的高可靠服務(wù)。徐州科技館物聯(lián)網(wǎng)大數(shù)據(jù)平臺研發(fā)

在物聯(lián)網(wǎng)時代,數(shù)量龐大的“物”會產(chǎn)生PB級的海量數(shù)據(jù),傳統(tǒng)的數(shù)據(jù)處理服務(wù)的處理速度已無法跟上數(shù)據(jù)產(chǎn)生的速度。如果沒法及時分析與利用這龐大的物聯(lián)網(wǎng)設(shè)備數(shù)據(jù),就無法將數(shù)據(jù)的價值比較大化,大數(shù)據(jù)分析能力的建設(shè)對物聯(lián)網(wǎng)企業(yè)來說又成為了一個新的挑戰(zhàn)。針對這種情況,大數(shù)據(jù)處理服務(wù)應(yīng)運而生。服務(wù)提供商提供大數(shù)據(jù)處理平臺,為企業(yè)消除了大數(shù)據(jù)處理的效率問題和可靠性問題,讓企業(yè)能夠?qū)W⒂谖锫?lián)網(wǎng)數(shù)據(jù)的分析與利用。物聯(lián)網(wǎng)大數(shù)據(jù)根據(jù)數(shù)據(jù)類型的不同,分析方式也不同。實時數(shù)據(jù)有些數(shù)據(jù)的實時性很強(qiáng),如果沒有及時分析處理就會失去價值,甚至可能造成損失,我們稱之為實時數(shù)據(jù)。典型的實時數(shù)據(jù)包括設(shè)備位置信息、設(shè)備實時狀態(tài)等,應(yīng)用于實時監(jiān)控、實時告警等場景,例如,車輛實時上報位置數(shù)據(jù),實時分析后呈現(xiàn)到交通監(jiān)控中心的大屏上,交通根據(jù)實時數(shù)據(jù)下達(dá)各種交通控制決策,如紅綠燈時間調(diào)整等。為了實現(xiàn)高實時性,我們可以采用實時流分析方案,從物聯(lián)網(wǎng)平臺對外的數(shù)據(jù)通道中實時提取流動數(shù)據(jù),分析和處理之后再輸出至數(shù)據(jù)通道繼續(xù)流轉(zhuǎn),保證呈現(xiàn)的數(shù)據(jù)永遠(yuǎn)是*新鮮”的。徐州科技館物聯(lián)網(wǎng)大數(shù)據(jù)平臺研發(fā)