維基百科全書的定義:“大數(shù)據(jù)是飛速增長的,用現(xiàn)有數(shù)據(jù)庫管理工具難以管理的數(shù)據(jù)集合”。這些數(shù)據(jù)包括:社交媒體、移動(dòng)設(shè)備、科學(xué)計(jì)算和城市中部署的各類傳感器等等,其中視頻又是構(gòu)成數(shù)據(jù)體量最大的一部分。據(jù)IMS Research 統(tǒng)計(jì),根據(jù)IHS 2014 視頻監(jiān)控市場報(bào)告,未來五年全球監(jiān)控?cái)z像機(jī)將保持22% 的復(fù)合增長,前端產(chǎn)生的視頻監(jiān)控?cái)?shù)據(jù)將更為龐大,在視頻監(jiān)控大聯(lián)網(wǎng)、高清化推動(dòng)下,視頻監(jiān)控業(yè)務(wù)步入數(shù)據(jù)洪水時(shí)代不可避免。
云存儲是炙手可熱的“大數(shù)據(jù)”中組成之一:存儲單元模塊。“大數(shù)據(jù)”中提及富媒體資源指的就是視頻監(jiān)控業(yè)務(wù)產(chǎn)生的大量數(shù)據(jù),占比巨大的富媒體信息中的載體為存儲設(shè)備和云存儲解決方案。存儲設(shè)備或云存儲解決方案作為視頻監(jiān)控里中結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的載體,橫跨基礎(chǔ)架構(gòu)、內(nèi)容信息三個(gè)維度的信息化建設(shè)的基礎(chǔ)。如果將“富”媒體中的視頻信息,從底層的動(dòng)態(tài)存儲到以事件或物理為索引的信息分析,再到將海量的非結(jié)構(gòu)化數(shù)據(jù)轉(zhuǎn)化成信息和洞察力,做到真正的“為人所用”,才是大數(shù)據(jù)的真正魅力所在。
云監(jiān)控以標(biāo)準(zhǔn)化、模塊化、“即插即用”的一體化交付方式及無限的擴(kuò)展性,為構(gòu)建面向云的監(jiān)控管理模式提供了全新的解決方案。作為業(yè)界唯一一家已經(jīng)將監(jiān)控云技術(shù)覆蓋并廣泛應(yīng)用于政府、企業(yè)園區(qū)、智能交通、地鐵、校園、高端智能建筑等各個(gè)領(lǐng)域的解決方案供應(yīng)商,宇視第三代“CDS 云直存”有效解決同質(zhì)化的低價(jià)雞肋和差異化的需求陷阱,使得用戶的TCO 總擁有成本、應(yīng)用效率和可靠性最佳。
大數(shù)據(jù)業(yè)務(wù)特征分析
監(jiān)控里的視頻錄像數(shù)據(jù)的讀寫模式從前端IPC 或編解碼器的寫入模式及整體方案的規(guī)劃和維護(hù)都大大的不同于普通的數(shù)據(jù)存儲模式。
主要有如下特征:
■恒定碼流的高并發(fā)寫入
■存儲空間的提前規(guī)劃
■錄像視頻的生命周期管理
目前絕大多數(shù)的系統(tǒng)都是采用文件系統(tǒng)的方式進(jìn)行音視頻數(shù)據(jù)的存儲。文件系統(tǒng)有幾個(gè)最大的問題:
■存儲設(shè)備管理接口不統(tǒng)一
■存儲資源的管理及分配制度
■以文件系統(tǒng)為核心的數(shù)據(jù)存儲方式
■文件系統(tǒng)易損壞,寫文件會導(dǎo)致文件系統(tǒng)元數(shù)據(jù)區(qū)的頻繁持續(xù)更新,因此文件系統(tǒng)的元數(shù)據(jù)區(qū)很容易損壞,導(dǎo)致文件系統(tǒng)不可用。
■性能問題:文件系統(tǒng)經(jīng)IO 過操作系統(tǒng)的封裝,在數(shù)據(jù)長時(shí)期持續(xù)寫入的情況下,開銷要大于直接裸盤寫入,降低性能。在磁盤上存在大量錄像文件時(shí),系統(tǒng)的錄像檢索效率會下降很多。另外,磁盤上的大量文件在多次刪除重建后,數(shù)據(jù)在物理磁盤上的位置將變成不連續(xù),導(dǎo)致數(shù)據(jù)寫入的隨機(jī)性加大,從而降低錄像數(shù)據(jù)的寫入性能。
云存儲的技術(shù)特點(diǎn)
1 統(tǒng)一管理管理
■即插即用
云存儲解決方案實(shí)現(xiàn)了無縫的將視頻處理技術(shù)和存儲設(shè)備無縫的融合,實(shí)現(xiàn)了對存儲資源進(jìn)行集中管理,動(dòng)態(tài)的為攝像機(jī)分配存儲資源。實(shí)現(xiàn)了云的最大特點(diǎn):即插即用。
云存儲的數(shù)據(jù)管理模塊能自動(dòng)識別新加入的設(shè)備信息,不僅實(shí)現(xiàn)了對存儲資源的整合和集中管理,并在系統(tǒng)的運(yùn)行過程中,通過巡檢機(jī)制來實(shí)時(shí)監(jiān)控各存儲設(shè)備的存儲資源狀態(tài),在發(fā)現(xiàn)故障時(shí)及時(shí)上報(bào)給中心的視頻管理服務(wù)器進(jìn)行處理。
■按需分配
試想將一個(gè)大型視頻監(jiān)控系統(tǒng)中部署的上萬個(gè)攝像機(jī)的音視頻數(shù)據(jù)都存儲起來,將會占用非常大的存儲空間,增加系統(tǒng)成本。
事實(shí)上,并非所有的視頻數(shù)據(jù)都需要全天24 小時(shí)存儲,可以根據(jù)實(shí)際情況有選擇的不同的存儲策略進(jìn)行存儲。監(jiān)控云存儲解決方案完美的解決了用戶的顧慮,根據(jù)用戶的現(xiàn)有環(huán)境和存儲策略,實(shí)現(xiàn)每個(gè)前端的 按需分配。
■自動(dòng)擴(kuò)容
監(jiān)控CDS 云存儲解決方案實(shí)現(xiàn)了存儲的自動(dòng)擴(kuò)容功能。
當(dāng)IPSAN 設(shè)備注冊到數(shù)據(jù)管理模塊后,數(shù)據(jù)管理模塊自動(dòng)獲取存儲設(shè)備的各項(xiàng)信息,并把這些資源整合成一個(gè)大的存儲資源池,制訂存儲策略時(shí)根據(jù)最優(yōu)策略為攝像機(jī)動(dòng)態(tài)分配資源,以充分利用各存儲設(shè)備的存儲資源。動(dòng)態(tài)的為攝像機(jī)分配存儲資源,提高資源利用率。當(dāng)現(xiàn)有的存儲空間不能滿足新的存儲計(jì)劃時(shí),在不影響前端業(yè)務(wù)的情況下,能通過策略實(shí)現(xiàn)存儲空間的自動(dòng)擴(kuò)容。
■無限擴(kuò)展
監(jiān)控CDS 云存儲平臺可分成支持1024 級的管理模式,每級的存儲模塊支持1024 臺存儲設(shè)備,實(shí)現(xiàn)存儲設(shè)備的無限擴(kuò)展。
2 錄像數(shù)據(jù)的安全訪問
存放在存儲設(shè)備中的視頻數(shù)據(jù)可能涉及到隱私或敏感信息,所以對于訪問存儲的音視頻數(shù)據(jù)的用戶應(yīng)進(jìn)行權(quán)限認(rèn)證,嚴(yán)禁未授權(quán)用戶對數(shù)據(jù)的非法訪問。

完善的數(shù)據(jù)保護(hù)機(jī)制及優(yōu)化
而在視頻監(jiān)控應(yīng)用中,通常一個(gè)陣列中磁盤都是7×24 小時(shí)不間斷工作。音視頻數(shù)據(jù)的特征是,部分的數(shù)據(jù)損壞只會損壞很短一段時(shí)間的音視頻片段不可使用,并不會影響全局,這種應(yīng)用模式下,傳統(tǒng)的RAID 算法將會導(dǎo)致陣列變得非常的脆弱,容易由于少量的磁盤IO 錯(cuò)誤導(dǎo)致整個(gè)陣列不可用。因此,在視頻監(jiān)控領(lǐng)域,UNIVIEW 根據(jù)這個(gè)行業(yè)的應(yīng)用特征,從設(shè)備級和方案級兩方面出發(fā)進(jìn)行優(yōu)化,大大提高了陣列的容錯(cuò)能力,提升了可用性。
設(shè)備層
監(jiān)控存儲設(shè)備自身提供多種保護(hù)機(jī)制,最大程度的保護(hù)視頻錄像數(shù)據(jù)。
■物理層
在物理層,通過最先進(jìn)的磁盤技術(shù)保證數(shù)據(jù)的容錯(cuò)(磁盤扇區(qū)的remap 技術(shù))。
■RAID 層
在傳統(tǒng)的RAID 應(yīng)用中,對于磁盤的錯(cuò)誤是零容忍的,一旦發(fā)現(xiàn)磁盤IO 錯(cuò)誤,就會將故障磁盤下線,導(dǎo)致陣列降級。 ■RAID 重建
在RAID 重建功能中,重新設(shè)計(jì)了新的重建算法,大大提升了RAID 重建速度。有效保證了在陣列降級情況下的數(shù)據(jù)恢復(fù)速度,提升了系統(tǒng)的可靠性。
■硬盤順序上電
包括存儲資源的可靠性(磁盤可靠性、RAID 可靠性、存儲設(shè)備級保護(hù)),存儲數(shù)據(jù)的可靠性,數(shù)據(jù)恢復(fù),性能優(yōu)化。
■設(shè)備層
支持在線式內(nèi)嵌UPS 電池和數(shù)據(jù)保險(xiǎn)箱功能,異常停電時(shí)可以繼續(xù)供電以便把寫緩存數(shù)據(jù)保存到數(shù)據(jù)保險(xiǎn)箱中,完全保證用戶數(shù)據(jù)的完整性。
■協(xié)議層
在存儲協(xié)議層面,針對音視頻媒體流傳輸?shù)奶攸c(diǎn),有針對性的優(yōu)化了iSCSI 協(xié)議參數(shù),使得存儲媒體流的傳輸更加的高效,提升可靠性。
方案級
從寫入的視頻錄像數(shù)據(jù)采集后的傳輸?shù)胶蠖舜鎯υO(shè)備上錄像數(shù)據(jù)的寫入過程中宇視科技的監(jiān)控CDS(Cloud Direct Storage) 云存儲提供解決方案級的保護(hù),完美的保護(hù)視頻錄像數(shù)據(jù)。
■前端緩存補(bǔ)錄
在監(jiān)控系統(tǒng)實(shí)際應(yīng)用環(huán)境中,經(jīng)常會面臨網(wǎng)絡(luò)終端、存儲設(shè)備斷電等情況,導(dǎo)致前端的錄像無法及時(shí)存儲到中心存儲資源,從而造成錄像丟失。
云存儲解決方案,在網(wǎng)絡(luò)或中心存儲等異常時(shí),前端設(shè)備會啟動(dòng)緩存功能,將視頻數(shù)據(jù)存在本地的存儲設(shè)備上( 如:U 盤、移動(dòng)硬盤和SD 卡等)。同時(shí),后端鏈路或設(shè)備恢復(fù)正常后,會自動(dòng)將補(bǔ)錄到的錄像上傳到后端存儲上,避免造成數(shù)據(jù)丟失。同時(shí)在統(tǒng)一的監(jiān)控管理平臺上,能對該時(shí)間段的錄像進(jìn)行檢索、回放、刪除等管理操作。
■動(dòng)態(tài)碼流直存
宇視科技的CDS 云存儲解決方案:對于宇視科技監(jiān)控終端,可按照錄像存儲業(yè)務(wù)的優(yōu)先級,支持變碼流存儲:對于周期計(jì)劃類等優(yōu)先級較低的錄像存儲業(yè)務(wù),可采用低碼流或者抽幀方式的存儲,適當(dāng)減少對存儲空間的占用。而對于告警聯(lián)動(dòng)類等優(yōu)先級較高的錄像存儲業(yè)務(wù),可采用高碼流、全幀等方式存儲,全力保證錄像的高質(zhì)量、高清晰度。
同時(shí),基于支持前端智能分析功能的監(jiān)控終端,對于監(jiān)控畫面中的重點(diǎn)區(qū)域或動(dòng)態(tài)圖像,采用低壓縮比、高碼流格式進(jìn)行傳輸及存儲;對于監(jiān)控畫面中的非重點(diǎn)區(qū)域或靜態(tài)圖像,采用高壓縮比、低碼流進(jìn)行傳輸及存儲。這樣在保證關(guān)鍵錄像數(shù)據(jù)的高質(zhì)量傳輸、高質(zhì)量存儲的同時(shí),可有效減少非關(guān)鍵數(shù)據(jù)占用的傳輸帶寬、存儲資源。
■存儲的“『N+M』,M 最小為零”保護(hù)
存儲“『N+M』,M 最小為零”是預(yù)防存儲故障的實(shí)現(xiàn)方式之一,“N”為在線存儲陣列,“M”為冗余存儲設(shè)備,“N”和“M”在一個(gè)局域網(wǎng)里,但可以放置在不同的地域。通過“N+M 保護(hù)“能將前端攝像機(jī)的數(shù)據(jù)自動(dòng)存放到冗余存儲陣列設(shè)備上。當(dāng)在線存儲恢復(fù)正常后,又自動(dòng)的恢復(fù)到之前存儲設(shè)備上。
存儲“『N+M』,M 最小為零”從監(jiān)控系統(tǒng)整體解決方案的角度,有效解決不同級別及不同類型的存儲異常情況下的存儲可靠性問題。根據(jù)用戶需求,靈活調(diào)整主用、冗余存儲設(shè)備的數(shù)目,比傳統(tǒng)陣列支持雙控保護(hù)技術(shù)的方案整體可靠性和靈活性更高,且全系統(tǒng)保護(hù)成本更低。

總結(jié)
宇視根據(jù)自己多年在存儲和多媒體領(lǐng)域的技術(shù)積累和理解,基于多媒體應(yīng)用的特點(diǎn),有針對性的對現(xiàn)有存儲技術(shù)進(jìn)行了創(chuàng)造性的改進(jìn)和優(yōu)化。
宇視的CDS 云存儲解決方案實(shí)現(xiàn)了對存儲設(shè)備的統(tǒng)一管理、按需分配、即插即用,基于云存儲理念的的宇視科技存儲設(shè)備融入的云存儲數(shù)據(jù)管理模塊,更好給用戶提供端到端的云存儲服務(wù)。