如今整個(gè)商業(yè)世界都面臨著新的難題,即如何處理來(lái)自各客戶接觸點(diǎn)、交易以及互動(dòng)對(duì)象的大量數(shù)據(jù)。但與此同時(shí),我們也看到了解決問題的曙光——實(shí)時(shí)數(shù)據(jù)流技術(shù),其能夠存儲(chǔ)大量數(shù)值及歷史數(shù)據(jù),以備日后隨時(shí)調(diào)用。 可能很多朋友還沒有接觸過大數(shù)據(jù)分析方案,也有人認(rèn)為其僅僅算是個(gè)愿景而非現(xiàn)實(shí)——畢竟能夠證明其可行性與實(shí)際效果的案例確實(shí)相對(duì)有限。但可以肯定的是,實(shí)時(shí)數(shù)據(jù)流中包含著大量重要價(jià)值,足以幫助企業(yè)及人員在未來(lái)的工作中達(dá)成更為理想的結(jié)果。 實(shí)時(shí)分析用例 眾多行業(yè)及工作都能夠從數(shù)據(jù)流處理方案中獲得助益。數(shù)據(jù)流能夠通過管理數(shù)據(jù)實(shí)時(shí)變化迅速建立起形勢(shì)判斷,并幫助企業(yè)以最快速度收集來(lái)自傳感器(包括GPS與溫度計(jì)等)、攝像頭、新聞消息、衛(wèi)星、股票行情、網(wǎng)絡(luò)爬蟲、服務(wù)器日志、Flume、Twitter、傳統(tǒng)數(shù)據(jù)庫(kù)甚至是Hadoop系統(tǒng)的數(shù)據(jù),最終將其轉(zhuǎn)化為能夠提升企業(yè)業(yè)績(jī)的決策工具。 話雖如此,但實(shí)時(shí)數(shù)據(jù)分析結(jié)論帶來(lái)機(jī)遇的同時(shí)也充滿挑戰(zhàn),意味著管理層或者負(fù)責(zé)人員需要采取準(zhǔn)確的數(shù)據(jù)提煉模式才能將其轉(zhuǎn)化為可靠的決策依據(jù)。一般來(lái)講,實(shí)時(shí)數(shù)據(jù)分析方案需要立足于專業(yè)知識(shí)并配合業(yè)務(wù)洞察力,方能真正實(shí)現(xiàn)最優(yōu)決策與響應(yīng)提速。而且更重要的是,分析結(jié)論除實(shí)時(shí)性質(zhì)之外還需要被確切交付至相關(guān)者手中。 醫(yī)療衛(wèi)生與生命科學(xué):
保險(xiǎn)業(yè)
電信運(yùn)營(yíng)商 電信運(yùn)營(yíng)商能夠深入了解客戶行為并提供定制化服務(wù)(例如基于位置的服務(wù)、優(yōu)惠政策及產(chǎn)品建議等),并分析客戶的忠誠(chéng)度、喜好及需求變化趨勢(shì)。以此為基礎(chǔ),運(yùn)營(yíng)商將能夠改進(jìn)計(jì)費(fèi)標(biāo)準(zhǔn)、提升服務(wù)質(zhì)量、改善安全性并控制欺詐活動(dòng)。 能源行業(yè) 實(shí)時(shí)數(shù)據(jù)分析在能源行業(yè)中的一大典型案例在于智能化電網(wǎng)。其將以實(shí)際使用情況為基礎(chǔ)顯著提升能源供應(yīng)效率。
電子商務(wù)
運(yùn)輸行業(yè)
投機(jī)市場(chǎng)
執(zhí)法領(lǐng)域
技術(shù)領(lǐng)域
實(shí)時(shí)數(shù)據(jù)處理的挑戰(zhàn)所在 實(shí)時(shí)事件/交易/交互數(shù)量每秒以百萬(wàn)計(jì),由此產(chǎn)生的數(shù)據(jù)自然會(huì)給數(shù)據(jù)流處理系統(tǒng)造成巨大的壓力。即使數(shù)據(jù)已經(jīng)收集完成,系統(tǒng)仍然需要具備強(qiáng)大的能力以并行處理這些數(shù)據(jù)。之后是進(jìn)行事件關(guān)聯(lián),旨在幫助我們從數(shù)據(jù)中提取有價(jià)值信息。除此之外,整套系統(tǒng)還需要具備容錯(cuò)性與分布式設(shè)計(jì)——這意味著系統(tǒng)需要擁有低延遲水平以及速度更快的計(jì)算機(jī)制以完成實(shí)時(shí)響應(yīng)任務(wù)。 如何實(shí)現(xiàn) 為了滿足以上各項(xiàng)苛刻條件,我們需要將大量工具加以結(jié)合。其中Apache Kafka負(fù)責(zé)收集數(shù)據(jù)流,并通過Apache Storm或者Apache Spark(基于具體系統(tǒng)需求)將其路由至HIVE/HDFS,接下來(lái)由分析引擎提取結(jié)論并將其發(fā)送至儀表板。 如何簡(jiǎn)化實(shí)現(xiàn)流程 來(lái)自任何來(lái)源的數(shù)據(jù)都會(huì)由Kafka集群負(fù)責(zé)收集與暫時(shí)存儲(chǔ),而Zookeeper——>中繼——>主題分類機(jī)制則隨即跟上。而后其會(huì)通過Storm或者Spark被發(fā)送至HIVE/HDFS,并由后者再傳遞至分析引擎(例如SAS VA)——這一切都以實(shí)時(shí)方式完成,結(jié)論則被推送至儀表板供用戶理解及據(jù)此行動(dòng)。 最后,為了充分發(fā)揮實(shí)時(shí)數(shù)據(jù)分析的潛能,企業(yè)之間還需要通力協(xié)作。大數(shù)據(jù)領(lǐng)域的經(jīng)驗(yàn)證明,合作伙伴之間的配合是實(shí)現(xiàn)分析的前提條件。最后,各合作伙伴還需要廣泛接觸各垂直行業(yè),從而理解其中的具體業(yè)務(wù)及錯(cuò)綜復(fù)雜的相關(guān)要素。 因此,選擇理想的合作伙伴亦左右著實(shí)時(shí)分析項(xiàng)目的最終命運(yùn)。 總結(jié) 多數(shù)企業(yè)都擁有大量最終用戶接觸點(diǎn),而當(dāng)下對(duì)此類組織以及政府機(jī)構(gòu)而言可謂決定性時(shí)刻。通過即時(shí)了解當(dāng)前狀況,各組織機(jī)構(gòu)將能夠讓自己的工作更加富有成效——而實(shí)時(shí)數(shù)據(jù)分析方案則給了它們一個(gè)將理想轉(zhuǎn)化為現(xiàn)實(shí)的選項(xiàng)! |
|