|
精彩早知道消息隊(duì)列概述 消息隊(duì)列應(yīng)用場(chǎng)景 消息中間件示例 JMS消息服務(wù)（見(jiàn)第二篇：大型網(wǎng)站架構(gòu)系列：分布式消息隊(duì)列（二）） 常用消息隊(duì)列（見(jiàn)第二篇：大型網(wǎng)站架構(gòu)系列：分布式消息隊(duì)列（二）） 參考（推薦）資料（見(jiàn)第二篇：大型網(wǎng)站架構(gòu)系列：分布式消息隊(duì)列（二）） 本次分享總結(jié)（見(jiàn)第二篇：大型網(wǎng)站架構(gòu)系列：分布式消息隊(duì)列（二））
一、消息隊(duì)列概述消息隊(duì)列中間件是分布式系統(tǒng)中重要的組件，主要解決應(yīng)用耦合，異步消息，流量削鋒等問(wèn)題。實(shí)現(xiàn)高性能，高可用，可伸縮和最終一致性架構(gòu)。是大型分布式系統(tǒng)不可缺少的中間件。 目前在生產(chǎn)環(huán)境，使用較多的消息隊(duì)列有ActiveMQ，RabbitMQ，ZeroMQ，Kafka，MetaMQ，RocketMQ等。 二、消息隊(duì)列應(yīng)用場(chǎng)景以下介紹消息隊(duì)列在實(shí)際應(yīng)用中常用的使用場(chǎng)景。 異步處理 應(yīng)用解耦 流量削鋒 消息通訊
2.1異步處理場(chǎng)景說(shuō)明： 用戶(hù)注冊(cè)后，需要發(fā)注冊(cè)郵件和注冊(cè)短信。
傳統(tǒng)的做法有兩種：
1.串行的方式。
2.并行方式。 （1）串行方式：將注冊(cè)信息寫(xiě)入數(shù)據(jù)庫(kù)成功后，發(fā)送注冊(cè)郵件，再發(fā)送注冊(cè)短信。以上三個(gè)任務(wù)全部完成后，返回給客戶(hù)端 
（2）并行方式：將注冊(cè)信息寫(xiě)入數(shù)據(jù)庫(kù)成功后，發(fā)送注冊(cè)郵件的同時(shí)，發(fā)送注冊(cè)短信。以上三個(gè)任務(wù)完成后，返回給客戶(hù)端。與串行的差別是，并行的方式可以提高處理的時(shí)間。 
假設(shè)三個(gè)業(yè)務(wù)節(jié)點(diǎn)每個(gè)使用50毫秒鐘，不考慮網(wǎng)絡(luò)等其他開(kāi)銷(xiāo)，則串行方式的時(shí)間是150毫秒，并行的時(shí)間可能是100毫秒。 因?yàn)镃PU在單位時(shí)間內(nèi)處理的請(qǐng)求數(shù)是一定的，假設(shè)CPU1秒內(nèi)吞吐量是100次。則串行方式1秒內(nèi)CPU可處理的請(qǐng)求量是7次（1000/150）。并行方式處理的請(qǐng)求量是10次（1000/100）。 小結(jié)： 如以上案例描述，傳統(tǒng)的方式系統(tǒng)的性能（并發(fā)量，吞吐量，響應(yīng)時(shí)間）會(huì)有瓶頸。如何解決這個(gè)問(wèn)題呢？ 引入消息隊(duì)列，將不是必須的業(yè)務(wù)邏輯，異步處理。改造后的架構(gòu)如下： 
按照以上約定，用戶(hù)的響應(yīng)時(shí)間相當(dāng)于是注冊(cè)信息寫(xiě)入數(shù)據(jù)庫(kù)的時(shí)間，也就是50毫秒。 注冊(cè)郵件，發(fā)送短信寫(xiě)入消息隊(duì)列后，直接返回，因此寫(xiě)入消息隊(duì)列的速度很快，基本可以忽略，因此用戶(hù)的響應(yīng)時(shí)間可能是50毫秒。 因此架構(gòu)改變后，系統(tǒng)的吞吐量提高到每秒20 QPS。比串行提高了3倍，比并行提高了兩倍。 2.2應(yīng)用解耦場(chǎng)景說(shuō)明： 用戶(hù)下單后，訂單系統(tǒng)需要通知庫(kù)存系統(tǒng)。傳統(tǒng)的做法是，訂單系統(tǒng)調(diào)用庫(kù)存系統(tǒng)的接口。如下圖：
傳統(tǒng)模式的缺點(diǎn)： 假如庫(kù)存系統(tǒng)無(wú)法訪(fǎng)問(wèn)，則訂單減庫(kù)存將失敗，從而導(dǎo)致訂單失敗。 訂單系統(tǒng)與庫(kù)存系統(tǒng)耦合。
如何解決以上問(wèn)題呢？引入應(yīng)用消息隊(duì)列后的方案，如下圖： 
訂單系統(tǒng)：用戶(hù)下單后，訂單系統(tǒng)完成持久化處理，將消息寫(xiě)入消息隊(duì)列，返回用戶(hù)訂單下單成功。 庫(kù)存系統(tǒng)：訂閱下單的消息，采用拉/推的方式，獲取下單信息，庫(kù)存系統(tǒng)根據(jù)下單信息，進(jìn)行庫(kù)存操作。 假如：在下單時(shí)庫(kù)存系統(tǒng)不能正常使用。也不影響正常下單，因?yàn)橄聠魏?，訂單系統(tǒng)寫(xiě)入消息隊(duì)列就不再關(guān)心其他的后續(xù)操作了。實(shí)現(xiàn)訂單系統(tǒng)與庫(kù)存系統(tǒng)的應(yīng)用解耦。
2.3流量削鋒流量削鋒也是消息隊(duì)列中的常用場(chǎng)景，一般在秒殺或團(tuán)搶活動(dòng)中使用廣泛。 應(yīng)用場(chǎng)景： 秒殺活動(dòng)，一般會(huì)因?yàn)榱髁窟^(guò)大，導(dǎo)致流量暴增，應(yīng)用掛掉。為解決這個(gè)問(wèn)題，一般需要在應(yīng)用前端加入消息隊(duì)列。
可以控制活動(dòng)的人數(shù)。 可以緩解短時(shí)間內(nèi)高流量壓垮應(yīng)用。
用戶(hù)的請(qǐng)求，服務(wù)器接收后，首先寫(xiě)入消息隊(duì)列。假如消息隊(duì)列長(zhǎng)度超過(guò)最大數(shù)量，則直接拋棄用戶(hù)請(qǐng)求或跳轉(zhuǎn)到錯(cuò)誤頁(yè)面。 秒殺業(yè)務(wù)根據(jù)消息隊(duì)列中的請(qǐng)求信息，再做后續(xù)處理。
2.4日志處理日志處理是指將消息隊(duì)列用在日志處理中，比如Kafka的應(yīng)用，解決大量日志傳輸?shù)膯?wèn)題。架構(gòu)簡(jiǎn)化如下： 
日志采集客戶(hù)端，負(fù)責(zé)日志數(shù)據(jù)采集，定時(shí)寫(xiě)受寫(xiě)入Kafka隊(duì)列。 Kafka消息隊(duì)列，負(fù)責(zé)日志數(shù)據(jù)的接收，存儲(chǔ)和轉(zhuǎn)發(fā)。 日志處理應(yīng)用：訂閱并消費(fèi)kafka隊(duì)列中的日志數(shù)據(jù)。
以下是新浪kafka日志處理應(yīng)用案例： 
Kafka：接收用戶(hù)日志的消息隊(duì)列。 Logstash：做日志解析，統(tǒng)一成JSON輸出給Elasticsearch。 Elasticsearch：實(shí)時(shí)日志分析服務(wù)的核心技術(shù)，一個(gè)schemaless，實(shí)時(shí)的數(shù)據(jù)存儲(chǔ)服務(wù)，通過(guò)index組織數(shù)據(jù)，兼具強(qiáng)大的搜索和統(tǒng)計(jì)功能。 Kibana：基于Elasticsearch的數(shù)據(jù)可視化組件，超強(qiáng)的數(shù)據(jù)可視化能力是眾多公司選擇ELK stack的重要原因。
2.5消息通訊消息通訊是指，消息隊(duì)列一般都內(nèi)置了高效的通信機(jī)制，因此也可以用在純的消息通訊。比如實(shí)現(xiàn)點(diǎn)對(duì)點(diǎn)消息隊(duì)列，或者聊天室等。 點(diǎn)對(duì)點(diǎn)通訊： 
客戶(hù)端A和客戶(hù)端B使用同一隊(duì)列，進(jìn)行消息通訊。 聊天室通訊： 
客戶(hù)端A，客戶(hù)端B，客戶(hù)端N訂閱同一主題，進(jìn)行消息發(fā)布和接收。實(shí)現(xiàn)類(lèi)似聊天室效果。 以上實(shí)際是消息隊(duì)列的兩種消息模式，點(diǎn)對(duì)點(diǎn)或發(fā)布訂閱模式。模型為示意圖，供參考。 三、消息中間件示例3.1電商系統(tǒng)
消息隊(duì)列采用高可用，可持久化的消息中間件。 比如Active MQ，Rabbit MQ，Rocket Mq。 應(yīng)用將主干邏輯處理完成后，寫(xiě)入消息隊(duì)列。消息發(fā)送是否成功可以開(kāi)啟消息的確認(rèn)模式。（消息隊(duì)列返回消息接收成功狀態(tài)后，應(yīng)用再返回，這樣保障消息的完整性） 擴(kuò)展流程（發(fā)短信，配送處理）訂閱隊(duì)列消息。采用推或拉的方式獲取消息并處理。 消息將應(yīng)用解耦的同時(shí)，帶來(lái)了數(shù)據(jù)一致性問(wèn)題，可以采用最終一致性方式解決。比如主數(shù)據(jù)寫(xiě)入數(shù)據(jù)庫(kù)，擴(kuò)展應(yīng)用根據(jù)消息隊(duì)列，并結(jié)合數(shù)據(jù)庫(kù)方式實(shí)現(xiàn)基于消息隊(duì)列的后續(xù)處理。
3.2日志收集系統(tǒng)
分為: Zookeeper注冊(cè)中心：提出負(fù)載均衡和地址查找服務(wù)。 日志收集客戶(hù)端：用于采集應(yīng)用系統(tǒng)的日志，并將數(shù)據(jù)推送到kafka隊(duì)列。 Kafka集群：接收，路由，存儲(chǔ)，轉(zhuǎn)發(fā)等消息處理。 Storm集群（OtherApp)：與OtherApp處于同一級(jí)別，采用拉的方式消費(fèi)隊(duì)列中的數(shù)據(jù)。
|
