架構總原則: 大中臺+小前臺的架構思路 業(yè)務中臺采用領域驅動設計(DDD),在其上構建業(yè)務能力SAAS,持續(xù)不斷進行迭代演進。 平臺化定位,進行了業(yè)務隔離設計,方便一套系統(tǒng)支撐不同玩法的業(yè)務類型和便于定制化擴展。 前后端分離,通過服務接入層進行路由適配轉發(fā)。 天然的分庫分表,消息解耦和分布式緩存設計,支持彈性擴容,以支持大數(shù)據高并發(fā)場景。 系統(tǒng)邏輯架構圖: 接下來將分別介紹每個部分。 電商中臺: 中臺部分在邏輯上分成了基礎能力和平臺產品兩層,這樣做的好處是,基礎能力層聚焦于穩(wěn)定收斂的業(yè)務模型和基礎服務本身,不會隨著業(yè)務和前臺產品的調整發(fā)生變化,可以簡單理解為業(yè)務模型的DAO。平臺產品層則專注于通過流程編排類的技術手段,將基礎能力構建成業(yè)務的解決方案,解決共性和個性化的問題。我們將以交易的設計為例來說明這個分層理念。通過對電商交易業(yè)務的深入分析, 可以確定幾乎所有的交易都會涉及下圖中所有的領域(庫存,優(yōu)惠,價格…),而單看每個域,玩法都是很少變化的,將這些域的基礎能力完全可以沉淀下來形成原子的基礎能力,通過擴展點方式應對將來特殊的場景個性化擴展。 平臺產品層為了應對不同的交易場景(一口價,拍賣,貨到付款,預售…)將原子的基礎能力編排成滿足不同場景的解決方案,以服務的方式透出出去。 服務接入層: 服務接入層是連接前臺產品和中臺產品層的紐帶, 實質就是之前的web 應用,不同的是現(xiàn)在前后端分離后,只包含java 代碼,使用springBoot web。做參數(shù)轉換,路由分發(fā),調用中臺服務,結果封裝。這塊需要做好前后端的交互規(guī)范,請求路由映射規(guī)范,web工程目錄結構,負載均衡方案,跨越問題和安全問題, 后續(xù)會有專題詳細介紹這塊。 公用基礎組件: 沉淀和抽象出通用獨立的公共基礎組件,這些組件在服務本項目,本團隊的同時,可以開源出去服務更多的人; 抽幾個非常重要的組件講一下這么做的目的。 數(shù)據訪問組件: 抽象封裝分庫分表訪問,讀寫分離,主備切換。 消息中間件組件:這塊的選擇非常多,就開源的就有activeMQ,RabbitMQ,RocketMQ,Kafka等等, 再加上阿里云,AWS, 騰訊云等提供的和對應的云版本,會非常多,如果不對這塊做封裝,對其上應用做透明化處理,后期做這塊的適配調整就會非常痛苦,特別是這套系統(tǒng)會在不同環(huán)境中進行部署時。 地址庫組件: 統(tǒng)一地理地址相關的服務,如果是有拓展國際市場的需求,這塊會顯得的非常重要,不同文化背景的國家,在這塊的差異會非常大,同時國內也涉及3級,4級和5級地址的問題。 云服務&設施容器層 如果技術團隊不是非常大,又沒有較強的運維技術人員,建議不要購買物理機自己搭建環(huán)境,而是直接使用阿里云這些比較成熟的ECS和其他云服務,這樣會節(jié)省很多時間成本和一些耗時的運維工作,讓其專注于業(yè)務產品的研發(fā),同時使用docker 容器部署應用,不僅需要的機器數(shù)量比較少而且部署非常便捷高效。 業(yè)務前臺產品: ios ,android APP , H5 APP ,PC 站點,微信支付寶小程序 都是屬于這層,前臺產品主要是根據業(yè)務形態(tài)和產品的定位來進行構建。對于電商業(yè)務來說,主要是指移動APP商城,H5商城,PC商城 ,小程序商城。將以小程序為例來說明。 為了適應小程序,社交電商這樣的熱點,加上有這么優(yōu)秀的一套電商中臺系統(tǒng),不搞出點有么有樣的電商前臺產品,不是很沒有道理,為此想破腦袋,我們把電商和送禮結合了起來,做了“禮尚往來”的小程序,下面是產品的截圖。 穩(wěn)定和安全保障系統(tǒng) 對電商這類在線交易系統(tǒng),流量會隨著運營活動的波動非常大,特別是到了雙11這類大活動的時候,流量的峰值會是平時的幾十~幾百倍,一些接口會放大的更大;核心系統(tǒng)的系統(tǒng)指標,流量,接口調用量和rt, 以及限流和異常的監(jiān)控就顯得非常重要了。在幾年之前,只有BAT 幾個大的公司有能力在這方面做的不錯,隨著全民參與的這種大型促銷活動推動技術的進步,以及開源社區(qū)和一些大廠將類似方案回饋到開源社區(qū),目前一個小的技術團隊做好這塊也沒有什么難度了?,F(xiàn)將我們用到的框架做個簡單的介紹,更多細節(jié)請參考官方文檔。 sentinel:是面向分布式服務架構的輕量級流量控制產品,主要以流量為切入點,從流量控制、熔斷降級、系統(tǒng)負載保護等多個維度來幫助您保護服務的穩(wěn)定性。 該系統(tǒng)已經過阿里內部雙11多年的驗證,穩(wěn)定性和可靠性非常不錯,已于最近開源。 dubbokeeper: dubbo的官方監(jiān)控dubbo-monitor-simple 在性能上表現(xiàn)非常不好,經??ㄋ?,對比了幾個成熟的框架后,最終確定使用dubbokeeper. dubbokeeper社區(qū)版dubboadmin,包括了應用管理,動態(tài)配置,統(tǒng)計信息,服務監(jiān)控和zk信息查看功能。 pinpoint: 現(xiàn)在基于微服務的架構,一個請求從用戶發(fā)起到響應,中間調用鏈路非常長,跨越數(shù)十個系統(tǒng)很正常,并且路徑非常多,要定位一個比較耗時的響應,不利用工具,是非常低效的。Pinpoint這樣的工具就是為處理這個問題出現(xiàn)的,Pinpoint的優(yōu)點是對代碼零侵入,運用JavaAgent字節(jié)碼增強技術,追蹤每個請求的完整調用鏈路。 Telegraf+ influxDB+ Grafana:主要用來實現(xiàn)業(yè)務數(shù)據的實時監(jiān)控方案,如交易額的不正常波動,訂單量的突然下跌等。Telegraf 是收集數(shù)據的代理程序,可以根據業(yè)務需要添加插件擴展服務,收集到的數(shù)據寫入分布式時序數(shù)據庫influxDB,再通過grafana 可視化的展示出來。 工程結構: 邏輯結構映射到物理的工程結構,每個邏輯單元對應為一個子工程,如果是用idea 開發(fā),就是一個model, 當然model 里邊會有子model;至于需要打包構建多少個系統(tǒng)其決定性因素是你團隊的規(guī)模,如果團隊規(guī)模較少,中臺系統(tǒng)合并到3-4個左右就足夠了,如果團非常大,一個團隊負責一個業(yè)務板塊的,并為其構建多個系統(tǒng),也是非常正常的,像較大的電商公司,負責商品的就是一個團隊,商品相關的系統(tǒng)就有數(shù)10個。以交易為例,可以將交易的系統(tǒng)合并為一個系統(tǒng),但在工程的組織結構上是對立的,方便將來的拆分。 為什么要用業(yè)務中臺化思想來架構交易系統(tǒng) 上面介紹了交易業(yè)務中臺的設計理念,本篇會詳細的來說為何要用中臺的思想來架構交易系統(tǒng)。要說明白這個問題,我們必須回看系統(tǒng)的演化路徑是怎樣隨著業(yè)務規(guī)模的增長進行變化的。 首先來看初創(chuàng)公司/新業(yè)務系統(tǒng)是如何演進的;以基于云計算為基礎的架構模式,大部分的初創(chuàng)的系統(tǒng)架構圖如下 對于一個業(yè)務規(guī)模很小,業(yè)務也比較單一,該架構也是最高效的方式,一到兩個web系統(tǒng),數(shù)個微服務業(yè)務系統(tǒng),一到兩個前臺系統(tǒng)。微服務業(yè)務系統(tǒng)將會把會員,商品,類目,店鋪,交易,庫存,物流這些劃分成不同的模塊/包放在一到幾個系統(tǒng),這樣做的好處是非常明顯的,每個人都熟悉所有的代碼,代碼量不大,開發(fā)效率高,這在公司剛起步時,是非常接地氣的和最適合的架構。 隨著公司業(yè)務規(guī)模和組織的壯大,會基于上面的架構,迭代演進N次,直到系統(tǒng)不再是制約公司發(fā)展的瓶頸,這期間最重要的架構升級是系統(tǒng)和數(shù)據庫的垂直拆分,異步消息解耦,分布式事務機制,穩(wěn)定性保障。為了快速說明問題,我們將忽略中間演進版本,直通基于中臺的版本。 在介紹業(yè)務中臺模式之前,先來看看中臺概念的產生背景,中臺研發(fā)模式最早產生于芬蘭著名游戲公司supercell. Supercell有員工180人,后被騰訊以100億美金估值收購,其鼎峰時期全球排名top10的游戲,有5個來自supercell, 其能快速推出高質量的游戲,其大中臺功不可沒。阿里借鑒了supercell的“大中臺,小前臺”的模式,以解決快速創(chuàng)新試錯的前端業(yè)務和日益沉重的淘寶天貓這些核心系統(tǒng)之間的矛盾,以提升研發(fā)效率和跨團隊合作。 可以進一步的設想,如果公司業(yè)務高速發(fā)展,特別是互聯(lián)網的業(yè)務模式,出現(xiàn)10倍增速的發(fā)展也很正常,這會面臨業(yè)務和技術團隊規(guī)模變大,業(yè)務也會越來越復雜,就以交易為例,最初就是簡單支撐實物購買場景(消費者付款購買,平臺/商家發(fā)貨),隨著用戶和業(yè)務的發(fā)展,會出現(xiàn),虛擬商品交易,團購,拼團,拍賣,秒殺,預售等等交易業(yè)務模式。 最初就是一個系統(tǒng)單純的支持一個單一的業(yè)務,到了階段二支持三個業(yè)務,你還能勉強活著,到了階段三如果還是使用之前的架構和開發(fā)模式,你會陷入泥潭,在階段三必然會出現(xiàn)以下問題: [if !supportLists]1.[endif]業(yè)務之間的需求相互影響,修改和測試回歸成本非常高,但還是會發(fā)生意想不到的線上問題。 [if !supportLists]2.[endif]由于支撐的需求越來越多,沒有人能掌控全局,修改無存下手,開發(fā)越來越不敢接需求。 [if !supportLists]3.[endif]多個需求并行的開發(fā)是場噩夢,團隊經常加班,還是滿足不了業(yè)務需求的開發(fā),團隊越來越是瓶頸,經常接到業(yè)務方的投訴。 業(yè)務中臺化也就是解決這些問題的最佳選擇,將交易域的核心能力和服務,通過梳理抽象沉淀為穩(wěn)定外化的服務,通過預留的擴展點,來支持個性化擴展。擴展點的開發(fā)完全可以由業(yè)務團隊的技術來進行,交易中臺研發(fā)將專注于中臺的建設和穩(wěn)定性,這樣講大大改善開發(fā)協(xié)作效率,一個業(yè)務能不能跑的快,主要依賴于前臺,當然業(yè)務中臺的技術團隊需要做好業(yè)務隔離和中臺本身的穩(wěn)定高效進化。 了解交易的一般業(yè)務流程 本篇是用來講交易的,結果扯了太多業(yè)務中臺的東西,現(xiàn)在直奔交易,看看交易的兩個業(yè)務流程。 交易訂單創(chuàng)建流程: 簡化的逆向退款流程: 只舉例2個業(yè)務流程,其他的大同小異,對交易業(yè)務的分析和梳理,不難發(fā)現(xiàn),交易涉及的業(yè)務域可以歸類為以下幾個方面:價格,優(yōu)惠,庫存,拆單,支付,限購,交付,訂單,超時,售后。 交易業(yè)務中臺架構 通過對交易業(yè)務流程和業(yè)務的分析和梳理,采用20/80原則,可以建模抽象出基礎能力層 交易是很多契約的組合體,基礎能力服務是最原子性的,還需要將這些通過流程編排組合成有業(yè)務價值的交易產品來統(tǒng)一對外輸出和管理,這就是交易平臺產品層的職責,解決共性和差異性的問題。 此外交易系統(tǒng)需要依賴會員,商品,店鋪,庫存,優(yōu)惠,支付和物流等這樣的業(yè)務服務才能完成一個真正的交易,加上這些我們基本可以確定交易的業(yè)務中臺架構圖,如下: 有了整體的全局大圖,接下來我們將會按照如下的框架來詳細介紹每個部分。 總體設計: 核心業(yè)務領域模型: 領域模型的設計,還是遵守DDD的原則,這塊做的好壞,關鍵是對這塊業(yè)務的理解和未來一段時間的預判,加上抽象歸納。 核心類圖: 從總體設計的角度看,總體的類圖應當是關注業(yè)務模型本身,按照之前約定,我們先看BA層的業(yè)務模型 這個類圖,只畫了宏觀和重要的業(yè)務域類,其他用來支撐的類圖,將在BA層做展示,目前幫助理解交易這些類圖足夠說明問題,太多反而沒有重點。 PA層是對外開放的服務層,按照慣例設計,會有與其DO對應的DTO類,此外考慮到購車更多的是承擔前臺層的功能,BA層不會引入購車,而將其放到了PA層。 PA層的業(yè)務對象類圖,除了dto 類型外,還增加了消息事件對象,用來將交易的業(yè)務變化通過事件消息通知給對其感興趣的訂閱方,要說明的一點是BA層的DO對象,PA層是完全可以使用的。 核心服務設計: 服務接入層更多的是前后端交互restful service的設計,交易的PA層實質上已經做了對外開放的微服務設計(使用dubbo框架),服務接入層的restful service幾乎是對微服務進行包裝參數(shù)轉換的處理,就沒有必要單獨說明restful service,直接看PA 最重要的幾個服務。 核心鏈路時序設計: 通過最常規(guī)的下單購買和支付流程來說明交易的核心調用鏈路是怎么樣的過程,為了簡化說明下面的時序圖簡化了異常鏈路的處理過程和人為減少了依賴的業(yè)務系統(tǒng)。進行核心鏈路依賴的設計,是為了在設計階段更好的去評估依賴的合理性,確保交易的性能,安全性和容災處理方面的要求。有了核心調用鏈路圖,你才能在設計階段確定哪些調用是可以減少的,哪些地方可以異步處理,哪些地方可以使用前置緩存,哪些地方需要異步重試,哪些地方不能超時,哪些地方要確保最終一致性,哪些要做冪等處理等等,此外也對下游系統(tǒng)更好的評估自己的流量和響應時間提供了參考依據。 交易這塊的技術設計點非常多,分布式高并發(fā)系統(tǒng)遇到的經典技術問題,幾乎都在著有出現(xiàn),限于篇幅,將通過接下來的一篇專題文章專門介紹。 |