我們做了什么

業(yè)務(wù)背景

在春節(jié)活動期間，抖音將視頻和春節(jié)紅包相結(jié)合，用戶可以通過拍視頻發(fā)紅包的方式來給粉絲和好友送祝福。

業(yè)務(wù)玩法

整個(gè)活動玩法分為 B2C 和 C2C 兩種玩法，下面對這兩個(gè)玩法的流程簡單介紹下

b2c 紅包

在 B2C 紅包玩法中，用戶需要先來抖音或者抖 Lite 參加春節(jié)紅包雨活動，有一定概率在春節(jié)紅包雨活動中獲得紅包補(bǔ)貼。用戶可以在獲得補(bǔ)貼后直接跳轉(zhuǎn)到相機(jī)頁面，或者在之后拍攝視頻跳轉(zhuǎn)到相機(jī)頁面，在相機(jī)頁面用戶拍攝完視頻后會看到一個(gè)紅包掛件，在掛件中可以看到已發(fā)放補(bǔ)貼。用戶選擇補(bǔ)貼后點(diǎn)擊下一步完成投稿后即可完成視頻紅包的發(fā)放。

圖 1 春節(jié)紅包雨活動 圖 2 紅包補(bǔ)貼 圖 3 紅包掛件 圖 4b2c 紅包發(fā)送 tab 頁

C2C 紅包

在 C2C 紅包玩法中，用戶拍攝視頻點(diǎn)擊掛件，填寫紅包的金額和個(gè)數(shù)信息，選擇紅包的領(lǐng)取范圍后，點(diǎn)擊發(fā)送紅包會拉起收銀臺，用戶支付完成后點(diǎn)擊下一步發(fā)布視頻，即可完成 C2C 紅包的發(fā)放。

圖 1C2C 紅包發(fā)送 Tab 頁 圖 2 支付界面 圖 3 紅包支付后掛件展示

紅包領(lǐng)取

B2C 和 C2C 紅包的領(lǐng)取流程都是一樣的。用戶在抖音刷視頻遇到有視頻紅包的視頻時(shí)，視頻下方有個(gè)領(lǐng)取紅包按鈕，用戶點(diǎn)擊紅包領(lǐng)取，會彈出到紅包封面，用戶點(diǎn)擊紅包封面的開紅包后即可領(lǐng)取紅包，領(lǐng)取成功后會顯示領(lǐng)取結(jié)果彈窗，在領(lǐng)取結(jié)果中用戶可以看領(lǐng)取金額，以及跳轉(zhuǎn)到領(lǐng)取詳情頁，在領(lǐng)取詳情頁中可以看到這個(gè)紅包其他用戶的領(lǐng)取手氣。

圖 1 紅包視頻 圖 2 紅包封面 圖 3 紅包領(lǐng)取結(jié)果 圖 4 紅包領(lǐng)取詳情

衛(wèi)視春晚演示視頻

C2C 視頻紅包在衛(wèi)視春晚上也有推廣，這里貼一個(gè)衛(wèi)視春晚的推廣視頻，方便大家了解下整體流程。

我們碰到的一些問題

通用紅包系統(tǒng)的設(shè)計(jì)

在上文中有提到，本次春節(jié)活動需要同時(shí)支持 B2C 和 C2C 兩種類型的紅包，這兩個(gè)類型的紅包既有一些相似的業(yè)務(wù)，也有很多不同的業(yè)務(wù)。在相同點(diǎn)上他們都包括紅包的發(fā)放和領(lǐng)取這兩個(gè)操作。在不同點(diǎn)上，比如 B2C 的紅包發(fā)放需要通過使用補(bǔ)貼來發(fā)送，而 C2C 的紅包發(fā)放需要用戶去完成支付。B2C 的紅包用戶領(lǐng)取后需要去提現(xiàn)，而 C2C 的紅包用戶領(lǐng)取后直接到零錢。因此需要設(shè)計(jì)一個(gè)通用的紅包系統(tǒng)來支持多種紅包類型。

另外對于紅包系統(tǒng)本身而言，除了發(fā)領(lǐng)紅包外，還涉及到一些紅包信息的查詢，以及各種狀態(tài)機(jī)的推進(jìn)，這些功能模塊之間如何劃分也是需要考慮的一個(gè)點(diǎn)。

大流量補(bǔ)貼的發(fā)放處理

前面提到過，B2C 紅包玩法會先進(jìn)行補(bǔ)貼的發(fā)放。在春節(jié)活動期間，每場紅包雨都會有大量的用戶進(jìn)入?yún)⑴c，如果將這些流量直接打到數(shù)據(jù)庫，將需要大量的數(shù)據(jù)庫資源，而春節(jié)期間數(shù)據(jù)庫的資源是非常稀缺的，如何減少這部分的資源消耗也是一個(gè)需要考慮的問題。

紅包領(lǐng)取方案的選型

在紅包業(yè)務(wù)中，領(lǐng)取是一個(gè)高頻的操作，在領(lǐng)取方式的設(shè)計(jì)中，需要業(yè)務(wù)場景考慮一個(gè)紅包是否會被多個(gè)用戶同時(shí)領(lǐng)取。多個(gè)用戶同時(shí)去領(lǐng)取同一個(gè)紅包可能會導(dǎo)致熱點(diǎn)賬戶問題，成為系統(tǒng)性能的瓶頸。解決熱點(diǎn)賬戶問題也有多個(gè)方案，我們需要結(jié)合視頻紅包的業(yè)務(wù)場景特點(diǎn)來選取合適的方案。

穩(wěn)定性容災(zāi)

在本次春節(jié)活動中，包括 B2C 和 C2C 兩種業(yè)務(wù)流程，其中每個(gè)業(yè)務(wù)流量鏈路都依賴很多的下游服務(wù)和基礎(chǔ)服務(wù)。在這種大型活動中，如果出現(xiàn)黑天鵝事件時(shí)，如何快速止損，減少對系統(tǒng)的整體影響，是一個(gè)必須要考慮的問題。

資金安全保證

在春節(jié)活動期間，B2C 會發(fā)放大量的紅包補(bǔ)貼，如果補(bǔ)貼發(fā)生超發(fā)，或者補(bǔ)貼的核銷出現(xiàn)問題，一個(gè)補(bǔ)貼被多次核銷，將會造成大量的資損。另外 C2C 也涉及到用戶的資金流入流出，如果用戶領(lǐng)取紅包后如果發(fā)現(xiàn)錢變少了，也可能會造成大量的客訴和資損。因此資金安全這塊需要做好充足的準(zhǔn)備。

紅包系統(tǒng)的壓測

在傳統(tǒng)的壓測方式中，我們一般會對某個(gè)大流量接口進(jìn)行壓測從而得到系統(tǒng)的瓶頸。然而在紅包系統(tǒng)中，用戶的發(fā)領(lǐng)和查都是同時(shí)進(jìn)行的，并且這幾個(gè)接口之間也是相互依賴的，比如需要先發(fā)紅包，有了紅包后才能觸發(fā)多個(gè)人的領(lǐng)取，領(lǐng)取完成后才可以查看領(lǐng)取詳情。如果使用傳統(tǒng)的單接口的壓測方式，首先 mock 數(shù)據(jù)會非常困難，和支付相應(yīng)的壓測數(shù)據(jù)因?yàn)樯婕皩?shí)名還需要特殊生成，而且單個(gè)接口單個(gè)接口的壓測很難得到系統(tǒng)的真實(shí)瓶頸，因此如何對系統(tǒng)進(jìn)行全鏈路的壓測從而得到系統(tǒng)準(zhǔn)確的瓶頸也是我們需要解決的一個(gè)問題。

我們怎么做的

通用紅包系統(tǒng)的設(shè)計(jì)

對于紅包系統(tǒng)，核心操作包括紅包發(fā)送，領(lǐng)取，以及未領(lǐng)取的退款這三個(gè)操作。另外我們還會需要去查一些紅包的信息和領(lǐng)取的信息等。同時(shí)對于發(fā)送，領(lǐng)取和退款這三個(gè)核心操作，我們需要對它們的狀態(tài)進(jìn)行一個(gè)維護(hù)。同時(shí)在我們的業(yè)務(wù)場景中，還存在 B2C 特有的補(bǔ)貼的發(fā)放，我們也需要維護(hù)補(bǔ)貼的狀態(tài)。

在上面初步介紹紅包系統(tǒng)后，可以看到紅包的幾個(gè)功能模塊，有發(fā)放，領(lǐng)取，退款，補(bǔ)貼發(fā)放以及各種信息查詢，另外還有狀態(tài)機(jī)的維護(hù)等，對紅包的功能進(jìn)行梳理后，我們開始對紅包的模塊進(jìn)行劃分。

劃分原則

• 功能內(nèi)聚，每個(gè)系統(tǒng)只處理一個(gè)任務(wù)，方便之后系統(tǒng)的開發(fā)和迭代，以及問題的排查
• API 網(wǎng)關(guān)層只進(jìn)行簡單的 proxy 處理
• 異步任務(wù)拆解
• 讀寫分離，將紅包的核心操作和紅包的查詢分成兩個(gè)服務(wù)

劃分模塊

• 紅包網(wǎng)關(guān)服務(wù)
• HTTP API 網(wǎng)關(guān)，對外對接客戶端和 h5，對內(nèi)封裝各個(gè)系統(tǒng) rpc 接口，限流，權(quán)限控制、降級等功能
• 紅包核心服務(wù)
• 主要承載紅包核心功能，包括紅包的發(fā)放、領(lǐng)取、退款，以及紅包補(bǔ)貼的發(fā)放，維護(hù)紅包狀態(tài)機(jī)，紅包的狀態(tài)推進(jìn)
• 紅包查詢服務(wù)
• 主要承載紅包查詢功能，包括紅包詳情、紅包發(fā)送狀態(tài)、紅包領(lǐng)取狀態(tài)、紅包領(lǐng)取詳情、紅包補(bǔ)貼信息
• 紅包異步服務(wù)
• 主要承載紅包異步任務(wù)，保證狀態(tài)機(jī)的流轉(zhuǎn)，包括紅包的轉(zhuǎn)賬，紅包的退款，以及紅包補(bǔ)貼的狀態(tài)推進(jìn)
• 紅包基礎(chǔ)服務(wù)
• 主要承載紅包各個(gè)系統(tǒng)的公共調(diào)用，例如對 DB，redis、tcc 的操作，公共常量和工具類，相當(dāng)于紅包的基礎(chǔ)工具包
• 紅包對賬服務(wù)
• 主要承載紅包和財(cái)經(jīng)的對賬邏輯，按天和財(cái)經(jīng)對賬

整體架構(gòu)

最后整個(gè)視頻紅包的系統(tǒng)架構(gòu)如圖所示

大流量補(bǔ)貼的發(fā)放處理

同步獎(jiǎng)勵(lì)發(fā)放

在紅包補(bǔ)貼發(fā)放鏈路流程中，為了應(yīng)對春節(jié)的大流量，整個(gè)鏈路流程也經(jīng)歷過幾次方案的迭代。

在最初的方案設(shè)計(jì)中，我們是按照同步的補(bǔ)貼發(fā)放流程來處理的，上游鏈路調(diào)用紅包系統(tǒng)接口發(fā)券，發(fā)券成功后用戶感知到券發(fā)放成功，可以使用該券來發(fā)放紅包，最初方案的整體流程如下圖：

上面方案的一個(gè)問題是在春節(jié)活動期間，整個(gè)鏈路都需要能扛住活動期間的總流量，而且最終流量都會打到數(shù)據(jù)庫，而數(shù)據(jù)庫的資源在春節(jié)期間也是比較緊缺的。

異步獎(jiǎng)勵(lì)發(fā)放

為了解決同步獎(jiǎng)勵(lì)發(fā)放的問題，整體流程改為通過 MQ 進(jìn)行削峰，從而降低下游的流量壓力，相當(dāng)于是從同步改為異步，用戶參與活動后會先下發(fā)一個(gè)加密 Token 給客戶端，用于客戶端的展示以及和服務(wù)端的交互處理?；顒赢惒桨l(fā)券方案如下圖

這樣解決了大流量的問題，但是相應(yīng)地引入了其他的問題，在最初方案中，用戶的紅包補(bǔ)貼都會先在紅包系統(tǒng)中落庫，后續(xù)用戶對補(bǔ)貼的查詢和核銷我們都能在紅包數(shù)據(jù)庫中找到對應(yīng)的記錄，但是在異步的方式中，整個(gè)補(bǔ)貼的入賬預(yù)估需要 10min，而用戶在 APP 界面感知到發(fā)券后可能馬上就會開始使用用補(bǔ)貼來發(fā)放視頻紅包，或者會去紅包掛件查看自己已經(jīng)領(lǐng)取的紅包補(bǔ)貼，而此時(shí)補(bǔ)貼還未在紅包系統(tǒng)中入賬。

最終方案

為了解決上面問題，我們對紅包補(bǔ)貼的視頻紅包發(fā)放和紅包補(bǔ)貼查詢的整個(gè)邏輯進(jìn)行了修改，在用戶使用紅包補(bǔ)貼進(jìn)行視頻紅包發(fā)放時(shí)，我們會先對該補(bǔ)貼進(jìn)行一個(gè)入庫操作，入庫成功后才可以用這個(gè)補(bǔ)貼進(jìn)行紅包發(fā)放。另外對于查詢接口，我們無法感知到所有補(bǔ)貼是否完全入賬，因此每次查詢時(shí)我們都需要去獎(jiǎng)勵(lì)發(fā)放端查詢?nèi)康?Token 列表，同時(shí)我們還需要查詢出數(shù)據(jù)庫中用戶的補(bǔ)貼，對這兩部分?jǐn)?shù)據(jù)進(jìn)行一次 merge 操作，才能得到全量的補(bǔ)貼列表。

在上面的流程中，為了解決 MQ 異步會有延遲的問題，我們在用戶進(jìn)行請求時(shí)主動地進(jìn)行入賬，而用戶主動的操作包括使用補(bǔ)貼發(fā)放紅包和查詢補(bǔ)貼，我們?yōu)槭裁粗辉谘a(bǔ)貼發(fā)放紅包時(shí)入賬而在查詢補(bǔ)貼時(shí)不入賬呢？因?yàn)橛脩舻牟樵冃袨槭且粋€(gè)高頻行為，同時(shí)涉及到批量的操作，在操作 DB 前我們無法感知該補(bǔ)貼是否入賬，所以會涉及到 DB 的批量處理，甚至用戶每次來查詢時(shí)我們都需要重復(fù)這個(gè)操作，會導(dǎo)致大量的 DB 資源浪費(fèi)。而補(bǔ)貼的發(fā)放時(shí)入賬則是一個(gè)低頻的，單個(gè)補(bǔ)貼的操作，我們只需要在用戶核銷時(shí)入賬即可，這樣可以大量減輕數(shù)據(jù)庫的壓力，節(jié)省數(shù)據(jù)庫資源。

紅包領(lǐng)取方案的選型

在視頻紅包領(lǐng)取的技術(shù)方案中，我們也有一些方案的選擇和思考，這里和大家分享下。

悲觀鎖方案

方案一也是最常見的思路，在用戶領(lǐng)取時(shí)對數(shù)據(jù)庫的紅包進(jìn)行加鎖，然后扣減金額，然后釋放鎖完成整個(gè)紅包領(lǐng)取。這個(gè)方案的優(yōu)點(diǎn)是清晰明了，但是這種方案的問題會導(dǎo)致多個(gè)用戶同時(shí)來領(lǐng)取紅包時(shí)，會造成數(shù)據(jù)庫行鎖的沖突，需要排隊(duì)等待，當(dāng)排隊(duì)請求過多時(shí)會造成數(shù)據(jù)庫鏈接的浪費(fèi)，影響整體系統(tǒng)的性能。同時(shí)在上游長時(shí)間未收到反饋導(dǎo)致超時(shí)，用戶側(cè)可能會不停重試，導(dǎo)致整體數(shù)據(jù)庫鏈接被耗盡，從而導(dǎo)致系統(tǒng)崩潰。

紅包預(yù)拆分方案

方案一的問題是多個(gè)用同時(shí)領(lǐng)取會造成鎖沖突，解鎖鎖沖突可以通過拆分的方式，來將鎖化成更細(xì)的粒度，從而提高單個(gè)紅包的領(lǐng)取并發(fā)量。具體方案如下：

在方案二中，對發(fā)紅包的流程進(jìn)行了一個(gè)改動，在發(fā)紅包時(shí)會對紅包進(jìn)行一個(gè)預(yù)拆分的處理，將紅包拆成多個(gè)紅包，這樣就完成了鎖粒度的細(xì)化，在用戶領(lǐng)取紅包時(shí)從之前的爭搶單個(gè)紅包鎖變?yōu)楝F(xiàn)在多個(gè)紅包鎖分配。從而在領(lǐng)取紅包時(shí)問題就變?yōu)槿绾谓o用戶分配紅包，一種常用的思路是當(dāng)用戶請求領(lǐng)取紅包時(shí)，通過 redis 的自增方法來生成序列號，該序列號即對應(yīng)該領(lǐng)取那一個(gè)紅包。但是這種方式強(qiáng)依賴 redis,在 redis 網(wǎng)絡(luò)抖動或者 redis 服務(wù)異常時(shí)，需要降級到去查詢 DB 還未領(lǐng)取的紅包來獲取序列號，整體實(shí)現(xiàn)比較復(fù)雜。

最終方案

在視頻紅包的場景中，整個(gè)業(yè)務(wù)流程是用戶拍攝視頻發(fā)紅包，然后在視頻推薦 feed 流中刷到視頻時(shí)，才會觸發(fā)領(lǐng)取。相對于微信和飛書這種群聊場景，視頻紅包中同一個(gè)紅包的領(lǐng)取并發(fā)數(shù)并不會很高，因?yàn)橛脩羲⒁曨l的操作以及 feed 流本身就完成了流量的打散，所以對于視頻紅包來說，領(lǐng)取的并發(fā)數(shù)并不會很高。從業(yè)務(wù)的角度來看，在需求實(shí)現(xiàn)上，我們在用戶領(lǐng)取完成后需要能獲取到未領(lǐng)取紅包的個(gè)數(shù)信息下發(fā)給用戶展示，方案一獲取紅包庫存很方便，而方案二獲取庫存比較麻煩。另外從系統(tǒng)開發(fā)復(fù)雜度和容災(zāi)情況看，方案一相對來說是一個(gè)更合適的選擇。但是方案一中的風(fēng)險(xiǎn)我們需要處理下。我們需要有其他的方式來保護(hù) DB 資源，盡量減少鎖的沖突。具體方案如下：

• 紅包 redis 限流
• 為盡可能少的減少 DB 鎖沖突，首先會按照紅包單號進(jìn)行限流，每次允許剩余紅包個(gè)數(shù)*1.5 的請求量通過。被限流返回特殊錯(cuò)誤碼，前端最多輪訓(xùn) 10 次，在請求量過多的情況下通過這種方式來慢慢處理
• 內(nèi)存排隊(duì)
• 除了 redis 限流外，為了減少 DB 鎖，我們在領(lǐng)取流程中加個(gè)一個(gè)紅包內(nèi)存鎖，對于單個(gè)紅包，只有獲取到內(nèi)存鎖的請求才能繼續(xù)去請求 DB，從而將 DB 鎖的沖突遷移到內(nèi)存中提前處理，而內(nèi)存資源相對于 DB 資源來說是非常廉價(jià)的，在請求量過大時(shí)，我們可以水平擴(kuò)容。
• 為了實(shí)現(xiàn)內(nèi)存鎖，我們進(jìn)行了幾個(gè)改動。首先需要保證同一個(gè)紅包請求能打到同一個(gè) tce 實(shí)例上，這里我們對網(wǎng)關(guān)層路由進(jìn)行了調(diào)整，在網(wǎng)關(guān)層調(diào)用下游服務(wù)時(shí)，會按照紅包單號進(jìn)行路由策略，保證同一單號的請求打到同一個(gè)實(shí)例上。另外我們在紅包系統(tǒng)的 core 服務(wù)中基于 channel 實(shí)現(xiàn)了一套內(nèi)存鎖，在領(lǐng)取完成后會釋放該紅包對應(yīng)的內(nèi)存鎖。另外為了防止鎖的內(nèi)存占用過大或者未及時(shí)釋放，我們起了一個(gè)定時(shí)任務(wù)去定期地處理。
• 轉(zhuǎn)賬異步化
• 從接口耗時(shí)來看，轉(zhuǎn)賬是一個(gè)耗時(shí)較長的操作，本身涉及和第三方支付機(jī)構(gòu)交互，會有跨機(jī)房請求，響應(yīng)延時(shí)較長，將轉(zhuǎn)賬異步化可以降低領(lǐng)取紅包接口的時(shí)延，提高服務(wù)性能和用戶體驗(yàn)
• 另外從用戶感知來看，用戶更關(guān)注的是領(lǐng)取紅包的點(diǎn)擊開后是否領(lǐng)取成功，至于余額是否同步到賬用戶其實(shí)感知沒那么強(qiáng)烈，另外轉(zhuǎn)賬本身也是有一個(gè)轉(zhuǎn)賬中到轉(zhuǎn)賬成功的過程，將轉(zhuǎn)賬異步化對于用戶的感知基本沒有影響

穩(wěn)定性容災(zāi)

整個(gè)紅包系統(tǒng)的容災(zāi)我們主要從接口限流，業(yè)務(wù)降級和多重機(jī)制保證狀態(tài)機(jī)的推進(jìn)這幾個(gè)方式來進(jìn)行的，下面對這幾個(gè)方式分別介紹下：

接口限流

接口限流是一種常見的容災(zāi)方式，用于保護(hù)系統(tǒng)只處理承受范圍內(nèi)的請求，防止外部請求過大將系統(tǒng)打崩。在進(jìn)行接口限流前，我們首先需要和上下游以及產(chǎn)品溝通得到一個(gè)預(yù)估的紅包發(fā)放和領(lǐng)取量，然后根據(jù)發(fā)放和領(lǐng)取量進(jìn)行分模塊地全鏈路的大盤流量梳理，下面是當(dāng)時(shí)我們梳理的一個(gè) b2c 全鏈路的請求量。

有個(gè)各個(gè)模塊的請求量后，匯總之后就可以得到各個(gè)接口，紅包系統(tǒng)各個(gè)服務(wù)以及下游依賴的各個(gè)服務(wù)的流量請求，這個(gè)時(shí)候再做限流就比較方便了。

業(yè)務(wù)降級

核心依賴降級

在春節(jié)活動期間，紅包系統(tǒng)整個(gè)鏈路依賴的服務(wù)有很多，這些下游的鏈路依賴可以分為核心依賴和非核心依賴，當(dāng)下游核心服務(wù)異常時(shí)，可能某一個(gè)鏈路就不可用，此時(shí)可以在 API 層直接降級返回一個(gè)比較友好的文案提示，等下游服務(wù)恢復(fù)后再放開。比如在 C2C 的紅包發(fā)送流程中，用戶需要完成支付才可以發(fā)紅包，如果財(cái)經(jīng)的支付流程異?；蛘咧Ц冻晒顟B(tài)長時(shí)間未完成，會造成用戶支付后紅包發(fā)送不成功，也會導(dǎo)致前端來不停的輪訓(xùn)查詢紅包狀態(tài)，導(dǎo)致請求量陡增，造成服務(wù)壓力，甚至影響 B2C 的紅包發(fā)放和查詢。此時(shí)可以通過接口降級的方式，將 C2C 的紅包發(fā)放降級返回，減少服務(wù)壓力，同時(shí)降低對其他業(yè)務(wù)邏輯的影響。

非核心依賴降級

除核心依賴外，紅包系統(tǒng)還有一些非核心的下游依賴，對于這些依賴，如果服務(wù)出現(xiàn)異常，我們可以降低用戶部分體驗(yàn)的方式來保證服務(wù)的可用。比如在 4.2 中我們提到的，用戶在發(fā) B2C 紅包前需要先獲取所有可用的紅包補(bǔ)貼，我們會去獎(jiǎng)勵(lì)發(fā)放端查詢到所有的 Token 列表，然后查詢我們自己的 DB，然后進(jìn)行 merge 返回。如果獲取 Token 列表的接口異常時(shí)，我們可以降級只返回我們自己 DB 中的補(bǔ)貼數(shù)據(jù)，這樣可以保證用戶在這種情況下還可以進(jìn)行紅包的發(fā)放，只影響部分補(bǔ)貼的展示，而不是影響整個(gè)紅包發(fā)送鏈路。

多重機(jī)制保證狀態(tài)機(jī)的推進(jìn)

在紅包系統(tǒng)中，如果某個(gè)訂單長時(shí)間未到終態(tài)，比如用戶領(lǐng)取紅包后長時(shí)間未到賬，或者用戶 C2C 紅包未領(lǐng)取長時(shí)間未給用戶退款都有可能造成用戶的客訴。因此需要及時(shí)準(zhǔn)確地保證系統(tǒng)中各個(gè)訂單的狀態(tài)能推到終態(tài)。

這里我們有幾種方式去保證，首先是回調(diào)，在依賴方系統(tǒng)訂單處理完后會及時(shí)地通知給紅包系統(tǒng)，這種方式也是最及時(shí)的一種方式。但是只依賴回調(diào)可能會出現(xiàn)依賴方異?；蛘呔W(wǎng)絡(luò)抖動導(dǎo)致回調(diào)丟失，此時(shí)我們在紅包的各個(gè)階段都會給紅包系統(tǒng)發(fā)一個(gè) mq，間隔一定的時(shí)間去消費(fèi) mq 主動查詢依賴方的訂單狀態(tài)進(jìn)行更新。最后我們對每個(gè)狀態(tài)機(jī)都會有一個(gè)定時(shí)任務(wù)用于兜底，在定時(shí)任務(wù)多次執(zhí)行仍未到終態(tài)的會 lark 通知，及時(shí)人工介入發(fā)現(xiàn)問題。

資金安全保證

交易冪等

在編程中，冪等指任意多次執(zhí)行一個(gè)請求所產(chǎn)生的影響與一次執(zhí)行的影響相同。在資金安全中，通過訂單號來進(jìn)行相應(yīng)的冪等邏輯處理可以防止資損的發(fā)生。具體來說在紅包系統(tǒng)中，在紅包的發(fā)放，領(lǐng)取和退款中，我們都通過訂單號唯一鍵來保證接口冪等。另外紅包系統(tǒng)的補(bǔ)貼發(fā)放接口是冪等的，外部同一個(gè)單號多次請求發(fā)放補(bǔ)貼，我們需要保證只會發(fā)一張券。

實(shí)現(xiàn)冪等的方案很多，包括有通過數(shù)據(jù)庫或者 redis 來實(shí)現(xiàn)冪等的。最可靠的就是通過數(shù)據(jù)庫的唯一鍵沖突來實(shí)現(xiàn)，但是這種方式在數(shù)據(jù)庫存在分片實(shí)例時(shí)會引入一些額外的問題。這里我們就補(bǔ)貼的發(fā)放來簡單介紹下，在業(yè)務(wù)系統(tǒng)的設(shè)計(jì)中，我們是按照 uid 分片的方式來建立業(yè)務(wù)的數(shù)據(jù)庫表，這就導(dǎo)致補(bǔ)貼的分片鍵是 uid，雖然我們也設(shè)置了紅包的補(bǔ)貼單號作為唯一鍵。但是其中存在一個(gè)風(fēng)險(xiǎn)就是如果上游的系統(tǒng)調(diào)用補(bǔ)貼發(fā)放時(shí)，同一個(gè)外部單號更換了 uid，就可能會導(dǎo)致兩個(gè)請求分別打到不同的數(shù)據(jù)庫實(shí)例上，導(dǎo)致唯一索引失效，造成資損。為了解決這個(gè)問題，我們又額外的引入一個(gè)以補(bǔ)貼發(fā)放外部單號作為分片鍵的數(shù)據(jù)庫來解決這個(gè)風(fēng)險(xiǎn)。

B2C 紅包核對

除了在開發(fā)過程的系統(tǒng)設(shè)計(jì)上進(jìn)行相應(yīng)的資金安全考慮，我們還需要通過對賬的方式來校驗(yàn)我們的系統(tǒng)是否有資金安全問題。

在 B2C 鏈路中，整個(gè)鏈路主要是從補(bǔ)貼發(fā)放到紅包領(lǐng)取，我們對這幾個(gè)鏈路的上下游的數(shù)據(jù)都進(jìn)行相應(yīng)的小時(shí)計(jì) hive 對賬。

C2C 紅包核對

在 C2C 鏈路中，整個(gè)主要從用戶發(fā)起支付，到用戶領(lǐng)取轉(zhuǎn)賬以及最后紅包過期退款。在支付，轉(zhuǎn)賬，退款這三個(gè)流程都需要進(jìn)行相應(yīng)的核對。同時(shí)，還需要保證用戶的紅包發(fā)放金額大于等于紅包轉(zhuǎn)賬金額+紅包退款金額，這里大于等于是因?yàn)榧t包從發(fā)放成功到退款成功整個(gè)周期會在 24h 以上，另外可能存在轉(zhuǎn)賬在途的這種訂導(dǎo)致會有多筆退款單，如果要求嚴(yán)格等于的話具體對賬時(shí)機(jī)沒法控制。

紅包系統(tǒng)的壓測

前面提到過，紅包系統(tǒng)的鏈路包含有多個(gè)接口，發(fā)領(lǐng)查等，需要模擬用戶的真實(shí)行為來進(jìn)行壓測才能得到系統(tǒng)的真實(shí)性能。這里我們使用了壓測平臺的腳本壓測方式來進(jìn)行壓測。

首先需要對整個(gè)壓測鏈路整個(gè)改造，和上下游溝通是否可以壓測，不能壓測的需要進(jìn)行相應(yīng)的 mock 處理。另外對于存儲服務(wù)，數(shù)據(jù)庫，redis 和 mq 都要確保壓測標(biāo)的正確傳遞，否則可能會影響到線上。

改造完壓測鏈路后，需要構(gòu)造相應(yīng)的壓測腳本，對于 B2C 和 C2C 分為兩個(gè)腳本。

B2C 紅包鏈路壓測

上面是 B2C 壓測的整個(gè)鏈路，首先是補(bǔ)貼的發(fā)放，然后通過查詢補(bǔ)貼，通過補(bǔ)貼來發(fā)放紅包，為了模擬多人來領(lǐng)取的情況，我們起了多個(gè) goroutinue 來并發(fā)的領(lǐng)取紅包。

C2C 紅包鏈路壓測

C2C 紅包因?yàn)樯婕暗街Ц断嚓P(guān)的操作，整個(gè)鏈路又是另外一套流程，因此對于 C2C 也需要有一個(gè)單獨(dú)的腳本。在壓測流程中，因?yàn)樯婕暗酵獠肯到y(tǒng)的依賴，如果等待全鏈路 OK 時(shí)再一起壓測可能會導(dǎo)致一些未知的問題出現(xiàn)。因此我們需要自己壓測沒問題后再開始全鏈路一起壓測，在圖中和支付相關(guān)的藍(lán)色模塊我們都添加了相應(yīng)的 mock 開關(guān)，來控制壓測的結(jié)果。在 mock 開關(guān)打開時(shí)，會直接構(gòu)造一個(gè)結(jié)果返回，在 mock 開關(guān)關(guān)閉時(shí)，會正常地去請求財(cái)經(jīng)獲取結(jié)果。

后續(xù)規(guī)劃

服務(wù) Set 化

在前面提到的系統(tǒng)容災(zāi)中，如果紅包核心服務(wù)改掉，或者數(shù)據(jù)庫 DB 主機(jī)房掛掉，將影響所有的用戶，此時(shí)只能降級返回，整個(gè)系統(tǒng)無法快速切換和恢復(fù)。后續(xù)考慮將服務(wù)改為 set 化的架構(gòu)。將服務(wù) Server 和對應(yīng)的存儲劃分為一個(gè)單獨(dú)的 Set，每個(gè) Set 只處理對應(yīng)劃分單元內(nèi)的流量，同時(shí)多個(gè)單元之間實(shí)現(xiàn)流量拆分和故障隔離，以及 Set 之間數(shù)據(jù)備份。這樣后續(xù)在某個(gè)單元異常時(shí)，可以及時(shí)將對應(yīng)單元的流量切到備份單元中。

加入我們

開放平臺錢包團(tuán)隊(duì)為抖音開放平臺提供底層支付能力支持，目前業(yè)務(wù)在快速發(fā)展中，面臨各種復(fù)雜場景和技術(shù)挑戰(zhàn)，歡迎郵件聯(lián)系：wanghao.rock@bytedance.com 加入我們，一起做挑戰(zhàn)性的事！

好了，這篇文章的內(nèi)容發(fā)貨聯(lián)盟就和大家分享到這里，如果大家網(wǎng)絡(luò)推廣引流創(chuàng)業(yè)感興趣，可以添加微信：80709525  備注：發(fā)貨聯(lián)盟引流學(xué)習(xí)； 我拉你進(jìn)直播課程學(xué)習(xí)群，每周135晚上都是有實(shí)戰(zhàn)干貨的推廣引流技術(shù)課程免費(fèi)分享！