中信銀行信用卡中心于2017年開始啟動(dòng)分布式新核心系統(tǒng)建設(shè)，目標(biāo)是擴(kuò)展業(yè)務(wù)范疇、完善經(jīng)營(yíng)模式、提升活躍客戶量、提升業(yè)務(wù)交易量。要求核心系統(tǒng)具備架構(gòu)的前瞻性，構(gòu)建資源可擴(kuò)展的開放平臺(tái)，能夠快速響應(yīng)業(yè)務(wù)大規(guī)模增長(zhǎng)，實(shí)現(xiàn)面向決策的核心信用卡系統(tǒng)。
中信銀行卡中心新核心系統(tǒng)于2019年10月27號(hào)正式開業(yè)。采用中信銀行與中興通訊聯(lián)合研發(fā)的分布式數(shù)據(jù)庫(kù)GoldenDB來(lái)承載核心業(yè)務(wù)系統(tǒng)，該數(shù)據(jù)庫(kù)是國(guó)內(nèi)第一家在大型股份制銀行信用卡核心系統(tǒng)成功落地的國(guó)產(chǎn)分布式數(shù)據(jù)庫(kù)。
GoldenDB分布式數(shù)據(jù)庫(kù)
GoldenDB主要由4個(gè)功能模塊節(jié)點(diǎn)構(gòu)成：
- 計(jì)算節(jié)點(diǎn)：與業(yè)務(wù)通過(guò)標(biāo)準(zhǔn)JDBC連接，主要用于解析業(yè)務(wù)SQL請(qǐng)求，分布式優(yōu)化，分布式路由以及分布式事務(wù)控制。
- 數(shù)據(jù)節(jié)點(diǎn)：由數(shù)據(jù)庫(kù)實(shí)例構(gòu)成，用于承載業(yè)務(wù)數(shù)據(jù)，支持橫向水平擴(kuò)展，多數(shù)據(jù)副本保證數(shù)據(jù)安全可靠。
- 全局事務(wù)管理節(jié)點(diǎn)：負(fù)責(zé)分布式事務(wù)生命周期的管理，與計(jì)算節(jié)點(diǎn)一起進(jìn)行分布式事務(wù)控制。
- 管理節(jié)點(diǎn)：對(duì)集群進(jìn)行管理，負(fù)責(zé)系統(tǒng)集群的高可用，管理系統(tǒng)元數(shù)據(jù)。同時(shí)對(duì)備份恢復(fù)、主備切換、監(jiān)控分析都提供了可視化的操作界面。
GoldenDB產(chǎn)品架構(gòu)圖
中信銀行核心數(shù)據(jù)庫(kù)應(yīng)用實(shí)踐
中信銀行信用卡核心系統(tǒng)，主要包括授權(quán)、賬務(wù)、數(shù)據(jù)服務(wù)等三塊業(yè)務(wù)系統(tǒng)。每種業(yè)務(wù)場(chǎng)景不一樣，性能要求也不一樣，分布式優(yōu)化方案也各有側(cè)重點(diǎn)。另外，如何保證在盡可能短的時(shí)間內(nèi)，順利正確地完成數(shù)據(jù)遷移也是非常重要的。
核心分布式數(shù)據(jù)庫(kù)部署
核心系統(tǒng)的三個(gè)業(yè)務(wù)內(nèi)部的故障不能相互感染。因此，在設(shè)計(jì)業(yè)務(wù)連接實(shí)例時(shí)，把業(yè)務(wù)連接的計(jì)算節(jié)點(diǎn)進(jìn)行物理隔離，杜絕業(yè)務(wù)故障的傳染性。且業(yè)務(wù)系統(tǒng)要求的隔離級(jí)別和運(yùn)行模式也不一樣，在集群配置上也能做到統(tǒng)一管理，靈活多變，方便后期運(yùn)維管理。
在底層數(shù)據(jù)節(jié)點(diǎn)，配置的X86服務(wù)器性能很高，從成本和可用性上考慮，一個(gè)數(shù)據(jù)服務(wù)器中部署了兩個(gè)數(shù)據(jù)庫(kù)實(shí)例，不同服務(wù)器之間做交叉主備，同時(shí)主備機(jī)磁盤也相互獨(dú)立。保障單機(jī)內(nèi)主備機(jī)磁盤IO隔離，單機(jī)異常也不會(huì)影響系統(tǒng)可用性。
中信銀行核心業(yè)務(wù)系統(tǒng)架構(gòu)圖
核心業(yè)務(wù)分布式設(shè)計(jì)應(yīng)用實(shí)踐
卡中心核心業(yè)務(wù)中最重要的業(yè)務(wù)是授權(quán)聯(lián)機(jī)交易業(yè)務(wù)，對(duì)時(shí)延非常敏感，以快捷支付業(yè)務(wù)為例，單筆業(yè)務(wù)30多條SQL語(yǔ)句，時(shí)延必須小于40ms。因此，替換分布式數(shù)據(jù)庫(kù)后，必須消除分布式帶來(lái)入侵性并提供穩(wěn)定的高性能服務(wù)。
中信銀行信用卡新核心分布式設(shè)計(jì)
首先，在數(shù)據(jù)模型方面，所有業(yè)務(wù)表按照客戶號(hào)進(jìn)行拆分。大表先分表再分區(qū)，減少單分片上的壓力。常用的小表加載到Redis上，減少網(wǎng)絡(luò)消耗的同時(shí)，提升數(shù)據(jù)查詢性能。
其次，梳理交易場(chǎng)景，對(duì)業(yè)務(wù)進(jìn)行分布式優(yōu)化。優(yōu)化后的交易，GoldenDB僅作簡(jiǎn)單路由，業(yè)務(wù)語(yǔ)句直接下推到DB層執(zhí)行，減少分布式事務(wù)開銷，提升業(yè)務(wù)響應(yīng)時(shí)間。
最后，增加業(yè)務(wù)映射表，減少業(yè)務(wù)層的復(fù)雜性。在核心系統(tǒng)內(nèi)添加客戶號(hào)映射表，業(yè)務(wù)中只需增加獲取客戶號(hào)的流程，即可方便的拿到客戶號(hào)，這樣后續(xù)業(yè)務(wù)中的事務(wù)控制就可直接下推到數(shù)據(jù)庫(kù)底層DB節(jié)點(diǎn)完成，業(yè)務(wù)層不必關(guān)注事務(wù)控制邏輯。
最終性能壓測(cè)達(dá)到1.8W TPS達(dá)到上線標(biāo)準(zhǔn)，穩(wěn)定通過(guò)網(wǎng)聯(lián)4500TPS壓測(cè)，以及雙11和雙12實(shí)際考驗(yàn)。
核心批處理業(yè)務(wù)分布式應(yīng)用實(shí)踐
批處理業(yè)務(wù)的特點(diǎn)就是在一定時(shí)間窗口內(nèi)，集中處理一批數(shù)據(jù)文件。這個(gè)期間內(nèi)業(yè)務(wù)會(huì)調(diào)起大量的并發(fā)，在短時(shí)間內(nèi)完成跑批作業(yè)，對(duì)于分布式系統(tǒng)來(lái)說(shuō)，如何做好跑批作業(yè)的分布式優(yōu)化也是難點(diǎn)。
如按照原有邏輯批量處理業(yè)務(wù)，業(yè)務(wù)統(tǒng)一按照分布式業(yè)務(wù)場(chǎng)景處理，部分業(yè)務(wù)場(chǎng)景未優(yōu)化，并行度不高，我們對(duì)業(yè)務(wù)進(jìn)行了分布式和非分布式業(yè)務(wù)場(chǎng)景的識(shí)別，優(yōu)化邏輯處理流程。梳理出可分布式改造的業(yè)務(wù)場(chǎng)景，數(shù)據(jù)文件先導(dǎo)入到的分片表中，然后對(duì)一個(gè)分片內(nèi)的數(shù)據(jù)進(jìn)行批量操作，所有分片并行處理，提升并行度，縮短了處理時(shí)間。
業(yè)務(wù)劃分后，從系統(tǒng)穩(wěn)定性角度出發(fā)，再梳理批處理業(yè)務(wù)邏輯，按照業(yè)務(wù)場(chǎng)景并行處理批處理作業(yè)。提升業(yè)務(wù)的并發(fā)度，降低系統(tǒng)資源壓力。
最終核心日終批處理性能提升1倍，處理時(shí)長(zhǎng)優(yōu)化到1.5小時(shí)以內(nèi)。
核心數(shù)據(jù)遷移應(yīng)用實(shí)踐
數(shù)據(jù)遷移作為卡中心核心系統(tǒng)下移關(guān)鍵一步，整個(gè)遷移要在很短的窗口期內(nèi)完成，業(yè)務(wù)會(huì)以數(shù)十萬(wàn)的并發(fā)來(lái)加快遷移過(guò)程，大量遷移數(shù)據(jù)會(huì)使得網(wǎng)絡(luò)長(zhǎng)期維持在高負(fù)荷的狀態(tài)。要求數(shù)據(jù)庫(kù)能夠在高并發(fā)、重負(fù)載的業(yè)務(wù)場(chǎng)景下，提供穩(wěn)定可靠的數(shù)據(jù)服務(wù)。
中信銀行信用卡新核心數(shù)據(jù)遷移流程
數(shù)據(jù)遷移的主要流程：外圍系統(tǒng)數(shù)據(jù)文件通過(guò)文件傳輸平臺(tái)落到共享存儲(chǔ)上，舊核心的DB2數(shù)據(jù)文件通過(guò)FTP下載到Hadoop集群，通過(guò)調(diào)用MCO轉(zhuǎn)碼工具轉(zhuǎn)碼后，生成標(biāo)準(zhǔn)的數(shù)據(jù)文件落到HDFS上。遷移工程運(yùn)行在容器云中，通過(guò)生成insert語(yǔ)句和調(diào)用遷移工具兩種方式將兩部分?jǐn)?shù)據(jù)遷移到GoldenDB內(nèi)：
在整個(gè)遷移過(guò)程中，采用了如下方案確保數(shù)據(jù)遷移的效率：
- 優(yōu)化業(yè)務(wù)邏輯。在高并發(fā)場(chǎng)景下，合理使用索引，調(diào)整業(yè)務(wù)邏輯順序，最大程度減少鎖沖突問(wèn)題。
- 優(yōu)化數(shù)據(jù)庫(kù)參數(shù)。使得數(shù)據(jù)庫(kù)在遷移階段具備一定的容錯(cuò)能力，如適當(dāng)調(diào)大鎖等待時(shí)間，將切換閾值調(diào)高，容忍系統(tǒng)心跳延遲等。
整個(gè)核心業(yè)務(wù)投產(chǎn)數(shù)據(jù)遷移期間，最大活躍連接數(shù)達(dá)到24萬(wàn)，網(wǎng)絡(luò)流量峰值達(dá)到900MB/s。在這種極端的業(yè)務(wù)場(chǎng)景下，歷經(jīng)了數(shù)十次的演練，順利完成了核心業(yè)務(wù)投產(chǎn)數(shù)據(jù)遷移工作。
自2014年以來(lái)，中信銀行與中興通訊共同研發(fā)分布式數(shù)據(jù)庫(kù)GoldenDB，穩(wěn)中求進(jìn)，不斷深入。在冠字號(hào)、門戶網(wǎng)站、金融同業(yè)平臺(tái)、統(tǒng)一零售積分系統(tǒng)、電商管家、開放銀行、用戶權(quán)益系統(tǒng)以及信用卡中心核心系統(tǒng)陸續(xù)成功投產(chǎn)。
中信銀行信用卡中心分布式核心系統(tǒng)StarCard于2019年10月27日正式開業(yè)，支撐1億用戶，日均交易9000萬(wàn)筆，順利通過(guò)雙十一的業(yè)務(wù)峰值考驗(yàn)，數(shù)據(jù)庫(kù)性能表現(xiàn)平穩(wěn)。經(jīng)過(guò)5年的不斷打磨，GoldenDB經(jīng)歷了嚴(yán)苛的商用考驗(yàn)，已經(jīng)具備全面替換銀行交易類業(yè)務(wù)數(shù)據(jù)庫(kù)的能力。、中興通訊領(lǐng)導(dǎo)參加了啟動(dòng)儀式。
�。ㄔ妮d于《金融電子化》2020年1月刊，作者：中信銀行 張興強(qiáng) 陳建峰 中興通訊 付裕 戴扶）
