存儲(chǔ)設(shè)備作為銀行信息系統(tǒng)中最為關(guān)鍵的核心設(shè)備，不僅存放著全行業(yè)務(wù)及管理數(shù)據(jù)，同時(shí)也是容災(zāi)解決方案的主要底層技術(shù)，選擇了某品牌存儲(chǔ)一般就意味著選擇了該品牌的存儲(chǔ)高可用技術(shù)及所配套的容災(zāi)解決方案。因此在選型測試中不能僅考慮單臺(tái)存儲(chǔ)性能及功能，而應(yīng)將整體容災(zāi)解決方案作為著眼點(diǎn)，通過實(shí)地測試來為存儲(chǔ)選型提供真實(shí)有力的參考。在選型測試中面臨著三個(gè)難點(diǎn)。

　　在行業(yè)特性及監(jiān)管部門的業(yè)務(wù)連續(xù)性要求下，銀行核心存儲(chǔ)解決方案的選型一般都較為審慎，因此本次選擇了業(yè)界較為傳統(tǒng)的3家存儲(chǔ)領(lǐng)先品牌A、B、C及1華為的高端全閃存儲(chǔ)作為測試目標(biāo)。

　�。�1）選擇合適的測試載體。一般選擇真實(shí)系統(tǒng)的痛點(diǎn)場景，如高并發(fā)、大批量等應(yīng)用程序作為載體來評估存儲(chǔ)產(chǎn)品的功能及性能。我行選擇核心系統(tǒng)中計(jì)算和存儲(chǔ)資源消耗量最大、并發(fā)度最高的存款結(jié)息批處理作為測試載體。

　�。�2）重點(diǎn)關(guān)注整體解決方案功能。一般來說，在銀行核心系統(tǒng)相關(guān)產(chǎn)品選型時(shí)，需要根據(jù)實(shí)際業(yè)務(wù)增長量或業(yè)務(wù)種類發(fā)展情況，在現(xiàn)有性能需求基礎(chǔ)上，上浮1~2倍，其上限相對產(chǎn)品實(shí)驗(yàn)室性能指標(biāo)在50%以內(nèi)，以此來選擇產(chǎn)品技術(shù)線路，確保存儲(chǔ)整體解決方案的性能冗余。因此選型測試應(yīng)該重點(diǎn)關(guān)注整體解決方案功能，以確�；�礎(chǔ)架構(gòu)的穩(wěn)定性。

　�。�3）具有完備可靠的保障體系。一是公平公正。選型測試的目的是為了在商務(wù)采購方面，提供更符合行內(nèi)實(shí)際情況的技術(shù)需求和選型依據(jù)。因此在選擇測試設(shè)備品牌和配置、制定測試案例時(shí)，應(yīng)盡量統(tǒng)一標(biāo)準(zhǔn)，兼顧公平與效率。二是科學(xué)合理。選型測試不僅需要測試設(shè)備功能及性能，也應(yīng)對設(shè)備廠商的技術(shù)支持體系進(jìn)行考察，作為售后能力的重要評價(jià)標(biāo)準(zhǔn)。三是分工明確。明確參與測試廠商及行內(nèi)在測試中的分工，特別是操作系統(tǒng)、數(shù)據(jù)庫等與存儲(chǔ)解決方案性能相關(guān)重點(diǎn)基礎(chǔ)軟件產(chǎn)品調(diào)優(yōu)的工作職責(zé)，是保障選型測試達(dá)到預(yù)期目標(biāo)的關(guān)鍵措施。

　　行內(nèi)統(tǒng)一提供標(biāo)準(zhǔn)化的核心應(yīng)用系統(tǒng)環(huán)境，基于應(yīng)用系統(tǒng)性能指標(biāo)，對存儲(chǔ)產(chǎn)品的功能及性能進(jìn)行測試驗(yàn)證。

　�。�1）功能測試。存儲(chǔ)功能測試將從功能性、可靠性、可維護(hù)性等方面，對存儲(chǔ)設(shè)備進(jìn)行全面測試。存儲(chǔ)及整體解決方案需支持行方核心系統(tǒng)全業(yè)務(wù)流程，并實(shí)現(xiàn)存儲(chǔ)設(shè)備的同城及異地容災(zāi)切換等功能。

　　（2）性能測試。存儲(chǔ)性能測試需使用行內(nèi)認(rèn)可的第三方性能測試軟件，模擬核心應(yīng)用系統(tǒng)業(yè)務(wù)流，對存儲(chǔ)設(shè)備進(jìn)行性能測試。要求性能測試結(jié)果不低于我行現(xiàn)有核心架構(gòu)下的性能。

　　將行內(nèi)當(dāng)前正在使用的“LVM+HACMP”架構(gòu)作為基準(zhǔn)測試場景，在此基礎(chǔ)上，調(diào)整對應(yīng)的雙活復(fù)制或者遠(yuǎn)程方案，進(jìn)行雙機(jī)熱備、數(shù)據(jù)庫遠(yuǎn)程復(fù)制和存儲(chǔ)雙活等業(yè)界較為主流容災(zāi)方案的性能測試。相關(guān)性能測試由第三方測試廠商協(xié)助完成，重點(diǎn)關(guān)注對比主機(jī)、存儲(chǔ)、數(shù)據(jù)庫及測試案例（存款結(jié)息批處理耗時(shí)）等指標(biāo)。

　　（3）廠家推薦用例。結(jié)合行內(nèi)現(xiàn)網(wǎng)業(yè)務(wù)系統(tǒng)，由各廠家提供能夠展現(xiàn)產(chǎn)品優(yōu)勢的相關(guān)推薦用例，作為自選加分項(xiàng)。

　　通過4個(gè)月的選型測試，對同城雙活中心建設(shè)中，可以選用的存儲(chǔ)架構(gòu)和邏輯架構(gòu)均進(jìn)行了測試，對不同架構(gòu)下的性能做了橫向?qū)Ρ�。根�?jù)實(shí)際的工作流程，我們從廠商技術(shù)服務(wù)實(shí)力及備件情況、技術(shù)架構(gòu)、功能、性能4個(gè)維度進(jìn)行分析。

　　從技術(shù)上來看，4家廠商的售后工程師對于產(chǎn)品都比較熟悉，經(jīng)驗(yàn)較為豐富。從參與測試技術(shù)人員數(shù)量上來看，售后工程師數(shù)量方面華為、A、B、C依次減少（其中華為存儲(chǔ)研發(fā)團(tuán)隊(duì)現(xiàn)場支持）。從備件儲(chǔ)備上來看，A、B和華為均有本地備件庫，C暫無。

　　通過7種業(yè)界主流容災(zāi)技術(shù)組合對比測試，以應(yīng)用程序指標(biāo)（存款結(jié)息批處理耗時(shí)）作為衡量指標(biāo)，“LVM Mirror+HACMP+HADR（異步）+遠(yuǎn)端存儲(chǔ)異步復(fù)制”方案相較“存儲(chǔ)雙活+HACMP+HADR（異步）+遠(yuǎn)端存儲(chǔ)異步復(fù)制”方案，耗時(shí)縮短3%以內(nèi)，但其主機(jī)cpu、內(nèi)存消耗遠(yuǎn)高于后者。綜合考慮實(shí)際運(yùn)行環(huán)境中，整體容災(zāi)架構(gòu)的性能及穩(wěn)定性，選擇了“存儲(chǔ)雙活+HACMP+HADR（異步）+遠(yuǎn)端存儲(chǔ)異步復(fù)制”作為同城雙活容災(zāi)架構(gòu)方案。

　　以應(yīng)用程序（存款結(jié)息批處理）耗時(shí)作為衡量指標(biāo)，將“存儲(chǔ)雙活+HACMP+HADR（異步）+遠(yuǎn)端存儲(chǔ)異步復(fù)制”方案測試結(jié)果作為對比項(xiàng)，各參與廠商測試結(jié)果相差5%以內(nèi)，其中華為OceanStor Dorado 18000系列全閃存方案耗時(shí)最短，為77分9秒。存儲(chǔ)功能方面，各廠商“存儲(chǔ)全量復(fù)制”功能均全量拷貝后即時(shí)可用，“數(shù)據(jù)壓縮”均不影響性能。

　　參與測試的存儲(chǔ)架構(gòu)有所差異。在實(shí)際選型測試中，由于參與測試存儲(chǔ)廠家的產(chǎn)品生產(chǎn)地有所不同，受限于到貨時(shí)間、成本等因素，部分廠家僅提供了2臺(tái)全閃存儲(chǔ)，同時(shí)也存在存儲(chǔ)配置有所差異的情況，在一定程度上影響了測試結(jié)果。

　　基于良好的測試表現(xiàn)、較為成熟的售后服務(wù)體系，以及分片負(fù)載均衡IO下發(fā)和滿分條新寫等提高存儲(chǔ)性能的特性技術(shù)，最終選擇了6臺(tái)華為OceanStor Dorado 18000系列全閃存，構(gòu)建了核心類和重要類業(yè)務(wù)系統(tǒng)兩套本地雙活、同城3DC的容災(zāi)體系架構(gòu)。

　　各類系統(tǒng)架構(gòu)升級(jí)投產(chǎn)后，穩(wěn)定性和性能均大幅提升，夜間批處理全量時(shí)間由5.5小時(shí)縮短至3.2小時(shí)，其中決定網(wǎng)點(diǎn)門市業(yè)務(wù)的日啟批處理時(shí)間由3小時(shí)縮短至1.4小時(shí)，耗時(shí)最長的存款計(jì)息批處理由110分鐘縮短至15分鐘。

　　全閃存運(yùn)行性能方面，平均讀時(shí)延和最大讀時(shí)延，由原架構(gòu)的2.41ms和15.41ms，提升為當(dāng)前的0.4ms和0.7ms，提升約為6倍；最大寫時(shí)延，由原架構(gòu)的4.75ms，提升為小于1ms，提升約為4倍；平均寫時(shí)延，由原架構(gòu)的0.44ms，提升為當(dāng)前的0.4ms。

　　湖北農(nóng)信在同城雙活中心建設(shè)中，綜合考慮系統(tǒng)瓶頸、同業(yè)案例以及技術(shù)發(fā)展趨勢，將全閃存作為選型測試基準(zhǔn)。邀請4家存儲(chǔ)業(yè)界優(yōu)秀廠商，基于高端全閃存產(chǎn)品，圍繞應(yīng)用場景，測試了業(yè)界常用的各類操作系統(tǒng)、數(shù)據(jù)庫及存儲(chǔ)等高可用技術(shù)組合的容災(zāi)架構(gòu)性能，較為全面、真實(shí)地評估高端全閃存的高可用功能及性能。產(chǎn)品方案投產(chǎn)后，運(yùn)轉(zhuǎn)性能與選型測試情況相符，達(dá)到預(yù)期效果。限于技術(shù)產(chǎn)品及方案的復(fù)雜性和測試方案的完備性，本選型測試結(jié)果僅代表我行實(shí)際測試情況，希望能拋磚引玉，為同業(yè)核心存儲(chǔ)架構(gòu)選型提供有益的參考。

　　文 / 湖北省農(nóng)村信用社聯(lián)合社數(shù)據(jù)中心 雷智、張彤