一汽-大眾汽車有限公司（簡(jiǎn)稱一汽-大眾）于1991年成立，是我國(guó)第一個(gè)按經(jīng)濟(jì)規(guī)模起步建設(shè)的現(xiàn)代化乘用車工業(yè)基地，旗下有奧迪、大眾、捷達(dá)三大品牌20余款產(chǎn)品，覆蓋A、B、C級(jí)全系列乘用車型。
為了更好地服務(wù)客戶，一汽-大眾通過(guò)分析客戶使用習(xí)慣及偏好、產(chǎn)品個(gè)性化需求收集等方式，多維度滿足用戶購(gòu)車和體驗(yàn)需求。
但隨著數(shù)據(jù)挖掘的深入，對(duì)BI平臺(tái)的要求也越高，為解決報(bào)表業(yè)務(wù)系統(tǒng)數(shù)據(jù)量的快速增長(zhǎng)、數(shù)據(jù)匯集、交互分析難等難題，一汽-大眾攜手華為云數(shù)據(jù)庫(kù)在MEP（經(jīng)銷商多功能生態(tài)平臺(tái)）-BI平臺(tái)項(xiàng)目合作中取得了突破，跨越了挑戰(zhàn)。
實(shí)時(shí)數(shù)據(jù)更新 才能具備更快的市場(chǎng)反應(yīng)能力
眾所周知，BI平臺(tái)的報(bào)表系統(tǒng)可以連接多維數(shù)據(jù)庫(kù)。報(bào)表是幫助用戶掌握和了解數(shù)據(jù)，企業(yè)決策者通過(guò)實(shí)時(shí)數(shù)據(jù)進(jìn)行分析和挖掘，為業(yè)務(wù)的變化及時(shí)作出應(yīng)對(duì)策略。
一汽-大眾4S門店的BI報(bào)表業(yè)務(wù)需要實(shí)時(shí)匯集所有門店的數(shù)據(jù)，面臨巨大的技術(shù)挑戰(zhàn)：60+MySQL實(shí)例，200+數(shù)據(jù)庫(kù)，共3萬(wàn)張表需要數(shù)據(jù)實(shí)時(shí)同步到BI系統(tǒng)內(nèi)。
如果按照傳統(tǒng)的數(shù)據(jù)入湖方式，需要配置3萬(wàn)條數(shù)據(jù)同步鏈路，以及海量的工作比對(duì)數(shù)據(jù)一致性，維護(hù)成本極高，同步效率低下。此外，隨著數(shù)據(jù)量的膨脹，現(xiàn)有的數(shù)據(jù)庫(kù)無(wú)法支撐數(shù)TB級(jí)別的數(shù)據(jù)量。
因此打造支持海量數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)實(shí)時(shí)同步的商業(yè)數(shù)據(jù)智能分析的BI平臺(tái)迫在眉睫。
面對(duì)一汽-大眾的業(yè)務(wù)挑戰(zhàn)，華為云在方案選型上的主要考量如下：
- 抽取數(shù)據(jù)對(duì)源數(shù)據(jù)庫(kù)影響最小化：抽取數(shù)據(jù)不能拖垮源數(shù)據(jù)庫(kù)，也不能對(duì)源業(yè)務(wù)的性能造成較大的衰減，甚至表被鎖定；
- 部署實(shí)施要輕量簡(jiǎn)單：不需要在每個(gè)數(shù)據(jù)源安裝代理程序，即開(kāi)即用，配置操作簡(jiǎn)單易用；
- 數(shù)據(jù)一致性有保障：基于binlog解析進(jìn)行邏輯數(shù)據(jù)同步，具有斷點(diǎn)續(xù)傳和嚴(yán)格的認(rèn)點(diǎn)技術(shù)，有效確保數(shù)據(jù)一致性。
助力報(bào)表系統(tǒng)數(shù)據(jù)實(shí)時(shí)同步全面釋放數(shù)據(jù)價(jià)值
DRS(Data replication Service)華為云數(shù)據(jù)復(fù)制服務(wù)，可以將云上的數(shù)據(jù)通過(guò)多對(duì)一的方案匯集到具備寫(xiě)入能力的華為旗艦型云原生數(shù)據(jù)庫(kù)GaussDB(for MySQL)中，保證數(shù)據(jù)一致性和實(shí)效性，再通過(guò)DRS實(shí)施同步，從GaussDB(for MySQL)同步到華為云數(shù)據(jù)倉(cāng)庫(kù)GaussDB(DWS)中進(jìn)行分析。
但要達(dá)到實(shí)時(shí)數(shù)據(jù)同步難度極大，因此，華為云數(shù)據(jù)庫(kù)解決了以下核心難題：
- 增加數(shù)據(jù)來(lái)源列，解決主鍵沖突：通過(guò)MySQL到GaussDB(for MySQL)的多對(duì)一方案，增加數(shù)據(jù)來(lái)源列，記錄server/database/table信息，避免多個(gè)源表主鍵沖突；
- 同步鏈路支持動(dòng)態(tài)加減表：新增業(yè)務(wù)隨時(shí)需要增加同步的表，華為云DRS支持GaussDB(for MySQL)的鏈路動(dòng)態(tài)增減表，配置更加簡(jiǎn)單方便；
- 標(biāo)記數(shù)據(jù)入湖時(shí)間，幫助實(shí)時(shí)分析：增加附加列數(shù)據(jù)行寫(xiě)入時(shí)間和更新時(shí)間的列，標(biāo)記數(shù)據(jù)插入和更新時(shí)間，為數(shù)據(jù)入湖及數(shù)據(jù)實(shí)時(shí)分析打下基礎(chǔ)；
- 引入緩沖數(shù)據(jù)庫(kù)，實(shí)時(shí)計(jì)算：針對(duì)1.8萬(wàn)張表不停的匯集和寫(xiě)入，選擇了百萬(wàn)級(jí)QPS吞吐量和海量數(shù)據(jù)存儲(chǔ)能力的GaussDB(for MySQL)作為緩沖層數(shù)據(jù)庫(kù)，解決OLTP和OLAP數(shù)據(jù)庫(kù)之間天然的數(shù)據(jù)處理能力差異�；贒RS實(shí)時(shí)準(zhǔn)確的數(shù)據(jù)同步后，華為云GaussDB(DWS)實(shí)現(xiàn)實(shí)時(shí)計(jì)算，極大縮短復(fù)雜報(bào)表的執(zhí)行時(shí)間；
- 數(shù)據(jù)實(shí)時(shí)精準(zhǔn)同步：基于華為云DRS準(zhǔn)確的數(shù)據(jù)同步能力，正常情況下延遲均在1s以內(nèi)，為實(shí)時(shí)報(bào)表提供基礎(chǔ)條件，且數(shù)據(jù)同步準(zhǔn)確度高，源端和目標(biāo)端數(shù)據(jù)行數(shù)一致。
業(yè)務(wù)上線后，一汽-大眾業(yè)務(wù)報(bào)表系統(tǒng)維護(hù)的鏈路數(shù)量從3萬(wàn)條降低至65條，工作效率大幅提升；同時(shí)10億級(jí)數(shù)據(jù)無(wú)一條丟失，極大降低數(shù)據(jù)比對(duì)工作；幫助一汽-大眾實(shí)現(xiàn)了銷售報(bào)表數(shù)據(jù)可用時(shí)間從1天降低為10分鐘，時(shí)效性大幅提升。
此外，緩沖層數(shù)據(jù)庫(kù)GaussDB(for MySQL) 具備海量數(shù)據(jù)存儲(chǔ)能力，最大支持128TB，超百萬(wàn)級(jí)QPS吞吐，可支撐業(yè)務(wù)快速發(fā)展；基于GaussDB(for MySQL)的計(jì)算存儲(chǔ)分離架構(gòu)，數(shù)據(jù)三副本存儲(chǔ)強(qiáng)一致，數(shù)據(jù)零丟失；RTO秒級(jí)，故障秒切換，全面保障數(shù)據(jù)安全。
一汽-大眾以用戶為中心，構(gòu)建以數(shù)據(jù)分析為核心的生態(tài)圈，洞察用戶需求，提供高價(jià)值產(chǎn)品，深受客戶青睞。而華為云數(shù)據(jù)庫(kù)通過(guò)技術(shù)手段實(shí)現(xiàn)數(shù)據(jù)實(shí)時(shí)同步，從海量的數(shù)據(jù)中發(fā)現(xiàn)洞察，為企業(yè)經(jīng)營(yíng)決策提供數(shù)據(jù)基礎(chǔ)。
未來(lái)，華為云數(shù)據(jù)庫(kù)將持續(xù)攜手一汽-大眾通過(guò)數(shù)字技術(shù)，打造差異化有競(jìng)爭(zhēng)力的數(shù)字化服務(wù)，滿足客戶對(duì)產(chǎn)品和服務(wù)日益增長(zhǎng)的個(gè)性化需求。
