2016年7月17號(hào)在北大舉行的第五屆中國(guó)大數(shù)據(jù)應(yīng)用論壇上，中國(guó)新一代IT產(chǎn)業(yè)推進(jìn)聯(lián)盟技術(shù)分委會(huì)秘書(shū)長(zhǎng)魯四海做了題為《大數(shù)據(jù)技術(shù)及行業(yè)應(yīng)用》的分享。他分享內(nèi)容分為三個(gè)部分：第一，行業(yè)的趨勢(shì)、技術(shù)發(fā)展是什么樣的；第二大數(shù)據(jù)在傳統(tǒng)行業(yè)落地的困難，大數(shù)據(jù)要用起來(lái)最終還是落在傳統(tǒng)行業(yè)，因?yàn)镮T技術(shù)的發(fā)展不能自?shī)首詷?lè)；第三，傳統(tǒng)行業(yè)如何落地大數(shù)據(jù)。

　　首先來(lái)看，現(xiàn)在的大數(shù)據(jù)產(chǎn)業(yè)正在發(fā)生著哪些變化。第一，首席數(shù)據(jù)官開(kāi)始崛起。第二，可視化是推動(dòng)大數(shù)據(jù)普及的一個(gè)重要的手段。大數(shù)據(jù)的真實(shí)用戶(hù)，我們認(rèn)為是業(yè)務(wù)不應(yīng)該是IT人員。第三，大數(shù)據(jù)還有一個(gè)趨勢(shì)就是智能化嵌入，一個(gè)是終端的嵌入，一個(gè)是在服務(wù)端的嵌入。第四是機(jī)器學(xué)習(xí)迎來(lái)上揚(yáng)的趨勢(shì)，它已經(jīng)是未來(lái)數(shù)據(jù)準(zhǔn)備和預(yù)測(cè)分析的必要工作。第五，開(kāi)源應(yīng)用會(huì)持續(xù)加速。第六，數(shù)據(jù)服務(wù)逐漸形成發(fā)展規(guī)模，這個(gè)主要有三個(gè)原因：一是數(shù)據(jù)這個(gè)事我們沒(méi)有必要做一些重復(fù)的工作；二是數(shù)據(jù)服務(wù)促進(jìn)共享。三是擁有數(shù)據(jù)的企業(yè)找到了一種創(chuàng)收的方式。第七，算法市場(chǎng)正在興起，數(shù)據(jù)要去解決問(wèn)題，中間需要一個(gè)算法模型來(lái)支撐。第八，互聯(lián)網(wǎng)、金融、健康保持熱度，智慧城市、企業(yè)數(shù)據(jù)化、產(chǎn)業(yè)互聯(lián)網(wǎng)將成為新的增長(zhǎng)點(diǎn)。

　　從前面的趨勢(shì)我們也可以看出，傳統(tǒng)行業(yè)將是大數(shù)據(jù)的主戰(zhàn)場(chǎng)。數(shù)據(jù)對(duì)傳統(tǒng)企業(yè)的巨大價(jià)值不用贅述，具體體現(xiàn)在四個(gè)方向：一是在決策模式上，在數(shù)據(jù)這個(gè)時(shí)代，以從流程為中心轉(zhuǎn)向數(shù)據(jù)為中心；二是運(yùn)營(yíng)模式上，不再是以產(chǎn)品和服務(wù)為中心，轉(zhuǎn)向以用戶(hù)為中心；三是協(xié)作模式上面，原來(lái)是以供應(yīng)鏈為基礎(chǔ)的，現(xiàn)在是生態(tài)鏈為中心。四是企業(yè)組織模式上，原來(lái)是以層級(jí)為中心，現(xiàn)在是以員工為中心。

　　但是傳統(tǒng)行業(yè)落地大數(shù)據(jù)也是有很多挑戰(zhàn)的。比如我們之前在做咨詢(xún)過(guò)程當(dāng)中就遇到過(guò)這樣的情況。有的IT項(xiàng)目交付的時(shí)候被推倒重來(lái)，大數(shù)據(jù)項(xiàng)目也可能出現(xiàn)這種情況。一個(gè)是需求之前是不準(zhǔn)確的，二是我們這個(gè)系統(tǒng)建設(shè)速度跟不上需求的變化。

　　都說(shuō)大數(shù)據(jù)的是驅(qū)動(dòng)創(chuàng)新的最佳方式，其實(shí)創(chuàng)新還是有蠻多坑的。比如說(shuō)，這兩年大家都在講小米的參與感。都去學(xué)人家微博微信的營(yíng)銷(xiāo)，然后以對(duì)人家的微博微信進(jìn)行數(shù)據(jù)分，然后套到自己的產(chǎn)品上，結(jié)果一點(diǎn)成效都沒(méi)有。但人家走量最多的紅米首發(fā)選擇了QQ空間，也得到了QQ空間的大力支持。依據(jù)數(shù)據(jù)創(chuàng)新最大的風(fēng)險(xiǎn)在于，認(rèn)識(shí)片面性和數(shù)據(jù)片性。

　　有的企業(yè)會(huì)通過(guò)投資收購(gòu)方式去發(fā)展公司業(yè)務(wù)，投資者們達(dá)成明確而廣泛的共識(shí)，差不多很多時(shí)候都是錯(cuò)的，因?yàn)榇蠹以谧分馃狳c(diǎn)，熱點(diǎn)就有可能導(dǎo)致說(shuō)大家都過(guò)獨(dú)木橋。其實(shí)很多時(shí)候是在做重復(fù)性的研究，這個(gè)產(chǎn)業(yè)我們需要協(xié)作。

　　其實(shí)數(shù)據(jù)是很核心的一塊，我們做大數(shù)據(jù)首先解決數(shù)據(jù)的問(wèn)題。數(shù)據(jù)分成兩塊來(lái)看，分為內(nèi)部和外部。內(nèi)部的數(shù)據(jù)，一個(gè)是現(xiàn)在還有沒(méi)有數(shù)據(jù)。我們剛才聽(tīng)到了去哪兒網(wǎng)可以通過(guò)一些技術(shù)手段，收集他的數(shù)據(jù)。那么一般的組織是不是能夠達(dá)到呢？再就是數(shù)據(jù)質(zhì)量如何。數(shù)據(jù)的質(zhì)量就要分成兩塊，數(shù)據(jù)的有用性和數(shù)據(jù)的可用性。？

　　談完數(shù)據(jù)就討論技術(shù)，目前我們問(wèn)三個(gè)問(wèn)題，你的技術(shù)路線，走開(kāi)源的還是閉源的。第二是私有部署還是使用SaaS的工具去解決你的問(wèn)題。第三這點(diǎn)更細(xì)節(jié)，走Hadoop還是走M(jìn)PP這條線，這跟企業(yè)數(shù)據(jù)特點(diǎn)是有很大關(guān)系的，比如說(shuō)你的數(shù)據(jù)以結(jié)構(gòu)化為主的，那MPP的模式就更適合你。

　　技術(shù)真的只是工具，數(shù)據(jù)其實(shí)是大數(shù)據(jù)分析過(guò)程當(dāng)中的材料。只有材料、只有工具這能做出產(chǎn)品么？不行的，還有一個(gè)東西，它需要配方、需要生產(chǎn)的方法，這個(gè)就是算法模型。但是算法模型有幾個(gè)問(wèn)題一是對(duì)于法的人要求非常高；需要做大量的訓(xùn)練；你開(kāi)發(fā)出來(lái)一個(gè)模型之后，應(yīng)用效果也需要檢驗(yàn)。

　　團(tuán)隊(duì)，至少有三個(gè)方向，首先是業(yè)務(wù)專(zhuān)家，他解決的問(wèn)題是數(shù)據(jù)的可用性。然后就是IT專(zhuān)家，那樣解決怎么存數(shù)據(jù)、獲數(shù)據(jù)、管理數(shù)據(jù)。還有就是統(tǒng)計(jì)專(zhuān)家，他去開(kāi)發(fā)一些模型。目前是這幾種比較存在形式。還有一種是技術(shù)導(dǎo)向型的，再一個(gè)是以應(yīng)用、業(yè)務(wù)為導(dǎo)向的。

　　如果完全自建團(tuán)隊(duì)，團(tuán)隊(duì)建設(shè)周期需要考慮；如果是合外部服務(wù)商一起合作，那么服務(wù)商的選擇就極其重要了，在大數(shù)據(jù)初級(jí)階段，大數(shù)據(jù)企業(yè)良莠不濟(jì)。

　　前面說(shuō)到大數(shù)據(jù)應(yīng)用的主戰(zhàn)場(chǎng)是傳統(tǒng)行業(yè)，面對(duì)這么多的挑戰(zhàn)，如何讓大數(shù)據(jù)落地，核心是三個(gè)問(wèn)題：未來(lái)走到哪里，從哪里開(kāi)始，演進(jìn)步驟是啥。

　　我們先看未來(lái)走到哪里。大數(shù)據(jù)的發(fā)展最終是智慧化，所以未來(lái)應(yīng)該是以服務(wù)的方式嵌入到具體的業(yè)務(wù)中去。所以未來(lái)企業(yè)都應(yīng)該有一個(gè)大數(shù)據(jù)服務(wù)平臺(tái)，這個(gè)大數(shù)據(jù)服務(wù)平臺(tái)通過(guò)實(shí)時(shí)的計(jì)算處理，實(shí)時(shí)響應(yīng)各業(yè)務(wù)系統(tǒng)所需要的數(shù)據(jù)服務(wù)。大數(shù)據(jù)服務(wù)平臺(tái)需要的數(shù)據(jù)、算法模型又從哪里來(lái)呢？答案就是大數(shù)據(jù)分析平臺(tái)，分析平臺(tái)包括數(shù)據(jù)準(zhǔn)備、存儲(chǔ)管理、計(jì)算處理、分析挖掘、人機(jī)交互等內(nèi)容。也就是從未來(lái)的企業(yè)大數(shù)據(jù)平臺(tái)包括大數(shù)據(jù)分析平臺(tái)和服務(wù)平臺(tái)。分析平臺(tái)著重是離線數(shù)據(jù)的加工處理、算法模型的研發(fā)以及實(shí)現(xiàn)挖掘結(jié)果的交互；而服務(wù)平臺(tái)著重在在線數(shù)據(jù)服務(wù)，直接為各業(yè)務(wù)環(huán)節(jié)提供在線的數(shù)據(jù)服務(wù)。如下圖所示：

　　企業(yè)級(jí)大數(shù)據(jù)應(yīng)用邏輯架構(gòu)參考圖

　　要實(shí)現(xiàn)這樣的大數(shù)據(jù)架構(gòu)，難度、復(fù)雜度都非常高，所以需要分步實(shí)現(xiàn)。有觀點(diǎn)說(shuō)先把大數(shù)據(jù)分析平臺(tái)建起來(lái)，按照數(shù)據(jù)準(zhǔn)備、存儲(chǔ)管理、計(jì)算處理、分析挖掘、人機(jī)交互一層一層地建，然后建設(shè)數(shù)據(jù)服務(wù)平臺(tái)。這種方式從技術(shù)的角度看是非常完美的，但實(shí)際操作難度大，而且容易出現(xiàn)平臺(tái)使用率偏低的問(wèn)題。原因主要有兩個(gè)：一個(gè)是信心，一個(gè)數(shù)據(jù)。先說(shuō)信心，這種方案前期大量的基礎(chǔ)建設(shè)，在人、財(cái)、物上大最的投入，卻看不到應(yīng)用效果，同時(shí)在看不到效果的情況下要求業(yè)務(wù)部門(mén)進(jìn)行大量的配合工作，都會(huì)讓大家信心、動(dòng)力不足。數(shù)據(jù)，這各路方案比較重視基礎(chǔ)能力建設(shè)，但是現(xiàn)在是不是數(shù)據(jù)能夠接入進(jìn)來(lái)，取決于兩個(gè)面，一企業(yè)內(nèi)部數(shù)據(jù)化是不是達(dá)到一定的基礎(chǔ)，二外部數(shù)據(jù)是不是已準(zhǔn)備好了。我們認(rèn)大數(shù)據(jù)落地應(yīng)該是融入到業(yè)務(wù)場(chǎng)景里面去的，通過(guò)對(duì)一些企業(yè)大數(shù)據(jù)應(yīng)用的調(diào)研，我們發(fā)現(xiàn)大數(shù)據(jù)應(yīng)用可以分為這感知、探索、起步、發(fā)展、融合這五個(gè)發(fā)展階段。如下圖所示：

　　大數(shù)據(jù)應(yīng)用5個(gè)演進(jìn)階段示意圖

　　感知階段，通過(guò)引入一些外部咨詢(xún)、數(shù)據(jù)服務(wù)讓整個(gè)組織感知大數(shù)據(jù)對(duì)業(yè)務(wù)發(fā)展的作用，通過(guò)培訓(xùn)提升組織對(duì)大數(shù)據(jù)的認(rèn)識(shí)。然后在內(nèi)部實(shí)現(xiàn)一些簡(jiǎn)單的報(bào)表實(shí)際應(yīng)用到業(yè)務(wù)中去。

　　探索階段，建設(shè)輕量級(jí)數(shù)據(jù)分析平臺(tái)，實(shí)現(xiàn)核心業(yè)務(wù)數(shù)據(jù)分析，從而推動(dòng)組織內(nèi)部的數(shù)據(jù)化。開(kāi)始數(shù)據(jù)應(yīng)用、團(tuán)隊(duì)建設(shè)等方面的探索，可以引入外部團(tuán)隊(duì)進(jìn)行數(shù)據(jù)戰(zhàn)略的規(guī)劃。

　　起步階段，拓寬數(shù)據(jù)分析應(yīng)用范圍，在織織數(shù)據(jù)化發(fā)展到一起基礎(chǔ)的前提下，建設(shè)數(shù)據(jù)治理體系，著手建設(shè)企業(yè)級(jí)大數(shù)據(jù)分析平臺(tái)。

　　發(fā)展階段，推動(dòng)組織內(nèi)部全面數(shù)據(jù)化，建設(shè)面向業(yè)務(wù)用戶(hù)的大數(shù)據(jù)分析平臺(tái)。如果說(shuō)起步階段更多是IT部門(mén)的參與，為業(yè)務(wù)部門(mén)所需要的數(shù)據(jù)服務(wù)還更多需要IT部門(mén)的配合；發(fā)展階段業(yè)務(wù)部門(mén)將有更多的自主能力，IT部門(mén)更多進(jìn)行后臺(tái)支持，進(jìn)行數(shù)據(jù)質(zhì)量、平臺(tái)的維護(hù)。

　　融合階段，是大數(shù)據(jù)應(yīng)用最終目標(biāo)，通過(guò)數(shù)據(jù)服務(wù)平臺(tái)的建設(shè)，將數(shù)據(jù)服務(wù)融合到業(yè)務(wù)各個(gè)環(huán)節(jié)，實(shí)現(xiàn)用數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)。

　　第一，制定數(shù)據(jù)戰(zhàn)略。這個(gè)戰(zhàn)略不僅僅是口號(hào)，應(yīng)面巾是有相應(yīng)的機(jī)制、制度出來(lái)。

　　第二，建立數(shù)據(jù)化計(jì)劃。首先得有數(shù)據(jù)，要把企業(yè)實(shí)現(xiàn)數(shù)據(jù)化之后才能更好的做數(shù)據(jù)的分析，而且在這個(gè)過(guò)程當(dāng)中很重要的一點(diǎn)是要保證數(shù)據(jù)的質(zhì)量。

　　第三，建立數(shù)據(jù)平臺(tái)。重點(diǎn)考慮，這個(gè)數(shù)據(jù)放到這之后能夠找得到，還有就是被讀得懂；重客戶(hù)參與，讓業(yè)務(wù)人員參與進(jìn)來(lái)。

　　第四，量體裁衣建立數(shù)據(jù)團(tuán)隊(duì)。

　　第五，定制好外部數(shù)據(jù)服務(wù)戰(zhàn)略。

　　第六，活數(shù)據(jù)，動(dòng)態(tài)模型。只有動(dòng)態(tài)更新的數(shù)據(jù)才是最有價(jià)值的數(shù)據(jù)。模型上也要下功夫，數(shù)據(jù)是材料，平臺(tái)是機(jī)床，而算法模型則是生產(chǎn)方法和工藝，是競(jìng)爭(zhēng)的核心。

　　魯四海還是首席數(shù)據(jù)官聯(lián)盟發(fā)起人，在分享中也提到他們7月14號(hào)發(fā)布《中國(guó)大數(shù)據(jù)企業(yè)排行榜》，包括有產(chǎn)業(yè)地圖、行業(yè)分析、大數(shù)據(jù)企業(yè)評(píng)價(jià)指標(biāo)體系和五十多個(gè)維度的排行榜，為各位在選擇大數(shù)據(jù)技術(shù)路線、產(chǎn)品、服務(wù)選擇以及服務(wù)商判斷方面提供一些參考。