鄭緯民指出,人工智能計(jì)算在海量數(shù)據(jù)、實(shí)時(shí)響應(yīng)、極端條件等場景下相較通用計(jì)算優(yōu)勢愈發(fā)明顯。預(yù)計(jì)到2025年,我國人工智能算力總量將超過1800EFlops,AI算力占整個算力的比重超過85%。
“以后的計(jì)算機(jī)中AI計(jì)算機(jī)和處理人工智能的計(jì)算機(jī)將占很大比例,特別是隨著ChatGPT的發(fā)展,算力需求大幅提升,迎來了高速擴(kuò)張時(shí)代。”鄭緯民表示。
在談及AI計(jì)算與HPC(高性能計(jì)算)的區(qū)別時(shí),鄭緯民指出,HPC通常應(yīng)用在天氣預(yù)報(bào)、核聚變模擬、飛行器設(shè)計(jì)等領(lǐng)域,而AI計(jì)算是做分類、回歸、自然語言處理等,二者應(yīng)用場合不同,運(yùn)算精度也不一樣。
鄭緯民認(rèn)為AI算力基礎(chǔ)設(shè)施的設(shè)計(jì)需要遵循計(jì)算平衡、網(wǎng)絡(luò)平衡、IO子系統(tǒng)平衡的原則。
“傳統(tǒng)的高性能計(jì)算機(jī)的測試結(jié)果與人工智能需要的性能不完全一致。高性能計(jì)算算力測試程序主要使用雙精度浮點(diǎn)數(shù)運(yùn)算,即64位浮點(diǎn)運(yùn)算,人工智能訓(xùn)練以單精度浮點(diǎn)數(shù),即32位浮點(diǎn)數(shù)為主。”在鄭緯民看來,現(xiàn)在要做符合語言模型的訓(xùn)練,就要考慮半精度平衡性,即設(shè)計(jì)中主要考慮半精度運(yùn)營性能,又要注意雙精度運(yùn)算能力不能過低,所以雙精度與半精度運(yùn)算性能之比為1:100較好。
“現(xiàn)在很多廠家都已經(jīng)在考慮這三個平衡設(shè)計(jì),國內(nèi)也有差不多30個城市在建或者建好了AI超算中心。”據(jù)其預(yù)測,HPC+AI+大數(shù)據(jù)中心在未來不超過5年的時(shí)間內(nèi)將會融合到一臺計(jì)算機(jī)中,“既可以做HPC,又可以做AI,也能處理大數(shù)據(jù)”。