據(jù)了解,人工智能模型需要用大量的數(shù)據(jù)進行訓(xùn)練,以提高其準(zhǔn)確性和性能。訓(xùn)練完成后,人工智能模型就可以用于推理,即執(zhí)行一些具體的任務(wù),比如根據(jù)輸入生成文本回復(fù),或者判斷一張圖片是否包含貓。推理是人工智能技術(shù)在產(chǎn)品中廣泛應(yīng)用的環(huán)節(jié),但也會增加企業(yè)的成本,其中一個主要成本就是電力。
高通公司利用其在為手機等低功耗設(shè)備設(shè)計芯片的經(jīng)驗,推出了一款專為云端和邊緣端提供高性能、低功耗人工智能處理的芯片,名為 Cloud AI 100.該芯片在周三公布的由 MLCommons(一個維護人工智能芯片行業(yè)測試標(biāo)準(zhǔn)的工程聯(lián)盟)發(fā)布的測試數(shù)據(jù)中,在兩項功率效率指標(biāo)上擊敗了英偉達的旗艦芯片 H100.
功率效率指標(biāo)是指每瓦特電力可以執(zhí)行多少次服務(wù)器查詢。高通的 Cloud AI 100 在圖像分類方面達到了 227.4 次查詢每瓦特,而英偉達的 H100 只有 108.4 次查詢每瓦特,圖像分類可以用于識別圖片中的物體或場景。高通還在物體檢測方面領(lǐng)先于英偉達,分別達到了 3.8 次查詢每瓦特和 2.4 次查詢每瓦特。物體檢測可以用于分析零售店的監(jiān)控視頻,了解顧客最常去哪些地方。
然而,在自然語言處理方面,英偉達卻占據(jù)了絕對優(yōu)勢,無論是在性能還是功率效率方面都排名第一。自然語言處理是人工智能技術(shù)中最廣泛應(yīng)用于聊天機器人等系統(tǒng)的技術(shù),英偉達達到了 10.8 次查詢每瓦特,而高通排名第二,為 8.9 次查詢每瓦特。
高通和英偉達都希望通過提供高效的人工智能芯片來搶占數(shù)據(jù)中心市場的份額。隨著越來越多的企業(yè)將人工智能技術(shù)融入他們的產(chǎn)品中,這個市場預(yù)計將快速增長。