卷積神經(jīng)網(wǎng)絡(luò)和視覺轉(zhuǎn)換器是計算機視覺深度學習模型的兩個示例,它們通過假設(shè)平面區(qū)域來分析信號。例如,數(shù)碼照片在平面上顯示為像素網(wǎng)格。盡管如此,這種數(shù)據(jù)類型僅代表科學應用中遇到的各種數(shù)據(jù)的一小部分。
但是,通過使用平面方法處理球形信號,可以改進一些事情。首先,存在采樣問題,這意味著不可能在球體上定義均勻網(wǎng)格,而不會產(chǎn)生明顯的失真。其次,旋轉(zhuǎn)經(jīng);煜蝮w上的信號和局部模式。為了確保模型準確地學習特征,我們需要等方差到3D旋轉(zhuǎn)。因此,可以更有效地使用模型參數(shù),并且可以使用更少的數(shù)據(jù)進行訓練。
直觀地說,分子特性預測和氣候預測問題都應該受益于球形CNN。分子的內(nèi)在性質(zhì)對于3D結(jié)構(gòu)的旋轉(zhuǎn)是不變的,因此旋轉(zhuǎn)等變表示將提供一種自然的方式來編碼這種對稱性。
因此,研究人員在JAX中制定了一個開源庫,用于球面上的深度學習。它在分子特性預測和天氣預報基準上的表現(xiàn)優(yōu)于最先進的結(jié)果,通常由變壓器和圖形神經(jīng)網(wǎng)絡(luò)處理。
研究人員強調(diào),這些可以解決采樣和旋轉(zhuǎn)魯棒性的問題。它通過利用球形卷積和互相關(guān)操作來實現(xiàn)。球形CNN在兩個關(guān)鍵領(lǐng)域提供了有前途的應用:醫(yī)學研究和氣候分析,具有催化社會變革性進步的潛力。
球形CNN在解決與預測化學性質(zhì)和理解氣候狀態(tài)相關(guān)的挑戰(zhàn)方面具有理論優(yōu)勢。利用旋轉(zhuǎn)等變表示在捕獲分子結(jié)構(gòu)的固有對稱性方面變得特別合乎邏輯,其中屬性對于 3D 旋轉(zhuǎn)保持不變。
由于大氣數(shù)據(jù)自然地顯示在球體上,因此球形CNN非常適合這項任務(wù)。它們還可以有效地管理這些數(shù)據(jù)在不同位置和方向的重復模式。
研究人員表示,他們的模型在許多天氣預報基準上超過或匹配基于傳統(tǒng)CNN的神經(jīng)天氣模型。該模型提前六小時預測了幾個大氣變量的值,測試環(huán)境的結(jié)果如下所示。然后,在訓練期間最多提前五天進一步評估模型,并提前三天進行預測。
此外,這些模型在各種天氣預報場景中表現(xiàn)出卓越的性能,證明了球形CNN作為神經(jīng)天氣模型的有效性,取得了突破性的成就。本研究概述了縮放球形CNN的最佳策略,并提供真實數(shù)據(jù)以支持它們在這些特定應用中的適用性。