深圳先進(jìn)院在工作負(fù)載感知的NUMA服務(wù)器頁(yè)表自動(dòng)復(fù)制關(guān)鍵技術(shù)研究方面取得重要進(jìn)展
近日,中國(guó)科學(xué)院深圳先進(jìn)技術(shù)研究院數(shù)字所異構(gòu)智能計(jì)算體系結(jié)構(gòu)與系統(tǒng)研究中心在工作負(fù)載感知的NUMA服務(wù)器頁(yè)表自動(dòng)復(fù)制關(guān)鍵技術(shù)研究方面取得重要進(jìn)展,相關(guān)成果WASP: Workload-Aware Self-Replicating Page-Tables for NUMA Servers 被計(jì)算機(jī)體系結(jié)構(gòu)頂級(jí)會(huì)議ASPLOS (Architectural Support for Programming Languages and Operating Systems,CCF-A類會(huì)議)2024錄用為長(zhǎng)文。博士生曲虹亮為第一作者,喻之斌研究員為第二和通訊作者。
NUMA(Non-Uniform Memory Access,非統(tǒng)一內(nèi)存訪問(wèn))是一種服務(wù)器架構(gòu),是針對(duì)多處理器系統(tǒng)的一種內(nèi)存組織方式。在這種架構(gòu)中,應(yīng)用程序被分配到不同的節(jié)點(diǎn),每個(gè)節(jié)點(diǎn)擁有自己的本地內(nèi)存。程序可以訪問(wèn)本地內(nèi)存和其他節(jié)點(diǎn)的內(nèi)存,但訪問(wèn)本地內(nèi)存的速度要快于訪問(wèn)其他節(jié)點(diǎn)的遠(yuǎn)端內(nèi)存。訪問(wèn)遠(yuǎn)端內(nèi)存最終會(huì)導(dǎo)致程序性能下降,這稱為NUMA效應(yīng)。
針對(duì)NUMA服務(wù)器上的大內(nèi)存工作負(fù)載,頁(yè)表自復(fù)制可以減少頁(yè)表引起的NUMA效應(yīng)。當(dāng)前的頁(yè)表自復(fù)制技術(shù)只能由用戶手動(dòng)啟用。然而,頁(yè)表自復(fù)制技術(shù)可能會(huì)提高,也可能會(huì)損害程序的性能,由用戶去判斷是否開(kāi)啟和何時(shí)開(kāi)啟是困難的。因此識(shí)別影響頁(yè)表自復(fù)制效果的因素并實(shí)現(xiàn)其自動(dòng)化開(kāi)啟/關(guān)閉至關(guān)重要。
本研究是首個(gè)研究并實(shí)現(xiàn)頁(yè)表自復(fù)制自動(dòng)化的方法。我們對(duì)程序的特性和系統(tǒng)中程序混部對(duì)程序獲得頁(yè)表復(fù)制收益的影響進(jìn)行分析,提出了兩項(xiàng)創(chuàng)新技術(shù)。首先,我們確定了一組關(guān)鍵指標(biāo),這些指標(biāo)在大多數(shù)處理器架構(gòu)上都可獲得,并可用于指示是否應(yīng)啟用/禁用頁(yè)表復(fù)制。其次,基于這些指標(biāo)我們?cè)O(shè)計(jì)了一種分層和漸進(jìn)的機(jī)制,以自動(dòng)啟用/禁用特定程序的頁(yè)表復(fù)制,從而提高該程序的性能。
最后,我們?cè)赼rm64和x86_64架構(gòu)的服務(wù)器上都進(jìn)行了驗(yàn)證。實(shí)驗(yàn)結(jié)果表明,本研究在多NUMA節(jié)點(diǎn)場(chǎng)景下可以將程序的性能提高1.82倍,在進(jìn)程遷移情況下可以提高6.69倍。此外,它可以自動(dòng)將數(shù)據(jù)中心應(yīng)用程序的整體性能提高1.36倍。這表明本研究可以在云數(shù)據(jù)中心中得到實(shí)際應(yīng)用。
ASPLOS (Architectural Support for Programming Languages and Operating Systems)是由ACM舉辦的計(jì)算機(jī)體系結(jié)構(gòu)領(lǐng)域的頂級(jí)會(huì)議,與HPCA, ISCA, MICRO并稱為計(jì)算機(jī)體系結(jié)構(gòu)領(lǐng)域的“四大頂會(huì)”。 參會(huì)對(duì)象包括微體系結(jié)構(gòu)、云計(jì)算、計(jì)算機(jī)系統(tǒng)等領(lǐng)域的研究人員或?qū)W生。
WASP工作流程
WASP 決策機(jī)制
WASP與最先進(jìn)頁(yè)表復(fù)制程序Mitosis對(duì)比(多NUMA節(jié)點(diǎn)場(chǎng)景)
WASP與最先進(jìn)頁(yè)表復(fù)制程序Mitosis對(duì)比(進(jìn)程遷移場(chǎng)景)
附件下載: