由美國(guó)頂級(jí)醫(yī)療中心和研究機(jī)構(gòu)的專(zhuān)家組成了一個(gè)專(zhuān)家委員會(huì)，該委員會(huì)正在使用 NVIDIA 支持的聯(lián)邦學(xué)習(xí)來(lái)評(píng)估聯(lián)邦學(xué)習(xí)和 AI 輔助注釋對(duì)訓(xùn)練 AI 腫瘤分割模型的影響。

聯(lián)邦學(xué)習(xí)是一種技術(shù)，能夠在不降低數(shù)據(jù)安全性或隱私性的前提下，利用來(lái)自不同數(shù)據(jù)源的數(shù)據(jù)，開(kāi)發(fā)更準(zhǔn)確、更通用的 AI 模型。借助這項(xiàng)技術(shù)，多家企業(yè)可在敏感數(shù)據(jù)不離開(kāi)各自服務(wù)器的情況下，協(xié)作開(kāi)發(fā) AI 模型。

威斯康星大學(xué)麥迪遜分校放射學(xué)副教授 John Garrett 表示：“由于隱私和數(shù)據(jù)管理方面的限制，在站點(diǎn)間共享數(shù)據(jù)并將數(shù)據(jù)匯總到一處正變得日益復(fù)雜，而影像 AI 的發(fā)展速度比研究機(jī)構(gòu)簽訂數(shù)據(jù)共享合約的速度還要快。實(shí)際上，跟上這一趨勢(shì)的唯一辦法是采用聯(lián)邦學(xué)習(xí)，在多個(gè)站點(diǎn)同時(shí)構(gòu)建和測(cè)試模型。聯(lián)邦學(xué)習(xí)已成為一個(gè)不可或缺的工具?！?/p>

Garrett 是美國(guó)醫(yī)學(xué)影像信息學(xué)會(huì)(SIIM)機(jī)器學(xué)習(xí)工具與研究小組委員會(huì)成員。該委員會(huì)由臨床醫(yī)生、研究人員和工程師組成，旨在推動(dòng) AI 在醫(yī)學(xué)影像中的發(fā)展與應(yīng)用。NVIDIA 是 SIIM 成員，自 2019 年以來(lái)一直與該委員會(huì)就聯(lián)邦學(xué)習(xí)進(jìn)行合作。

委員會(huì)主席 Khaled Younis 表示：“聯(lián)邦學(xué)習(xí)技術(shù)在符合 GDPR、HIPAA 等隱私法規(guī)要求的前提下，能夠增強(qiáng)數(shù)據(jù)的隱私性和安全性。此外，該技術(shù)還提高了模型的準(zhǔn)確性和泛化程度?！?/p>

為了支持他們的最新項(xiàng)目，該研究小組(包括來(lái)自凱斯西儲(chǔ)大學(xué)、喬治城大學(xué)、梅奧診所、加州大學(xué)圣地亞哥分校、佛羅里達(dá)大學(xué)和范德堡大學(xué)的合作者)選擇使用 NVIDIA FLARE(NVFlare)。該開(kāi)源框架包含強(qiáng)大的安全功能、先進(jìn)的隱私保護(hù)技術(shù)和一個(gè)靈活的系統(tǒng)架構(gòu)。

通過(guò) NVIDIA 學(xué)術(shù)資助計(jì)劃，該委員會(huì)獲得了四個(gè) NVIDIA GPU，這些 GPU 被分配給參與的研究機(jī)構(gòu)，用于建立聯(lián)邦學(xué)習(xí)工作站。其他合作者也在云端和本地服務(wù)器中使用了 NVIDIA GPU，展現(xiàn)了 NVFLare 的靈活性。

破解聯(lián)邦學(xué)習(xí)的密碼

參與該項(xiàng)目的六個(gè)醫(yī)療中心分別提供了約 50 項(xiàng)醫(yī)學(xué)影像研究的數(shù)據(jù)，研究的重點(diǎn)是腎細(xì)胞癌(腎癌的一種)。范德堡大學(xué)計(jì)算機(jī)科學(xué)助理教授兼生物醫(yī)學(xué)數(shù)據(jù)表征與學(xué)習(xí)實(shí)驗(yàn)室主任霍元愷(Yuankai Huo)表示：“聯(lián)邦學(xué)習(xí)的理念是在訓(xùn)練過(guò)程中交換模型，而不是交換數(shù)據(jù)?！?/p>

在聯(lián)邦學(xué)習(xí)框架中，初始全局模型向客戶(hù)服務(wù)器發(fā)送模型參數(shù)。各個(gè)服務(wù)器使用這些參數(shù)來(lái)建立模型的本地版本，該版本在企業(yè)組織的專(zhuān)有數(shù)據(jù)上訓(xùn)練而成。然后，各個(gè)本地模型的更新參數(shù)被發(fā)送回全局模型，并在全局模型中匯總，生成一個(gè)新的全局模型。如此循環(huán)往復(fù)，直到模型的預(yù)測(cè)結(jié)果不再隨著每一輪訓(xùn)練而提高。

為了優(yōu)化訓(xùn)練速度、準(zhǔn)確性以及將模型訓(xùn)練到目標(biāo)精度水平所需的影像研究數(shù)量，研究小組嘗試了各種模型架構(gòu)和超參數(shù)。

使用 NVIDIA MONAI

進(jìn)行 AI 輔助注釋

在項(xiàng)目第一階段，模型使用的訓(xùn)練數(shù)據(jù)均由人工標(biāo)記。在下一階段，研究小組將使用 NVIDIA MONAI 進(jìn)行 AI 輔助注釋?zhuān)缓笤u(píng)估在 AI 幫助下分割的訓(xùn)練數(shù)據(jù)與傳統(tǒng)注釋方法相比，模型性能有何不同。

Garrett 表示：“在通常情況下，聯(lián)邦學(xué)習(xí)活動(dòng)最大的難點(diǎn)在于不同站點(diǎn)的數(shù)據(jù)并不完全統(tǒng)一。大家使用的影像設(shè)備不同，協(xié)議不同，對(duì)數(shù)據(jù)的標(biāo)記也不同。我們的目標(biāo)是通過(guò)使用 MONAI 對(duì)聯(lián)邦學(xué)習(xí)模型進(jìn)行二次訓(xùn)練，了解這是否能夠提高整體注釋的準(zhǔn)確性。”

研究小組正在使用 MONAI Label，該圖像標(biāo)記工具可用于開(kāi)發(fā)定制 AI 注釋?xiě)?yīng)用，以便減少創(chuàng)建新數(shù)據(jù)集所需的時(shí)間和精力。專(zhuān)家將先對(duì) AI 生成的分割進(jìn)行驗(yàn)證和完善，然后再將其用于模型訓(xùn)練。

人工注釋和 AI 輔助注釋階段的數(shù)據(jù)均托管在 Flywheel 上。這個(gè)領(lǐng)先的醫(yī)學(xué)影像數(shù)據(jù)和 AI 平臺(tái)已將 NVIDIA MONAI 集成到其產(chǎn)品中。

為了推動(dòng)未來(lái)的工作，研究小組計(jì)劃在項(xiàng)目完成后公布他們的方法、帶注釋的數(shù)據(jù)集和預(yù)訓(xùn)練模型。

Garrett 表示：“我們不僅要探索這些工具，而且還要公布我們的研究成果，讓醫(yī)療領(lǐng)域的其他人也能夠?qū)W習(xí)和使用這些工具?！?/p>

申請(qǐng) NVIDIA 學(xué)術(shù)資助

NVIDIA 學(xué)術(shù)資助計(jì)劃通過(guò)為研究人員提供世界級(jí)的計(jì)算入口和資源，來(lái)推動(dòng)學(xué)術(shù)研究?，F(xiàn)面向經(jīng)認(rèn)可的學(xué)術(shù)機(jī)構(gòu)的全職教職員工開(kāi)放申請(qǐng)，這些教職員工需使用 NVIDIA 技術(shù)來(lái)加速仿真與建模、生成式 AI 以及大語(yǔ)言模型等項(xiàng)目。

未來(lái)的申請(qǐng)周期將重點(diǎn)關(guān)注數(shù)據(jù)科學(xué)、圖形和視覺(jué)以及邊緣 AI(包括聯(lián)邦學(xué)習(xí))領(lǐng)域的項(xiàng)目。