1. 背景

借助大量的訓(xùn)練數(shù)據(jù)（SA-1B），Meta AI Research 提出的基礎(chǔ) "Segment Anything Model"（SAM）表現(xiàn)出了顯著的泛化和零樣本能力。盡管如此，SAM 表現(xiàn)為一種類別無關(guān)的實(shí)例分割方法，嚴(yán)重依賴于先驗(yàn)的手動(dòng)指導(dǎo)，包括點(diǎn)、框和粗略掩模。此外，SAM 在遙感圖像分割任務(wù)上的性能尚未得到充分探索和證明。

本文考慮基于 SAM 基礎(chǔ)模型設(shè)計(jì)一種自動(dòng)化實(shí)例分割方法，該方法將語(yǔ)義類別信息納入其中，用于遙感圖像。受prompt learning啟發(fā)，本文通過學(xué)習(xí)生成合適的Prompt來作為 SAM 的輸入。這使得 SAM 能夠?yàn)檫b感圖像生成語(yǔ)義可辨別的分割結(jié)果，該方法稱之為 RSPrompter。本文還根據(jù) SAM 社區(qū)的最新發(fā)展提出了幾個(gè)基于SAM的實(shí)例分割衍生方法，并將它們的性能與 RSPrompter 進(jìn)行了比較。在 WHU Building、NWPU VHR-10 和 SSDD 數(shù)據(jù)集上進(jìn)行的廣泛實(shí)驗(yàn)結(jié)果驗(yàn)證了所提出的方法的有效性。

?

由于在超過十億個(gè)掩模上進(jìn)行訓(xùn)練，SAM 可以在不需要額外訓(xùn)練的情況下分割任何圖像中的任何對(duì)象，展示了其在處理各種圖像和對(duì)象時(shí)顯著的泛化能力。這為智能圖像分析和理解創(chuàng)建了新的可能性和途徑。然而，由于其交互式框架，SAM 需要提供先驗(yàn)的Prompt，例如點(diǎn)、框或掩模來表現(xiàn)為一種類別無關(guān)分割方法。

?

（a）顯示了基于點(diǎn)、基于框、SAM 的“全圖”模式（對(duì)圖像中的所有對(duì)象進(jìn)行分割）以及 RSPrompter 的實(shí)例分割結(jié)果。SAM 執(zhí)行類別無關(guān)的實(shí)例分割，依賴于手動(dòng)提供的先驗(yàn)prompt。（b）展示了來自不同位置的點(diǎn)prompt、基于兩個(gè)點(diǎn)的prompt和基于框的prompt的分割結(jié)果。prompt的類型、位置和數(shù)量嚴(yán)重影響 SAM 的結(jié)果。

此外，我們觀察到遙感圖像場(chǎng)景中的復(fù)雜背景干擾和缺乏明確定義的物體邊緣對(duì) SAM 的分割能力構(gòu)成重大挑戰(zhàn)。SAM 很難實(shí)現(xiàn)對(duì)遙感圖像目標(biāo)的完整分割，其結(jié)果嚴(yán)重依賴于prompt類型、位置和數(shù)量。在大多數(shù)情況下，精細(xì)的手動(dòng)prompt對(duì)于實(shí)現(xiàn)所需效果至關(guān)重要，如上圖（b）所示。這表明 SAM 在應(yīng)用于遙感圖像的實(shí)例分割時(shí)存在相當(dāng)大的限制。

為了增強(qiáng)基礎(chǔ)模型的遙感圖像實(shí)例分割能力，本文提出了RSPrompter，用于學(xué)習(xí)如何生成可以增強(qiáng) SAM 框架能力的prompt。本文的動(dòng)機(jī)在于 SAM 框架，其中每個(gè)prompt組可以通過掩碼解碼器獲取實(shí)例化掩碼。想象一下，如果我們能夠自動(dòng)生成多個(gè)與類別相關(guān)的prompt，SAM 的解碼器就能夠產(chǎn)生帶有類別標(biāo)簽的多個(gè)實(shí)例級(jí)掩碼。然而，這個(gè)過程存在兩個(gè)主要挑戰(zhàn)：（i）類別相關(guān)的prompt從哪里來？（ii）應(yīng)選擇哪種類型的prompt作為掩膜解碼器的輸入？

由于 SAM 是一種類別無關(guān)的分割模型，其編碼器的深度特征圖無法包含豐富的語(yǔ)義類別信息。為了克服這一障礙，我們提取編碼器的中間層特征以形成Prompter的輸入，該輸入生成包含語(yǔ)義類別信息的prompt。其次，SAM 的prompt包括點(diǎn)（前景/背景點(diǎn)）、框或掩膜?？紤]到生成點(diǎn)坐標(biāo)需要在原始 SAM prompt的流形中搜索，這嚴(yán)重限制了prompt器的優(yōu)化空間，我們進(jìn)一步放寬了prompt的表示，并直接生成prompt嵌入，可以理解為點(diǎn)或框的嵌入，而不是原始坐標(biāo)。這種設(shè)計(jì)還避免了從高維到低維再返回到高維特征的梯度流的障礙，即從高維圖像特征到點(diǎn)坐標(biāo)，然后再到位置編碼。

本文還對(duì) SAM 模型社區(qū)中當(dāng)前進(jìn)展和衍生方法進(jìn)行了全面的調(diào)查和總結(jié)。這些主要包括基于 SAM 骨干網(wǎng)絡(luò)的方法、將 SAM 與分類器集成的方法和將 SAM 與檢測(cè)器結(jié)合的技術(shù)。

2. 方法

2.1 SAM模型

SAM 是一個(gè)交互式分割框架，它根據(jù)給定的prompt（如前景/背景點(diǎn)、邊界框或掩碼）生成分割結(jié)果。它包含三個(gè)主要組件：圖像編碼器、prompt編碼器和掩膜解碼器。SAM 使用基于 Vision Transformer (ViT)的預(yù)訓(xùn)練掩碼自編碼器將圖像處理成中間特征，并將先前的prompt編碼為嵌入Tokens。隨后，掩膜解碼器中的交叉注意力機(jī)制促進(jìn)了圖像特征和prompt嵌入之間的交互，最終產(chǎn)生掩膜輸出。該過程可以表達(dá)為：

2.2 SAM 的實(shí)例分割擴(kuò)展

除了本文中提出的 RSPrompter 之外，還介紹了其他三種基于 SAM 的實(shí)例分割方法進(jìn)行比較，如下圖(a)、(b) 和 (c) 所示。本文評(píng)估了它們?cè)谶b感圖像實(shí)例分割任務(wù)中的有效性并啟發(fā)未來的研究。這些方法包括：外部實(shí)例分割頭、分類掩碼類別和使用外部檢測(cè)器，分別稱為SAM-seg、SAM-cls 和 SAM-det。

2.2.1 SAM-seg

SAM-seg利用了 SAM 圖像編碼器存在的知識(shí)，同時(shí)保持編碼器不變。它從編碼器中提取中間層特征，使用卷積塊進(jìn)行特征融合，然后使用現(xiàn)有的實(shí)例分割（Mask R-CNN和 Mask2Former）執(zhí)行實(shí)例分割任務(wù)。這個(gè)過程可以表示為：

2.2.2?SAM-cls

在 SAM-cls 中，首先利用 SAM 的“全圖像”模式來分割圖像中的所有潛在實(shí)例目標(biāo)。其實(shí)現(xiàn)方法是在整個(gè)圖像中均勻分布點(diǎn)并將每個(gè)點(diǎn)視為實(shí)例的prompt輸入。在獲得圖像中所有實(shí)例掩碼后，可以使用分類器為每個(gè)掩碼分配標(biāo)簽。這個(gè)過程可以描述如下：

為了便捷，本文直接使用輕量級(jí)的 ResNet18 來標(biāo)記掩碼。其次，可以利用預(yù)訓(xùn)練的 CLIP 模型，使 SAM-cls 能夠在不進(jìn)行額外訓(xùn)練的情況下運(yùn)行以達(dá)到零樣本的效果。

2.2.3?SAM-det

SAM-det 方法更加簡(jiǎn)單直接，已經(jīng)被社區(qū)廣泛采用。首先訓(xùn)練一個(gè)目標(biāo)檢測(cè)器來識(shí)別圖像中所需的目標(biāo)，然后將檢測(cè)到的邊界框作為prompt輸入到 SAM 中。整個(gè)過程可以描述為：

2.3 RSPrompter

2.3.1 概述

上圖（d）展示了所提出的RSPrompter的結(jié)構(gòu)，我們的目標(biāo)是訓(xùn)練一個(gè)面向SAM的prompter，可以處理測(cè)試集中的任何圖像，同時(shí)定位對(duì)象，推斷它們的語(yǔ)義類別和實(shí)例掩碼，可以表示為以下公式：

圖像通過凍結(jié)的SAM圖像編碼器處理，生成Fimg和多個(gè)中間特征圖Fi。Fimg用于SAM解碼器獲得prompt-guided掩碼，而Fi則被一個(gè)高效的特征聚合和prompt生成器逐步處理，以獲取多組prompt和相應(yīng)的語(yǔ)義類別。為設(shè)計(jì)prompt生成器，本文采用兩種不同的結(jié)構(gòu)，即錨點(diǎn)式和查詢式。

2.3.2?特征聚合器

SAM是基于prompt的類別無關(guān)的分割模型，為了在不增加prompter計(jì)算復(fù)雜度的情況下獲得語(yǔ)義相關(guān)且具有區(qū)分性的特征，本文引入了一個(gè)輕量級(jí)的特征聚合模塊。如下圖所示，該模塊學(xué)習(xí)從SAM ViT骨干網(wǎng)絡(luò)的各種中間特征層中表示語(yǔ)義特征，可以遞歸地描述為：

2.3.3?錨點(diǎn)式Prompter

架構(gòu)：首先使用基于錨點(diǎn)的區(qū)域提議網(wǎng)絡(luò)（RPN）生成候選目標(biāo)框。接下來，通過RoI池化獲取來自位置編碼過的特征圖的單個(gè)對(duì)象的視覺特征表示。從視覺特征中派生出三個(gè)感知頭：語(yǔ)義頭、定位頭和prompt頭。語(yǔ)義頭確定特定目標(biāo)類別，而定位頭在生成的prompt表示和目標(biāo)實(shí)例掩碼之間建立匹配準(zhǔn)則，即基于定位的貪心匹配。prompt頭生成SAM掩碼解碼器所需的prompt嵌入。整個(gè)過程如下圖所示，可以用以下公式表示：

?

損失：該模型的損失包括RPN網(wǎng)絡(luò)的二元分類損失和定位損失，語(yǔ)義頭的分類損失，定位頭的回歸損失以及凍結(jié)的SAM掩碼解碼器的分割損失?？倱p失可以表示為：

2.3.4?查詢式Prompter

架構(gòu)：錨點(diǎn)式Prompter相對(duì)復(fù)雜，涉及到利用邊界框信息進(jìn)行掩碼匹配和監(jiān)督訓(xùn)練。為了簡(jiǎn)化這個(gè)過程，提出了一個(gè)基于查詢的Prompter，它以最優(yōu)傳輸為基礎(chǔ)。查詢式Prompter主要由輕型Transformer編碼器和解碼器組成。編碼器用于從圖像中提取高級(jí)語(yǔ)義特征，而解碼器則通過與圖像特征進(jìn)行attention交互，將預(yù)設(shè)的可學(xué)習(xí)查詢轉(zhuǎn)換為SAM所需的prompt嵌入。整個(gè)過程如下圖所示，可以表示為：

?

損失：查詢式Prompter的訓(xùn)練過程主要涉及兩個(gè)關(guān)鍵步驟：（i）將由SAM掩碼解碼器解碼的掩碼與真實(shí)實(shí)例掩碼進(jìn)行匹配；（ii）隨后使用匹配標(biāo)簽進(jìn)行監(jiān)督訓(xùn)練。在執(zhí)行最優(yōu)傳輸匹配時(shí)，我們定義考慮預(yù)測(cè)的類別和掩碼的匹配成本，如下所示:?

一旦每個(gè)預(yù)測(cè)實(shí)例與其相應(yīng)的真實(shí)值配對(duì)，就可以應(yīng)用監(jiān)督項(xiàng)。這主要包括多類分類和二進(jìn)制掩碼分類，如下所述：

3. 實(shí)驗(yàn)

在本文中使用了三個(gè)公共的遙感實(shí)例分割數(shù)據(jù)集：WHU建筑提取數(shù)據(jù)集，NWPU VHR-10數(shù)據(jù)集和SSDD數(shù)據(jù)集。WHU數(shù)據(jù)集是單類建筑物目標(biāo)提取分割，NWPU VHR-10是多類目標(biāo)檢測(cè)分割，SSDD是SAR船只目標(biāo)檢測(cè)分割。使用 mAP 進(jìn)行模型性能評(píng)價(jià)。

3.1 在WHU上的結(jié)果

?

3.2?在NWPU上的結(jié)果

?

3.3?在SSDD上的結(jié)果

?

4. 總結(jié)

在本文中，我們介紹了RSPrompter，這是一種用于遙感圖像實(shí)例分割的prompt learning方法，利用了SAM基礎(chǔ)模型。RSPrompter的目標(biāo)是學(xué)習(xí)如何為SAM生成prompt輸入，使其能夠自動(dòng)獲取語(yǔ)義實(shí)例級(jí)掩碼。相比之下，原始的SAM需要額外手動(dòng)制作prompt，并且是一種類別無關(guān)的分割方法。RSPrompter的設(shè)計(jì)理念不局限于SAM模型，也可以應(yīng)用于其他基礎(chǔ)模型?；谶@一理念，我們?cè)O(shè)計(jì)了兩種具體的實(shí)現(xiàn)方案：基于預(yù)設(shè)錨點(diǎn)的RSPrompter-anchor和基于查詢和最優(yōu)傳輸匹配的RSPrompter-query。此外，我們還調(diào)查并提出了SAM社區(qū)中針對(duì)此任務(wù)的各種方法和變體，并將它們與我們的prompt learning方法進(jìn)行了比較。通過消融實(shí)驗(yàn)驗(yàn)證了RSPrompter中每個(gè)組件的有效性。同時(shí)，三個(gè)公共遙感數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果表明，我們的方法優(yōu)于其他最先進(jìn)的實(shí)例分割技術(shù)，以及一些基于SAM的方法。

編輯：黃飛