1

概括

半監(jiān)督框架下，研究者提出了一種端到端的基于內(nèi)存的分割網(wǎng)絡(luò)（MemSeg）來檢測工業(yè)產(chǎn)品的表面缺陷?？紤]到同一生產(chǎn)線產(chǎn)品的類內(nèi)差異較小，從差異和共性的角度出發(fā)，MemSeg引入了人工模擬的異常樣本和記憶樣本來輔助網(wǎng)絡(luò)的學(xué)習(xí)。在訓(xùn)練階段，MemSeg顯式學(xué)習(xí)正常和模擬異常圖像之間的潛在差異，以獲得魯棒的分類超平面。同時，受人類記憶機制的啟發(fā)，MemSeg使用內(nèi)存池來存儲正常樣本的一般模式。

通過比較輸入樣本與內(nèi)存池中的內(nèi)存樣本的異同，對異常區(qū)域進行有效猜測；在推理階段，MemSeg直接以端到端的方式確定輸入圖像的異常區(qū)域。 通過實驗驗證，MemSeg在MVTec AD數(shù)據(jù)集上實現(xiàn)了最先進的(SOTA)性能，圖像級和像素級的AUC得分分別為99.56%和98.84%。此外，MemSeg得益于端到端、直截了當(dāng)（straightforward）網(wǎng)絡(luò)結(jié)構(gòu)，在推理速度上也有明顯優(yōu)勢，更好地滿足工業(yè)場景的實時性要求。

2

背景

工業(yè)場景下的產(chǎn)品表面異常檢測對于工業(yè)智能的發(fā)展至關(guān)重要。 表面缺陷檢測是在圖像中定位異常區(qū)域的問題，例如劃痕和污跡。但在實際應(yīng)用中，由于異常樣本的概率低且異常形式多樣，傳統(tǒng)監(jiān)督學(xué)習(xí)的異常檢測難度更大。因此，基于半監(jiān)督技術(shù)的表面缺陷檢測方法在實際應(yīng)用中具有更顯著的優(yōu)勢，在訓(xùn)練階段只需要正常樣本。 具體來說，從差異的角度來看，類似于自監(jiān)督學(xué)習(xí)，MemSeg在訓(xùn)練階段引入了人工模擬的異常，使模型有意識地區(qū)分正常和非正常，而不要求模擬的異常與真實場景中的一致。緩解了半監(jiān)督學(xué)習(xí)只能使用正常樣本的不足，讓模型獲得了更魯棒的決策邊界。MemSeg使用正常和模擬異常圖像完成模型訓(xùn)練，直接判斷輸入圖像的異常區(qū)域，在推理階段無需任何輔助任務(wù)。下圖就顯示了在訓(xùn)練和推理階段的數(shù)據(jù)使用情況。

同時，從共性的角度，MemSeg引入了一個內(nèi)存池來記錄正常樣本的一般模式。在模型的訓(xùn)練和推理階段，比較輸入樣本和記憶池中記憶樣本的異同，為異常區(qū)域的定位提供更有效的信息。此外，為了更有效地協(xié)調(diào)來自內(nèi)存池的信息和輸入圖像，MemSeg引入了多尺度特征融合模塊和新穎的空間注意力模塊，大大提高了模型的性能。

3

新框架分析

上圖就是MemSeg整體框架圖。MemSeg基于U-Net架構(gòu)，使用預(yù)訓(xùn)練的ResNet18作為編碼器。MemSeg從差異和共性的角度出發(fā)，引入模擬異常樣本和記憶模塊，以更有方向性的方式輔助模型學(xué)習(xí)，從而以端到端的方式完成半監(jiān)督表面缺陷任務(wù)。同時，為了將記憶信息與輸入圖像的高層特征充分融合，MemSeg引入了多尺度特征融合模塊（MSFF Module）和新穎的空間注意力模塊，大大提高了模型精度異常定位。Anomaly Simulation Strategy在工業(yè)場景中，異常以多種形式出現(xiàn)，在進行數(shù)據(jù)收集時不可能將其全部覆蓋，這限制了使用監(jiān)督學(xué)習(xí)方法進行建模。然而，在半監(jiān)督框架中，僅使用正常樣本而不與非正常樣本進行比較不足以讓模型了解什么是正常模式。 在今天分享中，受DRAEM的啟發(fā)，研究者就設(shè)計了一種更有效的策略來模擬異常樣本并在訓(xùn)練過程中引入它們以完成自監(jiān)督學(xué)習(xí)。MemSeg通過比較非正態(tài)模式來總結(jié)正態(tài)樣本的模式，以減輕半監(jiān)督學(xué)習(xí)的弊端。如下圖所示，提出的異常模擬策略主要分為三個步驟。

二維柏林噪聲P二值化后生成Mp，正常圖I二值化后生成MI，二者結(jié)合生成M，這種處理是為了讓生成的異常圖與真實異常圖相似。

利用公式做正常圖和M的融合使接近真實異常圖：

將M反轉(zhuǎn)（黑變白，白變黑），與I做元素積，與I'做元素和，生成IA。

通過上述異常模擬策略，從紋理和結(jié)構(gòu)兩個角度獲取模擬異常樣本，并且大部分異常區(qū)域都生成在目標前景上，最大限度地提高了模擬異常樣本與真實異常樣本的相似度。

Memory Module

選N個正常圖經(jīng)ResNet作為存儲的信息，凍結(jié)ResNet的block1/2/3的參數(shù)保證高維特征與記憶信息統(tǒng)一，其余部分仍可訓(xùn)練。訓(xùn)練及推理階段，通過下公式比較距離：

N個存儲信息中，每個包括塊1/2/3生成的三張?zhí)卣鲌D，將輸入的三張?zhí)卣鲌D與N中所有的三個特征圖比較找出距離最小的N中的三張?zhí)卣鲌D。將輸入的三張?zhí)卣鲌D與和其距離最小的三張?zhí)卣鲌D連接形成CI。后經(jīng)多尺度特征融合塊，經(jīng)U-Net跳躍連接進入解碼器。

Spatial Attention Maps

涉及到空間注意力塊，由下公式為三個特征圖增加權(quán)重，降低特征冗余：

Multi-Scale Feature Fusion Module

考慮到它是通道維度上兩種信息的串聯(lián)，并且來自編碼器的不同位置，具有不同的語義信息和視覺信息，因此使用通道注意力CA-Block和多尺度策略進行特征融合。

Training Constraints（訓(xùn)練損失）

L1損失和focal損失。L1比L2保留更多邊緣信息，focal緩解樣本不平衡問題，使模型專注于分割本身而不是樣本的情況。

4

實驗及可視化

可視化：

審核編輯 ：李倩