深度學習技術近來在眼科、皮膚科、放射科和病理科等醫(yī)學學科領域展現(xiàn)出了極大的應用前景，它可以幫助為世界各地的患者提供更加精準、可用的高質量醫(yī)療服務。

近日在美國癌癥研究協(xié)會年會的一個演講中，Google通過一篇題為《增強現(xiàn)實顯微鏡實時自動檢測癌癥(正在審查)》的論文，介紹了一款增強現(xiàn)實顯微鏡的平臺原型。該平臺由一個經(jīng)過改良的光學顯微鏡組成，能夠對圖像進行實時分析并直接在用戶的視野中顯示機器學習算法的分析結果。

值得一提的是，只需使用低成本的、現(xiàn)成的元器件，就可以將這款增強現(xiàn)實顯微鏡改造成世界各地醫(yī)院和診所中常見的普通光學顯微鏡，而且無需對數(shù)字系統(tǒng)進行全面升級就能進行組織分析。

現(xiàn)代計算組件和深度學習模型——比如在 TensorFlow 平臺上構建的模型，使得這個增強現(xiàn)實顯微鏡平臺能夠運行大量的預訓練模型。和使用傳統(tǒng)顯微鏡的方法一樣，用戶通過目鏡觀察樣品，機器學習算法輸出的結果將實時投射到光路中，疊加在樣本的原始圖像之上，幫助觀察者快速定位和量化感興趣的特征。而且，平臺的計算和視覺反饋非常迅速——目前速度已經(jīng)達到了 10 幀/秒，這意味著當用戶移動組織或放大倍數(shù)做進一步觀察時，可以獲得流暢、無縫的視覺體驗。

左圖：增強現(xiàn)實顯微鏡的原理概述。一臺數(shù)碼相機捕捉到與用戶相同的視場(FoV)，然后將圖像傳送給一個附加的計算單元，該單元能夠運行實時推理的機器學習模型。隨后推理結果被反饋到一個定制的 AR 顯示屏，該顯示屏與目鏡內聯(lián)，并將模型輸出的結果與標本顯示在同一平面上。右圖：該圖展示了我們的平臺原型被改造成典型臨床級光學顯微鏡后的樣子。

理論上，增強現(xiàn)實顯微鏡可以提供各式各樣的視覺反饋，包括文本、箭頭、輪廓、熱圖和動畫，而且可以運行多種類型的機器學習算法以應對不同的任務，比如對象檢測、量化和分類等。

為了演示增強現(xiàn)實顯微鏡的功能，我們讓其運行兩種不同的癌癥檢測算法：一種用于檢測淋巴結標本中的乳腺癌轉移，另一種用于檢測前列腺切除術標本中的前列腺癌。這些算法可以在4-40x 的放大倍數(shù)下運行，并用綠色輪廓勾畫出檢測到腫瘤區(qū)域。這些輪廓可以幫助病理學家注意到感興趣的區(qū)域，而不至于遺漏外觀模糊的腫瘤細胞。

注：通過增強現(xiàn)實顯微鏡觀察到的視圖。這些圖像展示了 4x、10x、20x 和 40x 放大倍數(shù)下的淋巴結標本。

雖然這兩個癌癥檢測模型并非用增強現(xiàn)實顯微鏡直接捕獲的圖像進行訓練的，但它們在后者上表現(xiàn)非常出色，無需額外的訓練。我們相信，假如直接用增強現(xiàn)實顯微鏡獲取的圖像做進一步訓練，這些算法的表現(xiàn)還將繼續(xù)提升。

最初都是用來自一種光學結構完全不同的完整標本掃描儀的圖像訓練的，但他們在增強現(xiàn)實顯微鏡平臺上的表現(xiàn)非常出色，無需額外的在訓練。例如，淋巴結轉移檢測模型在增強現(xiàn)實顯微鏡上運行時曲線面積達到了 0.98，前列腺癌檢測模型的曲線面積達到了 0.96，僅略低于 WSI 上得到的結果。

我們相信，這款增強現(xiàn)實顯微鏡將給全球衛(wèi)生事業(yè)產(chǎn)生重大影響，尤其是在發(fā)展中國家的傳染病診斷方面——包括結核病和瘧疾等。此外，在即將采用數(shù)字病理工作流程的醫(yī)院，增強現(xiàn)實顯微鏡也可以與數(shù)字工作流程結合使用。光學顯微鏡已經(jīng)在很多行業(yè)已經(jīng)證明了其價值，但在病理學領域作用有限。我們相信增強現(xiàn)實顯微鏡可以應用于醫(yī)療、生命科學研究和材料科學等眾多領域。我們很高興能繼續(xù)探索這款增強現(xiàn)實顯微鏡，幫助加速機器學習技術在世界各地產(chǎn)生積極影響。