醫(yī)療保健行業(yè)似乎是部署人工智能系統(tǒng)的理想場(chǎng)所。每次的醫(yī)學(xué)檢測(cè)、醫(yī)生診斷及過(guò)程，都是被記錄下來(lái)的，而且患者的醫(yī)療記錄正越來(lái)越多地以電子格式存儲(chǔ)。人工智能系統(tǒng)可以分析這些數(shù)據(jù)并得出結(jié)論，指出如何提供更好的和更具成本效益的護(hù)理。

許多研究人員正在建立這樣的AI系統(tǒng)。醫(yī)學(xué)和計(jì)算機(jī)科學(xué)期刊上發(fā)表了很多介紹實(shí)驗(yàn)性AI系統(tǒng)的文章，這些AI系統(tǒng)可以解析患者記錄，掃描影像，并給出關(guān)于患者健康情況的診斷和預(yù)測(cè)。然而，這些系統(tǒng)還鮮有進(jìn)入醫(yī)院和診所以發(fā)揮其價(jià)值的。

阻礙因素是什么呢？匹茲堡大學(xué)醫(yī)學(xué)院的研究員和醫(yī)生ShinjiniKundu說(shuō)，障礙并不在于技術(shù)方面?！罢系K主要在信任方面，”她說(shuō)。“你可能有一項(xiàng)很棒的技術(shù)，但你如何讓人們使用這項(xiàng)技術(shù)并信賴它呢？”

大多數(shù)醫(yī)療AI系統(tǒng)都是攝入數(shù)據(jù)后給出答案的“黑匣子”。以他們不理解的推理為基礎(chǔ)進(jìn)行治療，醫(yī)生們對(duì)此心存擔(dān)憂，這是可以理解的。因此，研究人員正在嘗試各種技術(shù)來(lái)創(chuàng)建能展示其如何工作的系統(tǒng)。

給我們畫(huà)一幅圖

Kundu最近在聯(lián)合國(guó)的AIforGood會(huì)議上介紹了她的研究。她正致力于研究對(duì)醫(yī)學(xué)圖像進(jìn)行分析并解釋其所見(jiàn)的AI。她的系統(tǒng)包含一個(gè)機(jī)器學(xué)習(xí)組件，該組件檢查諸如MRI掃描影像等的圖像，并找出醫(yī)生感興趣的圖案。

在Kundu最近的實(shí)驗(yàn)中，AI分析了若干膝關(guān)節(jié)MRI影像并預(yù)測(cè)了哪些膝蓋會(huì)在三年內(nèi)發(fā)生骨關(guān)節(jié)炎。然后，使用一種稱為“生成建模”（generativemodeling）的技術(shù)，AI創(chuàng)建了一幅新圖像——一幅顯示出膝蓋肯定會(huì)發(fā)展這種狀況的MRI影像。Kundu說(shuō)他們啟用了一個(gè)黑匣子分類器來(lái)生成這些新圖像。

照片來(lái)源：上圖，OsteoarthritisInitiative；下圖，UniversityofPittsburghSchoolofMedicine。

預(yù)測(cè)的力量：人類的眼睛無(wú)法分辨出那些在三年內(nèi)會(huì)發(fā)生膝關(guān)節(jié)炎的患者和不會(huì)發(fā)生膝關(guān)節(jié)炎的患者的MRI掃描影像之間的區(qū)別。但AI發(fā)現(xiàn)了它們?cè)谲浌菆D案部分的微妙差異，并向研究人員展示了這些差異。

AI系統(tǒng)生成的圖像顯示，它是基于顯示在MRI掃描影像中的軟骨的細(xì)微變化（人類醫(yī)生沒(méi)能注意到它們）來(lái)做出預(yù)測(cè)的。Kundu說(shuō)：“這是這項(xiàng)工作另一個(gè)很重要的方面。它幫助人類了解關(guān)節(jié)炎的早期發(fā)育過(guò)程可能是怎樣的。”

現(xiàn)在你看到了什么？

加利福尼亞大學(xué)的助理教授和執(zhí)業(yè)心臟病專家RimaArnaout訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò)來(lái)對(duì)超聲心動(dòng)圖進(jìn)行分類（超聲波掃描對(duì)于心臟疾病的診斷是至關(guān)重要的）。在今年3月份的NPJDigitalMedicine期刊上，發(fā)表了她對(duì)其第一版AI系統(tǒng)的介紹。在從對(duì)心臟進(jìn)行透視的角度分類低分辨率的圖像上，該系統(tǒng)所做的分類結(jié)果比心臟科醫(yī)生所做的要更準(zhǔn)確。該系統(tǒng)的下一版本將使用這些信息來(lái)識(shí)別視野中的解剖結(jié)構(gòu)并診斷心臟疾病和缺陷。

圖片來(lái)源：Rima Arnaout

但這樣的診斷系統(tǒng)不太可能被醫(yī)生們接受：“我永遠(yuǎn)不會(huì)因?yàn)橛?jì)算機(jī)讓我這樣做就做出與我自己的判斷不相符的診斷，”Arnaout說(shuō)。為此，她使用了兩種技術(shù)來(lái)理解她的分類器是如何做出決定的。在遮擋實(shí)驗(yàn)中，她對(duì)待測(cè)圖像的部分區(qū)域進(jìn)行了遮擋，看看AI的答案會(huì)如何改變；通過(guò)顯著性映射，她將神經(jīng)網(wǎng)絡(luò)給出的最終答案向原始圖像追溯，以發(fā)現(xiàn)哪些像素承載的權(quán)重最大。

這兩種技術(shù)都顯示了AI依賴圖像的一部分來(lái)做出決策。令人鼓舞的是，對(duì)人工智能決策貢獻(xiàn)最大的結(jié)構(gòu)也是人類專家認(rèn)為重要的結(jié)構(gòu)。

超越相關(guān)性

微軟研究院的首席研究員RichCaruana幾十年來(lái)一直致力于創(chuàng)建不僅智能而且易懂的機(jī)器學(xué)習(xí)模型。他的人工智能使用醫(yī)院的電子健康記錄來(lái)預(yù)測(cè)患者的預(yù)后情況。但他發(fā)現(xiàn)，即使是看似高度準(zhǔn)確的模型，也會(huì)隱藏著嚴(yán)重的缺陷。

在他正進(jìn)行的一項(xiàng)研究中，他訓(xùn)練了一個(gè)機(jī)器學(xué)習(xí)模型，用來(lái)區(qū)分應(yīng)住院治療的肺炎高風(fēng)險(xiǎn)患者和可以在家休養(yǎng)的肺炎低風(fēng)險(xiǎn)患者。該模型發(fā)現(xiàn)患有心臟病的人死于肺炎的可能性較小，并自信地?cái)嘌赃@些患者風(fēng)險(xiǎn)較低。

Caruana解釋說(shuō)，被診斷患有肺炎的心臟病患者在風(fēng)險(xiǎn)高低方面之所以有更好的輸出結(jié)果，并不是因?yàn)樗麄兙褪秋L(fēng)險(xiǎn)低，而是因?yàn)樗麄兺ǔＴ谝怀霈F(xiàn)呼吸問(wèn)題時(shí)就去急診室，因而第一時(shí)間得到了診斷和治療?！澳Ｐ桶l(fā)現(xiàn)的相關(guān)性是真實(shí)的，”Caruana說(shuō)，“但如果我們用它來(lái)指導(dǎo)醫(yī)療干預(yù)，那么實(shí)際上我們會(huì)受到傷害，甚至可能會(huì)害死一些病人?！被谶@樣的發(fā)現(xiàn)，他現(xiàn)在正在研究能清楚地顯示變量之間關(guān)系的機(jī)器學(xué)習(xí)模型，以便讓他能判斷模型是否不僅在統(tǒng)計(jì)學(xué)上是準(zhǔn)確的，而且在臨床上也是有用的。