三年前，人工智能先驅(qū) Geoffrey Hinton說(shuō)：“我們現(xiàn)在應(yīng)該停止培訓(xùn)放射科醫(yī)生。完全顯而易見(jiàn)的是，五年之內(nèi)，深度學(xué)習(xí)將比放射科醫(yī)生做得更好?！?/p>

如今，全球數(shù)百家新興公司都在嘗試將深度學(xué)習(xí)應(yīng)用于放射學(xué)。然而，被AI取代的放射科醫(yī)生的數(shù)量大約為零。（實(shí)際上，它們?cè)谑澜绶秶鷥?nèi)都短缺。）

至少就短期而言，該數(shù)字可能保持不變。事實(shí)證明，放射學(xué)比欣頓和其他許多人想象的要自動(dòng)化得多。對(duì)于一般醫(yī)學(xué)而言，情況同樣如此。有概念的許多證據(jù)，如的自動(dòng)診斷從胸部X射線(xiàn)，但在其中深學(xué)習(xí)（機(jī)器學(xué)習(xí)技術(shù)，它是目前最占優(yōu)勢(shì)的方法來(lái)AI）已經(jīng)實(shí)現(xiàn)了變換和改進(jìn)出奇少數(shù)情況下經(jīng)常答應(yīng)了。

首先，有關(guān)深度學(xué)習(xí)有效性的實(shí)驗(yàn)室證據(jù)并不像看起來(lái)那樣可靠。當(dāng)使用AI的機(jī)器勝過(guò)人類(lèi)的機(jī)器時(shí)，正面的結(jié)果往往會(huì)引起媒體的廣泛關(guān)注，而當(dāng)機(jī)器的表現(xiàn)不如人類(lèi)時(shí)，負(fù)面的結(jié)果則很少在學(xué)術(shù)期刊上報(bào)道，甚至更少的媒體報(bào)道。

同時(shí)，越來(lái)越多的文學(xué)作品表明，深度學(xué)習(xí)從根本上容易受到“對(duì)抗性攻擊”的攻擊，并且常常容易被虛假的聯(lián)想所欺騙。例如，如果一輛翻倒的校車(chē)碰巧被雪包圍，可能會(huì)誤認(rèn)為是掃雪機(jī)。用幾片膠帶改變了停車(chē)標(biāo)志，因此深度學(xué)習(xí)系統(tǒng)將其誤認(rèn)為是速度限制。如果這些問(wèn)題在機(jī)器學(xué)習(xí)社區(qū)中廣為人知，那么它們的含義在醫(yī)學(xué)界就不太為人所理解了。

例如，在X射線(xiàn)圖像上進(jìn)行訓(xùn)練以進(jìn)行診斷決策的深度學(xué)習(xí)算法可以輕松地檢測(cè)用于制作圖像的成像機(jī)?？紤]這種假設(shè)情況：醫(yī)院使用兩種不同型號(hào)的X射線(xiàn)機(jī)-一種便攜式，一種安裝在固定位置。因病情臥床不起的患者必須使用便攜式機(jī)器在床旁成像。這意味著機(jī)器的選擇與條件的存在相關(guān)。而且，由于AI算法對(duì)使用哪臺(tái)機(jī)器高度敏感，因此它可能會(huì)無(wú)意中誤認(rèn)為與機(jī)器有關(guān)的基本條件信息。在醫(yī)院中始終使用便攜式機(jī)器的相同算法可能會(huì)產(chǎn)生混淆的決定。

實(shí)際上，深度學(xué)習(xí)僅在狹義的技術(shù)意義上（即在神經(jīng)網(wǎng)絡(luò)中使用了多少“層”的準(zhǔn)神經(jīng)元）是深度的，而不是在概念上。深度學(xué)習(xí)系統(tǒng)擅長(zhǎng)在訓(xùn)練數(shù)據(jù)中查找關(guān)聯(lián)，但無(wú)法區(qū)分因果相關(guān)和意外相關(guān)，例如成像設(shè)備上的模糊。虛假的聯(lián)想可能會(huì)被過(guò)度加權(quán)。

例如，在通過(guò)圖像診斷皮膚癌時(shí)，皮膚科醫(yī)生只有在懷疑皮膚癌的情況下才可以使用尺子來(lái)確定皮膚的大小。這樣，尺子的存在與圖像數(shù)據(jù)中的癌癥診斷相關(guān)聯(lián)。AI算法可以很好地利用這種關(guān)聯(lián)而不是病變的視覺(jué)外觀(guān)來(lái)做出癌癥決策。但是統(tǒng)治者實(shí)際上并沒(méi)有引起癌癥，這意味著該系統(tǒng)很容易被誤導(dǎo)。