麻省理工學(xué)院的研究人員最近開(kāi)發(fā)出一種神經(jīng)網(wǎng)絡(luò)，能夠以相對(duì)較高的準(zhǔn)確度對(duì)個(gè)人患有認(rèn)知功能障礙的可能性做出預(yù)測(cè)。因此在一定程度上，我們可以將其理解為一種抑郁癥檢測(cè)器。

當(dāng)然，這種說(shuō)法并不準(zhǔn)確，我們將稍后詳加探討。

由麻省理工研究員Tuka Alhanai、Mohammad Ghassemi以及James Glass組成的研究團(tuán)隊(duì)在Interspeech 2018大會(huì)上展示其工作成果。

根據(jù)相關(guān)論文，他們開(kāi)發(fā)出一種無(wú)情境方法，可借此確保機(jī)器對(duì)人類的文本或音頻表達(dá)內(nèi)容進(jìn)行分析，從而檢測(cè)出該人的抑郁度評(píng)分。其中最為關(guān)鍵的，當(dāng)然在于這套人工智能方案的“無(wú)情境”因素。

一般來(lái)講，治療師需要利用經(jīng)過(guò)驗(yàn)證的問(wèn)題與直接觀察相結(jié)合，共同診斷對(duì)方的抑郁癥等精神健康狀況。而根據(jù)麻省理工學(xué)院團(tuán)隊(duì)的說(shuō)法，他們的人工智能能夠在無(wú)需條件性問(wèn)題或者直接觀察的前提下，實(shí)現(xiàn)類似的效果。換言之，其不需要情景信息，而只需要數(shù)據(jù)資料。

下面來(lái)看該團(tuán)隊(duì)所發(fā)布論文中的部分內(nèi)容：

麻省理工學(xué)院研究人員詳細(xì)介紹一種神經(jīng)網(wǎng)絡(luò)模型，該模型能夠通過(guò)訪談方式對(duì)原始文本及音頻數(shù)據(jù)進(jìn)行解析，從而發(fā)現(xiàn)可能預(yù)示抑郁癥疾病的表達(dá)模式。在給定新主題的情況下，其能夠準(zhǔn)確預(yù)測(cè)相關(guān)個(gè)體是否存在壓抑情緒，且不需要任何其它相關(guān)問(wèn)題及答案信息。

那么，這到底屬于檢測(cè)還是預(yù)測(cè)？

雖然看似無(wú)關(guān)緊要，但檢測(cè)與預(yù)測(cè)實(shí)際上屬于完全不同的兩回事。預(yù)測(cè)個(gè)體是否存在抑郁傾向的算法僅僅代表一種標(biāo)記數(shù)據(jù)，將被提交給治療師進(jìn)行進(jìn)一步審查。但對(duì)抑郁癥的檢測(cè)，則要求其給出的確定性結(jié)果確實(shí)與目標(biāo)個(gè)體的精神狀態(tài)相符。

當(dāng)然，研究人員們也意識(shí)到了這一點(diǎn)。論文第一作者Tuka Alhanai表示，“這不是在對(duì)抑郁癥進(jìn)行檢測(cè)，而是根據(jù)言語(yǔ)中的常見(jiàn)信號(hào)對(duì)個(gè)體的認(rèn)知障礙問(wèn)題做出一定程度的評(píng)估?！?/p>

幸好，看起來(lái)他們很明確地強(qiáng)調(diào)這是一種預(yù)測(cè)，而非檢測(cè)。但也正是這種微小的區(qū)別，使得這項(xiàng)工作在本質(zhì)上具有可怕的影響。

為了測(cè)試這套人工智能方案，研究人員們進(jìn)行了一項(xiàng)實(shí)驗(yàn)，由人為控制的虛擬代理對(duì)142名受試者提出一系列問(wèn)題，從而進(jìn)行抑郁癥篩查。人工智能并沒(méi)有事先了解問(wèn)題內(nèi)容，而受訪者亦可自由以任何形式做出回答。問(wèn)題的形式并非單項(xiàng)選擇，人工智能需要從語(yǔ)言線索當(dāng)中辨別抑郁癥。

在這項(xiàng)研究中，參與者的回答將以文本及音頻形式進(jìn)行記錄。在文本版本中，人工智能能夠在大約7個(gè)問(wèn)答序列之后預(yù)測(cè)抑郁癥。但有趣的是，在音頻版本當(dāng)中，人工智能需要大約30個(gè)序列才能做出決定。據(jù)研究人員稱，其平均準(zhǔn)確率達(dá)到驚人的77％。

問(wèn)題在哪？很明顯，相信任何能夠直接接受醫(yī)師診療的病患，都不會(huì)選擇這種預(yù)測(cè)方式。

在辦公室中觀察病人的治療師們顯然認(rèn)為自己擁有遠(yuǎn)超算法的診斷能力。而且這類人工智能方案與利用圖像識(shí)別／檢測(cè)癌癥不同。人類醫(yī)師可以通過(guò)醫(yī)學(xué)影像發(fā)現(xiàn)并清除癌癥（在大多數(shù)情況下），但卻無(wú)法利用同樣的方式驗(yàn)證人工智能做出的抑郁癥診斷。

從理論角度講，當(dāng)計(jì)算機(jī)與人類聆聽(tīng)同一段對(duì)話并最終做出截然相反的抑郁癥診斷結(jié)論時(shí)，我們?cè)撊绾闻袛嗾鎮(zhèn)?？或者，如果大家愿意，那么在?jì)算機(jī)發(fā)現(xiàn)對(duì)方存在潛在抑郁癥跡象時(shí)，我們是否也應(yīng)進(jìn)行相同的檢查以確保醫(yī)生做出的非抑郁癥判斷準(zhǔn)確無(wú)誤？在這樣的情況下，自動(dòng)化機(jī)制存在的意義是什么？

更重要的是，當(dāng)醫(yī)療專業(yè)人員以外的人士使用這種“抑郁癥檢測(cè)器”時(shí)，又會(huì)引發(fā)怎樣的后果？論文中的某些表達(dá)似乎證明，這些算法確實(shí)是為了在高枕而麻省理工學(xué)院實(shí)驗(yàn)環(huán)境之外的實(shí)際應(yīng)用而開(kāi)發(fā)：

患有抑郁癥的病患將長(zhǎng)年累月受到消極與悲傷情緒的困擾。要治療抑郁癥患者，必須首先對(duì)其做出診斷。而為了獲取診斷結(jié)果，受試個(gè)體必須主動(dòng)與心理健康專業(yè)人士進(jìn)行接觸。實(shí)際上，由于移動(dòng)性、成本與動(dòng)機(jī)等因素的限制，抑郁癥患者可能無(wú)法得到應(yīng)有的專業(yè)關(guān)注。在這種情況下，人工智能方案提供的人類交流內(nèi)容自動(dòng)監(jiān)測(cè)能力將解決這些限制，并提供更好的抑郁癥篩查服務(wù)。

對(duì)人類通信進(jìn)行自動(dòng)監(jiān)控似乎代表著夢(mèng)魘般的反烏托邦未來(lái)。我們可以想象，人們將在不知情的前提下面對(duì)一系列問(wèn)答序列，并由機(jī)器對(duì)其心理健康情況做出評(píng)估。相信大多數(shù)人都會(huì)意識(shí)到，在未經(jīng)同意的情況下利用神經(jīng)網(wǎng)絡(luò)這類黑匣子進(jìn)行心理健康評(píng)估絕不是什么好主意。

想象一下，如果企業(yè)利用“抑郁癥檢測(cè)器”這類人工智能方案在面試過(guò)程中對(duì)您進(jìn)行心理狀況檢測(cè)，或者律師通過(guò)算法解釋您在子女監(jiān)護(hù)權(quán)案件中的表述，會(huì)引發(fā)怎樣可怕的后果乃至影響。

更糟糕的是，我們甚至能夠想到警察局利用人工智能黑匣子對(duì)嫌疑人在審訊過(guò)程中的精神狀態(tài)進(jìn)行監(jiān)測(cè)。畢竟世界各地的執(zhí)法單位需要投入大量資金與寶貴時(shí)間對(duì)嫌疑人進(jìn)行心理學(xué)側(cè)寫(xiě)，而人工智能據(jù)稱能夠更好地“檢測(cè)”對(duì)方的情緒狀態(tài)。

可以想象，如果全面推出，這類解決方案最終一定會(huì)出現(xiàn)在審訊室、就業(yè)面試以及其它難以預(yù)知的場(chǎng)景當(dāng)中。我們絕不應(yīng)被人工智能的判斷所左右：機(jī)器絕對(duì)無(wú)法檢測(cè)到我們是否身為同性戀、有罪或者沮喪，它們只是在做出猜測(cè)。而身為人類，我們理應(yīng)非常謹(jǐn)慎地對(duì)這種猜測(cè)結(jié)果加以運(yùn)用。