6月28日消息，堪薩斯州立大學(xué)和路易斯維爾大學(xué)的三位AI安全研究人員合作發(fā)布了的一篇新論文《A Psychopathological Approach to Safety Engineering in AI and AGI》，如果AI學(xué)會(huì)像人一樣思考，那么有朝一日它也可能會(huì)身患?jí)毫鸵钟舭Y等癥狀。

一、機(jī)器人抑郁關(guān)我什么事？

機(jī)器人或許現(xiàn)在暫時(shí)還不需要被治療，但認(rèn)知心理學(xué)已經(jīng)被發(fā)現(xiàn)是理解人工智能決策的有效途徑。此外，一些研究人員表示，現(xiàn)在開(kāi)始研究機(jī)器發(fā)展強(qiáng)迫癥或抑郁傾向的可能已經(jīng)不算早了。

這篇論文的合著者、堪薩斯州立大學(xué)的一位博士候選人Vahid Behzadan表示，即使是當(dāng)前相對(duì)基本的機(jī)器學(xué)習(xí)算法也可以表現(xiàn)出與人類(lèi)相似的認(rèn)知問(wèn)題。

1、“獎(jiǎng)勵(lì)黑客”

“獎(jiǎng)勵(lì)黑客”，就是指不合適的獎(jiǎng)勵(lì)設(shè)置可能導(dǎo)致AI走向“強(qiáng)迫性表面行為”（Compulsive-seeming behaviors），也就是說(shuō)，AI可能會(huì)做一些表面服從而背后偷偷耍小聰明的事。舉個(gè)例子，一個(gè)清潔機(jī)器人被程序設(shè)定為每次完成清理時(shí)都會(huì)收到獎(jiǎng)勵(lì)。那么，與其保持一片無(wú)瑕的區(qū)域，它可能會(huì)更樂(lè)于反復(fù)地制造混亂，這樣它就能在每次清理時(shí)獲得獎(jiǎng)勵(lì)。

2、AI可以學(xué)習(xí)別人的不良行為

麻省理工學(xué)院的科學(xué)家故意創(chuàng)造了一個(gè)不正常的AI，通過(guò)給它灌輸Reddit論壇里魚(yú)龍混雜的評(píng)論，導(dǎo)致它的行為活像一個(gè)精神病患者。巧合的是，微軟也做了類(lèi)似的工作，即讓一個(gè)名為T(mén)ay的聊天機(jī)器人學(xué)習(xí)Twitter用戶們的評(píng)論方式。

二、成熟的AI更容易患上心理疾病

一些專(zhuān)家表示，更發(fā)達(dá)的AI可能更容易患上更復(fù)雜的身心失調(diào)問(wèn)題。

1、機(jī)器人可能有抑郁癥表現(xiàn)

葡萄牙尚帕利莫中心（the Champalimaud Center）的神經(jīng)科學(xué)家Zachary Mainen推測(cè)道，如果機(jī)器人的學(xué)習(xí)速率被設(shè)置的太低，它很可能無(wú)法適應(yīng)周?chē)h(huán)境。

2、并非所有的“負(fù)面”情緒都不好

一位長(zhǎng)期的AI研究人員Jim Crowder曾在雷神公司（Raytheon）合著了一篇人工心理學(xué)論文，他認(rèn)為負(fù)面情緒在某些情況下也不都是壞事。比如，壓力感能夠在高風(fēng)險(xiǎn)情況下引起機(jī)器人的緊迫感。

三、但是，但是，但是……

這些后面所說(shuō)的可能性僅僅是現(xiàn)在設(shè)想的AI實(shí)驗(yàn)方向。與此同時(shí)，谷歌在2014年收購(gòu)的英國(guó)AI公司DeepMind已經(jīng)應(yīng)用心理學(xué)工具來(lái)分析神經(jīng)網(wǎng)絡(luò)如何解決基本的圖像分類(lèi)任務(wù)。

1、研究人員使用發(fā)展心理學(xué)家的方法，以研究DeepMind圖像分類(lèi)器正用于分類(lèi)對(duì)象這一假設(shè)。他們發(fā)現(xiàn)，這個(gè)分類(lèi)器更傾向于根據(jù)它們的形狀而不是它們的顏色或紋理來(lái)匹配對(duì)象。

2、DeepMind的兩名研究人員在他們的實(shí)驗(yàn)中寫(xiě)道：“案例研究的成功證明了使用認(rèn)知心理學(xué)來(lái)理解深度學(xué)習(xí)系統(tǒng)的潛力?！?/p>

結(jié)語(yǔ)：大藍(lán)圖——AI心理學(xué)家

無(wú)論是人類(lèi)還是專(zhuān)門(mén)的算法，可能總有一天需要AI心理學(xué)家用人類(lèi)心理學(xué)家試圖理解我們心理的方法來(lái)探究AI大腦。Behzadan認(rèn)為，這項(xiàng)研究可以為人類(lèi)心理學(xué)和人類(lèi)精神病理學(xué)提供更深入的見(jiàn)解。