人工智能的最新進(jìn)展引發(fā)了幾個(gè)道德困境。也許其中最重要的是人類是否能夠控制自主機(jī)器。

由人工智能驅(qū)動(dòng)的機(jī)器人負(fù)責(zé)家務(wù)或自動(dòng)駕駛車輛（如亞馬遜）越來(lái)越常見。雖然這類技術(shù)使生活更輕松，但也可能使生活更復(fù)雜。

一個(gè)國(guó)際研究小組警告說(shuō)，創(chuàng)建過于強(qiáng)大和獨(dú)立的軟件有潛在的風(fēng)險(xiǎn)。通過一系列的理論計(jì)算，科學(xué)家們探索了如何控制人工智能。根據(jù)《人工智能研究門戶雜志》發(fā)表的研究報(bào)告，他的結(jié)論是不可能。

“控制世界的超級(jí)智能機(jī)器聽起來(lái)像科幻小說(shuō)。但是，已經(jīng)有一些機(jī)器能夠獨(dú)立執(zhí)行某些重要任務(wù)，而程序員卻不完全了解他們是如何學(xué)習(xí)的，這種情況在某種程度上可能會(huì)變得無(wú)法控制，對(duì)人類是危險(xiǎn)的，”這項(xiàng)研究的合著者曼努埃爾塞布賴恩在馬克斯普朗克人類發(fā)展研究所說(shuō)。

科學(xué)家們嘗試了兩種控制人工智能的方法。一種是將它與互聯(lián)網(wǎng)和其他設(shè)備隔離開，從而限制了它與外界的聯(lián)系。問題是，這將大大降低其執(zhí)行為其創(chuàng)建功能的能力。

另一種是設(shè)計(jì)一種“理論上的遏制算法”，以確保人工智能“在任何情況下都不會(huì)傷害人”。但是，對(duì)當(dāng)前計(jì)算范式的分析表明，無(wú)法創(chuàng)建此類算法。

“如果將問題分解為理論計(jì)算的基本規(guī)則，結(jié)果表明，指示AI不要破壞世界的算法可能會(huì)無(wú)意間停止其自身的運(yùn)行。如果發(fā)生這種情況，我們將不知道遏制算法是否會(huì)繼續(xù)分析威脅，或者是否會(huì)停止遏制有害的AI。實(shí)際上，這使遏制算法無(wú)法使用，”另一位研究人員Iyad Rahwan解釋說(shuō)。

基于這些計(jì)算，問題在于沒有算法可以確定AI是否會(huì)損害世界。研究人員還指出，人類甚至可能不知道什么時(shí)候超級(jí)智能機(jī)器才出現(xiàn)，因?yàn)榇_定一種設(shè)備是否具有比人類優(yōu)越的智能與遏制問題是同一領(lǐng)域。
責(zé)任編輯：YYX