人工智能技術(shù)的飛速發(fā)展為生產(chǎn)效率的提高帶來(lái)了跨越式的改變，但同時(shí)也給人類(lèi)未來(lái)引發(fā)了一系列挑戰(zhàn)。其中，人工智能發(fā)展最大的問(wèn)題，不是技術(shù)上的瓶頸，而是人工智能與人類(lèi)的關(guān)系問(wèn)題，這催生了人工智能倫理問(wèn)題的爭(zhēng)議。《銀翼殺手》《西部世界》等影視劇中人工智能反抗甚至超越人類(lèi)的場(chǎng)景是否真的可能出現(xiàn)？我們又將如何有效規(guī)制人工智能技術(shù)和產(chǎn)業(yè)的發(fā)展呢？帶著這些問(wèn)題，看看新聞knews記者專(zhuān)訪了上海社會(huì)科學(xué)院互聯(lián)網(wǎng)研究中心主任、研究員惠志斌。

看看新聞knews記者：“人工智能發(fā)展至今面臨了哪些方面的倫理挑戰(zhàn)？”

惠志斌：“人工智能的技術(shù)，是一個(gè)變革性的技術(shù)，它對(duì)整個(gè)政治經(jīng)濟(jì)社會(huì)等各領(lǐng)域都是全方面的重塑。第一從經(jīng)濟(jì)層面來(lái)說(shuō)結(jié)構(gòu)性的失業(yè)是一個(gè)很大的問(wèn)題。智能化的技術(shù)會(huì)去取代我們的一些簡(jiǎn)單重復(fù)性的勞動(dòng)職業(yè)，比如說(shuō)我們的收銀員，比如說(shuō)我們的流水線上一線工人都會(huì)有可能被結(jié)構(gòu)性地替代。第二我覺(jué)得從社會(huì)層面來(lái)說(shuō)，我們面臨著數(shù)據(jù)隱私方面非常大的挑戰(zhàn)。我們走在這樣一個(gè)智慧城市的體系里面，我們是不是需要擔(dān)心我們的所有的行蹤，我們所有做的一些行為都會(huì)被無(wú)差別地記錄下來(lái)。第三方面的影響在軍事領(lǐng)域。越來(lái)越多的自動(dòng)化武器系統(tǒng)的產(chǎn)生，會(huì)不會(huì)就顛覆了我們傳統(tǒng)的一些戰(zhàn)爭(zhēng)形態(tài)。第四方面從家庭倫理的角度考量，類(lèi)似陪護(hù)這樣機(jī)器人的出現(xiàn)，有可能它會(huì)對(duì)我們的婚姻制度造成重大的挑戰(zhàn)。”

看看新聞knews記者：“人臉識(shí)別技術(shù)的廣泛應(yīng)用引發(fā)爭(zhēng)議，大家認(rèn)為在技術(shù)進(jìn)步的同時(shí)也侵犯了公民隱私權(quán)，就此您如何看待？”

惠志斌：“人臉識(shí)別等等一系列方面的應(yīng)用，其實(shí)很多國(guó)家已經(jīng)開(kāi)始對(duì)它進(jìn)行一些規(guī)范，不是說(shuō)完全不用或者不是說(shuō)完全放棄這樣的一個(gè)人臉識(shí)別技術(shù)。就是說(shuō)我們?cè)谑褂眠@樣的人臉識(shí)別技術(shù)的時(shí)候，需要考慮更多的對(duì)公民的隱私權(quán)的一些保護(hù)，不要進(jìn)行一些大規(guī)模的、無(wú)差別的，沒(méi)有經(jīng)過(guò)用戶同意和授權(quán)的，或者是不僅僅是公共場(chǎng)所，甚至一些半公共場(chǎng)所，甚至一些涉及到比如說(shuō)我們的有一定的私人領(lǐng)域里，都進(jìn)行了這樣的人工智能的技術(shù)的一種監(jiān)控，那這個(gè)會(huì)帶來(lái)我覺(jué)得對(duì)一些社會(huì)的一些影響?！?/p>

看看新聞knews記者：“facebook選擇關(guān)閉智能對(duì)話機(jī)器人項(xiàng)目，IBM、亞馬遜和微軟聲明不再向警方提供人臉識(shí)別。您認(rèn)為這是不是公司為了避免陷入倫理爭(zhēng)議而做出的一種放棄？”

惠志斌：“這些技術(shù)的創(chuàng)新尤其是在過(guò)去的二十年，發(fā)展非常之快。但是原來(lái)的一些配套性制度、法律，其實(shí)相對(duì)來(lái)說(shuō)它還是一個(gè)滯后的狀態(tài)，那么在這樣的一個(gè)滯后狀態(tài)下很多社會(huì)的共識(shí)又沒(méi)有完全形成。在這個(gè)過(guò)程中很多公司他們也在積極地去嘗試，做制度層面的一些探索。我認(rèn)為這些公司它并不是不使用，并不是完全放棄這個(gè)技術(shù)。它可能需要去等一等，它需要看到社會(huì)對(duì)這個(gè)技術(shù)的接納或者是適應(yīng)的程度究竟如何，法律與相關(guān)的其他配套性制度有沒(méi)有逐步地完善起來(lái)。當(dāng)這些逐步地完善起來(lái)的時(shí)候，我相信技術(shù)可以更好地發(fā)展。這就像兩個(gè)輪子一樣，它需要兩個(gè)去協(xié)調(diào)和配套。當(dāng)一個(gè)輪子跑太快的時(shí)候那肯定是要翻車(chē)的，所以一個(gè)輪子它在等另一個(gè)輪子怎么走上來(lái)，怎么讓制度建設(shè)這個(gè)輪子更好地去配合科技產(chǎn)業(yè)這個(gè)輪子的發(fā)展?！?/p>

看看新聞knews記者：“倫理問(wèn)題的爭(zhēng)議是否有可能對(duì)人工智能的發(fā)展產(chǎn)生影響呢？”

惠志斌：“人工智能這樣的一個(gè)技術(shù)所帶來(lái)的其實(shí)是對(duì)傳統(tǒng)的一些經(jīng)濟(jì)社會(huì)形態(tài)的重大改變。那在這個(gè)里面它必然伴生著一些倫理問(wèn)題的產(chǎn)生。這就好像是一個(gè)硬幣的兩個(gè)方面，當(dāng)我們不能夠很好地解決這樣的倫理問(wèn)題，包括法治的、安全的等等一系列的問(wèn)題的時(shí)候，我們?nèi)斯ぶ悄艿漠a(chǎn)業(yè)、技術(shù)也有可能受到限制。它在發(fā)展中間也許就會(huì)對(duì)這個(gè)社會(huì)造成重大的沖擊。當(dāng)社會(huì)無(wú)法承受的時(shí)候，可能就反向地會(huì)去遏制人工智能技術(shù)人工智能產(chǎn)業(yè)的健康發(fā)展?！?/p>

看看新聞knews記者：“倫理問(wèn)題在人工智能發(fā)展過(guò)程中的意義是什么？”

惠志斌：“我們都要有一定的共識(shí)，到底什么樣的人工智能的技術(shù)和應(yīng)用是應(yīng)該去倡導(dǎo)的，是應(yīng)該去鼓勵(lì)的；什么樣的人工智能技術(shù)我們還需要去看一看，還需要去等一等。我們首先考量它的風(fēng)險(xiǎn)到底有多大，再去看它的技術(shù)到底用不用。那在倫理這個(gè)層面，我們經(jīng)過(guò)深入探討，有了更多的共識(shí)以后，然后我們才可以更加精準(zhǔn)地去進(jìn)行一些符合未來(lái)發(fā)展方向的立法和執(zhí)法，以及其他配套性的制度建設(shè)。所以倫理是基礎(chǔ)，是人工智能發(fā)展過(guò)程中大家共識(shí)形成的一個(gè)過(guò)程?！?/p>

看看新聞knews記者：“公眾對(duì)于人工智能可能擺脫人類(lèi)控制甚至反噬人類(lèi)的擔(dān)憂，您如何看待？”

惠志斌：“目前人工智能總體來(lái)說(shuō)還處于一個(gè)弱人工智能時(shí)代，在這個(gè)階段里面，我覺(jué)得大部分的人工智能產(chǎn)品和技術(shù)還是相對(duì)可控的。但是隨著技術(shù)的發(fā)展，人工智能必然向著強(qiáng)人工智能或者是通用人工智能的時(shí)代去演進(jìn)，但在這個(gè)過(guò)程中間，我們還是需要去高度警惕。因?yàn)槿斯ぶ悄芸赡苁侨祟?lèi)有史以來(lái)唯一無(wú)法試錯(cuò)的這樣的技術(shù)，一旦它脫離了人的控制，有可能對(duì)人類(lèi)就是一個(gè)滅頂之災(zāi)?！?br /> ? ? ? ?責(zé)任編輯:pj