機(jī)器人已經(jīng)滲入人類(lèi)生活的方方面面，從掃地機(jī)器人，到工業(yè)生產(chǎn)線上的組裝機(jī)器人，它們給我們的生活帶來(lái)了很大的便利。隨著人類(lèi)與機(jī)器人的合作越來(lái)越緊密，對(duì)機(jī)器人的設(shè)計(jì)的要求也達(dá)到了前所未有的高度。在2019年的#全球新興科技峰會(huì)#上，卡耐基梅隆大學(xué)教授KatiaSycara從社會(huì)學(xué)的角度分享了她對(duì)未來(lái)機(jī)器人設(shè)計(jì)要求的一些看法。

她指出，未來(lái)機(jī)器人也學(xué)會(huì)遵守道德規(guī)范和社會(huì)倫理，以更好地適應(yīng)人類(lèi)社會(huì)。比如，機(jī)器人要尊重隱私，你在家里面工作，你不能夠不敲門(mén)就進(jìn)浴室、臥室；對(duì)于機(jī)器人來(lái)說(shuō)，如果它在打掃衛(wèi)生，它是不是也該敲敲門(mén)才能進(jìn)去。再比如，機(jī)器人要懂得規(guī)則的限制，一個(gè)合格的自動(dòng)駕駛機(jī)器人需要遵守交通規(guī)則，保持在限速以下行駛。

圖丨KatiaSycara（圖片來(lái)源：DeepTech）

但是，在一些特定的環(huán)境中，機(jī)器人還需要打破規(guī)則，靈活處理。無(wú)人駕駛在送傷員去醫(yī)院的過(guò)程中，可能要超速行駛，否則傷員會(huì)有生命危險(xiǎn)；再比如，家中起火后，機(jī)器人不能僅僅是在敲門(mén)等著你出來(lái)，相反，它應(yīng)當(dāng)跳過(guò)這個(gè)程序破門(mén)而入，把你救出來(lái)。

除此之外，機(jī)器人還要學(xué)會(huì)識(shí)別同一行為在不同語(yǔ)境下的微妙區(qū)別。比如說(shuō)，我們要求機(jī)器人有任何信息要告知我們，這本身是無(wú)可厚非的，但是如果你在和你的朋友一起在吃飯，然后機(jī)器人過(guò)來(lái)告訴你說(shuō)明天你要去看醫(yī)生，這個(gè)時(shí)候它實(shí)際上就打破了你的隱私；而如果你正在和你的老板吃飯，然后你的機(jī)器人過(guò)來(lái)說(shuō)你明天要重新去面試另一個(gè)工作，那就更糟了。

所以，機(jī)器人的決策有很大的不確定性。我們很難把這些東西都用硬件或者編程來(lái)解決，因?yàn)樗械倪@些都是會(huì)產(chǎn)生不同影響和結(jié)果的決策。在探索解決這一挑戰(zhàn)的過(guò)程中，人類(lèi)研究出了很多算法，其中包括人工智能的算法。把邏輯推理和可能性推理結(jié)合起來(lái)需要大量的計(jì)算，用傳統(tǒng)的算法會(huì)有很大的壓力。在這次大會(huì)上，Sycar 教授簡(jiǎn)單介紹了一種叫作模組化規(guī)范 (Modular Normative MDP) 的算法。她指出，模組化規(guī)范相比傳統(tǒng)有兩個(gè)優(yōu)點(diǎn)：第一，保證了一定的準(zhǔn)確性，第二，提升計(jì)算能力。

除了機(jī)器人本身的改進(jìn)以外，Sycara 教授在大會(huì)上還提到，對(duì)機(jī)器人的信任度是團(tuán)隊(duì)中人機(jī)合作的核心要求。

現(xiàn)在已經(jīng)有很多的機(jī)器人會(huì)和人類(lèi)發(fā)生互動(dòng)。在一些比較輕松松散的互動(dòng)中，人類(lèi)的角色是監(jiān)視者，控制者和維修者；而在互動(dòng)非常的緊密的活動(dòng)中，是人類(lèi)與機(jī)器人的關(guān)系更多的是團(tuán)隊(duì)成員或者是同事，兩者會(huì)有頻繁的信息交換，甚至人類(lèi)要指導(dǎo)機(jī)器人。

而團(tuán)隊(duì)協(xié)作的核心是信任。所謂信任，是一個(gè)人對(duì)另一個(gè)人的態(tài)度。當(dāng)涉及到機(jī)器人時(shí)，人們更愿意使用他們信任的機(jī)器人，信任機(jī)制需要在合作的多個(gè)維度中得到滿(mǎn)足。

在自動(dòng)駕駛領(lǐng)域，信任機(jī)制更加重要。人類(lèi)司機(jī)會(huì)通過(guò)手勢(shì)來(lái)告訴對(duì)方什么時(shí)候走，誰(shuí)先走。機(jī)器人也要有一套類(lèi)似的交流機(jī)制，如果沒(méi)有信任的道路上，車(chē)之間就會(huì)互相猜疑，在別的車(chē)停住的情況下不敢走，造成交通堵塞。

而且信任是動(dòng)態(tài)的，在不同的文化背景之下信任也不盡相同，我們對(duì)于不同的文化也要進(jìn)行研究。比如，很多科技帶有濃重的西方的文化和價(jià)值觀，卻被運(yùn)用在所有文化中，這中間會(huì)產(chǎn)生一定的不協(xié)調(diào)。

除了信任度，透明度也是人機(jī)合作中的另一個(gè)重要方面。

Sycara 教授指出，在一個(gè)團(tuán)隊(duì)中，我們都需要在某種程度上，了解其他人的想法，以及他們的行為和方法。在人類(lèi)之間，這些行為并不陌生，因?yàn)楹芏嗲闆r下，我們都會(huì)有一些比較類(lèi)似的背景，或者比較相似的社交性，但是對(duì)于機(jī)器人而言，沒(méi)有那么容易。

所謂透明性，就是在智能化應(yīng)用當(dāng)中，我需要了解這些智能體的目的、推理過(guò)程，我需要有能力去預(yù)測(cè)這些智能體的未來(lái)是什么樣子的。雖然人工智能和深度學(xué)習(xí)已經(jīng)十分強(qiáng)大，這些算法在透明性上做得還不夠?，F(xiàn)在的深度增強(qiáng)學(xué)習(xí)，可以讓機(jī)器去理解不同的圖像，來(lái)解釋自己。

最后，她指出，機(jī)器人會(huì)在人工智能算法指導(dǎo)下做出一些荒謬的行為。比如，掃垃圾機(jī)器人的獎(jiǎng)賞函數(shù)要求它收集盡可能多的垃圾箱，這個(gè)機(jī)器人就會(huì)將收集起來(lái)的垃圾箱扔得到處都是，不斷進(jìn)扔掉，不斷地?fù)炱饋?lái)，以得到更高的分?jǐn)?shù)。這就是意外的結(jié)果。在我們和機(jī)器人的互動(dòng)越來(lái)越多的時(shí)候，未來(lái)使用機(jī)器人會(huì)變得越來(lái)越有挑戰(zhàn)性。人類(lèi)在設(shè)計(jì)這些系統(tǒng)的時(shí)候，要充分考慮到這種情況。