機(jī)器人已經(jīng)滲入人類生活的方方面面，從掃地機(jī)器人，到工業(yè)生產(chǎn)線上的組裝機(jī)器人，它們給我們的生活帶來了很大的便利。隨著人類與機(jī)器人的合作越來越緊密，對機(jī)器人的設(shè)計的要求也達(dá)到了前所未有的高度。在2019年的#全球新興科技峰會#上，卡耐基梅隆大學(xué)教授KatiaSycara從社會學(xué)的角度分享了她對未來機(jī)器人設(shè)計要求的一些看法。

她指出，未來機(jī)器人也學(xué)會遵守道德規(guī)范和社會倫理，以更好地適應(yīng)人類社會。比如，機(jī)器人要尊重隱私，你在家里面工作，你不能夠不敲門就進(jìn)浴室、臥室；對于機(jī)器人來說，如果它在打掃衛(wèi)生，它是不是也該敲敲門才能進(jìn)去。再比如，機(jī)器人要懂得規(guī)則的限制，一個合格的自動駕駛機(jī)器人需要遵守交通規(guī)則，保持在限速以下行駛。

圖丨KatiaSycara（圖片來源：DeepTech）

但是，在一些特定的環(huán)境中，機(jī)器人還需要打破規(guī)則，靈活處理。無人駕駛在送傷員去醫(yī)院的過程中，可能要超速行駛，否則傷員會有生命危險；再比如，家中起火后，機(jī)器人不能僅僅是在敲門等著你出來，相反，它應(yīng)當(dāng)跳過這個程序破門而入，把你救出來。

除此之外，機(jī)器人還要學(xué)會識別同一行為在不同語境下的微妙區(qū)別。比如說，我們要求機(jī)器人有任何信息要告知我們，這本身是無可厚非的，但是如果你在和你的朋友一起在吃飯，然后機(jī)器人過來告訴你說明天你要去看醫(yī)生，這個時候它實際上就打破了你的隱私；而如果你正在和你的老板吃飯，然后你的機(jī)器人過來說你明天要重新去面試另一個工作，那就更糟了。

所以，機(jī)器人的決策有很大的不確定性。我們很難把這些東西都用硬件或者編程來解決，因為所有的這些都是會產(chǎn)生不同影響和結(jié)果的決策。在探索解決這一挑戰(zhàn)的過程中，人類研究出了很多算法，其中包括人工智能的算法。把邏輯推理和可能性推理結(jié)合起來需要大量的計算，用傳統(tǒng)的算法會有很大的壓力。在這次大會上，Sycar 教授簡單介紹了一種叫作模組化規(guī)范 (Modular Normative MDP) 的算法。她指出，模組化規(guī)范相比傳統(tǒng)有兩個優(yōu)點：第一，保證了一定的準(zhǔn)確性，第二，提升計算能力。

除了機(jī)器人本身的改進(jìn)以外，Sycara 教授在大會上還提到，對機(jī)器人的信任度是團(tuán)隊中人機(jī)合作的核心要求。

現(xiàn)在已經(jīng)有很多的機(jī)器人會和人類發(fā)生互動。在一些比較輕松松散的互動中，人類的角色是監(jiān)視者，控制者和維修者；而在互動非常的緊密的活動中，是人類與機(jī)器人的關(guān)系更多的是團(tuán)隊成員或者是同事，兩者會有頻繁的信息交換，甚至人類要指導(dǎo)機(jī)器人。

而團(tuán)隊協(xié)作的核心是信任。所謂信任，是一個人對另一個人的態(tài)度。當(dāng)涉及到機(jī)器人時，人們更愿意使用他們信任的機(jī)器人，信任機(jī)制需要在合作的多個維度中得到滿足。

在自動駕駛領(lǐng)域，信任機(jī)制更加重要。人類司機(jī)會通過手勢來告訴對方什么時候走，誰先走。機(jī)器人也要有一套類似的交流機(jī)制，如果沒有信任的道路上，車之間就會互相猜疑，在別的車停住的情況下不敢走，造成交通堵塞。

而且信任是動態(tài)的，在不同的文化背景之下信任也不盡相同，我們對于不同的文化也要進(jìn)行研究。比如，很多科技帶有濃重的西方的文化和價值觀，卻被運用在所有文化中，這中間會產(chǎn)生一定的不協(xié)調(diào)。

除了信任度，透明度也是人機(jī)合作中的另一個重要方面。

Sycara 教授指出，在一個團(tuán)隊中，我們都需要在某種程度上，了解其他人的想法，以及他們的行為和方法。在人類之間，這些行為并不陌生，因為很多情況下，我們都會有一些比較類似的背景，或者比較相似的社交性，但是對于機(jī)器人而言，沒有那么容易。

所謂透明性，就是在智能化應(yīng)用當(dāng)中，我需要了解這些智能體的目的、推理過程，我需要有能力去預(yù)測這些智能體的未來是什么樣子的。雖然人工智能和深度學(xué)習(xí)已經(jīng)十分強(qiáng)大，這些算法在透明性上做得還不夠。現(xiàn)在的深度增強(qiáng)學(xué)習(xí)，可以讓機(jī)器去理解不同的圖像，來解釋自己。

最后，她指出，機(jī)器人會在人工智能算法指導(dǎo)下做出一些荒謬的行為。比如，掃垃圾機(jī)器人的獎賞函數(shù)要求它收集盡可能多的垃圾箱，這個機(jī)器人就會將收集起來的垃圾箱扔得到處都是，不斷進(jìn)扔掉，不斷地?fù)炱饋?，以得到更高的分?jǐn)?shù)。這就是意外的結(jié)果。在我們和機(jī)器人的互動越來越多的時候，未來使用機(jī)器人會變得越來越有挑戰(zhàn)性。人類在設(shè)計這些系統(tǒng)的時候，要充分考慮到這種情況。