TMT观察网_独特视角观察TMT行业

機器人已經滲入人類生活的方方面面，從掃地機器人，到工業生產線上的組裝機器人，它們給我們的生活帶來了很大的便利。隨著人類與機器人的合作越來越緊密，對機器人的設計的要求也達到了前所未有的高度。在2019年的#全球新興科技峰會#上， 卡耐基梅隆大學教授 Katia Sycara從社會學的角度分享了她對未來機器人設計要求的一些看法。

她指出，未來機器人也學會遵守道德規范和社會倫理，以更好地適應人類社會。比如，機器人要尊重隱私，你在家里面工作，你不能夠不敲門就進浴室、臥室；對于機器人來說，如果它在打掃衛生，它是不是也該敲敲門才能進去。再比如，機器人要懂得規則的限制，一個合格的自動駕駛機器人需要遵守交通規則，保持在限速以下行駛。

圖丨Katia Sycara（圖片來源：DeepTech）

但是，在一些特定的環境中，機器人還需要打破規則，靈活處理。無人駕駛在送傷員去醫院的過程中，可能要超速行駛，否則傷員會有生命危險；再比如，家中起火后，機器人不能僅僅是在敲門等著你出來，相反，它應當跳過這個程序破門而入，把你救出來。

除此之外，機器人還要學會識別同一行為在不同語境下的微妙區別。比如說，我們要求機器人有任何信息要告知我們，這本身是無可厚非的，但是如果你在和你的朋友一起在吃飯，然后機器人過來告訴你說明天你要去看醫生，這個時候它實際上就打破了你的隱私；而如果你正在和你的老板吃飯，然后你的機器人過來說你明天要重新去面試另一個工作，那就更糟了。

所以，機器人的決策有很大的不確定性。我們很難把這些東西都用硬件或者編程來解決，因為所有的這些都是會產生不同影響和結果的決策。在探索解決這一挑戰的過程中，人類研究出了很多算法，其中包括人工智能的算法。把邏輯推理和可能性推理結合起來需要大量的計算，用傳統的算法會有很大的壓力。在這次大會上，Sycar 教授簡單介紹了一種叫作模組化規范 (Modular Normative MDP) 的算法。她指出，模組化規范相比傳統有兩個優點：第一，保證了一定的準確性，第二，提升計算能力。

除了機器人本身的改進以外，Sycara 教授在大會上還提到，對機器人的信任度是團隊中人機合作的核心要求。

現在已經有很多的機器人會和人類發生互動。在一些比較輕松松散的互動中，人類的角色是監視者，控制者和維修者；而在互動非常的緊密的活動中，是人類與機器人的關系更多的是團隊成員或者是同事，兩者會有頻繁的信息交換，甚至人類要指導機器人。

而團隊協作的核心是信任。所謂信任，是一個人對另一個人的態度。當涉及到機器人時，人們更愿意使用他們信任的機器人，信任機制需要在合作的多個維度中得到滿足。

在自動駕駛領域，信任機制更加重要。人類司機會通過手勢來告訴對方什么時候走，誰先走。機器人也要有一套類似的交流機制，如果沒有信任的道路上，車之間就會互相猜疑，在別的車停住的情況下不敢走，造成交通堵塞。

而且信任是動態的，在不同的文化背景之下信任也不盡相同，我們對于不同的文化也要進行研究。比如，很多科技帶有濃重的西方的文化和價值觀，卻被運用在所有文化中，這中間會產生一定的不協調。

除了信任度，透明度也是人機合作中的另一個重要方面。

Sycara 教授指出，在一個團隊中，我們都需要在某種程度上，了解其他人的想法，以及他們的行為和方法。在人類之間，這些行為并不陌生，因為很多情況下，我們都會有一些比較類似的背景，或者比較相似的社交性，但是對于機器人而言，沒有那么容易。

所謂透明性，就是在智能化應用當中，我需要了解這些智能體的目的、推理過程，我需要有能力去預測這些智能體的未來是什么樣子的。雖然人工智能和深度學習已經十分強大，這些算法在透明性上做得還不夠。現在的深度增強學習，可以讓機器去理解不同的圖像，來解釋自己。

最后，她指出，機器人會在人工智能算法指導下做出一些荒謬的行為。比如，掃垃圾機器人的獎賞函數要求它收集盡可能多的垃圾箱，這個機器人就會將收集起來的垃圾箱扔得到處都是，不斷進扔掉，不斷地撿起來，以得到更高的分數。這就是意外的結果。在我們和機器人的互動越來越多的時候，未來使用機器人會變得越來越有挑戰性。人類在設計這些系統的時候，要充分考慮到這種情況。