作者 / Rodney Brooks：麻省理工學(xué)院的松下機(jī)器人學(xué)名譽(yù)教授，曾擔(dān)任麻省理工學(xué)院人工智能實(shí)驗(yàn)室主任，后來擔(dān)任CSAIL主任。他曾共同創(chuàng)辦iRobot、Rethink Robotics和Robust AI，目前擔(dān)任 Robust AI 首席技術(shù)官。

本文內(nèi)容轉(zhuǎn)自Rodney Brooks的博客及IEEE Spectrum，文中是Brooks從事機(jī)器人領(lǐng)域工作近50年中，所學(xué)到的一些知識(shí)。

為了紀(jì)念艾薩克·阿西莫夫和阿瑟·克拉克，他將這些知識(shí)總結(jié)為「機(jī)器人三定律」：

1、機(jī)器人的外觀可以體現(xiàn)其功能和智能程度，它必須履行或稍微超出這一預(yù)期，否則將不會(huì)被接受。

2、當(dāng)機(jī)器人與人類共存于同一空間時(shí)，機(jī)器人絕不能剝奪人類的自主權(quán)，尤其是當(dāng)機(jī)器人出現(xiàn)故障時(shí)（它們有時(shí)會(huì)不可避免地會(huì)出現(xiàn)故障）。

3、（實(shí)驗(yàn)室外的）機(jī)器人技術(shù)，還需要經(jīng)過 10 年以上的穩(wěn)步改進(jìn)，才能達(dá)到降低成本的同時(shí)，并充分了解其局限性，從而實(shí)現(xiàn) 99.9% 的交付率。每過 10 年，其可靠性就會(huì)增加 9%。

這些定律，是以「讓機(jī)器人在現(xiàn)實(shí)世界中工作」的角度制定的——當(dāng)人們?yōu)闄C(jī)器人付費(fèi)，必然希望獲得投資回報(bào)，這與在實(shí)驗(yàn)室中演示demo或者前沿技術(shù)有很大區(qū)別。

實(shí)驗(yàn)室的研發(fā)人員興趣在于展示技術(shù)的可行性，但在現(xiàn)實(shí)世界中，只有客戶、員工或客戶。而且，機(jī)器人必須在沒有外部干預(yù)和輔助的情況下工作，并帶來良好體驗(yàn)，否則客戶就不會(huì)帶來更多銷量。

因此，新的「三定律」與部署在現(xiàn)實(shí)世界中的真實(shí)機(jī)器人有關(guān)，也與日常生活中的機(jī)器人有關(guān)。

外表給予的承諾

Brooks旗下的多家公司生產(chǎn)過各種類型的機(jī)器人，并大規(guī)模銷售。設(shè)計(jì)機(jī)器人時(shí)，設(shè)計(jì)人員會(huì)花很多心思考慮其外觀，因?yàn)檫@會(huì)告訴買家或用戶可對機(jī)器人抱有的期望。

iRobot的 Roomba 看起來像一個(gè)扁平的圓盤，它可以清潔地板，同時(shí)也可以在原地旋轉(zhuǎn)。圓盤的低矮外形使它可以進(jìn)入廚房的踢腳板下方，清潔櫥柜略微突出的地板。

但是，大家也能看出它并不能上下樓梯，而是有一個(gè)把手，可以被人提起來。它與卡通片里的清潔機(jī)器人Rosey不同，Roomba從外表一看就不能清潔窗戶，實(shí)際上也是做不到。

同樣來自 iRobot 的Packbot是一款可遠(yuǎn)程操作的軍用機(jī)器人，它看起來確實(shí)非常與眾不同。它有履帶輪，就像一輛微型坦克，這種外觀讓任何人看起來都覺得它能夠穿越崎嶇的地形，不會(huì)被臺(tái)階、巖石或地形的落差所阻擋。

2011 年，福島核事故發(fā)生時(shí)，Packbots 能夠在被海嘯摧毀和損毀的反應(yīng)堆建筑物內(nèi)操作，在遠(yuǎn)程控制下打開門把手，駛上瓦礫覆蓋的樓梯，并將攝像頭對準(zhǔn)模擬壓力和溫度計(jì)，以便試圖確保核電站安全的工人能夠了解核電站高放射性區(qū)域的情況。

巴格達(dá)勝利基地聯(lián)合機(jī)器人維修支隊(duì)中的 iRobot PackBot 正在拾取

「三定律」的第一點(diǎn)是提醒設(shè)計(jì)者，不要讓機(jī)器人看起來比實(shí)際功能更夸張。也許這會(huì)為你的公司帶來資金，讓投資者增加期待。但是，如果它不能實(shí)現(xiàn)那些與外表匹配的功能時(shí)，它會(huì)讓客戶失望。

失望的客戶不會(huì)成為你的產(chǎn)品/機(jī)器人的擁護(hù)者，也不會(huì)成為回頭客。

維護(hù)人類的自主權(quán)

如果人們接受機(jī)器人在工作場所工作，那么最糟糕的事情就是機(jī)器人成為累贅，讓人類的工作或生活變得更加困難。

例如，在醫(yī)院里，機(jī)器人負(fù)責(zé)將臟床單或碗碟從病房樓層運(yùn)送到需要清洗的地方，本意是讓護(hù)士的工作更輕松，但它們往往起到了相反的作用。

如果機(jī)器人不知道發(fā)生了什么，在緊急情況下不讓開，它們很可能會(huì)妨礙護(hù)士的一些救生工作。

醫(yī)院中的機(jī)器人還有一種不太常見、但不可接受的行為，是讓它們在電梯門前、中央和擋路處停滯，阻礙人們進(jìn)出電梯。

另外，過去幾年，居住在舊金山或德克薩斯州奧斯汀的人們，已經(jīng)親眼目睹了機(jī)器人每天給人們帶來煩惱。這些機(jī)器人就是無人駕駛汽車，它們在城市中行駛，沒有人類乘客。

有些車輛因堵塞路口而臭名昭著，其他司機(jī)、行人或警察對此束手無策，只能等待部署這些車輛的公司，通過遠(yuǎn)程操作員注意到被困車輛，并將其讓開。

更糟糕的是，他們會(huì)誤入火災(zāi)周邊現(xiàn)場，那里有消防車、消防員和實(shí)際著火的建筑物，他們會(huì)感到困惑，然后停下來，有時(shí)會(huì)停在消防栓上。

消防員無法移動(dòng)車輛，也無法與車輛溝通，這與人類司機(jī)駕駛的汽車形成鮮明對比。

在部分場景中，自動(dòng)駕駛汽車剝奪了人們在街上做日常事務(wù)的自主權(quán)，更糟糕的是，它剝奪了消防員的自主權(quán)，而消防員的職責(zé)是保護(hù)其他人類。部署的機(jī)器人如果不尊重人類及其需要做的事情，就不會(huì)得到人類的尊重，最終將被淘汰。

堅(jiān)固耐用，高效工作

制造在現(xiàn)實(shí)世界中的可靠機(jī)器人很難。事實(shí)上，制造任何在物理世界中工作且可靠的東西都非常困難。

要讓客戶對機(jī)器人感到滿意，需要使其每次嘗試執(zhí)行任務(wù)時(shí)，都必須能夠看起來正常工作，否則用戶會(huì)產(chǎn)生質(zhì)疑。

但是“看起來”在這里是什么意思呢？這意味著用戶至少可以假設(shè)它會(huì)起作用，作為他們對其工作功效的默認(rèn)理解。

棘手的部分是機(jī)器人與現(xiàn)實(shí)物理世界的互動(dòng)。

由于軟件程序是與易于理解的抽象機(jī)器交互，因此它們不會(huì)因?yàn)椤钢噶顭o法與執(zhí)行硬件一致」而失敗。

而當(dāng)這些相同的程序與物理世界交互，無論是人類、網(wǎng)絡(luò)連接還是鼠標(biāo)等輸入設(shè)備，則都有可能會(huì)失敗，因?yàn)檫@時(shí)程序所包含的指令，是基于現(xiàn)實(shí)世界中未滿足的假設(shè)。

機(jī)器人在現(xiàn)實(shí)世界中會(huì)受到各種力的影響，包括周圍物體精確位置的影響，還有與行為多變的人類進(jìn)行交互。

沒有哪個(gè)研究生或初級(jí)工程師，熱衷于讓機(jī)器人在第8354次嘗試中，還只能做已經(jīng)達(dá)成過的事情——讓軟件能夠充分適應(yīng)特定情況下和特定時(shí)刻的不確定變化，才是機(jī)器人技術(shù)面臨的真正挑戰(zhàn)。

精美的宣傳視頻并不等于每次都能為客戶提供相應(yīng)服務(wù)。我們在新聞中看到的大多數(shù)關(guān)于機(jī)器人內(nèi)容，都是實(shí)驗(yàn)室demo的演示。沒有數(shù)據(jù)表明該解決方案的通用性如何，也沒有數(shù)據(jù)表明為了得到視頻中的效果，需要進(jìn)行多少次嘗試。更糟糕的是，有時(shí)視頻還是遠(yuǎn)程操作的，或者加速了很多倍。

Brooks表示，很少能有一項(xiàng)在實(shí)驗(yàn)室演示后，不到十年就能投入使用的新技術(shù)。需要花費(fèi)一些時(shí)間來檢驗(yàn)該方法的效果，并對其進(jìn)行充分描述，以便它在現(xiàn)實(shí)世界中獨(dú)立工作的部署機(jī)器人不太可能失敗。

即便如此，也會(huì)出現(xiàn)故障，還需要很多年的時(shí)間來解決存在問題的區(qū)域，并以防御性的方式將其融入機(jī)器人產(chǎn)品中，以免再次發(fā)生故障。

大多數(shù)機(jī)器人都需要有緊急停止按鈕，以便人類可以關(guān)閉它們。如果客戶覺得有必要按下該按鈕，那么意味著制造和銷售該款機(jī)器人的人就失敗了。不過他們還沒有讓機(jī)器人運(yùn)行得足夠好，以至于連這樣的糟糕案例都還沒有經(jīng)歷過。

近期，Rodney Brooks也曾發(fā)表過「AI三定律」：

1.當(dāng)一個(gè)AI系統(tǒng)執(zhí)行任務(wù)時(shí)，人類觀察者會(huì)立即對其在看似相關(guān)的領(lǐng)域的一般能力做出估計(jì)。通常，這種估計(jì)會(huì)被極大地夸大。

2.大多數(shù)成功的人工智能部署都會(huì)在某個(gè)環(huán)節(jié)涉及人類（可能是它們正在幫助的人），而人類的智慧能夠彌補(bǔ)其中的不足。

3.如果不仔細(xì)限制AI系統(tǒng)的部署方式，那么總會(huì)有一長串特殊情況需要數(shù)十年才能發(fā)現(xiàn)和修復(fù)。矛盾的是，所有這些修復(fù)工作本身都是AI完全能夠完成的。