<p>經(jīng)典的思維實(shí)驗(yàn)被稱為&ldquo;電車難題&rdquo;，問題是:你是否應(yīng)該拉動(dòng)控制桿使失控的電車改道，讓它撞死一人而不是五人?或者:如果你必須把一個(gè)人推到軌道上才能讓電車停下來呢?這些例子中的道德選擇是什么?</p> <p>&nbsp;</p> <p>幾十年來，哲學(xué)家們一直在爭論我們是否應(yīng)該選擇功利主義的解決方案(什么對社會(huì)更好;例如，更少的死亡)或一種重視個(gè)人權(quán)利的解決方案(例如不被故意置于傷害的權(quán)利)。</p> <p>&nbsp;</p> <p>近年來，自動(dòng)駕駛汽車設(shè)計(jì)師也在思考如何讓自動(dòng)駕駛汽車在遇到意外駕駛情況時(shí)解決類似的困境。例如:如果一輛自行車突然進(jìn)入車道，自動(dòng)駕駛汽車該怎么辦?它應(yīng)該轉(zhuǎn)向迎面而來的車輛還是撞上自行車?</p> <p>&nbsp;</p> <p>斯坦福大學(xué)機(jī)械工程榮譽(yù)退休教授、汽車研究中心(CARS)聯(lián)合主任克里斯&middot;格德斯(Chris Gerdes)表示，解決方案就在我們面前。這已經(jīng)成為我們與其他司機(jī)之間的社會(huì)契約，就像我們的交通法規(guī)和法院的解釋所規(guī)定的那樣。Gerdes最近與福特汽車公司的合作者一起發(fā)表了一種在自動(dòng)駕駛環(huán)境下解決電車問題的解決方案。在這里，Gerdes描述了這項(xiàng)工作，并建議它將對自動(dòng)駕駛汽車產(chǎn)生更大的信任。</p> <p>&nbsp;</p> <p>我們的交通法規(guī)如何指導(dǎo)自動(dòng)駕駛車輛的道德行為?</p> <p>&nbsp;</p> <p>福特的公司政策是:永遠(yuǎn)守法。這個(gè)項(xiàng)目源于幾個(gè)簡單的問題:這項(xiàng)政策適用于自動(dòng)駕駛嗎?什么時(shí)候，如果有的話，自動(dòng)駕駛違反交通法規(guī)是道德的?</p> <p>&nbsp;</p> <p>當(dāng)我們研究這些問題時(shí)，我們意識(shí)到，除了交通法規(guī)，還有上訴裁決和陪審團(tuán)指示，它們有助于充實(shí)我們駕駛汽車一百多年來形成的社會(huì)契約。這種社會(huì)契約的核心是通過遵守交通法規(guī)來履行對其他道路使用者的注意義務(wù)，除非是為了避免碰撞。</p> <p>&nbsp;</p> <p>本質(zhì)上:在同樣的情況下，在道德上違反法律似乎是合理的，在法律上違反交通規(guī)則也是合理的。</p> <p>&nbsp;</p> <p>從以人為本的人工智能角度來看，這是一個(gè)很大的問題:我們希望自動(dòng)駕駛系統(tǒng)最終對人類負(fù)責(zé)。我們讓它們對人類負(fù)責(zé)的機(jī)制是讓它們總體上遵守交通法規(guī)。然而，自動(dòng)駕駛汽車應(yīng)該遵守法律這一基本原則并沒有被整個(gè)行業(yè)完全接受。有些人談?wù)撟匀获{駛，意思是如果人類超速，那么自動(dòng)駕駛汽車也應(yīng)該超速。但是，無論是作為自動(dòng)駕駛汽車，還是作為聲稱自己遵守法律的公司，這樣做都沒有法律依據(jù)。</p> <p>&nbsp;</p> <p>因此，自動(dòng)駕駛車違反法律的唯一依據(jù)應(yīng)該是為了避免碰撞，事實(shí)證明，法律基本同意這一點(diǎn)。例如，如果沒有迎面而來的車輛，一輛自動(dòng)駕駛汽車為了避免與一輛自行車相撞而越過了雙黃線，它可能違反了交通規(guī)則，但它并沒有違反法律，因?yàn)樗诼男袑ζ渌缆肥褂谜叩淖⒁饬x務(wù)的同時(shí)，做了避免碰撞所必需的事情。</p> <p>&nbsp;</p> <p>自動(dòng)駕駛設(shè)計(jì)師必須處理的道德問題是什么?</p> <p>&nbsp;</p> <p>自動(dòng)駕駛程序員面臨的道德困境主要是處理特殊駕駛情況，即汽車無法同時(shí)履行其對所有道路使用者和乘客的義務(wù)。</p> <p>&nbsp;</p> <p>到目前為止，圍繞著功利主義的方法有很多討論，建議自動(dòng)駕駛汽車制造商必須決定在這種兩難情況下誰生誰死&mdash;&mdash;例如，在自動(dòng)駕駛汽車前面穿過馬路的騎自行車的人還是迎面而來的行人。但在我看來，讓汽車來決定誰的生命更有價(jià)值這一前提是有嚴(yán)重缺陷的?？偟膩碚f，自動(dòng)駕駛汽車制造商拒絕了功利主義的解決方案。他們會(huì)說他們并不是在編寫電車問題;他們把自動(dòng)駕駛汽車設(shè)計(jì)得很安全。例如，他們開發(fā)了RSS(責(zé)任敏感安全)等方法，試圖創(chuàng)建一套規(guī)則，在自動(dòng)駕駛汽車周圍保持一定的距離，這樣如果每個(gè)人都遵守這些規(guī)則，就不會(huì)發(fā)生碰撞。</p> <p>&nbsp;</p> <p>問題是:即使RSS沒有明確地處理涉及不可避免的碰撞的困境情況，AV仍然會(huì)以某種方式表現(xiàn)出來&mdash;&mdash;無論這種行為是有意識(shí)地設(shè)計(jì)的，還是只是從編程規(guī)則中產(chǎn)生的。雖然我認(rèn)為從行業(yè)的角度來說，我們并不是在為電車問題編程，但我們也可以問:在這種情況下，汽車會(huì)怎么做?</p> <p>&nbsp;</p> <p>那么我們應(yīng)該如何編程自動(dòng)駕駛汽車來處理不可避免的碰撞呢?</p> <p>&nbsp;</p> <p>如果自動(dòng)駕駛汽車可以通過編程來維護(hù)他們對所有道路使用者的法定注意義務(wù)，那么只有當(dāng)其他人違反了他們對自動(dòng)駕駛汽車的注意義務(wù)，或者出現(xiàn)某種機(jī)械故障，或者一棵樹倒在路上，或者一個(gè)天坑打開時(shí)，碰撞才會(huì)發(fā)生。但是，假設(shè)另一個(gè)道路使用者違反了他們對自動(dòng)駕駛汽車的注意義務(wù)，闖紅燈或在自動(dòng)駕駛汽車前面轉(zhuǎn)彎。那么，我們所闡明的原則是，自動(dòng)駕駛汽車仍然欠這個(gè)人的注意義務(wù)，應(yīng)該盡其所能&mdash;&mdash;在車輛的物理極限范圍內(nèi)&mdash;&mdash;避免碰撞，而不把其他人拖進(jìn)去。</p> <p>&nbsp;</p> <p>從這個(gè)意義上說，我們有了AV電車問題的解決方案。我們不考慮一個(gè)人受傷的可能性和其他很多人受傷的可能性。相反，我們說，我們不允許選擇違反我們對他人應(yīng)盡的注意義務(wù)的行為。因此，我們試圖在不把其他人牽扯進(jìn)來的情況下，與制造沖突的人&mdash;&mdash;即違反了對我們應(yīng)盡的注意義務(wù)的人&mdash;&mdash;解決沖突。</p> <p>&nbsp;</p> <p>我認(rèn)為這個(gè)解決方案滿足了我們的社會(huì)契約。司機(jī)有一種期望，即如果他們遵守道路規(guī)則，并履行對他人的所有照顧義務(wù)，他們就應(yīng)該能夠安全地在道路上行駛。為什么避開一輛自行車，讓一輛自動(dòng)駕駛汽車偏離車道，撞上另一輛守法的汽車就可以了呢?為什么要做出一個(gè)傷害他人的決定呢?我們是否應(yīng)該假設(shè)對騎自行車的人造成的傷害可能小于對騎自行車的人造成的傷害?我認(rèn)為這不僅在道德上很難證明，在實(shí)踐中也很難證明。任何機(jī)動(dòng)車碰撞都有很多不可知的因素。你不知道不同的道路使用者會(huì)采取什么行動(dòng)，你也不知道結(jié)果會(huì)產(chǎn)生什么樣的特定影響。設(shè)計(jì)一個(gè)聲稱能夠立即進(jìn)行這種功利計(jì)算的系統(tǒng)不僅在道德上是可疑的，而且實(shí)際上是不可能的。如果一個(gè)制造商真的設(shè)計(jì)了一種犧牲一條生命來拯救五條生命的自動(dòng)駕駛汽車，他們可能會(huì)為此承擔(dān)重大責(zé)任，因?yàn)樵谖覀兊纳鐣?huì)契約中，沒有任何東西可以證明這種功利主義的想法是正確的。</p> <p>&nbsp;</p> <p>你對電車問題的解決方案能讓公眾相信自動(dòng)駕駛汽車是安全的嗎?</p> <p>&nbsp;</p> <p>如果你讀了一些研究，你可能會(huì)認(rèn)為自動(dòng)駕駛汽車正在使用眾包道德，并接受訓(xùn)練，根據(jù)一個(gè)人對社會(huì)的價(jià)值做出決定。我可以想象人們對此相當(dāng)擔(dān)憂。人們還表達(dá)了一些擔(dān)憂，即如果他們認(rèn)為這樣做可以挽救更多人的生命，那么汽車可能會(huì)犧牲乘客。這似乎也讓人難以接受。</p> <p>&nbsp;</p> <p>相比之下，我們認(rèn)為我們的方法很好地框架了事情。如果這些汽車的設(shè)計(jì)能夠確保對其他道路使用者的責(zé)任始終得到維護(hù)，公眾就會(huì)明白，如果他們遵守規(guī)則，他們就不必?fù)?dān)心自動(dòng)駕駛汽車。此外，即使人們違反了對自動(dòng)駕駛汽車的注意義務(wù)，自動(dòng)駕駛汽車也將被編程使用其全部功能來避免碰撞。我認(rèn)為這應(yīng)該讓人們放心，因?yàn)樗宄乇砻?，自?dòng)駕駛汽車不會(huì)把他們的生命作為某種編程功利計(jì)算的一部分來衡量。</p> <p>&nbsp;</p> <p>你對無軌電車問題的解決方案將如何影響自動(dòng)駕駛汽車的發(fā)展?</p> <p>&nbsp;</p> <p>我們與哲學(xué)家、律師和工程師的討論現(xiàn)在已經(jīng)達(dá)到了一個(gè)我認(rèn)為我們可以在法律要求、我們的社會(huì)契約如何履行我們的道德責(zé)任和我們可以編寫的實(shí)際工程要求之間建立清晰的聯(lián)系的地步。</p> <p>&nbsp;</p> <p>所以，我們現(xiàn)在可以把這個(gè)交給編程AV的人，用計(jì)算機(jī)代碼實(shí)現(xiàn)我們的社會(huì)契約。事實(shí)證明，當(dāng)你分解汽車注意義務(wù)的基本方面時(shí)，它可以歸結(jié)為一些簡單的規(guī)則，比如保持安全的跟隨距離，以合理而謹(jǐn)慎的速度行駛。在這個(gè)意義上，它開始看起來有點(diǎn)像RSS因?yàn)槲覀兓旧峡梢栽陲w行器周圍設(shè)置各種安全邊際。</p> <p>&nbsp;</p> <p>目前，我們正在福特內(nèi)部使用這項(xiàng)工作來開發(fā)自動(dòng)駕駛汽車的一些需求。我們一直在公開發(fā)布它，與行業(yè)的其他人分享，希望如果其他人覺得它很有吸引力，它可能會(huì)被納入最佳實(shí)踐。</p> <p>&nbsp;</p> <p>斯坦福人工智能研究院的使命是推進(jìn)人工智能研究、教育、政策和實(shí)踐，以改善人類狀況。學(xué)習(xí)更多的知識(shí)。</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新聞直譯，僅供參考，不代表指南者留學(xué)態(tài)度觀點(diǎn)。</p> </blockquote>