Uber安全員擔責，掩蓋自動駕駛的追責困境互聯網+
導讀
自動駕駛系統開車時是不會去看“達人秀”的。
自動駕駛系統開車時是不會去看“達人秀”的。
還記得2年多前Uber的那起自動駕駛汽車導致行人死亡的車禍嗎？最新消息是，今年的9月15日，亞利桑那州的大陪審團決定以過失殺人罪起訴當時Uber自動駕駛汽車前安全駕駛員拉斐爾·瓦斯奎茲，并建議判處其2.5年有期徒刑，而這位安全員當庭表示拒絕認罪，這場官司可能還要繼續打下去。
這場事故背后的責任方Uber呢？其實早在去年3月份，作為肇事方的Uber已經被美國法院判定無罪。
被稱為“自動駕駛致行人死亡第一案”的當事方就這樣輕而易舉地逃脫擔責，讓這個確實存在一定過錯的安全員來承擔全部罪責。這結果確實令人唏噓，難道這是一起“大公司作惡，小職員背鍋”的司法腐敗？抑或是，這場判決是美國司法的老模式遇到新問題，不知道如何對自動駕駛算法系統及其所有者做出裁定？
在有安全員監控的自動駕駛測試或者商用中，我們自然還是會把車輛的安全事故責任歸咎于這個安全員，但一旦真正的無人駕駛大規模普及，車上的安全員，甚至是方向盤、剎車都去掉之后，車輛的安全事故責任，那自然就要算到研發和使用這套自動駕駛算法的企業主體身上了。那么到時候，關于自動駕駛算法的追責將變得更加復雜。
在討論這一問題之前，我們不妨回到Uber的這起車禍細節中，來看下這場車禍判決存在哪些爭議點，Uber是否真的可以全身而退？一旦去掉安全員，無人汽車和自動駕駛算法該如何擔責？這些看似未來才會遭遇的問題已經擺到了你我的面前，亟待思考和討論。
回到現場：車禍是如何發生的？
去年11月，美國國家安全運輸委員會（NTSB）發布了一份報告，披露了Uber自動駕駛汽車在碰撞前10秒的細節。值得注意的是，當時已經判決了Uber平臺無責，但是這份報告中卻指出了Uber自動駕駛系統有種種漏洞。
這起車禍的大致經過是這樣。2018年3月18日晚上，亞利桑那州坦佩市一位女性在推著自行車過馬路時，被時速60多公里Uber無人駕駛汽車撞死。
如果這輛車只是一輛普通車輛，那么事故責任就很明顯，一邊是行人橫穿馬路，負有一定責任，但車輛司機因沒有及時剎車和避讓，要負主要責任。但這輛車是Uber的無人駕駛測試車輛，車上面配有一名安全員，負責處理車輛的緊急情況。
在這起車禍中，這名安全員顯然沒有盡職盡責。根據調查，這名安全員在行車過程中，一直在通過手機觀看類似于“中國好聲音”的娛樂節目，這期間監控攝像頭拍到他一直在反復低頭，直到事故發生前的0.5秒，他才注意到車輛前方的行人，最后只是在撞到后的0.7秒才踩下剎車，但事故已經發生了。
這場事故判決安全員擔責是毫無問題的。畢竟他的職責就是確保車輛行駛安全和道路行人安全，可由于他的疏忽大意，直接造成了這一嚴重事故。日常生活中，大量的行車事故大多由這類疏忽大意造成。
但正是Uber無人駕駛車輛的自動駕駛系統給了安全員一種錯覺，認為車輛可以自行判斷前方的路況，而自己可以偷懶去看手機。這也是自動駕駛技術等級中L3級別的困境。車輛可以高度自動駕駛，但是出了事故要算駕駛員的。那么怎么可以讓駕駛員放心的休息或者娛樂游戲呢？
回到Uber這輛車，難道它就沒有任何問題么？從調查來看，問題也很多。
在Uber車輛撞到行人前的10秒中，車輛本來識別到這個行人并避免車禍的。但是一系列系統的誤判導致了車輛未曾減速就撞了上去。報告中有幾個關鍵數據：在9.9秒到5.8秒中，汽車從56公里加速到70公里；在5.6秒，汽車毫米波雷達（Radar）第一次檢測到前方有物體，并識別其為“汽車”，5.2秒，汽車激光雷達（Lidar）第一次檢測到前方物體，將其識別為“其他”，判定其靜止不動。4.2秒到2.7秒，汽車對識別對象在“汽車”和“未知”之間來回搖擺，但是沒有參考對物體的跟蹤歷史記錄，最終將其判定為靜止物體。
2.6秒到1.2秒的時間，激光雷達才將物體識別為靜止的自行車，但又出現判定搖擺，等到重新識別為自動車，并決定制動。但車輛真正制動是在車禍前的0.2秒開始。這時時速64公里的車輛已經無法避免撞到行人。車禍發生。
我們看到，在車禍發生前的幾秒鐘，車輛發生了多次搖擺不定的誤判，浪費了大量時間。根據NTSB報告指出，造成事故的關鍵問題就是，軟件無法正確預測受害者的類別和運動軌跡。如果系統及早正確地識別出前方物體是行人，就應該大幅放慢速度，或者設法繞開避讓。
但是Uber的自動駕駛系統并沒有如此謹慎行事，反而是因為Uber認為緊急制動系統會造成車輛的不穩定，所以對該系統做了限制。
也就是說，Uber把自動駕駛系統的剎車當成了最后才考慮的因素，真是細思極恐。
自動駕駛系統開車，安全員負責？
如果按照NTSB的調查，那么Uber的自動駕駛系統就存在巨大安全缺陷，首先是汽車的識別算法的準確度和時效性問題，其次就是對于緊急制動系統的設置權限問題。NTSB得出結論說，Uber取消車輛出廠自帶的自動緊急制動系統的做法，增加了在公共道路上測試自動駕駛車輛的風險。
據調查報告，這輛Uber汽車在車禍前，已經以自動駕駛模式運行了約19分鐘，車輛大約至少行駛了約22公里。那么在這段距離內，如果安全員沒有踩過一次剎車，那就意味著自動駕駛系統也很可能沒有啟動過一次剎車。如果有開車經驗的人來說，哪怕是夜深人靜的街道，很少會在以每小時接近70公里的時速下行駛20多公里，都不需要減速或剎車。
如果是Uber真的把剎車權限交給了安全員，那么這個安全員怎么又可能在完全不顧及自己和行人安全的情況下，在高速行駛中還敢沉浸在娛樂節目當中。
也就是說，Uber將剎車權限交給安全員的同時，卻沒有讓安全員意識到自己要百分百了解這一安全措施。Uber通過設置安全員規避了法律風險，但是它自身卻沒有預計到車輛的安全風險，也沒有盡到告知義務，使得一個被算法“忽悠”的人類成為自動駕駛技術走進現實世界的注腳。
反過來說，一輛汽車的自動駕駛系統在自動駕駛模式下系統沒有剎車權限，而是完全需要安全員操作的話，那么這場自動駕駛測試到底意味著什么，一場假的自動駕駛測試嗎？
根據Uber的一名離職工程師的說法，“Uber的車禍發生率會還是太高了”，“如果是Waymo出現這樣的表現，就會停止測試以找出原因，而Uber則會忽略這一問題”。
這些問題也正是外界詬病Uber的無人駕駛計劃的地方。Uber既想通過激進的自動駕駛計劃來推進其自動駕駛出租車業務的商業化，又想通過設置安全員來規避其在自動駕駛系統上的缺陷和漏洞，最終出現問題，還可以把責任推給這些雇員。
顯然，Uber做到了。在2018年底，Uber又恢復了部分城市的無人車路測，為每輛車配備了2名安全員，并進行更為嚴格的監控，以及對自動駕駛系統做了優化。
而對于當地的司法機關來說，判決Uber無需擔責的原因則很簡單，就是“沒有任何判決依據”。
無人駕駛之后，誰來真正擔責？
因為缺乏法律責任的認定，這次Uber得以“僥幸”逃脫。但根據以上分析，Uber在事實責任面前是難辭其咎的。
首先，Uber自動駕駛系統并沒有以安全作為第一考慮要素，而是更強調系統的穩定性和持續性。這是為Uber無人車出現眾多安全事故埋下了隱患。如果未來Uber是以這樣一套“激進”的算法來推進其無人駕駛出租車的行駛策略，那么，很容易出現車輛以快速行駛優先而忽略道路安全的情況。
其次，該駕駛系統的測試存在紕漏，按照其對制動系統的設置，需要安全員的干預才能完成，這顯然是背離自動駕駛技術的本意。顯然，這樣的系統是無法真正實現無人駕駛的商用的。
就在Uber出現致命事故的同一年，美國的加州卻進一步放松了無人駕駛的監管，可以允許車輛上沒有安全駕駛員，只需要保證自動駕駛車輛出問題時，能被遠程接管即可。
2019年，Waymo就拿到了加州機動車輛管理局（DMV）頒發的完全自動駕駛測試牌照，測試時可以不用安全員。后面在無人駕駛出租車上，乘客也已經可以打到沒有安全員的出租車，只是在遇到突發危險后，可以在行駛中按下汽車幫助按鈕或在應用程序中與安全員取得聯系。
那么，這一情況下，就必須要考慮到無人車的新的責任歸屬和相關問題了，畢竟車輛出現事故不能再歸咎于遠程指導的安全員了。
那責任歸屬其實就比較簡單了。在根據正常的交通事故責任認定后，如果排除了對方責任之后，那么事故責任就會判定為無人駕駛汽車的責任，但至于是車生產商、自動駕駛系統提供商或業務運營方來承擔責任，則需要根據商業模式的責任劃分和對現場事故的原因判定來進行劃分。
但這里會有一個法律責任主體缺失問題。在現有一般情況下，幾乎每一場事故都會有專門的人來對此負責，大多數都是違規肇事司機，但一旦換成無人駕駛汽車，那么也就找不到這樣一個法律責任主體。因為不可能去控告一個購買了無人駕駛汽車的車主吧，畢竟他沒有開車，也不可能去控告設計了這個自動駕駛算法的工程師吧，工程師又不是一個人，事故原因也不能僅僅歸因于某行代碼。那么，歸結于提供自動駕駛系統的公司嗎？那這樣沒有任何一家公司會在愿意承擔如此巨大的風險了。
也許未來將會有一個由自動駕駛汽車各方和保險公司共同成立的責任主體，這些制造、設計和運營各方根據責任大小承擔相應比例的保險費，無人駕駛的私家車主（估計會很少是個人）也會在購買服務中支付一定的保險費用，形成一個保險資產池，來應對可能出現的事故。
這個責任主體對事故承擔整體的責任認定和賠償，同時也在內部形成一套AI測算系統，根據不同汽車廠商的車輛損壞情況、不同自動駕駛算法的事故率和運營商的運營策略來認定具體責任，以決定不同主體未來的保費。
比如，有些汽車廠商以保障車內乘客的安全優先，那么在出現事故導致行人受損后，基于這種策略的公司就要多交保費；如果有些廠商是以保障行人乘客的安全優先，出現車內乘客受傷或致命事故，就要多支付費用，多賠付車內乘客。
可以預見，當自動駕駛無人車普及之后，各種各樣復雜狀況的責任認定案例會層出不窮。我們必須在此之前就要開始思考和嘗試立法工作。而不是等到事情發生之后，才開始摸索。千萬不要像Uber案例一樣，最終只能把罪責扣在這個不負責任的人類身上，而對自動駕駛算法系統束手無策。
對無人駕駛汽車的嚴苛管制，并不意味著我們不看好這一產業。在我看來，無人駕駛汽車的前途是非常光明的。盡管會出現這樣那樣的極端事故，但是無人駕駛在未來一定會比現有的人類駕駛的出行狀況是更安全的。
就像目前Waymo出現的眾多事故中，絕大多數都是人類司機的全責。當未來一旦無人駕駛汽車占據多數的時候，我們就不必再小心這些車輛，而是要更小心人類司機的車輛了。因為自動駕駛系統開車時是不會去看“達人秀”的。
這場事故背后的責任方Uber呢？其實早在去年3月份，作為肇事方的Uber已經被美國法院判定無罪。
被稱為“自動駕駛致行人死亡第一案”的當事方就這樣輕而易舉地逃脫擔責，讓這個確實存在一定過錯的安全員來承擔全部罪責。這結果確實令人唏噓，難道這是一起“大公司作惡，小職員背鍋”的司法腐敗？抑或是，這場判決是美國司法的老模式遇到新問題，不知道如何對自動駕駛算法系統及其所有者做出裁定？
在有安全員監控的自動駕駛測試或者商用中，我們自然還是會把車輛的安全事故責任歸咎于這個安全員，但一旦真正的無人駕駛大規模普及，車上的安全員，甚至是方向盤、剎車都去掉之后，車輛的安全事故責任，那自然就要算到研發和使用這套自動駕駛算法的企業主體身上了。那么到時候，關于自動駕駛算法的追責將變得更加復雜。
在討論這一問題之前，我們不妨回到Uber的這起車禍細節中，來看下這場車禍判決存在哪些爭議點，Uber是否真的可以全身而退？一旦去掉安全員，無人汽車和自動駕駛算法該如何擔責？這些看似未來才會遭遇的問題已經擺到了你我的面前，亟待思考和討論。
回到現場：車禍是如何發生的？
去年11月，美國國家安全運輸委員會（NTSB）發布了一份報告，披露了Uber自動駕駛汽車在碰撞前10秒的細節。值得注意的是，當時已經判決了Uber平臺無責，但是這份報告中卻指出了Uber自動駕駛系統有種種漏洞。
這起車禍的大致經過是這樣。2018年3月18日晚上，亞利桑那州坦佩市一位女性在推著自行車過馬路時，被時速60多公里Uber無人駕駛汽車撞死。
如果這輛車只是一輛普通車輛，那么事故責任就很明顯，一邊是行人橫穿馬路，負有一定責任，但車輛司機因沒有及時剎車和避讓，要負主要責任。但這輛車是Uber的無人駕駛測試車輛，車上面配有一名安全員，負責處理車輛的緊急情況。
在這起車禍中，這名安全員顯然沒有盡職盡責。根據調查，這名安全員在行車過程中，一直在通過手機觀看類似于“中國好聲音”的娛樂節目，這期間監控攝像頭拍到他一直在反復低頭，直到事故發生前的0.5秒，他才注意到車輛前方的行人，最后只是在撞到后的0.7秒才踩下剎車，但事故已經發生了。
這場事故判決安全員擔責是毫無問題的。畢竟他的職責就是確保車輛行駛安全和道路行人安全，可由于他的疏忽大意，直接造成了這一嚴重事故。日常生活中，大量的行車事故大多由這類疏忽大意造成。
但正是Uber無人駕駛車輛的自動駕駛系統給了安全員一種錯覺，認為車輛可以自行判斷前方的路況，而自己可以偷懶去看手機。這也是自動駕駛技術等級中L3級別的困境。車輛可以高度自動駕駛，但是出了事故要算駕駛員的。那么怎么可以讓駕駛員放心的休息或者娛樂游戲呢？
回到Uber這輛車，難道它就沒有任何問題么？從調查來看，問題也很多。
在Uber車輛撞到行人前的10秒中，車輛本來識別到這個行人并避免車禍的。但是一系列系統的誤判導致了車輛未曾減速就撞了上去。報告中有幾個關鍵數據：在9.9秒到5.8秒中，汽車從56公里加速到70公里；在5.6秒，汽車毫米波雷達（Radar）第一次檢測到前方有物體，并識別其為“汽車”，5.2秒，汽車激光雷達（Lidar）第一次檢測到前方物體，將其識別為“其他”，判定其靜止不動。4.2秒到2.7秒，汽車對識別對象在“汽車”和“未知”之間來回搖擺，但是沒有參考對物體的跟蹤歷史記錄，最終將其判定為靜止物體。
2.6秒到1.2秒的時間，激光雷達才將物體識別為靜止的自行車，但又出現判定搖擺，等到重新識別為自動車，并決定制動。但車輛真正制動是在車禍前的0.2秒開始。這時時速64公里的車輛已經無法避免撞到行人。車禍發生。
我們看到，在車禍發生前的幾秒鐘，車輛發生了多次搖擺不定的誤判，浪費了大量時間。根據NTSB報告指出，造成事故的關鍵問題就是，軟件無法正確預測受害者的類別和運動軌跡。如果系統及早正確地識別出前方物體是行人，就應該大幅放慢速度，或者設法繞開避讓。
但是Uber的自動駕駛系統并沒有如此謹慎行事，反而是因為Uber認為緊急制動系統會造成車輛的不穩定，所以對該系統做了限制。
也就是說，Uber把自動駕駛系統的剎車當成了最后才考慮的因素，真是細思極恐。
自動駕駛系統開車，安全員負責？
如果按照NTSB的調查，那么Uber的自動駕駛系統就存在巨大安全缺陷，首先是汽車的識別算法的準確度和時效性問題，其次就是對于緊急制動系統的設置權限問題。NTSB得出結論說，Uber取消車輛出廠自帶的自動緊急制動系統的做法，增加了在公共道路上測試自動駕駛車輛的風險。
據調查報告，這輛Uber汽車在車禍前，已經以自動駕駛模式運行了約19分鐘，車輛大約至少行駛了約22公里。那么在這段距離內，如果安全員沒有踩過一次剎車，那就意味著自動駕駛系統也很可能沒有啟動過一次剎車。如果有開車經驗的人來說，哪怕是夜深人靜的街道，很少會在以每小時接近70公里的時速下行駛20多公里，都不需要減速或剎車。
如果是Uber真的把剎車權限交給了安全員，那么這個安全員怎么又可能在完全不顧及自己和行人安全的情況下，在高速行駛中還敢沉浸在娛樂節目當中。
也就是說，Uber將剎車權限交給安全員的同時，卻沒有讓安全員意識到自己要百分百了解這一安全措施。Uber通過設置安全員規避了法律風險，但是它自身卻沒有預計到車輛的安全風險，也沒有盡到告知義務，使得一個被算法“忽悠”的人類成為自動駕駛技術走進現實世界的注腳。
反過來說，一輛汽車的自動駕駛系統在自動駕駛模式下系統沒有剎車權限，而是完全需要安全員操作的話，那么這場自動駕駛測試到底意味著什么，一場假的自動駕駛測試嗎？
根據Uber的一名離職工程師的說法，“Uber的車禍發生率會還是太高了”，“如果是Waymo出現這樣的表現，就會停止測試以找出原因，而Uber則會忽略這一問題”。
這些問題也正是外界詬病Uber的無人駕駛計劃的地方。Uber既想通過激進的自動駕駛計劃來推進其自動駕駛出租車業務的商業化，又想通過設置安全員來規避其在自動駕駛系統上的缺陷和漏洞，最終出現問題，還可以把責任推給這些雇員。
顯然，Uber做到了。在2018年底，Uber又恢復了部分城市的無人車路測，為每輛車配備了2名安全員，并進行更為嚴格的監控，以及對自動駕駛系統做了優化。
而對于當地的司法機關來說，判決Uber無需擔責的原因則很簡單，就是“沒有任何判決依據”。
無人駕駛之后，誰來真正擔責？
因為缺乏法律責任的認定，這次Uber得以“僥幸”逃脫。但根據以上分析，Uber在事實責任面前是難辭其咎的。
首先，Uber自動駕駛系統并沒有以安全作為第一考慮要素，而是更強調系統的穩定性和持續性。這是為Uber無人車出現眾多安全事故埋下了隱患。如果未來Uber是以這樣一套“激進”的算法來推進其無人駕駛出租車的行駛策略，那么，很容易出現車輛以快速行駛優先而忽略道路安全的情況。
其次，該駕駛系統的測試存在紕漏，按照其對制動系統的設置，需要安全員的干預才能完成，這顯然是背離自動駕駛技術的本意。顯然，這樣的系統是無法真正實現無人駕駛的商用的。
就在Uber出現致命事故的同一年，美國的加州卻進一步放松了無人駕駛的監管，可以允許車輛上沒有安全駕駛員，只需要保證自動駕駛車輛出問題時，能被遠程接管即可。
2019年，Waymo就拿到了加州機動車輛管理局（DMV）頒發的完全自動駕駛測試牌照，測試時可以不用安全員。后面在無人駕駛出租車上，乘客也已經可以打到沒有安全員的出租車，只是在遇到突發危險后，可以在行駛中按下汽車幫助按鈕或在應用程序中與安全員取得聯系。
那么，這一情況下，就必須要考慮到無人車的新的責任歸屬和相關問題了，畢竟車輛出現事故不能再歸咎于遠程指導的安全員了。
那責任歸屬其實就比較簡單了。在根據正常的交通事故責任認定后，如果排除了對方責任之后，那么事故責任就會判定為無人駕駛汽車的責任，但至于是車生產商、自動駕駛系統提供商或業務運營方來承擔責任，則需要根據商業模式的責任劃分和對現場事故的原因判定來進行劃分。
但這里會有一個法律責任主體缺失問題。在現有一般情況下，幾乎每一場事故都會有專門的人來對此負責，大多數都是違規肇事司機，但一旦換成無人駕駛汽車，那么也就找不到這樣一個法律責任主體。因為不可能去控告一個購買了無人駕駛汽車的車主吧，畢竟他沒有開車，也不可能去控告設計了這個自動駕駛算法的工程師吧，工程師又不是一個人，事故原因也不能僅僅歸因于某行代碼。那么，歸結于提供自動駕駛系統的公司嗎？那這樣沒有任何一家公司會在愿意承擔如此巨大的風險了。
也許未來將會有一個由自動駕駛汽車各方和保險公司共同成立的責任主體，這些制造、設計和運營各方根據責任大小承擔相應比例的保險費，無人駕駛的私家車主（估計會很少是個人）也會在購買服務中支付一定的保險費用，形成一個保險資產池，來應對可能出現的事故。
這個責任主體對事故承擔整體的責任認定和賠償，同時也在內部形成一套AI測算系統，根據不同汽車廠商的車輛損壞情況、不同自動駕駛算法的事故率和運營商的運營策略來認定具體責任，以決定不同主體未來的保費。
比如，有些汽車廠商以保障車內乘客的安全優先，那么在出現事故導致行人受損后，基于這種策略的公司就要多交保費；如果有些廠商是以保障行人乘客的安全優先，出現車內乘客受傷或致命事故，就要多支付費用，多賠付車內乘客。
可以預見，當自動駕駛無人車普及之后，各種各樣復雜狀況的責任認定案例會層出不窮。我們必須在此之前就要開始思考和嘗試立法工作。而不是等到事情發生之后，才開始摸索。千萬不要像Uber案例一樣，最終只能把罪責扣在這個不負責任的人類身上，而對自動駕駛算法系統束手無策。
對無人駕駛汽車的嚴苛管制，并不意味著我們不看好這一產業。在我看來，無人駕駛汽車的前途是非常光明的。盡管會出現這樣那樣的極端事故，但是無人駕駛在未來一定會比現有的人類駕駛的出行狀況是更安全的。
就像目前Waymo出現的眾多事故中，絕大多數都是人類司機的全責。當未來一旦無人駕駛汽車占據多數的時候，我們就不必再小心這些車輛，而是要更小心人類司機的車輛了。因為自動駕駛系統開車時是不會去看“達人秀”的。
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
