首頁 > 業內新聞 > 汽車 > 特斯拉Autopilot將救人無數 但現在卻拿命做測試

特斯拉Autopilot將救人無數 但現在卻拿命做測試

52RD.com 2019年10月11日 網易科技            參與:2人 我來說兩句
  

圖示:2018年5月,一輛啟動Autopilot的特斯拉汽車與警車發生碰撞。
  

  10月10日消息,據國外媒體報道,特斯拉的最終目標是造出完全自動駕駛汽車。為了這一天的盡早到來,其在所有特斯拉汽車中安裝了Autopilot系統,并通過將司機作為志愿者進行道路實驗。Autopilot最終可能會挽救數百萬人的生命,但在此之前勢必會導致一些司機的死亡。
  
  以下是翻譯內容:
  
  這是杰里米·班納(Jeremy Banner)生命中的最后一天。他在黎明前醒來,坐上紅色特斯拉Model 3,沿著佛羅里達大沼澤地的邊緣向南行駛。車窗外的沼澤和農田在模糊的綠色中快速掠過。
  
  班納輕按了方向盤下的操縱桿,車內響起柔和的鈴聲。他啟動了市場上最復雜且最具爭議的自動安全功能:特斯拉Autopilot。在電腦控制下,汽車可以加速、變道、駛出出口,如果前方有障礙物,還可以自動剎車。
  
  特斯拉的目標是制造出世界上第一輛自動駕駛商用汽車,從而主導全球汽車市場,公司認為Autopilot是關鍵的第一步。用戶也喜歡Autopilot。他們已經通過Autopilot行駛超過15億英里(21億公里),也常常將軟件功能發揮到極致。盡管車主手冊提醒司機需要密切監視車輛狀況,但這并沒有阻止一些人在行駛的汽車上讀書、打盹、彈琴或做愛。大多數時候汽車能把他們安全帶到要去的地方。
  
  但在3月的那個清晨,班納的轎車沒能發現正前方有一輛拖車正穿過四車道的高速公路。班納也沒有。轎車以109公里的時速撞了上去,車頂直接被掀翻,這位有三個孩子的50歲父親當場死亡。
  
  計算機錯誤看起來和人為錯誤完全不同。Autopilot有閃電般的反應能力,注意力從不減弱,但有時無法發現路上的危險。自特斯拉2015年引入Autopilot以來,已知5起死亡事故中的4起都是這種情況。事實上,班納發生的車禍與早先一起有著驚人地相似。今年8月,班納家人根據佛羅里達州的《非正常死亡法案》起訴特斯拉。原告發起直截了當的產品責任索賠:特斯拉承諾提供一輛安全的汽車,卻交付了一輛存在缺陷的危險汽車。
  
  但Autopilot與歷史上幾乎所有其他消費產品都不一樣,它在某些方面讓我們預見到即將到來的機器人時代會面臨哪些問題。特斯拉首席執行官埃隆·馬斯克(Elon Musk)表示,這項技術挽救了生命,很多特斯拉車主都能證明自己的汽車發現了危險,避免了碰撞。可能雙方都是對的,電腦殺死了一些原本可以活下來的司機,但它們也挽救了更多司機的生命。
  
  這個問題不再僅僅是學術問題。當馬斯克決定讓盡可能多的人擁有Autopilot時,這相當于在全世界高速公路上開展了一個巨大的實驗。
  
  26歲的軟件工程師奧馬爾·卡齊(Omar Qazi)在洛杉磯405號州際公路上駕車向北行駛時,雙手從方向盤上拿開。當時汽車正以每小時80公里的速度行駛在全美最繁忙的高速公路上,卡齊的黑色Model 3轎車方向盤微向左轉,使汽車保持在車道中央。“這就像洛杉磯高峰時段的交通,對吧?”卡齊說,“這真完美。”特斯拉擁有大批鐵桿粉絲,其中很多是富裕的極客,卡齊也是其中之一。
  
  在洛杉磯郊外的特斯拉充電站,留著胡茬、穿著藍色耐克鞋的卡齊展示了實驗性的智能召喚功能,當時只有經過挑選的特斯拉測試者可以使用這項功能。他按下手機上的一個按鈕,汽車駛出了停車位。卡齊看著它穿過停車場朝自己駛來。“這沒什么用處,”他笑著說。但卡齊很喜歡炫耀這個把戲,以至于會在停車場徘徊等待觀眾。
  
  智能召喚可以一窺馬斯克所承諾的無人駕駛未來,但對于道路駕駛來說,Autopilot是目前最接近未來的。特斯拉表示,這項技術還不夠成熟,駕駛員仍要集中注意力,需要他們把手放在方向盤上。對州監管機構來說,Autopilot只是一個高級駕駛輔助程序,本質上就是一個增強的巡航控制功能。Autopilot還不能解決非高速公路上的交通信號燈和停車標志等問題。但在上線的四年間,Autopilot的功能逐漸豐富起來:平穩并線、避開插隊的汽車、駛入另一條高速公路。
  
  “它還不能完全實現自動駕駛,但每隔幾周就會有一次更新,而且汽車的駕駛特點更像人。這非常可怕。”卡齊說。幾分鐘后,一輛銀色轎車駛入我們的車道,車子穩穩地剎車,讓進汽車。“看到了嗎?”他說道。
  
  這并不是說人類司機更優秀。在洛杉磯,卡齊演示特斯拉的那天,一名非法賽車手的馬自達撞上了一輛停著的卡車;一名騎摩托車的人撞上一輛拋錨貨車而死亡;一名騎自行車的初中生被一輛車拖了四五百米,受了重傷。
  
  事實上,駕駛是大多數成年人做的最危險事情之一。去年全美有4萬人死于車禍,全球范圍內車禍事故造成140萬人死亡。但人們對自己的駕駛技術普遍自滿。幾年前,交通事故造成的死亡人數開始小幅上升,有專家將其歸因于智能手機的干擾。常常有人邊開車邊發信息。
  
  但不管有什么缺陷,電腦都不會醉酒、疲勞、生氣,也不會有開車時刷手機的沖動。自動駕駛技術承諾會消除94%由人為失誤造成的車禍。從這個角度來看,自動駕駛汽車可能成為與青霉素和天花疫苗齊名的救命稻草。
  
  卡齊已經計算過了:他說自動駕駛汽車有朝一日將每天拯救3000條生命。按照他的邏輯,任何阻礙這一進程的人手上都沾滿了鮮血。他說:“想象一下,有人把軟件推遲一天。”“你真的會殺死很多人。”
  
  在班納發生致命事故后不到兩個月,馬斯克邀請了大約100名投資者和分析師來到特斯拉在帕洛阿爾托的總部。在2個半小時的演示過程中,馬斯克向投資者展示了新的關注點:制造第一輛真正的自動駕駛汽車。他說,今天上路的汽車將能在幾個月內就用上Autopilot。到2020年的某個時候,它們將不再需要人工監督,并可以在客戶不用的時候變成自動駕駛出租車。
  
  “從財務角度講,購買特斯拉以外的任何東西都不再靠譜,”馬斯克舉起雙手說。“就像三年內擁有一匹馬一樣。”
  
  對于任何關注自動駕駛汽車行業的人來說,馬斯克的時間表聽起來特別激進。包括通用汽車、戴姆勒和Uber在內的大約36家公司正在競相開發這項技術。許多觀察人士認為實力最強的競爭者是Waymo,但它們都沒有向公眾出售自動駕駛汽車。
  
  馬斯克告訴投資者,特斯拉將超越所有企業,這要歸功于已經上路的50多萬輛汽車都配備了Autopilot。馬斯克將Autopilot描述為一種目前尚不完善,但會逐漸變得更加靈活和可靠的自動駕駛工具。
  
  硅谷發布智能手機應用程序和視頻游戲的方式就是,先向客戶發布尚不完善的軟件,并逐步解決問題增加功能。但這些產品并不會致人死亡。Waymo、通用汽車和其他公司也有類似方案,但它們只用在幾百輛測試汽車中,部署在全國少數幾個精心挑選的社區,而且幾乎總是由專業的安全駕駛員監督行駛。目前通用汽車的原型車正以56公里的最高時速在舊金山多山的街道上挪動。
  
  另一方面,馬斯克正以最快速度把他的工具送到消費者手中。這使得特斯拉工程師能夠從客戶那里收集到海量級駕駛數據,并根據真實世界情況完善Autopilot。即使特斯拉汽車沒有激活自動駕駛模式,它們也會自動將駕駛員的選擇與計算機進行比較。每隔幾周特斯拉就會完成Autopilot的更新,這讓卡齊和其他車迷們很高興。
  
  馬斯克說:“每個人都在訓練這個網絡,每時每刻。”他將這種良性循環稱為“快速學習”,并將其與谷歌搜索每年處理1.2萬億次查詢進行比較。他宣稱,未來某一天司機們不再需要方向盤。
  
  當摩根士丹利的一名分析師就Autopilot的安全記錄向馬斯克施壓時,他很快把話題轉向人為駕駛的危險性,以及技術修復的潛力。他把汽車比作由人工操作的老式電梯。他說:“他們會周期性地感到疲勞、喝醉或其他什么。”“所以現在沒有電梯操作員了。”
  
  考慮到生死攸關的利害關系,馬斯克有時會把自動駕駛汽車說成是一場正義斗爭也就不足為奇。他曾表示,讓Autopilot退出市場“應該受到道德譴責”。第一位死于自動駕駛的美國駕駛員是來自俄亥俄州的約書亞·布朗(Joshua Brown),他和班納一樣也撞上了拖車。車禍之后他的家人發表了一份聲明,基本上支持特斯拉的道德考量。“改變總是伴隨著風險,”他們寫道。“我們的兒子對未來的高速公路安全產生了如此積極的影響,這讓我們感到些許安慰和自豪。”
  
  馬斯克表示,目前Autopilot是能力僅低于司機的最佳選擇。人類駕駛帶來的安全性加上計算機輔助保護。但問題在于當我們把大部分責任交給電腦時,自己就會走神。我們不知道計算機應該做什么。我們的技術也會生疏。就像航空史上充斥著人類對飛機自動駕駛功能的過度依賴所導致的各種錯誤。
  
  前海軍戰斗機飛行員、杜克大學普拉特工程學院教授米西·卡明斯(Missy Cummings)表示:“你的注意力會轉移,這是人的本性。”卡明斯希望Autopilot退出市場。Waymo曾開發了一種類似系統,但在6年前放棄了。報告說,有太多司機在開車時發短信、化妝、打瞌睡。
  
  與此同時,計算機也會在看似最不可能的地方出問題,因為很多對計算機來說最具挑戰性的任務對人類來說是小菜一碟。任何一個正常成年人都能分辨出良性道路特征和危險威脅之間的區別。但對于最復雜的機器視覺軟件來說卻非常困難的。
  
  特斯拉一直拒絕對Autopilot設限,因為這會讓它更安全,但更不方便。該公司允許司機將Autopilot的巡航速度設置在當地限速以上,并允許在汽車能夠檢測到車道標記的任何地方打開Autopilot,盡管手冊上說僅限于在高速公路上使用。
  
  圖示:特斯拉汽車行駛里程以及Autopilot行駛里程(英里)數據統計
  
  馬斯克也或多或少鼓勵人們去測試Autopilot的極限。去年12月當馬斯克在電視節目上展示Model 3汽車時,他也打開了Autopilot并松開了方向盤。今年5月份,在一段有關自動駕駛狀態下的色情視頻走紅后,馬斯克在Twitter上開玩笑說:“事實證明,使用Autopilot的方式比我們想象的要多。”
  
  鑒于Autopilot現在已經行駛了超過15億英里,確定其安全記錄應該很容易。馬斯克曾聲稱,使用Autopilot駕駛的安全性大約是不使用Autopilot的兩倍,但目前為止還沒有相關數據公開。特斯拉公布了Autopilot的每季度事故率數據,但安全專家表示,如果沒有這些事故發生的具體情況,這些數據毫無用處。一項針對特斯拉事故索賠數據的保險行業研究也沒有定論。
  
  在2016年的布朗撞車事故后,美國國家公路交通安全管理局(NHTSA)對Autopilot進行了調查,發現沒有理由召回。該機構發現安裝Autopilot的特斯拉汽車事故率比沒有安裝Autopilot的特斯拉汽車低40%,但相關計算仍然存疑。盡管特斯拉提交了4.4萬輛汽車的行駛和碰撞數據,但除了5700輛以外,其他所有車輛的關鍵數據都有缺失或相互矛盾。在5700輛汽車的數據中,使用Autopilot的事故率實際上更高。馬里蘭州獨立統計顧問蘭迪·惠特菲爾德(Randy Whitfield)今年指出了這些缺陷,但NHTSA堅持其結論。
  
  評估Autopilot或完全自動駕駛技術的部分問題在于,不清楚社會將容忍何種程度的安全。機器應該是完美無瑕,還是說比一般人類司機更好即可?豐田自動駕駛研發負責人吉爾?普拉特(Gill Pratt)曾表示:“人類對機器缺陷造成的傷害或死亡零容忍。”“要達到所需的完美水平,需要多年的機器學習以及多得多的行駛里程。”
  
  但如此高的標準反而可能導致更多的死亡。在蘭德公司2017年的一項研究中,研究人員發現,與接受只比人類安全好一點的汽車相比,等待近乎完美自動駕駛汽車的成本是用數萬條人命來衡量的。機器人專家卡拉就自動駕駛汽車政策在國會作證時表示:“等待這一完美技術的人應該意識到,這并非沒有成本。”
  
  其論點的關鍵是如何理解機器學習。特斯拉和其他自動駕駛汽車開發商的產品要識別一輛自行車,然后預測它會朝哪個方向走,這太復雜了,不能簡單歸結為一系列的指令。相反,程序員使用機器學習來訓練軟件。他們可能會給機器展示數千張不同自行車的照片,可能還會給機器看一些摩托車或單輪腳踏車,這樣機器就會知道其中的區別。隨著時間推移,這臺機器會生成自己的規則。
  
  得到的信息越多,這些機器就越聰明。卡拉認為,問題關鍵在于自動駕駛汽車在實驗室里變得完美并不現實。她說,如果我們真的想最大限度地挽救生命,我們甚至可以在自動駕駛汽車比人類更危險的時候讓它們上路,以加速訓練。
  
  即使造出了一輛完美的自動駕駛汽車,唯一能確定的方法就是把它放在路上。從統計學角度講,致命車禍也是罕見的。在蘭德公司的另一篇論文中,卡拉估計一輛自動駕駛汽車要無故障行駛2.75億英里才能證明更安全,而這一里程需要100輛測試車連續行駛12年以上才能完成。
  
  圖示:社交媒體上的視頻和照片顯示很多司機在啟用Autopilot時打瞌睡。
  
  考慮到這一切,馬斯克計劃利用真實道路上的司機作為志愿者完善和測試他的產品,聽起來并不那么瘋狂。事實上,如果不讓大量司機面臨被機器殺死的風險,就不可能實現自動駕駛的安全。而允許自Autopilot加速并在普通道路上行駛也有一定的邏輯。每當駕駛員為了避免事故而接管汽車時,這都是一個潛在的訓練機會,能夠讓軟件學習什么不該做。
  
  美國已經有了一個對可能拯救生命但也可能有致命副作用產品進行測試的型:分階段臨床藥物試驗。卡內基梅隆大學哲學教授亞歷克斯·倫敦(Alex London)等人呼吁汽車監管機構采取類似措施,允許新技術分階段上路,同時密切監控其安全記錄。
  
  卡齊驅車前往帕洛斯維德斯牧場,一路蜿蜒穿過起伏的棕色山丘和懸崖,俯瞰著太平洋。沿途并不是高速公路,但卡齊再次啟動了Autopilot。總的來說,汽車表現得很好。
  
  當路繞過陡峭懸崖時,我們碰到一個同向而行的騎行者。特斯拉正確識別并超越了他。就在要超車的時候,卡齊踩了剎車,讓那人在超車之前騎到更寬的路上。他說自己希望機器也能做同樣的事情。
  
  但卡齊似乎已經接受了這樣一個事實:隨著特斯拉的普及,Autopilot造成的死亡人數將會增加。“最大的公關噩夢就在前方,”他如是指出,“通往目標的路只有一條。穿過雷區。”52RD.com  微博關注:http://weibo.com/52rd  微信關注:admin_52RD
已有0位網友發表了看法 我來說兩句
讀取...
相關報道
評 論
業界快訊 NewsMORE>
新聞導航 Navigation
精彩評論 CommentMORE>
52RD網友:有幾家的芯片應該影響還是比較大的, 基于美帝賽靈思FPGA之上開發的,這一下也是被斷炊了,直接就不用發布了, FPGA就是睪丸命門,…
海康威視、依圖、曠世、大華等公司被…
52RD網友:你個是金立,死了還要詐尸,一個錘子不承認自已已經死,坐看你如何復活。
羅永浩證實新機為字節推出的首款堅果…
52RD網友:算上camera廠、IC廠的調試人員,整個生態圈算起來
華為副總裁:Mate30研發費用超21億元…
52RD網友:還有別的芯片,特朗普想想還是別干蠢事。有錢賺不到是多么痛苦的領悟。而且芯片就像海鮮,放兩年早就叟了,想賣都賣不掉。要想沖擊中國的…
高通CEO:已向華為重啟供貨,希望保…
52RD網友:那只是對西方或其他國家的企業,但對華為美國是用盡了卑劣手段.用盡了不符合事實為借口,用政治幕后黑手來打壓中國科技企業,除美國陣營外,…
華為Mate30供應商名單曝光:京東方等…
特別推薦 Recommend
北京pk10彩票玩法介绍