自動駕駛汽車的倫理、法律與社會問題研究述評

　　隨著人工智能廣泛應用于各個領域，自動駕駛技術得到了長足發展，自動駕駛汽車的商用化也漸成趨勢，自動駕駛的倫理、法律與社會問題的研究也開始出現。相關研究關注的核心問題包括：AI系統“道德算法”預設問題;制造商、乘客、行人、監管部門、汽車自身的責任分擔問題;現行監管政策的挑戰應對問題。本文在梳理核心問題的基礎上，主要考察了自動駕駛汽車的倫理規范、法律責任和監管政策三個方面的研究狀況。

　　《輕型汽車技術》(月刊)創刊于1973年，由南京汽車集團有限公司、江蘇省汽車工程學會、南京汽車行業協會主辦。雜志是目前國內唯一的輕型汽車技術領域的，以從事輕型汽車設計制造的工程技術人員為主要服務對象的技術性刊物，同時兼顧其它車種及汽車相關行業的工程技術人員。內容包括：國內外輕型汽車系列，產品設計理論，試驗測試技術，新工藝、新材料、新技術，輕型汽車發展萬向的戰略宏觀分析研究，企業技術改造、經營管理的實踐與經驗，市場分析與評論、技術經濟信息，汽車使用與維修，國內外汽車動態，汽車文化等等。

　　一、引言

　　2014年12月，嚴格意義上的自動駕駛汽車由美國谷歌公司研發成功。汽車通過軟件和傳感器實現全自動駕駛。2015年12月百度公司也完成了其自動駕駛汽車的首次路測。2016年之后，Uber、通用、特斯拉、英特爾及蘋果等企業先后開始加入自動駕駛汽車研發競賽。截止2017年6 月，美國加州車輛管理局已經向36家企業發放了自動駕駛汽車的路測牌照。在2017年“兩會”上，李彥宏發言指出，世界范圍內的主流汽車廠商都已接受一個基本觀點，即在2021年到2022年之間自動駕駛汽車會實現商用。

　　近年來，納米技術、基因編輯技術等各種新技術的發展不斷地對既有的倫理、法律和社會規范提出挑戰。科技在增強人類能力的同時，也顛覆和改變著社會傳統的價值觀念與思維方式。進入21世紀，有關科技發展的 ELSI(Ethical,Legal,andSocialImplications)研究開始涌現。自動駕駛汽車融合了環境感知、電子計算機、自動控制及人工智能等諸多技術領域，幾乎包含了下一代信息技術的全部內容。隨著自動駕駛汽車商用化可能性的浮現，有關自動駕駛的ELSI研究也逐步展開。

　　自 動駕駛汽車，尤其是完全無人駕駛汽車的研發和路測是最近三年興起的，其應用前景、安全性、可接受性和對現實交通狀況的影響等方面已有大量新聞報道，但相關的ELSI學術研究還非常有限。本文通過GoogleScholar、ScienceDirect、Wiley、Jstor、ProQuest、SpringerLink、Taylor&Francis等學術檢索系統的主題檢索，并通過挖掘已獲得文獻間的相互引證，發現：已發表的學術研究成果主要集中在2015年至2017年間，并且主要分布于自動駕駛汽車的倫理規范、法律責任及政府監管三個方面：

　　第一，自動駕駛汽車之所以成為未來交通的優先選擇，核心原因在于其顯示出了相比人類駕駛更高的安全性，能夠有效減少交通事故的發生率和死亡率。然而，如果一輛自動駕駛汽車正面臨不可規避的交通事故，AI系統會選擇撞向誰?自動駕駛汽車不僅把一個百年歷史的產業推上了創新的前沿，還迫使人類面對至關重要的問題：我們愿意把多大的控制權交給機器?

　　第二，關于自動駕駛汽車的爭議，除了道德規范之外，法律是其面臨的最大阻力。自動駕駛汽車一旦發生交通事故，勢必挑戰現行的法律法規，其中包含了設計、制造、用戶多重法律關系。傳統上，在發生交通事故后可以按照司機的操作問題明確相關法律責任，但無人駕駛汽車是人工智能在開車，在交通事故中誰來承擔法律責任，是車主還是車企，抑或是汽車自身?

　　第三，在道德與法律問題之外，自動駕駛汽車的最終上路將對現有的城市基礎設施、交通管理方式、環境排放、汽車業、物流業及保險業等諸多方面產生重大影響，那么政府在有效監管和政策調控方面將發揮怎樣的核心作用?

　　由此，本文將聚焦于自動駕駛汽車的倫理規范、法律責任與監管政策三個方面，總結當前剛剛起步的ELSI學術研究成果，闡明當前研究的主要理論目標和方法，分析自動駕駛汽車相關社會障礙的未來可能解決路徑，進而討論未來對自動駕駛汽車的倫理規則、立法及政策安排中應注重的基本面。需要特別說明的是，大量的新聞報告和有限的研究文獻對自動駕駛汽車的名稱界定存在差異，所使用的詞匯包括了“autonomous”“self-driving”“driverless”以及“robotic”等形容詞，而對汽車的描述則主要是“car”與“vehicle”。出于學術研究的準確性的考慮，也有部分作者在文章中提出由于現有用詞的多樣而同等使用以上詞語。在中文報道中，主要使用的是“無人駕駛汽車”與“自動駕駛汽車”兩種稱謂。鑒于全球首個自動駕駛汽車官方政策文件—《聯邦自動駕駛汽車政策》(FederalAutomatedVehiclesPolicy)已于2016年9月20日在美國出臺，本文將使用“自動駕駛汽車”(automatedvehicles)的概念。

　　二、倫理規范問題

　　當前有關自動駕駛汽車倫理困境的討論主要與道德哲學中著名的“電車難題”相關。“電車難題”是由哲學家PhilippaFoot于1967年提出的著名思想實驗，用以批判功利主義，其基本設定是：你可以通過變軌使一輛失控的電車撞向一個人或者不變軌使電車撞向5個人。在后來的幾十年時間里，道德哲學家發展出了大量變體。而如果一輛自動駕駛汽車也面臨類似不可規避的交通事故，AI系統會選擇撞向誰?應該犧牲車內乘客還是路上行人?2015年MitchellWaldrop在《自然》發表的報告顯示：如果事故不可避免，多數人不愿將選擇權交由機器。

　　PatrickLin教授是美國加州州立理工大學倫理與新興科學組主任，他同時受雇于谷歌公司X實驗室自動駕駛項目，為自動駕駛汽車未來可能產生的倫理問題提供決策咨詢。2016年PatrickLin就自動駕駛汽車的特點，參照電車難題的各種變體，設計了相應的具體情境以討論自動駕駛汽車在可能的事故中面臨的道德困難，比如說面對在美國高速公路經常出現的野鹿，面對有不同防護措施的行人或摩托車、甚至面對眾多穿過馬路的小孩，自動駕駛汽車應當如何抉擇。此外，他還討論了未來可能的交通事故之外的更廣泛的倫理問題，比如：如果一輛公共的自動駕駛汽車，其是否涉及類似的道德困境?自動駕駛汽車的發展是否會進一步縱容酒駕等不道德甚至違法行為?自動駕駛汽車的計算系統一旦被黑客攻page13擊，其駕駛行為所產生的任何偏差應由誰承擔責任?[2]

　　SvenNyholm與JillesSmids對此提出了反對意見，他們認為自動駕駛汽車所面臨的道德困境并不同于“電車難題”。前者是一種切實可能發生的場景，我們必須對未來的汽車算法提供抉擇依據。由此，他們詳細對比了自動駕駛汽車的“事故算法”與電車難題的差別：前者涉及到制造商、車主、監管部門等多個利益主體共同決定如何設計“事故算法”，而后者只涉及個體的道德抉擇，并且前者的道德決策將直接擔負事故的道德責任和法律責任;前者是一種對未來可能事件的預先設計或者說應急計劃，而后者是一種當下選擇;在認知情境方面，前者是在高度不確定性下的風險評估和決策，后者面對的是確定的并且已知的事實;而在道德原則方面，后者只涉及是撞向多數還是少數(或強者還是弱者)，而前者則涉及到要犧牲車主還是行人，這就不再只是義務論與功利主義的沖突，還包含了人的自我保護以及自動駕駛汽車對車主的責任問題。[3]SvenNyholm與JillesSmids通過反思大量新聞報告和部分研究中將自動駕駛汽車的道德困難與“電車難題”類比的事實，刻畫出了自動駕駛汽車在未來的可能事故中涉及的道德決策的復雜性、道德和法律責任的模糊、以及道德原則的相互沖突問題。

　　三、法律責任問題

　　如果自動駕駛汽車在公共道路上致人傷亡、致財產毀損，法律責任應如何分擔?2016年5月，一輛特斯拉電動車在美國佛羅里達州以自動駕駛模式行駛時與一輛橫穿公路的貨車相撞，導致電動車主喪生。這是世界范圍內曝光的首例自動駕駛功能的交通死亡事故。經過長期調查，2017年1月美國公路交通安全管理局(NHTSA)公布了調查報告，結果顯示事故原因與特斯拉的自動駕駛系統無關，這也意味著特斯拉公司無需承擔相應法律責任。這起事件已經顯示出了自動駕駛汽車所引發交通事故的法律責任界定的困難。完全自動駕駛汽車實現商用后，一旦發生交通事故，勢必挑戰現行的法律法規，其中包含了設計、制造、用戶的多重法律關系。

　　德國學者AlexanderHevelke等指出，即使自動駕駛汽車只能減少部分道路交通的傷亡，政府也有義務推動其發展，然而一旦完全無人駕駛汽車上路，就必須明確誰對可能產生的交通事故負有責任。文章分別討論了制造商和車主應該擔負的事故責任：對于汽車制造商而言，自動駕駛汽車能夠有效拯救生命就足以減少他們對車輛的事故風險所承擔的責任，當然其前提是制造商不能知道“明確”的安全隱患存在而將自動駕駛汽車推向市場;對于車主而言，如果車主沒有能力及時接管自動駕駛汽車，page14那么其造成的事故車主應不承擔全部責任。[6]這篇文章雖然給出了事故責任的明確觀點及其道德理由，但似乎并無助于自動駕駛汽車事故風險的責任分配，政府監管部門、制造商、車主、駕駛人及行人等主體究竟應分別承擔怎樣的責任仍有待進一步討論。

　　四、監管政策問題

　　自動駕駛汽車的上路，將挑戰現行交通管理體制，包括了駕駛證制度、汽車保險體制、處罰制度等。為此，2016年3月聯合國重新修訂了《維也納道路交通公約》，允許自動駕駛技術運用于交通運輸中，為自動駕駛的商業化應用清除了障礙。2016年9月20日美國交通運輸部(DOT)公布了全球首個自動駕駛汽車政策文件《聯邦自動駕駛汽車政策》(FederalAutomatedVehiclesPolicy)，用以全面規制自動駕駛汽車的應用。然而，由于自動駕駛汽車對現行體制挑戰的復雜性，包括我國在內的大多數國家尚未提出相關監管政策。

　　在政府監管方面，部分研究者已經分析了自動駕駛汽車對現行監管體制的挑戰：MilosMladenovic等提出自動駕駛汽車的大規模應用將徹底改變交通控制技術，而技術的變革將帶來安全性、可持續性、隱私保護和效率等方面的重大改變，文章分別解釋了自動駕駛汽車在這幾個方面對傳統交通控制技術的挑戰，并進一步描述了未來處理這些問題的可能視角：一方面要在車輛間維持一個合作的分層級自組織性，另一方面是根據page15自動駕駛汽車使用者的信用層級提供一個可供優先選擇的網絡系統。[16]SaeedBagloee等認為自動駕駛汽車與現有交通體系的融合關鍵在于與道路基礎設施的連接以及與非自動汽車的融合問題。文章提出其連接的關鍵在于汽車導航系統和大數據技術的運用，從自動駕駛汽車與基礎設施相結合的角度出發，考察了道路容量、交通擁堵、自動化程度等維度，提出了一個自動駕駛汽車的導航模型(anavigationmodelfortheAV)，希望幫page15助交通管理部門制定新的交通管理政策。[17]AlanEastman提出自動駕駛汽車新技術的涌現，將首先對其中的“駕駛人”提出挑戰，有調查已經顯示現在的汽車用戶幾乎完全不了解運用在新一代汽車中的人工智能系統，盡管其具有良好的安全行駛記錄，但是乘客及行人對于安全的需求卻遠遠超過設計者的預想，即使技術已經較為成熟，但要人類信任自行轉動的方向盤是極為艱難的，因此文章提出政府部門應首先推出新的駕page15駛人培訓乃至新的駕駛執照制度。[18]PeterWagner則針對自動駕駛汽車對交通效率的改變進行了一項細致的研究，聚焦于自動駕駛汽車完全上路后對現行交通信號燈系統的影響，設置了一系列假想場景，提出如果設計出完全符合自動駕駛汽車特性的交通信號燈體系將極大的提高道路page15通行效率，當然這還涉及到開辟自動駕駛汽車的專用道路。

　　五、結論

　　以上對自動駕駛汽車ELSI研究評述顯示：

　　關于倫理規范問題，當前研究主要聚焦于自動駕駛汽車可能引發的交通事故中的道德決策，其中涉及到了道德決策過程本身的多主體參與、場景復雜性以及預先“設定死亡”等問題，而道德決策背后則關系到如何設定道德算法的問題。實際上，我們不能確定機器通過“深度學習”而培養的道德決策能力是否優于人類為其預設道德算法，就其本質而言，鑒于交通事故場景的無限性，預設道德算法和機器自主道德決策都要求自動駕駛汽車根據具體環境信息進行決策，差別僅是自主性的強弱，當然更重要的差別在于一條確定的預設的道德原則將便于事后追責，這就涉及到了自動駕駛汽車相關事故的立法問題。

　　關于法律責任問題，隨著完全自動駕駛汽車的商業化，在現有的法律規范下，這一新興交通方式將對駕駛制度、個人隱私權以及交通事故的法律責任承擔等方面提出挑戰。現有的少數學術研究集中關注于可能交通事故的法律責任分配問題：一旦自動駕駛汽車發生交通事故，與其相關的汽車制造商、乘客、行人、監管部門乃至汽車自身，誰應當承擔責任以及分別應當承擔怎樣的責任。然而，現有相關的理論或實證研究所得的責任分配結論仍然莫衷一是，并且現實生活中僅有特斯拉所引發的死亡事故這一個判定案例，各國相關立法過程也還在醞釀階段。因此，對于自動駕駛汽車的道德和法律責任，制定明確的倫理規則和法律還遠不夠，解決問題的第一步或許是發起一場對自動駕駛汽車事故責任問題的公開討論，讓參與各方認清問題所在。