自動(dòng)駕駛或無人駕駛技術(shù)是人工智能技術(shù)應(yīng)用的前沿領(lǐng)域，也是智能時(shí)代最值得期待的科技成就之一。隨著道路交通運(yùn)行的數(shù)據(jù)化提升、可信任算法的深入應(yīng)用和算力的有效保障，自動(dòng)駕駛成為智能社會(huì)的建設(shè)方向。如果自動(dòng)駕駛汽車能夠?qū)崿F(xiàn)商業(yè)化應(yīng)用，人類社會(huì)不只會(huì)迎來交通出行的革命，也將經(jīng)歷人機(jī)協(xié)作和觀念形態(tài)的巨大轉(zhuǎn)型。然而，除了需要突破算法程序設(shè)計(jì)、環(huán)境傳感和數(shù)據(jù)處理等技術(shù)難題之外，自動(dòng)駕駛所引發(fā)的倫理擔(dān)憂和法律挑戰(zhàn)也尤為突出，尤其是碰撞困境所引發(fā)的責(zé)任難題。
目前，對(duì)自動(dòng)駕駛之挑戰(zhàn)的研究大致可以分為兩種思路。一種思路通常將自動(dòng)駕駛引發(fā)的道德困境與電車難題進(jìn)行對(duì)照，從電車難題的解決方案中尋找可以應(yīng)用于自動(dòng)駕駛之技術(shù)挑戰(zhàn)的倫理原則。1另一種思路則傾向于在法學(xué)知識(shí)體系內(nèi)部建構(gòu)出應(yīng)對(duì)自動(dòng)駕駛之責(zé)任分配或權(quán)利配置的基本原理，并為自動(dòng)駕駛立法提供法教義學(xué)支持。2本文嘗試找到解決自動(dòng)駕駛之倫理困境和政策難題的法理出路，補(bǔ)足自動(dòng)駕駛之法教義學(xué)建構(gòu)和責(zé)任體系設(shè)計(jì)背后的價(jià)值基礎(chǔ)。自動(dòng)駕駛之倫理和法律挑戰(zhàn)的破解之道在于構(gòu)建出面向人機(jī)協(xié)作的算法正義觀，在其指導(dǎo)下設(shè)計(jì)出一種能夠有效應(yīng)對(duì)緊急情況的碰撞算法，并重構(gòu)相應(yīng)的法律責(zé)任原理。本文主張，基于算法正義理念，最大化最小值算法是克服人機(jī)協(xié)作之技術(shù)困境并解決碰撞難題的較佳方案。下文將圍繞最大化最小值算法而構(gòu)建出包含教義學(xué)責(zé)任和證成性責(zé)任的法律責(zé)任體系，有望為自動(dòng)駕駛汽車從理想轉(zhuǎn)為現(xiàn)實(shí)找到可靠的法律出路。
一、自動(dòng)駕駛的倫理與法律挑戰(zhàn)
(一)自動(dòng)駕駛的倫理挑戰(zhàn)
與人工智能所引發(fā)的倫理隱憂相伴，自動(dòng)駕駛從進(jìn)入公共討論視野后就伴隨著倫理爭議，人們認(rèn)為自動(dòng)駕駛會(huì)引發(fā)嚴(yán)重的道德困境。碰撞和事故是駕駛的常態(tài)，自動(dòng)駕駛汽車也不能完全消除碰撞風(fēng)險(xiǎn)。由于駕駛過程是精密的自動(dòng)駕駛算法主導(dǎo)的，個(gè)人意志無法掌控，那么在帶來生命危險(xiǎn)的碰撞中，算法應(yīng)當(dāng)如何進(jìn)行選擇?自動(dòng)駕駛汽車算法在傳感、感知和決策能力上遠(yuǎn)超過人類駕駛者，但并不具備人類所擁有的道德決策和反思能力，也不具備人類的道德地位。3由機(jī)器根據(jù)預(yù)設(shè)算法決定碰撞中的道德困境如何解決，在倫理上引發(fā)了新的難題，我們可以稱之為自動(dòng)駕駛的人機(jī)協(xié)作難題。請(qǐng)?jiān)O(shè)想以下三種情境：第一，自動(dòng)駕駛汽車在行駛中遭遇迎面而來的失控汽車，直行則會(huì)造成乘客死亡，左轉(zhuǎn)則會(huì)撞死一名路人，右轉(zhuǎn)則會(huì)撞死五名路人。第二，自動(dòng)駕駛汽車在行駛中突然遇到倒在路上的大樹干，直行則會(huì)導(dǎo)致乘客死亡，緊急轉(zhuǎn)向則會(huì)撞向路邊施工的工人。第三，自動(dòng)駕駛汽車在行駛中突然遇到誤闖入車道的自行車賽車手，直行會(huì)撞死賽車手，轉(zhuǎn)向則會(huì)導(dǎo)致乘客死亡。
這些情境只是自動(dòng)駕駛汽車行駛中可能遇到的一部分艱難抉擇而已。自動(dòng)駕駛汽車要成功上路，就需要在倫理上解決這些疑難，回應(yīng)倫理挑戰(zhàn)。然而，這些情境并不同于人類所面對(duì)的“電車難題”。機(jī)器算法的道德決策應(yīng)當(dāng)在社會(huì)計(jì)算化的語境下開展，由此必須回答兩個(gè)前提性問題。第一，人機(jī)協(xié)作的決策模式是否改變了人類道德推理的基本原則和方式?第二，在自動(dòng)駕駛技術(shù)的實(shí)際應(yīng)用中出現(xiàn)的道德疑難，是否存在著確切的解決方案?
為了應(yīng)對(duì)這些碰撞難題，研究者提出了自動(dòng)駕駛的各種道德算法方案。道義論算法以康德倫理學(xué)為基礎(chǔ)，主張機(jī)器不能傷害人的生命。阿西莫夫機(jī)器人定律是道義論算法的典型體現(xiàn)，但很少有學(xué)者支持這一方案。德國2018年發(fā)布的《自動(dòng)駕駛汽車倫理準(zhǔn)則》蘊(yùn)含著道義論色彩，例如，其規(guī)定，“當(dāng)自動(dòng)駕駛車輛發(fā)生不可避免的事故時(shí)，任何基于年齡、性別、種族、身體屬性或任何其他區(qū)別因素的歧視判斷都是不允許的”。4由于碰撞是不可避免的，這一原則對(duì)算法設(shè)計(jì)并無具體的指導(dǎo)意義。功利主義算法在直覺上具有吸引力。MIT的“道德機(jī)器”模擬實(shí)驗(yàn)游戲測(cè)試了游戲用戶在不可避免的碰撞中的選擇，基于四千多萬用戶的測(cè)試結(jié)果表明，大多數(shù)人傾向于為了保護(hù)多數(shù)人而犧牲少數(shù)人。功利主義倫理本身具有計(jì)算優(yōu)勢(shì)，5功利主義算法主張自動(dòng)駕駛的碰撞設(shè)計(jì)應(yīng)當(dāng)追求損害的最小化。6但功利主義并不包含將功利計(jì)算向算法設(shè)計(jì)轉(zhuǎn)化的倫理指導(dǎo)，碰撞選擇也不能完全化約為生命數(shù)量的衡量，所以將功利主義算法用于回答上述三種情境中的碰撞選擇，會(huì)得出讓人無法接受的結(jié)果，這也是功利主義算法在市場調(diào)查中遇冷的主要原因。
(二)自動(dòng)駕駛的法律挑戰(zhàn)
雖然自動(dòng)駕駛汽車在多數(shù)國家尚未正式上路，但自動(dòng)駕駛的法律挑戰(zhàn)已初露端倪。這種挑戰(zhàn)可以分為兩個(gè)層次。一種是制度意義上的，即自動(dòng)駕駛對(duì)傳統(tǒng)汽車行業(yè)相關(guān)法律制度造成了沖擊，如對(duì)產(chǎn)品質(zhì)量認(rèn)證、行政監(jiān)管模式和道路交通管理方面的沖擊。另一種是價(jià)值和責(zé)任意義上的，即自動(dòng)駕駛對(duì)生命安全價(jià)值和法律責(zé)任分配造成了沖擊。制度挑戰(zhàn)可以通過順應(yīng)智能化轉(zhuǎn)型的制度優(yōu)化和調(diào)整加以解決，價(jià)值和責(zé)任層面的挑戰(zhàn)則比較棘手。上述三種情境不僅產(chǎn)生了倫理困境，也使自動(dòng)駕駛陷入法律危機(jī)。當(dāng)前已有學(xué)者對(duì)輔助或完全自動(dòng)駕駛所引發(fā)的侵權(quán)責(zé)任和刑事責(zé)任等作了很多有益探討，但自動(dòng)駕駛的法律挑戰(zhàn)依然嚴(yán)峻。
生命安全依然是自動(dòng)駕駛所追求的首要價(jià)值，然而安全價(jià)值在人機(jī)協(xié)作語境中的呈現(xiàn)方式發(fā)生了變化：第一，汽車行駛安全的本質(zhì)是自動(dòng)駕駛算法在軟硬件協(xié)作框架下針對(duì)駕駛環(huán)境而輸出的正確決策，因此，其本質(zhì)是“輸入—輸出”的決策安全；第二，安全是人機(jī)協(xié)作的結(jié)果，即人類設(shè)計(jì)的產(chǎn)品(傳感器、雷達(dá)、芯片、地圖和通信設(shè)備等)和執(zhí)行感知、識(shí)別和決策任務(wù)的算法在具體場景中完成駕駛?cè)蝿?wù)。百度公司、中汽中心、同濟(jì)大學(xué)發(fā)布的《自動(dòng)駕駛汽車交通安全白皮書》提出自動(dòng)駕駛汽車有望將人類因素導(dǎo)致的交通事故減少89%。7但由于汽車故障或人類干預(yù)導(dǎo)致的事故仍不可避免，前面列舉的因突發(fā)情況而產(chǎn)生的艱難情境也會(huì)不斷出現(xiàn)。法律如何應(yīng)對(duì)這些事故導(dǎo)致的責(zé)任難題?
在民法意義上，汽車故障導(dǎo)致的事故引發(fā)侵權(quán)責(zé)任，因此應(yīng)當(dāng)確定責(zé)任主體，自動(dòng)駕駛汽車的智能屬性給責(zé)任主體和歸責(zé)依據(jù)的確定增加了困難。自動(dòng)駕駛算法是基于數(shù)據(jù)集和成熟算法模型而編程的，并不能完美應(yīng)對(duì)各種突發(fā)情況，在駕駛中可能會(huì)因?yàn)楦蓴_因素(如誤闖入車道的自行車手)而造成傷亡。生產(chǎn)者和消費(fèi)者可以預(yù)料到這種結(jié)果的發(fā)生，但它是否源自產(chǎn)品缺陷，則無法從既有教義中獲得答案。
在刑法意義上，既有研究主要關(guān)注兩個(gè)層面：一是汽車致?lián)p的刑事責(zé)任認(rèn)定；二是碰撞難題中的刑事責(zé)任分配。自動(dòng)駕駛汽車對(duì)生命安全價(jià)值的潛在威脅構(gòu)成了法益基礎(chǔ)，因此對(duì)汽車生產(chǎn)和行駛過程中的危險(xiǎn)行為有進(jìn)行刑事追責(zé)的必要。在第一個(gè)層面上，與侵權(quán)責(zé)任認(rèn)定的難題相類似，3級(jí)自動(dòng)駕駛有駕駛者的參與和接管，因此可以基于既有刑法教義學(xué)進(jìn)行追責(zé)，比如針對(duì)駕駛者接管不力或疏忽導(dǎo)致的傷亡而追究駕駛者的過失責(zé)任。8但在4級(jí)以上自動(dòng)駕駛中，刑事追責(zé)的困境就凸顯出來了。如前所述，在完全由自動(dòng)駕駛算法完成感知、傳輸和決策的真實(shí)駕駛場景中，算法在某種程度上脫離了生產(chǎn)者、設(shè)計(jì)者和所有人的“掌控”。由于駕駛情況復(fù)雜，算法失靈未必由設(shè)計(jì)缺陷引起，由此也難以判斷生產(chǎn)者和設(shè)計(jì)者是否有過失。
在第二個(gè)層面上，刑事責(zé)任認(rèn)定則陷入更深的困境中。雖然類似電車難題的碰撞難題并不常見，但自動(dòng)駕駛算法設(shè)計(jì)需要預(yù)先對(duì)各種碰撞情形進(jìn)行虛擬訓(xùn)練，以便在遇到類似難題時(shí)作出決策。然而，有兩個(gè)難題立馬呈現(xiàn)出來：一是設(shè)計(jì)碰撞算法的主體應(yīng)該為碰撞結(jié)果承擔(dān)責(zé)任嗎?二是碰撞算法應(yīng)當(dāng)如何設(shè)計(jì)?
法教義學(xué)對(duì)于這兩個(gè)問題并無現(xiàn)成答案。電車難題作為一種思想實(shí)驗(yàn)，可以保持答案的開放性，人類駕駛員在遇到這種困境時(shí)，會(huì)對(duì)其瞬間決策所導(dǎo)致的損害結(jié)果承擔(dān)責(zé)任。自動(dòng)駕駛的出場改變了人類面對(duì)道德困境的解決方案及其法律后果。當(dāng)人機(jī)協(xié)作參與到交通出行中，在自動(dòng)駕駛算法提前對(duì)汽車的行駛和碰撞選擇進(jìn)行規(guī)劃和預(yù)設(shè)后，以人類主體過錯(cuò)為責(zé)任分配依據(jù)的傳統(tǒng)模式不再適用，因?yàn)槠囻{駛者不再是通過個(gè)人意志和選擇來應(yīng)對(duì)駕駛過程中的各種突發(fā)情況或風(fēng)險(xiǎn)，而是交由算法通過分析和計(jì)算來前瞻性地應(yīng)對(duì)未知情形。9自動(dòng)駕駛算法既要最大程度地保障生命安全，又要作出合乎倫理和法律的碰撞抉擇。因此，碰撞算法的設(shè)計(jì)成為應(yīng)對(duì)自動(dòng)駕駛之倫理和法律挑戰(zhàn)的關(guān)鍵環(huán)節(jié)。
二、算法正義與最大化最小值算法
(一)自動(dòng)駕駛的正義維度
是否應(yīng)賦予汽車以主體地位和人格，自動(dòng)駕駛算法致?lián)p的責(zé)任應(yīng)由誰來承擔(dān)，以及在碰撞困境中誰應(yīng)該承受損失等問題，都是正義理念要解決的。而這些問題與傳統(tǒng)法律實(shí)踐的不同之處在于，它們必須在對(duì)正義的追尋中展現(xiàn)算法的技術(shù)和價(jià)值意義。已有論述關(guān)注到算法對(duì)傳統(tǒng)正義觀念所造成的沖擊，10但關(guān)于自動(dòng)駕駛算法如何改變正義實(shí)現(xiàn)方式的問題，目前討論較少。應(yīng)對(duì)自動(dòng)駕駛的倫理和法律挑戰(zhàn)，不僅需要提出特定的倫理和法律方案，也需要回到作為倫理和法律實(shí)踐之根基的正義價(jià)值。盡管人們對(duì)正義的內(nèi)涵有不同見解，但從正義維度探究自動(dòng)駕駛具有兩重意涵。
第一，人工智能和社會(huì)的計(jì)算化工程將人類社會(huì)帶入一個(gè)新的技術(shù)化的正義環(huán)境中。傳統(tǒng)正義觀涉及共同體的社會(huì)合作框架、利益的分配以及應(yīng)得(desert)問題。11自動(dòng)駕駛必然涉及正義實(shí)踐的基礎(chǔ)，因?yàn)樽詣?dòng)駕駛引發(fā)新的社會(huì)合作形態(tài)，帶來新的技術(shù)格局以及利益的重新分配，并創(chuàng)造出自動(dòng)駕駛汽車產(chǎn)業(yè)全局中各方主體的全新權(quán)責(zé)形式。從正義視角切入自動(dòng)駕駛的倫理和法律問題勢(shì)在必行。
第二，自動(dòng)駕駛算法的設(shè)計(jì)是一個(gè)技術(shù)問題，軟件服務(wù)商基于對(duì)算法計(jì)算能力和精準(zhǔn)性的追求而展開激烈競爭，不斷實(shí)現(xiàn)算法技術(shù)升級(jí)。但其更深層的本質(zhì)是正義問題：自動(dòng)駕駛汽車在道路環(huán)境中行駛，使用道路這種公共物品，基于安全價(jià)值追求而作出決策時(shí)，必然引發(fā)分配正義問題。12前面提到的碰撞責(zé)任分擔(dān)和碰撞算法設(shè)計(jì)的問題，也是分配正義的直接體現(xiàn)。
(二)算法正義的基本內(nèi)涵
第一，由于算法的介入，駕駛的正義環(huán)境被改變，正義價(jià)值的內(nèi)涵及其相關(guān)價(jià)值在形態(tài)上也發(fā)生了變化。算法對(duì)價(jià)值形態(tài)的沖擊是非常明顯的，比如算法歧視與傳統(tǒng)意義上基于性別或膚色而作出的差別對(duì)待不同，它是通過計(jì)算方式把偏見以客觀數(shù)據(jù)的形式展現(xiàn)。算法歧視破壞了平等價(jià)值，但平等的價(jià)值形態(tài)在數(shù)據(jù)處理和計(jì)算過程中也發(fā)生了變化。同樣，當(dāng)自動(dòng)駕駛算法把尊重生命、謹(jǐn)慎、公平、程序等價(jià)值主張轉(zhuǎn)化為一系列數(shù)據(jù)、函數(shù)、模型和決策樹的時(shí)候，這些價(jià)值的形態(tài)必然會(huì)變化。自動(dòng)駕駛的倫理和法律挑戰(zhàn)通常與價(jià)值判斷相關(guān)，例如，使用自動(dòng)巡航功能的特斯拉汽車因?yàn)橐曈X識(shí)別系統(tǒng)把白色大卡車誤判成天空而產(chǎn)生事故。13這種系統(tǒng)的技術(shù)失誤是否構(gòu)成產(chǎn)品缺陷，設(shè)計(jì)者是否構(gòu)成過失，是典型的價(jià)值判斷問題。如果只按照傳統(tǒng)價(jià)值觀來理解設(shè)計(jì)者的主觀狀態(tài)，那么顯然會(huì)陷入困境。
第二，提煉正義原則需要結(jié)合自動(dòng)駕駛算法在人機(jī)協(xié)作中的決策地位。對(duì)侵權(quán)的救濟(jì)和犯罪行為的懲罰是實(shí)現(xiàn)矯正正義的途徑，14過錯(cuò)責(zé)任、嚴(yán)格責(zé)任、罪刑法定等基本原則也內(nèi)含著正義的價(jià)值內(nèi)核。然而，這些原則都預(yù)設(shè)了人的主體性和能動(dòng)性(agency)。雖然自動(dòng)駕駛算法不具備主體地位，但其在駕駛中的決策主導(dǎo)性至少部分地替代了人的主體性和能動(dòng)性。由此產(chǎn)生的問題是，對(duì)算法決策后果進(jìn)行追責(zé)的矯正目標(biāo)是算法還是人?如果只是通過設(shè)置交通肇事罪、責(zé)任事故罪對(duì)生產(chǎn)商、車主進(jìn)行追責(zé)，那么這無法改變算法的決策角色。算法正義不僅關(guān)注人在自動(dòng)駕駛汽車生產(chǎn)、運(yùn)行和追責(zé)中的角色，也需要評(píng)價(jià)算法的倫理與法律意義。
第三，算法正義的核心內(nèi)容是針對(duì)自動(dòng)駕駛的碰撞困境確定正義方案，這項(xiàng)工作應(yīng)當(dāng)圍繞算法而展開。在目前應(yīng)對(duì)碰撞困境的各種倫理和法律方案中，算法技術(shù)的統(tǒng)攝性地位并未受到重視。在自動(dòng)駕駛過程中，碰撞的發(fā)生受概率、技術(shù)和運(yùn)氣等復(fù)雜因素的影響，但本質(zhì)上是一個(gè)正義問題。一方面，碰撞是預(yù)先設(shè)計(jì)和算法自主決策的結(jié)合，“具有各種傳感器(例如距離、燈光、碰撞)和電機(jī)設(shè)備的簡單汽車已經(jīng)可以通過自組織神經(jīng)網(wǎng)絡(luò)產(chǎn)生復(fù)雜的行為”。15 另一方面，碰撞算法的設(shè)計(jì)是程序員將制度化的社會(huì)道德共識(shí)或偏好轉(zhuǎn)化為代碼和決策機(jī)制。碰撞算法的設(shè)計(jì)在技術(shù)上是專業(yè)程序員編程，但計(jì)算代碼內(nèi)含著“傳統(tǒng)交通和智能交通、傳統(tǒng)倫理與機(jī)器倫理、傳統(tǒng)交通法律與智能交通法律之間的對(duì)立和調(diào)適”。16 碰撞算法的設(shè)計(jì)需要在技術(shù)、倫理和法律的交互融合之中呈現(xiàn)出正義的脈絡(luò)，道義論和功利主義算法無法勝任這一任務(wù)，因此需要探索新的道德算法，以體現(xiàn)算法正義的要求。
(三)最大化最小值算法的設(shè)計(jì)
根據(jù)人機(jī)協(xié)作的特殊性，解決自動(dòng)駕駛的碰撞難題應(yīng)當(dāng)采取一種由反思平衡模式引導(dǎo)的最大化最小值算法。羅爾斯的最大化最小值原則強(qiáng)調(diào)的是，人們?cè)跓o知之幕下，應(yīng)當(dāng)盡可能選取這樣一個(gè)選項(xiàng)，即它的最糟糕后果將使人們的處境好于所有其他選項(xiàng)的最糟糕后果。17從羅爾斯的正義理論出發(fā)進(jìn)行自動(dòng)駕駛算法的編程，并不意味著該理論無懈可擊。其優(yōu)勢(shì)在于，以羅爾斯所設(shè)想的“無知之幕”作為確立自動(dòng)駕駛倫理的假設(shè)語境，更好地揭示了人類社會(huì)在面向智能化和人機(jī)協(xié)作的前景時(shí)所面對(duì)的困境。18在自動(dòng)駕駛上，無論是汽車生產(chǎn)者、所有者還是行人，都應(yīng)將自己放置在無知之幕中，選擇最符合正義感的算法設(shè)計(jì)方案。這個(gè)理論思路體現(xiàn)了對(duì)人的尊重，即人們?cè)跓o知之幕下會(huì)選擇對(duì)每個(gè)人都公平的自動(dòng)駕駛算法和碰撞方案。這既解決了自動(dòng)駕駛技術(shù)進(jìn)入實(shí)際應(yīng)用的門檻問題(部分地通過民眾期待得以體現(xiàn)),也能在自動(dòng)駕駛技術(shù)落地之后，通過重疊共識(shí)和多元理性更靈活地應(yīng)對(duì)實(shí)踐過程中的各種難題。19
在碰撞情形中，我們應(yīng)當(dāng)基于最大化最小值原則設(shè)計(jì)自動(dòng)駕駛算法：在碰撞造成的各種事故場景中，通過對(duì)損害和生命危險(xiǎn)進(jìn)行量化和計(jì)算，確定生存概率。每一種碰撞選擇都會(huì)存在生存概率的最高值和最低值，相較之下，最低值最高的那個(gè)選擇是合乎正義的碰撞選擇。20
舉例來說，一輛載有四名乘客的自動(dòng)駕駛汽車正在道路上行駛，迎面駛來一輛失控的大卡車。如果汽車撞向卡車，則會(huì)導(dǎo)致四名乘客死亡，卡車司機(jī)重傷；如果汽車緊急轉(zhuǎn)向，撞向路邊的五名路人，或者撞向道路邊施工的五名工人，則會(huì)導(dǎo)致乘客、路人和工人不同程度受傷或死亡。根據(jù)汽車撞擊程度、路人年齡和身體狀況的計(jì)算，可以設(shè)想不同碰撞情形下每個(gè)人的生存幾率如下：
第一，在撞向卡車的情況下，四名乘客的生存幾率較小，計(jì)算為0.01和0.10。卡車司機(jī)受重傷，計(jì)算為0.30。碰撞結(jié)果為：0.01;0.01;0.01;0.10;0.30。
第二，在撞向五名路人的情況下，由于事發(fā)突然，路人無法躲閃，生存幾率較小，根據(jù)年齡和身體狀況，計(jì)算為0.01和0.10。車上乘客由于車輛保護(hù)，生存幾率提高，計(jì)算為0.25和0.30。碰撞結(jié)果為：0.01;0.01;0.01;0.01;0.10;0.25;0.25;0.30;0.30。
第三，在撞向五名工人的情況下，由于存在防護(hù)，部分工人生存幾率提升，計(jì)算為0.01、0.10和0.15。碰撞結(jié)果為：0.01;0.10;0.10;0.15;0.15;0.25;0.25;0.30;0.30。
由于三個(gè)選項(xiàng)都存在0.01這一最小值，則遮擋該值，繼續(xù)進(jìn)行最小值的比較。第二輪比較仍然存在0.10這一共享最小值，則繼續(xù)比較。由于卡機(jī)司機(jī)的生存幾率實(shí)際為最高值，所以不參與比較，那么選項(xiàng)一的最小值為0.25,選項(xiàng)三的最小值為0.15,選項(xiàng)二的收益最大，則選擇選項(xiàng)二，即撞向五名路人。
最大化最小值并非要計(jì)算碰撞中的最大功利，而是在算法內(nèi)嵌之緊急情形下提出一種解決生命權(quán)沖突的公平?jīng)Q策。正如有學(xué)者指出的：“如果存在一種危險(xiǎn)共同體，即多人或一個(gè)團(tuán)體中所有人都處于同樣的死亡危險(xiǎn)之中，只能犧牲一人或幾人的生命來挽救其余人的生命，則允許計(jì)算生命的多少。”21最大化最小值算法并不絕對(duì)地保護(hù)乘客，而是在對(duì)各方主體的存活概率進(jìn)行測(cè)算之后，“在笛卡爾積的映射數(shù)據(jù)集中權(quán)衡事故主體存活概率的最低收益集，經(jīng)過循環(huán)窮舉，篩選出將最低收益最大化的操作；若多種操作收益相同，則使用隨機(jī)數(shù)決定最終操作”。22
上述例子只是一個(gè)簡單模型，真實(shí)世界中的自動(dòng)駕駛遠(yuǎn)為復(fù)雜，涉及各種變量。變量的存在并不會(huì)削弱最大化最小值算法的說服力，反而可以驗(yàn)證這一算法的可行性和優(yōu)勢(shì)。在算法的倫理分析中，變量的出現(xiàn)有兩層意義。第一，變量可以促進(jìn)數(shù)據(jù)的積累。數(shù)據(jù)越多，算法計(jì)算的精確性就越能提升。自動(dòng)駕駛的碰撞數(shù)據(jù)可以反復(fù)驗(yàn)證最大化最小值算法的可行性，即算法是否能夠準(zhǔn)確計(jì)算每種選擇中的最小值，反過來為數(shù)據(jù)訓(xùn)練提供支持。第二，通過拓展算法的應(yīng)用空間來促進(jìn)人機(jī)協(xié)作的層次和深度。機(jī)器道德和社會(huì)道德的差異體現(xiàn)在社會(huì)道德通過人的觀念共享而發(fā)揮道德指引作用，機(jī)器道德通過算法技術(shù)升級(jí)和結(jié)構(gòu)優(yōu)化而實(shí)現(xiàn)。算法正義的實(shí)現(xiàn)除了在理念上論證最大化最小值算法的正當(dāng)性之外，還要通過實(shí)地的計(jì)算模型驗(yàn)證和優(yōu)化來強(qiáng)化算法的可操作性。
根據(jù)既有研究，可以將自動(dòng)駕駛算法運(yùn)行中出現(xiàn)的變量總結(jié)為以下若干類型：
(四)對(duì)最大化最小值算法之辯護(hù)
批評(píng)者認(rèn)為，這種最大化最小值的算法設(shè)計(jì)誤解了羅爾斯關(guān)于無知之幕中人們選擇公平正義觀的動(dòng)機(jī)。基林(Keeling)認(rèn)為，在無知之幕中的人們選擇公平作為最佳正義觀時(shí)，他們對(duì)這種正義觀的利弊作出了充分的論辯和權(quán)衡，但針對(duì)自動(dòng)駕駛的碰撞難題，人們無法公允地論辯如何設(shè)計(jì)自動(dòng)駕駛的算法，因此，最大化最小值算法無法從羅爾斯的正義理論中獲得有力支持。23余露認(rèn)為，羅爾斯的正義理論并不支持對(duì)碰撞事故中的個(gè)體生命進(jìn)行量化，羅爾斯強(qiáng)調(diào)的是生命質(zhì)量的正義維度，而非生存幾率。24
這些批評(píng)都不足以對(duì)最大化最小值算法造成沖擊。道德原則向計(jì)算指令的轉(zhuǎn)化，改變了道德規(guī)范的存在形態(tài)，構(gòu)成了對(duì)人類道德實(shí)踐的深刻調(diào)整。道德實(shí)在論無法體現(xiàn)出人類道德和機(jī)器道德的差異，建構(gòu)性地理解機(jī)器道德及其實(shí)踐是正義實(shí)踐的有機(jī)延伸。即使自動(dòng)駕駛的碰撞情形與無知之幕不完全類似，但在自動(dòng)駕駛帶來的全新正義環(huán)境下，通過對(duì)碰撞損害分配的反思平衡，最大化最小值算法符合算法實(shí)踐的正義方案，與羅爾斯的正義理論是內(nèi)在一致的。雖然生命質(zhì)量與生存幾率不是同一回事，但在碰撞情形中，生存幾率的計(jì)算和評(píng)估是生命這種基本善的正義分配問題。在是否能夠權(quán)衡和計(jì)算生命的問題上，最大化最小值算法并未偏離社會(huì)正義實(shí)踐中尊重人的尊嚴(yán)和生命價(jià)值的基本共識(shí)。
三、自動(dòng)駕駛的教義學(xué)責(zé)任
自動(dòng)駕駛對(duì)法律責(zé)任體系的沖擊是劇烈的。責(zé)任存在的意義是彰顯人的主體地位、劃定社會(huì)行為邊界和促進(jìn)社會(huì)協(xié)作，人機(jī)協(xié)作在這三個(gè)方面改變了責(zé)任的社會(huì)基礎(chǔ)和實(shí)踐結(jié)構(gòu)，將機(jī)器決策嵌入到汽車生產(chǎn)者、軟件服務(wù)商和車主的社會(huì)角色之中，重塑了這些角色的責(zé)任形態(tài)及歸責(zé)模式，同時(shí)也促發(fā)了法律制度自身的調(diào)整。產(chǎn)品質(zhì)量、注意義務(wù)、因果關(guān)系、緊急避險(xiǎn)和過錯(cuò)等傳統(tǒng)責(zé)任要素都需要在自動(dòng)駕駛所創(chuàng)造的正義語境(特別是不可避免的碰撞情形)中被賦予新的規(guī)范內(nèi)涵。自動(dòng)駕駛的法律責(zé)任體系在結(jié)構(gòu)上包含著各方主體的民事責(zé)任、行政責(zé)任和刑事責(zé)任等，在內(nèi)容上體現(xiàn)為責(zé)任基礎(chǔ)認(rèn)定、責(zé)任的教義學(xué)化和可責(zé)性(culpability)判斷等各個(gè)環(huán)節(jié)。自動(dòng)駕駛的責(zé)任法理聚焦于兩個(gè)問題：一是算法正義如何在自動(dòng)駕駛責(zé)任體系的構(gòu)建中發(fā)揮作用；二是最大化最小值算法如何轉(zhuǎn)化到教義學(xué)框架中，以實(shí)現(xiàn)對(duì)各方主體的責(zé)任認(rèn)定和可責(zé)性判斷。
(一)基于算法正義的新興責(zé)任體系
基于算法正義的基本內(nèi)涵，自動(dòng)駕駛中的人機(jī)協(xié)作改變了各方主體的責(zé)任形態(tài)，將傳統(tǒng)的責(zé)任分離型安全行駛實(shí)踐轉(zhuǎn)化成由算法貫穿全局的高度結(jié)構(gòu)化和聯(lián)動(dòng)型的智能協(xié)作。這一轉(zhuǎn)型體現(xiàn)在三個(gè)方面。
1.責(zé)任主體的認(rèn)定
按照當(dāng)前的倫理學(xué)探討，主流觀點(diǎn)認(rèn)為自動(dòng)駕駛汽車并不具備承擔(dān)責(zé)任的主體資格，算法仍然是人類行動(dòng)的代理者，其決策責(zé)任仍舊歸于人類自身。25個(gè)體或團(tuán)體承擔(dān)責(zé)任的基礎(chǔ)在于人格的存在，比如侵權(quán)責(zé)任表明個(gè)體具備作出矯正的能動(dòng)性人格，可以彌補(bǔ)錯(cuò)誤和表達(dá)歉意，刑事責(zé)任表明行為人基于其犯罪行為而具有應(yīng)受懲罰的可責(zé)性。算法的介入影響了相關(guān)主體的人格狀態(tài)，在他們的社會(huì)人格之上附加了技術(shù)人格，從而引發(fā)責(zé)任關(guān)系的變化。例如，傳統(tǒng)汽車生產(chǎn)者只有保障汽車出廠合格的責(zé)任，而對(duì)駕駛者過錯(cuò)造成的損害無需承擔(dān)責(zé)任。自動(dòng)駕駛汽車的生產(chǎn)者卻需要聯(lián)合軟件供應(yīng)商對(duì)汽車的全部駕駛過程擔(dān)責(zé)，特別是要在各種復(fù)雜情境中實(shí)時(shí)防止碰撞的發(fā)生。
由于預(yù)測(cè)人機(jī)互動(dòng)方式的內(nèi)在復(fù)雜性和機(jī)器產(chǎn)品的相對(duì)自主性，讓生產(chǎn)者盡到充分的注意義務(wù)是很困難的。26對(duì)生產(chǎn)者的責(zé)任認(rèn)定已經(jīng)超越了傳統(tǒng)責(zé)任觀所內(nèi)含的“自負(fù)其責(zé)”的人格意義，更多地彰顯出各方主體在萬物互聯(lián)的技術(shù)領(lǐng)域中越來越突出的技術(shù)人格屬性。當(dāng)然，這并不意味著自動(dòng)駕駛汽車的法律責(zé)任建構(gòu)需要一種完全不同于傳統(tǒng)理論的新思路，而是要在責(zé)任主體的認(rèn)定中，展現(xiàn)出其新興技術(shù)人格狀態(tài)，并據(jù)此調(diào)整法律制度，比如修改與汽車相關(guān)的消費(fèi)者權(quán)益保護(hù)規(guī)則、交通事故認(rèn)定和舉證規(guī)則等。
2.道德責(zé)任與法律責(zé)任的融合
在法律制度的發(fā)展歷程中，道德責(zé)任與法律責(zé)任呈現(xiàn)出逐漸分離的趨勢(shì)。法律責(zé)任包含著特定道德內(nèi)涵，比如刑事責(zé)任體現(xiàn)了“向被告、被害人、一般公眾及刑事司法官員傳達(dá)對(duì)行為人的道德批評(píng)”。27但法律責(zé)任也蘊(yùn)含著通過法律實(shí)施來維持社會(huì)合作的非道德性功能，比如提升經(jīng)濟(jì)效益、激勵(lì)民眾守法等。典型的例子是緊急避險(xiǎn)，人在緊急情況下為了避免迫在眉睫的危險(xiǎn)而對(duì)其他人造成損失，這種做法在道德上是可責(zé)的，但通常無需承擔(dān)法律責(zé)任。這種責(zé)任分配的合理性并不在于緊急避險(xiǎn)在道德上的可辯護(hù)性，而是通過分?jǐn)偵鐣?huì)成員面對(duì)未知世界的連帶風(fēng)險(xiǎn)，提高社會(huì)成員應(yīng)對(duì)風(fēng)險(xiǎn)社會(huì)處境的靈活性，“以犧牲他人來回避危險(xiǎn)的妥當(dāng)性，是以承認(rèn)自己在緊急避險(xiǎn)狀況中，也會(huì)為他人而犧牲為基礎(chǔ)”。28
3.動(dòng)態(tài)的算法正義責(zé)任機(jī)制
從人機(jī)協(xié)作對(duì)責(zé)任主體和責(zé)任內(nèi)涵的沖擊來看，自動(dòng)駕駛之責(zé)任體系的構(gòu)建需要保持動(dòng)態(tài)性和開放性。責(zé)任體系的動(dòng)態(tài)性體現(xiàn)在，法律責(zé)任體系要適應(yīng)人機(jī)協(xié)作不斷深化、算法技術(shù)不斷升級(jí)的智能化社會(huì)轉(zhuǎn)型。隨著自動(dòng)駕駛技術(shù)的應(yīng)用越來越廣泛、駕駛數(shù)據(jù)的不斷累積，汽車應(yīng)對(duì)突發(fā)狀況的機(jī)器學(xué)習(xí)能力不斷提升，對(duì)汽車生產(chǎn)者改善汽車性能和算法設(shè)計(jì)者更新算法的責(zé)任要求也需要?jiǎng)討B(tài)更新。責(zé)任體系的開放性體現(xiàn)在，法律責(zé)任的設(shè)定和歸結(jié)既要保持教義學(xué)意義上的穩(wěn)定性，同時(shí)又要兼顧算法技術(shù)的動(dòng)態(tài)發(fā)展。應(yīng)對(duì)碰撞情形的算法責(zé)任最能體現(xiàn)這種動(dòng)態(tài)性和開放性，而最大化最小值的理念設(shè)計(jì)，可以保障法律責(zé)任體系的構(gòu)建更好地實(shí)現(xiàn)算法正義。
基于上述三重轉(zhuǎn)變，自動(dòng)駕駛的責(zé)任法理也具備了新的內(nèi)容。在具體制度設(shè)計(jì)中，體現(xiàn)算法正義的自動(dòng)駕駛責(zé)任體系呈現(xiàn)為“一元兩級(jí)”的宏觀架構(gòu)。
“一元”指的是，自動(dòng)駕駛責(zé)任體系追求一個(gè)統(tǒng)一的目標(biāo)，即由自動(dòng)駕駛算法決策替代人類決策，以更為安全和合乎道德的方式完成駕駛?cè)蝿?wù)。自動(dòng)駕駛汽車產(chǎn)品標(biāo)準(zhǔn)的制定、政府監(jiān)管和法院對(duì)交通事故的裁決都是為了讓算法更好地運(yùn)行。“兩級(jí)”包含著法律責(zé)任的教義學(xué)體系和向算法正義開放的動(dòng)態(tài)責(zé)任體系兩個(gè)層級(jí)。
第一級(jí)責(zé)任包含著與法律制度體系相容的各類法律責(zé)任。駕駛與交通是社會(huì)生活的組成部分，自動(dòng)駕駛實(shí)踐需要保持與社會(huì)生活的整體一致性，這意味著具體責(zé)任設(shè)計(jì)要符合社會(huì)經(jīng)驗(yàn)，也應(yīng)當(dāng)保持一定的限度，比如不能要求開發(fā)算法的程序員二十四小時(shí)監(jiān)測(cè)算法的運(yùn)行狀況，車主不能以自己并非駕駛者為由而拒絕賠償?shù)取＿@種責(zé)任可以稱為教義學(xué)責(zé)任。
第二級(jí)責(zé)任體現(xiàn)在，人機(jī)協(xié)作模式下的算法決策被嵌入到法律責(zé)任體系之中，這推動(dòng)了責(zé)任形態(tài)的動(dòng)態(tài)調(diào)整和不斷開放。碰撞情形的不可避免性和事故數(shù)據(jù)的不斷更新迭代，使得法律責(zé)任體系需要不斷回應(yīng)算法技術(shù)所產(chǎn)生的現(xiàn)實(shí)張力，最大化最小值算法主要是在第二級(jí)責(zé)任層次上為法律責(zé)任的認(rèn)定和歸結(jié)提供技術(shù)和規(guī)范雙重意義上的化解方案。這種責(zé)任可以稱為證成性責(zé)任(justificatory responsibility)。
需要注意的是，這兩級(jí)責(zé)任并非以并列的方式存在，而是相互滲透和融合，共同支撐起動(dòng)態(tài)的自動(dòng)駕駛法律責(zé)任體系。
(二)自動(dòng)駕駛的教義學(xué)責(zé)任形態(tài)
基于人機(jī)協(xié)作的決策屬性，交通行為不再是個(gè)體可控的意志行為，而是一種包含著集體意向的算法決策。在這種智能化決策網(wǎng)絡(luò)中，對(duì)某一主體的責(zé)任認(rèn)定不應(yīng)是分離的。交通出行領(lǐng)域的傳統(tǒng)法律責(zé)任劃分相對(duì)清晰，《中華人民共和國道路交通安全法》和《中華人民共和國刑法》等對(duì)交通事故的責(zé)任分配或肇事者的刑事責(zé)任作出了清楚界定。汽車所有人或者管理人的過錯(cuò)是交通責(zé)任認(rèn)定的主要依據(jù)，相關(guān)主體的注意義務(wù)或事故的因果關(guān)系是判斷刑事責(zé)任的主要依據(jù)。29然而，當(dāng)人機(jī)協(xié)作參與到交通出行中，駕駛者成為一個(gè)享受駕駛益處但分離于駕駛過程的旁觀者，那么對(duì)駕駛者(本質(zhì)上是乘客)的責(zé)任認(rèn)定就是一個(gè)全新的問題，注意義務(wù)或因果關(guān)系等概念的傳統(tǒng)內(nèi)涵無法直接適用于自動(dòng)駕駛。例如，自動(dòng)駕駛算法的設(shè)計(jì)者、粗心大意的司機(jī)(乘客)和誤入車道的自行車賽手之間存在著跨越時(shí)空的技術(shù)關(guān)聯(lián)，這是集體能動(dòng)性的體現(xiàn)。傳統(tǒng)責(zé)任劃分的部門法界限失去了指導(dǎo)意義，厘清各種責(zé)任之間的邊界具有一定的難度，但從教義學(xué)視角劃分法律責(zé)任仍是有意義的。
第一，傳統(tǒng)意義上公法和私法、侵權(quán)責(zé)任和刑事責(zé)任的劃分具有高度的教義學(xué)穩(wěn)定性，對(duì)于保障汽車質(zhì)量和道路安全具有重要意義。汽車的智能化幾乎完全重構(gòu)了交通的社會(huì)意義，顯著改變了法律責(zé)任劃分的社會(huì)道德基礎(chǔ)，也沖擊了不同部門法之間的明確界限。教義學(xué)視角可以更好地促進(jìn)部門法視角的轉(zhuǎn)型，從而更好地應(yīng)對(duì)智能時(shí)代的法律挑戰(zhàn)。例如在行政責(zé)任方面，政府承擔(dān)著把控汽車質(zhì)量、維護(hù)道路交通和落實(shí)安全駕駛等責(zé)任。在自動(dòng)駕駛時(shí)代，政府的監(jiān)管責(zé)任將圍繞自動(dòng)駕駛算法的可行性而展開。自動(dòng)駕駛汽車的標(biāo)準(zhǔn)和政策通常反映了一個(gè)國家對(duì)汽車智能化的產(chǎn)業(yè)布局與民眾對(duì)自動(dòng)駕駛汽車的接受程度，自動(dòng)駕駛算法通過自我學(xué)習(xí)可以提升決策能力和水準(zhǔn)，也能在法律規(guī)制的制度壓力之下進(jìn)行動(dòng)態(tài)調(diào)整。政府的任務(wù)更為立體，其應(yīng)當(dāng)以更為積極的姿態(tài)提升智能科技的社會(huì)化層次和動(dòng)態(tài)適應(yīng)性，因?yàn)椤岸嘧兊慕煌▓鼍啊㈤_放的網(wǎng)絡(luò)與數(shù)據(jù)環(huán)境以及算法自動(dòng)決策因素決定了智能網(wǎng)聯(lián)汽車的技術(shù)標(biāo)準(zhǔn)呈現(xiàn)動(dòng)態(tài)的、過程性的特點(diǎn)”。30政府監(jiān)管也應(yīng)當(dāng)包含強(qiáng)制性入市測(cè)試、數(shù)據(jù)可控和無過錯(cuò)賠付機(jī)制等事前、事中和事后監(jiān)管多個(gè)維度。31
第二，對(duì)自動(dòng)駕駛的教義學(xué)責(zé)任進(jìn)行劃分，可以展現(xiàn)證成性責(zé)任與教義學(xué)責(zé)任的互動(dòng)空間，從而促進(jìn)法律責(zé)任體系的完善。一方面，智能汽車不能承擔(dān)法律責(zé)任，這會(huì)給復(fù)雜責(zé)任的分配帶來困難，比如汽車在極端惡劣的天氣中造成乘客死亡。另一方面，汽車故障和事故的歸因常常會(huì)因?yàn)樗惴Q策過程的復(fù)雜性和不透明而被切斷。這些問題的存在恰恰反映了教義學(xué)責(zé)任的局限，體現(xiàn)出在人機(jī)協(xié)作框架中分析證成性責(zé)任的重要性。
自動(dòng)駕駛算法的運(yùn)行是對(duì)駕駛?cè)^程的高度復(fù)雜化運(yùn)算的結(jié)果，算法的失誤當(dāng)然與汽車性能和算法設(shè)計(jì)相關(guān)，但不能由此教條地推斷出汽車制造商和算法設(shè)計(jì)者違反了注意義務(wù)，更不能輕易地對(duì)這些主體的失誤定罪量刑，比如讓算法設(shè)計(jì)者為事故中的乘客或行人傷亡承擔(dān)刑事責(zé)任。交通事故的法律責(zé)任劃分，需要向證成性責(zé)任開放，最大化最小值算法的嵌入將自動(dòng)駕駛事務(wù)納入一種新的規(guī)范性語境中。界定算法設(shè)計(jì)者的編程(特別是應(yīng)對(duì)事故的編程)責(zé)任和乘客作為所有者的責(zé)任，需要綜合幾個(gè)因素，其中包括人機(jī)協(xié)作對(duì)人的主觀狀態(tài)的沖擊、算法維護(hù)與算法自主運(yùn)行之間的張力、最大化最小值算法應(yīng)用的靈活性等。
基于上述兩個(gè)理由，確立和歸結(jié)自動(dòng)駕駛的教義學(xué)責(zé)任應(yīng)當(dāng)遵循穩(wěn)定性與動(dòng)態(tài)性相結(jié)合的原則。由于教義學(xué)責(zé)任體系龐雜，此處僅提煉這一原則的法理內(nèi)涵。
首先，應(yīng)當(dāng)基于算法正義進(jìn)行教義學(xué)責(zé)任的體系性協(xié)調(diào)。算法帶來了社會(huì)協(xié)作的深化和社會(huì)生活的智能化，在某種程度上也體現(xiàn)了人類通過科技和法律進(jìn)行互惠合作的前景，強(qiáng)化算法的社會(huì)功能和科技活力的釋放應(yīng)該并行不悖。在這個(gè)意義上，我們應(yīng)改變刑事責(zé)任體系，在各方主體盡到充分注意的情況下，以更為多元的方式應(yīng)對(duì)風(fēng)險(xiǎn)，強(qiáng)化事后救濟(jì)，減少過重的刑事追責(zé)。自動(dòng)駕駛的風(fēng)險(xiǎn)不同于智能技術(shù)在人臉識(shí)別、信息收集等領(lǐng)域的風(fēng)險(xiǎn)，后者具有高度不可控性，一旦發(fā)生風(fēng)險(xiǎn)，后果難以預(yù)估。自動(dòng)駕駛風(fēng)險(xiǎn)具有可控性，而且也應(yīng)當(dāng)容納一定的風(fēng)險(xiǎn)。32
其次，保持教義學(xué)責(zé)任內(nèi)涵的穩(wěn)定性，但向證成性責(zé)任開放。責(zé)任內(nèi)涵的穩(wěn)定性和延續(xù)性是維持自動(dòng)駕駛之社會(huì)功能的重要途徑，智能技術(shù)的巨大沖擊力需要在法律責(zé)任體系的統(tǒng)一性和社會(huì)生活的連續(xù)性之間得以適當(dāng)化解，比如以嚴(yán)格的監(jiān)管和產(chǎn)品責(zé)任體系避免汽車產(chǎn)業(yè)唯利是圖。然而，自動(dòng)駕駛汽車產(chǎn)業(yè)將人機(jī)協(xié)作社會(huì)模式嵌入到社會(huì)生活結(jié)構(gòu)后，責(zé)任的人格屬性和歸責(zé)的因果鏈條打上了機(jī)器理性的烙印，構(gòu)成教義學(xué)責(zé)任的質(zhì)料也應(yīng)動(dòng)態(tài)調(diào)整。例如，算法設(shè)計(jì)者的編程過失不能僅依賴于對(duì)設(shè)計(jì)者主觀狀態(tài)的判斷。如果設(shè)計(jì)者惡意修改某一段程序，導(dǎo)致汽車碰撞，這與傳統(tǒng)故意傷害罪并無二致。但如果設(shè)計(jì)者基于計(jì)算失誤或錯(cuò)誤地置入剎車程序而致使汽車誤闖紅燈或者撞傷路人，對(duì)設(shè)計(jì)者的責(zé)任認(rèn)定不能完全基于其主觀狀態(tài)，也要考量算法在道路測(cè)試中的成效、算法自身的糾錯(cuò)能力、特定計(jì)算程序與其他技術(shù)協(xié)作的效率等因素。雖然設(shè)計(jì)者最終仍然可能基于其過失而承擔(dān)侵權(quán)或刑事責(zé)任，但這個(gè)歸責(zé)過程體現(xiàn)了法律理性與技術(shù)理性的結(jié)合，以克服實(shí)踐難題，因?yàn)榻^對(duì)安全的自動(dòng)駕駛技術(shù)是無法實(shí)現(xiàn)的。33
最后，教義學(xué)責(zé)任體系的動(dòng)態(tài)性還體現(xiàn)在，教義學(xué)責(zé)任應(yīng)當(dāng)以漸進(jìn)方式吸納碰撞情形中的證成性責(zé)任。在不可避免的碰撞事故中，責(zé)任分配不同于自動(dòng)駕駛常態(tài)中的責(zé)任分配。算法設(shè)計(jì)者和車主都有法律責(zé)任保障汽車安全行駛，但同時(shí)也要面對(duì)碰撞發(fā)生的可能性。一旦發(fā)生碰撞，法律責(zé)任體系將以動(dòng)態(tài)方式轉(zhuǎn)化為分析碰撞過程、檢驗(yàn)算法決策過程和分配碰撞責(zé)任的機(jī)制，這個(gè)轉(zhuǎn)化過程需要教義學(xué)責(zé)任和證成性責(zé)任的有效銜接。由于發(fā)生碰撞是偶發(fā)事件，最大化最小值算法的運(yùn)行卻是一種技術(shù)上的必然，因此，相關(guān)主體需要承擔(dān)的兩種責(zé)任形態(tài)的轉(zhuǎn)化應(yīng)該保持制度上的連貫性。例如，某種品牌的汽車在碰撞事故中按照最大化最小值算法執(zhí)行，造成乘客或者行人的傷亡，除了分配事故責(zé)任之外，也應(yīng)當(dāng)基于事故數(shù)據(jù)調(diào)整常態(tài)的教義學(xué)責(zé)任體系，這在一定程度上也減輕了碰撞情形中的歸責(zé)壓力。
四、自動(dòng)駕駛的證成性責(zé)任
自動(dòng)駕駛責(zé)任法理的真正挑戰(zhàn)在于如何應(yīng)對(duì)不可避免的碰撞。根據(jù)前文的討論，最大化最小值算法是應(yīng)對(duì)碰撞的最佳技術(shù)方案，同時(shí)也是體現(xiàn)算法正義的社會(huì)決策。但這一算法的執(zhí)行不是在真空中發(fā)生的，而是需要落實(shí)在具體的法律制度和責(zé)任體系中。如果不能破解碰撞中的責(zé)任歸屬難題，則自動(dòng)駕駛汽車就失去了成為現(xiàn)實(shí)的可能性。汽車生產(chǎn)者、算法設(shè)計(jì)者、車主、其他道路使用者等在碰撞情形中的責(zé)任是典型的證成性責(zé)任，其責(zé)任基礎(chǔ)在于參與人機(jī)協(xié)作的各方主體共同接受一種使最小損失者的利益最大化的碰撞方案。碰撞的發(fā)生是基于預(yù)先設(shè)計(jì)的碰撞算法，雖然產(chǎn)生了損害，但碰撞決策是符合機(jī)器道德的。問題在于，參與決策的各方主體應(yīng)該承擔(dān)何種法律責(zé)任?
(一)基于最大化最小值算法的法律責(zé)任設(shè)計(jì)
解決碰撞情形下的證成性責(zé)任難題，需要以最大化最小值算法的技術(shù)邏輯和建構(gòu)性道德意義為出發(fā)點(diǎn)，充分展示機(jī)器道德實(shí)踐中道德責(zé)任和法律責(zé)任的融合，在此基礎(chǔ)上確立符合算法正義的自動(dòng)駕駛法律責(zé)任體系。
首先，生命安全保障的價(jià)值追求應(yīng)當(dāng)貫徹在自動(dòng)駕駛算法設(shè)計(jì)和應(yīng)用的全部環(huán)節(jié)之中，但算法主導(dǎo)的駕駛過程中的價(jià)值狀態(tài)與司機(jī)主導(dǎo)的駕駛過程中的價(jià)值狀態(tài)有所不同。一旦出現(xiàn)不可避免的碰撞情形，最大化最小值算法將駕駛語境瞬時(shí)轉(zhuǎn)化為由算法進(jìn)行道德決策的計(jì)算化語境，其結(jié)果是基于保護(hù)最小損失者的利益而分配損害。這個(gè)轉(zhuǎn)化所引發(fā)的責(zé)任問題不在于誰應(yīng)該為最終的損害負(fù)責(zé)，而是最大化最小值算法是否以合乎道德和正義的方式進(jìn)行決策。人們可能會(huì)誤認(rèn)為這種思路是將生殺予奪的大權(quán)交給冷冰冰的代碼和程序，然而這恰恰是人機(jī)協(xié)作對(duì)人類未來的智能化所作出的貢獻(xiàn)。
其次，碰撞的可計(jì)算性使得法律責(zé)任的基礎(chǔ)和內(nèi)涵都發(fā)生了變化，責(zé)任的證成性體現(xiàn)為法律責(zé)任與道德責(zé)任的融合，以及機(jī)器道德的嵌入性。在不可避免的各種碰撞場景中，由于碰撞的損害結(jié)果是執(zhí)行最大化最小值算法的正義方案而產(chǎn)生的，各方主體進(jìn)入到一種“技術(shù)上的必然抉擇”。由此產(chǎn)生的道德責(zé)任也不同于常態(tài)社會(huì)互動(dòng)下不得互相傷害的道德責(zé)任，這種責(zé)任并不體現(xiàn)不能對(duì)人造成傷害的道義論約束，而是基于嚴(yán)格的技術(shù)研發(fā)、充分的智能輔助、動(dòng)態(tài)的政府監(jiān)管和充分的公眾參與而形成的深度協(xié)作要求。相比于避免事故損傷的目標(biāo)，最大化最小值算法的實(shí)際應(yīng)用對(duì)社會(huì)協(xié)作提出了更高的道德要求。法律責(zé)任也相應(yīng)地轉(zhuǎn)化為保障機(jī)器道德的規(guī)范要求，即在社會(huì)合作轉(zhuǎn)化為機(jī)器指令的過程中，各方所應(yīng)承擔(dān)的具體責(zé)任，比如汽車生產(chǎn)者以適應(yīng)算法運(yùn)行的方式打造零部件，算法設(shè)計(jì)者準(zhǔn)確地設(shè)計(jì)計(jì)算程序，政府部門建造智能化的道路基礎(chǔ)設(shè)施。碰撞算法的設(shè)計(jì)不僅意味著通過技術(shù)手段防范風(fēng)險(xiǎn)和損害，而且還以法律形式保障自動(dòng)駕駛算法運(yùn)行的人機(jī)協(xié)作環(huán)境和技術(shù)支持。
最后，最大化最小值算法的運(yùn)行產(chǎn)生了新興法益和責(zé)任歸屬關(guān)系。傳統(tǒng)駕駛實(shí)踐的法益在于交通安全，自動(dòng)駕駛既要追求交通安全，也要追求機(jī)器決策的可控性。最大化最小值算法以安全為首要價(jià)值追求，但同時(shí)也包含著在碰撞中執(zhí)行道德指令的決策機(jī)制。碰撞中的法益并不體現(xiàn)在人的生命或財(cái)產(chǎn)不可受損，而是體現(xiàn)在算法要以正義和合理的方式對(duì)待碰撞中的每個(gè)個(gè)體。另外，參與各方在碰撞中形成了基于算法決策的道德關(guān)聯(lián)，相應(yīng)地產(chǎn)生了各種形式的法律責(zé)任。
最大化最小值算法有助于幫助我們重新理解交通出行中的侵權(quán)責(zé)任與刑事責(zé)任。當(dāng)前的研究通常都是分別針對(duì)這兩種責(zé)任形態(tài)進(jìn)行探討的，從而忽視了兩種責(zé)任高度融合的潛力。由于駕駛過程的完全智能化和駕駛決策的人機(jī)互動(dòng)性，侵權(quán)法和刑法實(shí)踐中的傳統(tǒng)概念需要被賦予技術(shù)屬性，比如算法失靈導(dǎo)致的產(chǎn)品質(zhì)量瑕疵。汽車剎車失靈或者輪胎故障是很容易判斷的產(chǎn)品瑕疵，但算法失靈卻是一種非常新穎的計(jì)算故障，可以體現(xiàn)為程序員植入錯(cuò)誤的代碼、計(jì)算程序紊亂、算法與傳感沖突(比如錯(cuò)將車身上的廣告畫當(dāng)作真實(shí)動(dòng)物)等多種形式。不論這些故障是否造成實(shí)際的事故，我們都很難斷定這些可能發(fā)生的故障是否應(yīng)被允許，誰應(yīng)該為算法失靈負(fù)責(zé)，以及應(yīng)當(dāng)承擔(dān)的是侵權(quán)責(zé)任還是刑事責(zé)任。
(二)刑事責(zé)任認(rèn)定
在碰撞發(fā)生后，對(duì)汽車生產(chǎn)商或者車主進(jìn)行刑事追責(zé)并無意義。按照達(dá)夫的主張，對(duì)某一行為的定罪體現(xiàn)了對(duì)罪錯(cuò)的權(quán)威性和共同的譴責(zé)。34最大化最小值算法的執(zhí)行不會(huì)產(chǎn)生社會(huì)譴責(zé)的情感空間，也缺乏刑事追責(zé)的人格載體。
首先，通過刑法的懲罰措施對(duì)經(jīng)過預(yù)先計(jì)算的可預(yù)見的風(fēng)險(xiǎn)進(jìn)行防范并無充分的法益基礎(chǔ)。35更合理和務(wù)實(shí)的方案是事后救濟(jì)，特別是完善事故保險(xiǎn)機(jī)制，或者實(shí)施人工智能儲(chǔ)備金制度。36有學(xué)者認(rèn)為，應(yīng)當(dāng)“基于自動(dòng)駕駛整體在安全性與社會(huì)利益方面的巨大技術(shù)優(yōu)勢(shì)而容忍極端情況下的低概率的技術(shù)邊界問題及兩難困境下的無法避免的損害”。37這并不意味著免除了汽車生產(chǎn)者和算法設(shè)計(jì)者在事故發(fā)生上的法律責(zé)任，而是強(qiáng)化了他們?cè)趯⒔煌ㄊ鹿始{入計(jì)算社會(huì)網(wǎng)絡(luò)中的獨(dú)特角色，其中包含著對(duì)每一種可能的碰撞情形的充分倫理評(píng)估，對(duì)碰撞之損害救濟(jì)的完善機(jī)制的構(gòu)建，以及在每個(gè)具體個(gè)案中如何釋放出算法決策最優(yōu)化和公平分配法律責(zé)任的理想方案。
在傳統(tǒng)駕駛實(shí)踐中，安全意識(shí)的提升和碰撞事故的減少需要駕駛員的嚴(yán)格訓(xùn)練和持續(xù)的社會(huì)動(dòng)員。而在智能駕駛時(shí)代，這一任務(wù)將由算法完成。立法決策者的主要任務(wù)就轉(zhuǎn)變成規(guī)范自動(dòng)駕駛技術(shù)的研發(fā)，提升自動(dòng)駕駛的人機(jī)信任，以及在碰撞事故中確立符合算法正義的損害救濟(jì)方案。
其次，自動(dòng)駕駛汽車在行駛過程中存在著潛在干擾因素，可能會(huì)觸發(fā)碰撞算法的執(zhí)行，比如疲勞駕駛的大卡車司機(jī)、闖入道路的行人等。最大化最小值算法的實(shí)施不具有可責(zé)性，但司機(jī)和行人造成了算法執(zhí)行的后果，應(yīng)當(dāng)承擔(dān)刑事責(zé)任。
最后，自動(dòng)駕駛算法的設(shè)計(jì)并非一項(xiàng)簡單的工程，需要汽車生產(chǎn)者、程序設(shè)計(jì)者、數(shù)據(jù)分析方和交通部門共同參與到算法研發(fā)、標(biāo)準(zhǔn)設(shè)立和實(shí)施保障的系統(tǒng)工程中，并創(chuàng)造出新的社會(huì)價(jià)值空間和法益。如果汽車生產(chǎn)者為了吸引顧客，刻意在碰撞算法設(shè)計(jì)中向乘客過度傾斜，則破壞了算法運(yùn)行的公平性。盡管從傳統(tǒng)社會(huì)經(jīng)驗(yàn)來說，汽車生產(chǎn)者應(yīng)該追求購車者的最大利益，但在自動(dòng)駕駛時(shí)代，算法公平嵌入到交通實(shí)踐中，汽車的終極價(jià)值追求不是絕對(duì)保護(hù)乘客，而是預(yù)防事故的發(fā)生，并在碰撞不可避免的情況下作出符合算法正義的抉擇。
(三)民事責(zé)任認(rèn)定
在民事責(zé)任方面，最大化最小值算法的影響可以體現(xiàn)為兩個(gè)方面。
一方面，民事責(zé)任的社會(huì)基礎(chǔ)具有人本性和技術(shù)性兩個(gè)維度。算法技術(shù)雖然替代了人類決策，但并未取代人的主體地位，民事責(zé)任的設(shè)計(jì)仍然要體現(xiàn)人本性。汽車生產(chǎn)者、軟件服務(wù)商、車主和保險(xiǎn)公司等各方所形成的民事法律關(guān)系不僅體現(xiàn)了平等主體之間的尊重，也承載著在智能時(shí)代共擔(dān)科技風(fēng)險(xiǎn)、創(chuàng)造算法正義得以實(shí)現(xiàn)之公平環(huán)境的共同使命。
另一方面，民事責(zé)任體系特別是侵權(quán)責(zé)任體系的設(shè)計(jì)，應(yīng)當(dāng)在最大化最小值算法運(yùn)行邏輯的基礎(chǔ)上有機(jī)融合教義學(xué)責(zé)任和證成性責(zé)任。例如，過錯(cuò)責(zé)任是侵權(quán)責(zé)任的主要類型，在自動(dòng)駕駛汽車所造成的損害責(zé)任中，嚴(yán)格責(zé)任將替代過錯(cuò)責(zé)任成為主流。比如算法失靈導(dǎo)致汽車撞向路邊，則算法設(shè)計(jì)者應(yīng)當(dāng)為損失承擔(dān)責(zé)任。但在執(zhí)行最大化最小值算法所導(dǎo)致的碰撞事故中，嚴(yán)格責(zé)任和過錯(cuò)責(zé)任的傳統(tǒng)二元?jiǎng)澐蛛y以應(yīng)對(duì)這種新情形，不妨采用理性機(jī)器人標(biāo)準(zhǔn)化解這一難題。38如果在碰撞中，汽車根據(jù)最大化最小值算法作出了碰撞選擇，則算法決策符合理性機(jī)器人標(biāo)準(zhǔn)，由此造成的損失屬于人機(jī)協(xié)作為追求正義而付出的必要代價(jià)。對(duì)算法設(shè)計(jì)者或車主進(jìn)行追責(zé)的基礎(chǔ)不在于這些主體的過錯(cuò)或嚴(yán)格責(zé)任，而在于算法替代人類決策之風(fēng)險(xiǎn)的公平分配。
(四)最大化最小值算法的實(shí)踐應(yīng)用
目前，自動(dòng)駕駛汽車的研發(fā)和測(cè)試正處于政策調(diào)試階段，即通過技術(shù)開發(fā)和政策激勵(lì)并舉，為自動(dòng)駕駛汽車上路做預(yù)備工作。39國內(nèi)自動(dòng)駕駛汽車行業(yè)的領(lǐng)頭企業(yè)如百度Apollo、小馬智行和文遠(yuǎn)知行等在經(jīng)歷行業(yè)的資本喧囂后，已將研發(fā)重點(diǎn)放在提升自動(dòng)駕駛的技術(shù)可行性之上。從我國相關(guān)政府部門的政策導(dǎo)向來看，自動(dòng)駕駛汽車的全面合法化仍未列上日程，但政策環(huán)境將越來越寬松，在智能經(jīng)濟(jì)引擎的驅(qū)動(dòng)之下，自動(dòng)駕駛汽車上路指日可待。然而，如果自動(dòng)駕駛的倫理和法律挑戰(zhàn)沒有化解，實(shí)現(xiàn)這個(gè)目標(biāo)仍會(huì)遇到阻礙。根據(jù)當(dāng)前行業(yè)發(fā)展動(dòng)態(tài)和研究現(xiàn)狀，探究自動(dòng)駕駛的算法正義和法律責(zé)任體系具有以下三方面的意義：
第一，為自動(dòng)駕駛立法提供理論動(dòng)力。
自動(dòng)駕駛對(duì)既有法律制度的沖擊是巨大的，自動(dòng)駕駛立法也面臨諸多難題。40《道路交通安全法》首先需要修改，《民法典》和《刑法》關(guān)于汽車侵權(quán)和交通犯罪的內(nèi)容也需要重構(gòu)。鑒于學(xué)界對(duì)自動(dòng)駕駛法律責(zé)任的研究愈發(fā)深入，我國應(yīng)當(dāng)通過立法開放更多的道路測(cè)試，特別是高速公路測(cè)試，為自動(dòng)駕駛算法的優(yōu)化和駕駛數(shù)據(jù)的積累提供制度支持。41除此之外，關(guān)于汽車質(zhì)量標(biāo)準(zhǔn)、道路標(biāo)準(zhǔn)、汽車數(shù)據(jù)和商業(yè)保險(xiǎn)的相關(guān)配套規(guī)范也應(yīng)及時(shí)更新，與汽車質(zhì)量監(jiān)管相關(guān)的立法可以伴隨著自動(dòng)駕駛汽車行業(yè)成熟、汽車智能層次的迭代而漸進(jìn)式進(jìn)行。42但對(duì)于責(zé)任分配的法理難題亟需在當(dāng)下作出回應(yīng)，以推動(dòng)更全面的立法開展。
第二，為自動(dòng)駕駛汽車行業(yè)的技術(shù)研發(fā)和場景測(cè)試提供理論指導(dǎo)。
百度Apollo和文遠(yuǎn)知行等知名車企在北京和廣州等城市已經(jīng)獲得多張無人化道路測(cè)試牌照，二者也擁有在美國加利福尼亞州進(jìn)行道路測(cè)試的牌照。毫無疑問，算法研發(fā)與道路測(cè)試相結(jié)合可以大大提升技術(shù)可行性。然而，自動(dòng)駕駛技術(shù)的進(jìn)展仍面對(duì)很多掣肘。一方面，“工欲善其事，必先利其器”,道路測(cè)試是一種“理想化”測(cè)試，以零事故為追求，成熟的自動(dòng)駕駛算法需要具備應(yīng)對(duì)碰撞情境的決策方案，但道路測(cè)試并不具備這種訓(xùn)練條件。另一方面，成熟的自動(dòng)駕駛算法應(yīng)當(dāng)包含應(yīng)對(duì)碰撞的決策模型。但根據(jù)相關(guān)討論，這種模型預(yù)設(shè)著特定的倫理和法律立場，自動(dòng)駕駛汽車企業(yè)作為行業(yè)利益主體，并不是決定算法之道德立場和法律責(zé)任形態(tài)的適格主體。43最大化最小值算法及其相應(yīng)的責(zé)任分配可以為汽車影像識(shí)別、感知和決策算法群的協(xié)調(diào)方案提供倫理引導(dǎo)，并為仿真道路測(cè)試的場景建構(gòu)增加倫理分量。
第三，為公眾參與和享受科技成果奠定社會(huì)基礎(chǔ)。
社會(huì)公眾是智能革命的直接受益者，但由于自動(dòng)駕駛技術(shù)過于前沿，以及特斯拉和蔚來等裝載輔助自動(dòng)駕駛技術(shù)的汽車發(fā)生的事故，公眾對(duì)3級(jí)以上自動(dòng)駕駛汽車的安全性充滿疑慮。通過展現(xiàn)自動(dòng)駕駛汽車的安全保障和在碰撞情形中的決策邏輯，可以部分消除公眾疑慮。伯格曼等研究者認(rèn)為，可以通過獲取公眾對(duì)碰撞算法之道德選擇的共識(shí)而優(yōu)化算法的設(shè)計(jì)。44倡導(dǎo)最大化最小值算法，有助于在立法者、社會(huì)公眾和汽車行業(yè)之間打造一種暢通的對(duì)話和審議機(jī)制，建立公眾信任，通過公眾參與來促進(jìn)負(fù)責(zé)任的算法研發(fā)和測(cè)試。
結(jié) 語
作為人工智能實(shí)踐應(yīng)用的極致，自動(dòng)駕駛將帶來一場技術(shù)革命，包括重構(gòu)交通運(yùn)輸模式和人類出行方式，同時(shí)也引發(fā)各個(gè)層面的巨大挑戰(zhàn)。回應(yīng)自動(dòng)駕駛引發(fā)的社會(huì)、倫理和法律挑戰(zhàn)，需要以自動(dòng)駕駛算法的設(shè)計(jì)為核心而展開。道德和法律實(shí)踐以正義為追求，算法正義因而成為自動(dòng)駕駛算法設(shè)計(jì)的首要倫理準(zhǔn)則和價(jià)值追求。自動(dòng)駕駛算法的道德基礎(chǔ)、決策結(jié)構(gòu)和法律責(zé)任應(yīng)對(duì)等需要在算法正義的框架中進(jìn)行理論建構(gòu)，而碰撞情境是展現(xiàn)這些任務(wù)的試驗(yàn)田。如果自動(dòng)駕駛算法無法克服碰撞難題，那么自動(dòng)駕駛汽車就不具備實(shí)踐可行性。在眾多理論模型中，最大化最小值算法具有應(yīng)對(duì)碰撞難題的更好的理論力量，也能夠彌合自動(dòng)駕駛倫理爭議與法律責(zé)任之間存在的鴻溝。從自動(dòng)駕駛算法設(shè)計(jì)到自動(dòng)駕駛汽車上路，仍然需要經(jīng)過大量的技術(shù)升級(jí)、道路測(cè)試和政策評(píng)估，這條路可能會(huì)比較漫長。除了攻克技術(shù)難關(guān)，自動(dòng)駕駛的正義和責(zé)任難題是亟需回應(yīng)的核心議題。基于對(duì)算法正義的追求，以一種反思平衡模式下的最大化最小值算法重構(gòu)道德和法律實(shí)踐，是迎接智能社會(huì)的應(yīng)有姿態(tài)。