隨著人工智能技術(shù)的不斷發(fā)展，在家居、出行、醫(yī)療等眾多領(lǐng)域中，裝載人工智能系統(tǒng)的產(chǎn)品正逐漸增多。這類(lèi)產(chǎn)品的應(yīng)用場(chǎng)景，也從最初的專(zhuān)業(yè)人員與特定領(lǐng)域，擴(kuò)展至普通民眾的日常生活之中。在此背景下，當(dāng)人工智能產(chǎn)品在使用過(guò)程中造成他人損害時(shí)，使用者是否仍應(yīng)像使用傳統(tǒng)產(chǎn)品那樣承擔(dān)責(zé)任，成為一個(gè)亟須探討的問(wèn)題。對(duì)此，有的觀點(diǎn)主張使用者不應(yīng)承擔(dān)責(zé)任，因?yàn)槿斯ぶ悄芟到y(tǒng)的行為完全由生產(chǎn)者控制；而有的觀點(diǎn)則認(rèn)為，使用者作為實(shí)際操作乃至“再訓(xùn)練”主體，應(yīng)與生產(chǎn)者承擔(dān)相同類(lèi)型的責(zé)任。下文嘗試對(duì)此爭(zhēng)議予以辨析。
人工智能系統(tǒng)
如何影響產(chǎn)品使用者
人工智能系統(tǒng)可區(qū)分為“輔助型”與“替代型”。前者如醫(yī)療人工智能診斷或司法材料檢索工具，是由自然人在系統(tǒng)輔助下作出最終判斷。這類(lèi)系統(tǒng)的使用場(chǎng)景典型體現(xiàn)在某專(zhuān)業(yè)領(lǐng)域?qū)＜以谑褂迷擃?lèi)產(chǎn)品時(shí)借助其系統(tǒng)作出判斷，如醫(yī)生或法官，他們本身具備專(zhuān)業(yè)的判斷能力，將人工智能系統(tǒng)作為工具以提升決策效率、減少偏見(jiàn)與隨意性。例如，人工智能診療系統(tǒng)提供的每個(gè)判斷都需醫(yī)務(wù)人員再確認(rèn)才能實(shí)施，其作用限于知識(shí)輔助和程序優(yōu)化，并不直接輸出確定的結(jié)論。相反，替代型系統(tǒng)，如有條件的自動(dòng)駕駛汽車(chē)，則在設(shè)計(jì)運(yùn)行范圍內(nèi)完全替代人類(lèi)執(zhí)行任務(wù)（如動(dòng)態(tài)駕駛），用戶(hù)僅需在緊急情況下接管。這兩類(lèi)系統(tǒng)的區(qū)別對(duì)使用者產(chǎn)生不同的影響：輔助型強(qiáng)調(diào)使用者的最終決策與責(zé)任，而替代型弱化了人的實(shí)時(shí)干預(yù)，從而也使責(zé)任承擔(dān)機(jī)制呈現(xiàn)差異。此外，人工智能決策輔助工具并非簡(jiǎn)單復(fù)制人類(lèi)能力，而是經(jīng)常會(huì)超越人類(lèi)，處理復(fù)雜模式并不以直觀的方式推理，這雖然提升了能力，但也可能降低用戶(hù)的職業(yè)警惕，甚至使其盲目追隨自動(dòng)化決策，導(dǎo)致原本正確的判斷被機(jī)器扭轉(zhuǎn)。
盡管人工智能系統(tǒng)加裝到產(chǎn)品上顯著改變了產(chǎn)品的功能特性與用戶(hù)體驗(yàn)，但并未改變產(chǎn)品使用者在法律上的地位。產(chǎn)品用戶(hù)無(wú)論是個(gè)人消費(fèi)者還是專(zhuān)業(yè)領(lǐng)域的專(zhuān)家，并未因使用人工智能產(chǎn)品而轉(zhuǎn)變?yōu)樯a(chǎn)者或純粹的受眾，其法律身份與責(zé)任基礎(chǔ)保持不變。生產(chǎn)者仍是決定人工智能系統(tǒng)安全特性的核心行為者，負(fù)責(zé)設(shè)計(jì)、出廠(chǎng)、運(yùn)行維護(hù)及危險(xiǎn)控制，而用戶(hù)則需對(duì)因自身不當(dāng)使用造成的損害承擔(dān)過(guò)錯(cuò)責(zé)任。不能將用戶(hù)與生產(chǎn)者置于同一責(zé)任層面，因?yàn)榧夹g(shù)危險(xiǎn)源仍由生產(chǎn)者掌控。因此，人工智能的使用并未顛覆現(xiàn)有責(zé)任框架，用戶(hù)的地位依然根植于其使用行為與過(guò)錯(cuò)認(rèn)定，而非技術(shù)本身的自主性。
人工智能系統(tǒng)運(yùn)用是否
改變了對(duì)使用者過(guò)錯(cuò)的判斷
過(guò)錯(cuò)判斷的核心在于行為人是否違反了合理的注意義務(wù)，其認(rèn)定以“可預(yù)見(jiàn)性”為前提。過(guò)錯(cuò)即行為人能夠預(yù)見(jiàn)到自己的行為可能對(duì)受保護(hù)的法益造成侵害，卻未采取合理措施避免該侵害。可預(yù)見(jiàn)性并非指?jìng)�(gè)案中當(dāng)事人的主觀能力，而是指向一個(gè)抽象的“理性人”標(biāo)準(zhǔn)，即基于當(dāng)代社會(huì)各行各業(yè)所積累的知識(shí)、經(jīng)驗(yàn)、能力和勤勉程度，判斷行為人是否應(yīng)當(dāng)預(yù)見(jiàn)風(fēng)險(xiǎn)。可預(yù)見(jiàn)性要求行為人對(duì)其行為的風(fēng)險(xiǎn)進(jìn)行積極的調(diào)查了解，調(diào)查范圍需涵蓋行為風(fēng)險(xiǎn)所及的合理期間。這里的風(fēng)險(xiǎn)是指某類(lèi)傷害危險(xiǎn)，而非極為具體的損害細(xì)節(jié)。合理注意義務(wù)要求行為人根據(jù)風(fēng)險(xiǎn)大小采取相應(yīng)措施，風(fēng)險(xiǎn)越大，調(diào)查了解義務(wù)越重。總之，過(guò)錯(cuò)判斷的基本原理是通過(guò)理性人標(biāo)準(zhǔn)和行為風(fēng)險(xiǎn)的可預(yù)見(jiàn)性，衡量行為人是否盡到了合理的注意義務(wù)。
人工智能的介入為使用者過(guò)錯(cuò)判斷帶來(lái)了新的挑戰(zhàn)。人工智能系統(tǒng)在產(chǎn)品中的應(yīng)用改變了傳統(tǒng)的決策過(guò)程和行為風(fēng)險(xiǎn)的可預(yù)見(jiàn)性。一方面，人工智能的“技術(shù)黑箱”特性使其決策過(guò)程難以理解和預(yù)測(cè)，在一定程度上動(dòng)搖了可預(yù)見(jiàn)性的基礎(chǔ)。例如，人工智能的錯(cuò)誤可能源于其自主學(xué)習(xí)和統(tǒng)計(jì)推理過(guò)程，而非使用者的直接行為，這使得傳統(tǒng)的可預(yù)見(jiàn)性標(biāo)準(zhǔn)難以直接適用。另一方面，人工智能的介入改變了使用者的注意義務(wù)內(nèi)容。使用者不僅需要了解物的性能和維護(hù)要求，還需要對(duì)人工智能系統(tǒng)的運(yùn)行機(jī)制、潛在風(fēng)險(xiǎn)和限制有所了解。注意義務(wù)的重心從使用者對(duì)自身行為的審慎注意，轉(zhuǎn)向?qū)θ斯ぶ悄芟到y(tǒng)的審查、驗(yàn)證和監(jiān)督。此外，人工智能的風(fēng)險(xiǎn)控制力部分地從使用者轉(zhuǎn)移至提供者，使用者的可預(yù)見(jiàn)性和可避免性往往以提供者履行信息告知和提供應(yīng)對(duì)手段為前提。如果提供者未充分告知使用規(guī)范或未提供必要的安全更新，使用者可能不承擔(dān)相應(yīng)的注意義務(wù)。因此，盡管人工智能的介入并未完全顛覆過(guò)錯(cuò)判斷的基本原理，但過(guò)錯(cuò)判斷的相關(guān)標(biāo)準(zhǔn)仍需在專(zhuān)家和普通人之間作出適應(yīng)性調(diào)整。
專(zhuān)家在使用人工智能系統(tǒng)時(shí)，其過(guò)錯(cuò)判斷需基于更高的注意義務(wù)標(biāo)準(zhǔn)。專(zhuān)家因擁有更多的知識(shí)和技能從事更具專(zhuān)業(yè)性的行為，因此其注意義務(wù)要求高于普通人。在人工智能系統(tǒng)介入后，專(zhuān)家的注意義務(wù)內(nèi)容發(fā)生較為明顯的變化。以醫(yī)療人工智能為例，醫(yī)師的注意義務(wù)不再僅限于傳統(tǒng)的診療慣例，還需涵蓋對(duì)人工智能系統(tǒng)的審查、監(jiān)督等，且需要根據(jù)醫(yī)療人工智能的發(fā)展階段調(diào)整其注意義務(wù)標(biāo)準(zhǔn)。
普通人在使用人工智能系統(tǒng)時(shí)，其過(guò)錯(cuò)判斷需基于差異化注意義務(wù)標(biāo)準(zhǔn)。普通人的注意義務(wù)內(nèi)容因其使用人工智能的類(lèi)型、場(chǎng)景和控制力而異。對(duì)于輔助型人工智能，使用者仍需參與決策和監(jiān)督，因此負(fù)有較高的注意義務(wù)；對(duì)于替代型人工智能，使用者的注意義務(wù)重心轉(zhuǎn)向系統(tǒng)檢查和使用規(guī)范的遵守。此外，使用者需按照提供者的指示使用人工智能，包括安裝更新、控制輸入數(shù)據(jù)質(zhì)量和應(yīng)對(duì)系統(tǒng)警示。普通使用者的注意義務(wù)還受其身份影響：商業(yè)使用者因具有一定的知識(shí)和風(fēng)險(xiǎn)控制手段，負(fù)有較高的注意義務(wù)；非商業(yè)使用者（如消費(fèi)者）的注意義務(wù)相對(duì)較低，但仍需按預(yù)期用途使用系統(tǒng)并對(duì)明顯風(fēng)險(xiǎn)采取應(yīng)對(duì)措施。需要注意的是，使用者的注意義務(wù)并非絕對(duì)，需考慮其實(shí)際控制力和信息可得性。如果提供者未履行信息告知或更新義務(wù)，使用者的注意義務(wù)可能減輕。
展望未來(lái)，當(dāng)下對(duì)于產(chǎn)品使用者過(guò)錯(cuò)判斷的困難，隨著人工智能技術(shù)的不斷發(fā)展將逐步得以克服，尤其是在系統(tǒng)可解釋性、透明度不斷增強(qiáng)的背景下。然而，技術(shù)解決能力的提高并不意味著過(guò)錯(cuò)判斷問(wèn)題的解決可以一勞永逸。相反，法律框架中關(guān)于使用者注意義務(wù)的標(biāo)準(zhǔn)也需隨技術(shù)迭代不斷調(diào)適。在技術(shù)尚不成熟的階段，設(shè)置較低的注意義務(wù)有助于鼓勵(lì)技術(shù)應(yīng)用與推廣，而當(dāng)技術(shù)趨于穩(wěn)定、解釋機(jī)制日益完善時(shí)，則可能要求使用者承擔(dān)更高的監(jiān)督和干預(yù)義務(wù)，以平衡行為自由、受害人保護(hù)與風(fēng)險(xiǎn)控制之間的張力。
（作者系中國(guó)社會(huì)科學(xué)院法學(xué)研究所研究員）