《東方法學》2024年第3期目錄
（人形機器人法治專刊）
卷首語
2023年9月，習近平總書記在黑龍江考察時指出，要整合科技創新資源，引領發展戰略性新興產業和未來產業，加快形成新質生產力。科技創新能夠催生新產業、新模式和新動能，而以人工智能發展為引領的科技創新則是賦能新質生產力的核心引擎。2023年中央經濟工作會議明確提出“加快推動人工智能發展”的目標；國家工信部按照中央要求提前布局未來產業，開辟人形機器人等新賽道，發布了《人形機器人創新發展指導意見》，為布局該領域未來科技發展和產業發展奠定政策基礎。今年的政府工作報告將“加快發展新質生產力”列為2024年十大工作任務的首位。
面對新一輪科技革命和產業變革，特別是處在人形機器人規模化商用的前夜，法學研究必須通過前瞻性研究，抓緊回應人形機器人有無法律主體地位、使用者的權利義務等一系列前沿法律問題，就人形機器人規模化商用的安全、倫理與治理給出可資參考的學術見解。為此，我們專題策劃了本期“人形機器人法治”專刊，約請“2023智慧法治學術共同體TOP100學者”中暫未在《東方法學》刊發作品的優秀青年“新作者”，從主體論、權利論、責任論和治理論等不同視角撰寫人形機器人法治專題文章15篇，提出高質量的法學學術觀點。相信這些基于對智慧法治的長期關注特別是對人形機器人法治的敏銳洞察而形成的理論成果，有助于引領法學法律界有關人形機器人等新科技催生新質生產力、催生法治新需求的研究、討論與爭鳴，進而推動技術界和產業界的關注、思考與投入治理。
堅持與時代同頻共振，聚焦法學前沿領域，推動中國法治實踐的創新研究，服務黨和國家的中心工作，是《東方法學》始終堅持的辦刊初心。作為一本年輕的學術期刊，《東方法學》密切關注法學發展新動向、新問題和新議程，不斷發掘、培育、壯大優秀青年作者群體，努力打造青年法學學者展示學術才華、推動學術創新、實現學術報國的學術平臺。真誠期待廣大法學法律工作者與《東方法學》一起，深入貫徹新發展理念，以高質量的學術生產服務科技創新與經濟社會發展，勇于擔當智慧法治探索的排頭兵和先行者，講好中國智慧法治故事，傳播中國智慧法治聲音，以智慧法治的新思想、新理論、新實踐引領數字時代的制度生產，以法治捍衛人類福祉，捍衛和平、發展、公平、正義、民主、自由的全人類共同價值，讓科技發展真正助推人類命運共同體的構建。
作者：鄭智航（山東大學法學院教授、博士生導師 1983年8月出生） 內容摘要：人形機器人不僅要求具備人類的智力，還必須擁有類似人類的身體，從而塑造出具有實體形態的通用人工智能。人的身體不僅是生物學意義上的肉體形態，也是人的全部感知和內在精神生發的重要場域，更是社會關系形成的基本節點。身體和精神是人的主體性生成的核心基礎。人的身體通過發揮感知能力和運動經驗參與認知活動，通過完成意識的或無意識的行為來進行社會活動。人的身體、與身體相關的非精神要素、人的精神都是不可分割的統一體。人形機器人的本質就是對人類身體的仿造和對人類行為的模仿。通過技術手段仿造經過數百萬年自然發展而來的“人”的形態與功能，將會導致“人”這一概念的異化。這一過程割裂了身體與精神的統一關系，存在消解人對于他人的認知統一性、技術濫用、人權危機等一系列風險。人形機器人產業的發展必須摒棄技術中立的觀念，重視“人的形式”在法治中的價值。 關鍵詞：人形機器人 身心一元論 尊嚴 法律歸化 通用人工智能 主體性 作者：孫山（西南政法大學民商法學院副教授、法學博士 1983年4月出生） 內容摘要：近年來，人工智能的飛速發展極大地推動了人形機器人的商業化進程，人形機器人已經成為產業發展的新風口。相較而言，人形機器人法律地位的研究才剛剛起步。類人外形的具身存在，以涌現方式生成的決策和內容，這兩個基本特征引發了人形機器人特有的法律難題。將人形機器人確定為法律主體，既不符合傳統法理及其背后演進的邏輯，也違背了立法目的，更會引發人類社會系統性的生存危機。人形機器人是法律風險總體可控的對象，也是倫理風險和技術風險較高的權利對象，需要法律的特別規制。人類中心主義的立場，是我們厘清人類與人形機器人關系的理性前提。 關鍵詞：人形機器人 人工智能 具身 人類中心主義 主體 對象 作者：江海洋（山東大學法學院助理研究員、法學博士 1992年6月出生） 內容摘要：隨著通用人工智能（AGI）技術的發展，AGI賦能的人形機器人正在成為未來科技重點發展方向。鑒于人形機器人搭載的AGI“大腦”具有完成無固定任務能力、適應能力、涌現能力等技術特性以及其“人形”外觀使其社會性急劇增強，是否賦予人形機器人刑事主體資格又重新成為理論熱點。人形機器人與人類的本體論差距正在縮小，其功能與外觀使其可以成為人類社會互動的參與者，且對其實施刑罰既具有實際效果，也有助于彌補責任漏洞、促進創新，故應賦予其刑事主體資格。人形機器人的刑事歸責可分為三種歸責模式，其中研發者或用戶的注意義務確定，應基于偏重創新的價值導向，以相關法律法規、成文技術標準以及行業技術慣例為指引，采取一種基于風險的路徑進行。人形機器人犯罪意圖確定應以其是否脫離研發者或用戶的控制或訓導作為推定標準。 關鍵詞：通用人工智能 人形機器人 自由意志 人類的本體論 功能責任 刑事主體資格
作者：寧園（武漢大學法學院特聘副研究員、法學博士 1992年9月出生） 內容摘要：人形機器人的應用和普及將產生人形機器人使用致害風險，并引發有關使用者是否應負注意義務的詰問。使用者是人形機器人的直接管控者，應設置與其風險管控能力相匹配的注意義務，以保障智能社會交往安全、維系人的主體性認同和共同體認同、實現動態利益衡平。人形機器人的注意義務包括合理指令義務、合理操作義務和過程管理義務，注意義務的成立則需滿足義務履行的必要性、損害可預見性、損害可避免性三個要件。由于使用者對人形機器人的支配存在有限性和依賴性，應以人形機器人制造者、人工智能提供者未就損害發生之危險履行必要輔助義務作為使用者注意義務的免除事由，以避免使用者承擔超出其支配能力的注意義務。 關鍵詞：人形機器人 注意義務 社會交往安全 主體性認同 免除事由 侵權責任2.人形機器人服務的消費者保護機制——以“信任控制”風險為視角
作者：柯達（華東政法大學經濟法學院特聘副研究員、法學博士 1994年12月出生） 內容摘要：人形機器人在智能水平、靜態與動態物理特征方面高度擬人化，其在軟硬件互信、腦體協同基礎上構造的虛擬人際關系，可提供展現親密感的增強型信任。但人形機器人服務的增強型信任未在總體上改善消費者的弱勢地位，反而還強化了消費者的信任匹配失當、隱性信任定向化、信任扭曲等信任控制風險。傳統消費者保護法中的經營者告知義務、基于風險分級的人工智能敏捷治理、產品責任的發展風險抗辯均難以充分保護消費者。為應對信任控制風險，應以強調“賣者盡責、買者自負”的消費者適當性為核心，基于倫理安全構建人形機器人服務與消費者的分級準入， 并在分級準入的基礎上要求經營者對消費者履行適當性匹配與事中事后的監測調整義務。此外，應通過“終止保障義務”完善人形機器人服務侵權責任的發展風險抗辯事由，其應以消費者與人形機器人在服務過程中的各方自主性程度為主要依據。 關鍵詞：人形機器人 消費者保護 信任控制 適當性義務 人工智能3.具身智能體的隱私風險及法律應對——以人形機器人為例的展開
作者：王苑（東南大學法學院講師、法學博士 1988年10月出生） 內容摘要：具身智能體結合了人工智能與機器人技術，單獨討論其中的任何一項技術對隱私的威脅都是片面的。具身智能體所具有的具身性、交互性及涌現性特征展現了其強大的互動和行動能力，給隱私與數據保護帶來前所未有的新挑戰。一方面，具身智能體能侵入私密空間，記錄私密活動并潛移默化收集處理私密信息；另一方面，自主決策和自主行動的結合能造成實害，侵害用戶的人身財產權益。既有的隱私和數據保護規則圍繞信息控制而展開，具身智能體數據的生成和涌現加上造成實際損害的能力不僅會導致個人信息控制機制的失靈，還可能會使追究責任變得不切實際。針對這些挑戰，除了弱化既有數據法中個人同意的作用外，還需在人工智能立法中植入數據保護理念，強化監管者和設計者責任，尤其是應當禁止通用型具身智能的市場化應用，并確立“通過設計來進行隱私和數據保護”的原則，明確設計者的可責性。 關鍵詞：具身智能 人工智能 人形機器人 隱私 數據保護 責任承擔
作者：謝琳（中山大學法學院副教授、法學博士 1984年10月出生） 內容摘要：因人工智能系統的不可解釋性、不可預測性和自適應性，人形機器人自主侵權責任面臨難以認定的困境。人形機器人自主致人損害屬高風險人工智能領域，對此人形機器人提供者應承擔產品責任，履行產品安全可控保障義務；大模型提供者僅需履行充分的透明度告知義務，與人形機器人提供者承擔共同侵權責任；人形機器人使用者須按照說明正確使用產品，其承擔的侵權責任不宜過度偏離原有類型。通過層次化確立信息披露、可反駁的過錯和因果關系推定，不再要求過錯與因果關系具備一一對應性，可使受害者獲得公平救濟的同時兼顧產業發展。 關鍵詞：人形機器人 自主侵權 侵權責任 大模型 過錯 因果關系推定 作者：沈偉偉（中國政法大學法學院副教授、法學博士 1985年3月出生） 內容摘要：隨著人形機器人的日益普及，其引發的事故也不斷挑戰現有事故責任制度。通過對人形機器人技術的分析和類型化可知，由于開發主體多元、機器學習算法、人機混控等因素的影響，人形機器人事故的事故成因、行為判定、責任分配、救濟措施均變得相當復雜，這給傳統事故責任制度帶來巨大挑戰。建立在人形機器人技術分析和事故法律責任制度分析的基礎上，傳統事故責任制度僅能處理小部分過錯清晰的事故類型，對于大部分人形機器人事故，傳統事故責任制度將很難繼續適用。為了應對這些挑戰，我國應當構建針對人形機器人的特殊責任制度，將人形機器人制造商作為最小成本規避者，同時根據工廠、醫療、家居、物流等不同場景，引入技術避風港等豁免機制，以期在法律規制和產業發展之間尋求新平衡。 關鍵詞：人形機器人 人機混控 人工智能 機器學習算法 事故責任制度 豁免機制 作者：王華偉（北京大學法學院助理教授、法學博士 1991年8月出生） 內容摘要：隨著機器人和人工智能技術的快速發展，作為具身智能的人形機器人在應用場景上逐漸拓寬，同時也形成了多元而復雜的安全風險和刑法歸責難題。理論上主要存在代理責任、過失責任、嚴格責任、獨立責任四種各有利弊的刑法歸責模式。除了嚴格責任之外，其余模式都可以統合在場景化的刑法歸責體系之中。在當前人工智能的發展階段，傳統的刑法教義學原理可以處理絕大部分的機器人刑法歸責問題，不過也應在新的技術條件下對可容許風險、信賴原則予以新的推演和發展。取決于未來的技術進展，在功能主義的視角下，將來可以考慮有條件地肯定智能人形機器人獨立責任主體地位的可能性。人形機器人的刑法歸責體系，應當對其他法秩序的規范評價和機器人倫理標準的探討保持協同和開放。 關鍵詞：人形機器人 人工智能 應用場景 安全風險 刑法歸責 機器人倫理
作者：李晟（中國海洋大學法學院教授、博士生導師 1982年10月出生） 內容摘要：人形機器人具有跨場景的通用性，可以在多種場景中與人類展開合作，可能通過全面的運用形成人機共生社會。在人機共生社會中，法律治理應當超出特定的場景設計，形成更具一般性的架構。跨場景應用的人形機器人在態勢感知和情感識別方面的特征，決定了人形機器人的法律治理不同于一般意義上的機器人。以此為出發點對人形機器人的法律治理基本架構進行設計，平衡技術發展與社會風險，形成合理的激勵機制。 關鍵詞：人形機器人 法律治理 態勢感知 情感識別 責任分配 風險預防 作者：張欣（對外經濟貿易大學法學院副教授、法學博士 1987年10月出生） 內容摘要：人工智能體由控制端、感知端和行動端組成。在控制端，盡管大模型充當了智能體的“智能引擎”，但仍存在“機器幻覺”，其生成的內容面臨時效性和可靠性風險。大模型的算法偏見也可能加劇智能體在決策中的偏見。在感知端，智能體的多模態感知能力加大了個人隱私侵權的風險，對個人信息保護制度構成挑戰。多智能體系統間的交互可能導致不可預測的、復雜的和動態的系統性安全風險。在行動端，具身智能體的交互式學習模式可能導致全面的、侵入性的隱私風險。智能體的嵌入式和中介化部署方式將深度影響人類的主體性。其高度定制化的部署特性還將面臨人工智能對齊的挑戰。面向“代理即服務”的產業鏈特點，應建立從基礎模型到基礎代理的模塊化治理框架。針對具體的高風險場景，應探索精準化治理機制。鑒于人工智能體的生態特性，應著力推進交互式治理。
關鍵詞：人工智能體 通用人工智能 人工智能治理 模塊化治理 大模型 精準化治理3.人機交互的模式變革與治理應對——以人形機器人為例
作者：商希雪（中國政法大學刑事司法學院副教授、法學博士 1987年12月出生） 內容摘要：人形機器人的出現，使人工智能的輸出由虛擬的數字世界開始走向現實的物理世界，由此促進了人機共生狀態的演進進程。具備情感代理和行為代理功用的人形機器人突破了傳統的人機交互模式，尤其是人機情感交互模糊了人機主體地位的界限，為具身智能體的主體定位提供了現實支撐。新型交互生態顛覆了以往人機交互的技術模式和理論范式，對傳統的“以人為中心”的人機交互思路帶來了沖擊。基于技術層面的人機互嵌與社會層面的情感補償，應從行為代理與情感代理兩個維度區分對具身智能體的規范治理措施，并跟隨技術發展步伐，面向現在和未來分階段作出理論和制度準備，最終圍繞整體性的人機交互關系構建智能時代良性循環的人機信任生態。 關鍵詞：人機共生 人形機器人 人機交互 模式變革 治理范式 人機信任生態 作者：林洹民（中央財經大學法學院副教授、法學博士 1988年3月出生） 內容摘要：在人工智能大語言模型技術加持下，具有擬人化外觀的人形機器人將具有操縱能力，可能引發限制人的自我成長、誤導社會化進程以及扭曲家庭倫理觀念等問題。風險管理進路是一種成本效益分析法，存在風險評估與分類困難，并非調整人形機器人活動的良方。人形機器人具有專精科技與賦能科技雙重屬性，前者意味著必須借助科技倫理規范研發活動，后者則要求充分關注不同應用場景的復雜治理需求。對人形機器人研發活動的規范，應適當將科技倫理法律化，預先控制人形機器人的情感計算能力，并避免外觀設計產生過度操縱等風險。對人形機器人應用活動的規范，一方面應充分借助法律系統抽象的權利義務工具，如知情權、人工溝通權以及人為監督、安全穩定義務等，回應海量應用場景引發的規范難題；另一方面應為法規、政策留出必要的空間，借助合規認證、監管沙箱等制度實現對人工智能賦能應用的協同治理。 關鍵詞：人形機器人 操縱效應 專精科技 賦能科技 科技倫理 人工溝通權5.具身智能的數據安全風險及刑法應對——以人形機器人的研發與應用為例
作者：劉雙陽（中國政法大學刑事司法學院講師、法學博士 1993年8月出生） 內容摘要：人工智能的具身化意味著人工智能由代碼塑造的虛擬空間進入更為復雜的現實世界，具備強大的環境感知、認知交互、智能決策、行動控制能力，而這一切都依賴規模龐大、類型多樣的數據處理活動作支撐，人形機器人研發與應用過程中也催生了數據控制安全風險和數據利用安全風險。刑法作為數據安全治理的重要手段，應當引入前置法確立的數據分類分級保護規則指導數據犯罪立法完善與司法認定，通過將過失泄露個人信息行為以及非法篡改、毀損、濫用個人信息行為犯罪化，全流程管控具身智能領域個人信息安全風險；通過增設非法持有重要數據罪和非法出售、提供重要數據罪并調適侵害重要數據行為的入罪標準，高強度防范具身智能領域重要數據安全風險。居于數據安全保證人地位的具身智能服務提供者是從源頭防范和化解數據安全風險的第一責任主體，負有保護具身智能數據安全的作為義務，應依次判斷作為可能性和結果回避可能性，合理確定具身智能服務提供者怠于履行數據安全保護義務時承擔不作為刑事責任的邊界。 關鍵詞：具身智能 數據安全風險 數據分類分級 人形機器人 服務提供者 不作為責任 作者：萬方（北京外國語大學法學院教授、法學博士 1984年8月出生） 內容摘要：人形機器人產業對數據的需求量急劇擴大，使得提前預知處理信息的目的變得更為困難。產業鏈條更為復雜與場景更為多元也給規制帶來新挑戰。處理個人信息的目的越來越不具有確定性，個人信息二次使用規則的缺位以及目的原則的判斷標準不一，都要求從體系上對目的原則進行重新審視。將法律直接轉化為代碼面臨重重困境。按照人形機器人的不同應用場景先行引入標準，摒棄水土不服的兼容性規則以及維持研究目的的開放性，是在技術快速變革的社會中把握支持性結構與適應性流變之間平衡的重要路徑。 關鍵詞：目的原則 人形機器人 個人信息保護 標準化 場景化 新質生產力
