作者簡介：張欣，法學博士，對外經濟貿易大學法學院副教授。
目錄
一、技術賦權和技術賦能：算法行政的建構原理
二、我國算法行政的核心特征和相關風險：以信用監管為例
三、算法行政的法治化路徑——兼論《個人信息保護法（草案）》
四、結語
引言：從數字治理到數據驅動型治理
在人類治理的歷史長河中，賦予治理客體以“可計算性”（calculability）已經成為現代性的標志特征之一。從治理效能來看，以數字和評估作為基石的量化治理方式具有可預測性、可協調性以及非人際化優勢，有助于增加問責度、透明度和效率性。因此，自17世紀人類在教育領域首創量化和書面評估的方式開始，量化治理實踐開始向公共領域滲透和拓展，在審計、管理、審判以及立法領域被廣泛運用。伴隨著數字革命的到來，社會治理方式突破了簡單地、線性地使用數字進行預測、衡量和協調的低階模式，開始以大數據分析為基礎，以政府開發的多元應用為平臺，全方位推動治理方式在時間、空間和對象等多個層面的深度轉變。
首先，數據解析技術在公共行政領域的廣泛應用使得執法者可以突破時間的限制，將相對人的過去、現在和未來緊密聯結，并將其作為精準決策的依據。例如，美國和英國刑事司法系統中已經依據被告的過往歷史、當下犯罪指控等信息對其再犯風險進行評估，從而作為保釋和量刑決策的參考依據。其次，遠程通訊技術和數據共享技術可以突破空間的限制，在行政機構甚至市場主體之間實時共享限制措施，形成聯動制約網絡。例如，利用大數據技術廣泛歸集失信信息，各政府部門和市場主體已經廣泛共享失信黑名單，形成“一處失信、處處受限”的聯動懲戒局面。最后，人臉識別等人工智能技術突破了個體信息收集的物理限制，治理基礎不斷細粒化，實現以個體為單位的精準跨域治理。例如，在新冠肺炎疫情防控期間，疫情防控部門利用步態識別技術通過人臉、步態、行為、穿著等特征對疫區返程人員開展多重精準識別，即使個體在佩戴口罩的情況下，仍然可以通過多特征精準識別和研判，實現多端聯動和警示信息實時推送。由此可見，與數字治理相比，數據驅動型治理是一種綜合工具、架構和生態層面的深層次治理變革。
與迅速迭代的數據驅動型技術相比，無論是在數據治理領域，還是在算法規制領域，相關法律規范更新卻呈現緩慢滯后的局面。大規模、系統化的算法行政實踐雖然具有客觀高效的優勢，但卻可能對個體產生歧視和不公，侵害公民的隱私并導致行政機關產生信息依賴。筆者聚焦算法行政領域，深入剖析其架構原理和本質特征，以我國信用治理和信用監管中的算法實踐為分析視角，結合《中華人民共和國個人信息保護法（草案）》（下稱《個人信息保護法（草案）》）中的核心條文，探討我國算法行政的法治化路徑。
一、技術賦權和技術賦能：算法行政的建構原理
伴隨著海量數據和高效算力，大數據技術重新界定了國家、社會的互動關系和二元邊界，實現了全方位、系統化的國家賦權和社會賦權。在社會層面，大數據技術賦予和擴展了公民的知情權、表達權、參與權和監督權，網絡政治生態的權力結構呈現出動態演化、合作共生和多方博弈的新圖景。在國家層面，通過控制底層代碼和塑造其運行的合法環境，大數據技術重新分配了信息權力，對國家和政府賦能。一方面，網絡化、平臺化的生態環境促使政府轉變其在整個網絡生態中的樣態和架構，由中心化、單一化的治理支點演變為平臺化、分布式的多元治理網絡，實現了治理信息收集、加工和反饋的及時、精準與高效；另一方面，算法技術的專業性、高效性消解了傳統行政決策中專家和政府官員的知識性和專業性地位，重構了行政決策多元主體之間的知識化和專業化格局。二者相互作用，促使算法技術擴展式嵌入行政實踐之中，軟件代碼和統計操作趨向于取代法律規則，形成了“自動分析、自動決策、自動執行”的算法行政系統。
（一）大數據時代政府通過平臺化改造實現數字化轉型
作為行政和強制性政治組織，政府機關在傳統時代以正當使用暴力和統治結構下的命令與服從關系從社會獲取資源，獲取國家在治理結構中的自主性。伴隨著科學技術的出現，對效率、理性的推崇推動國家進入“技術治理”時代。首先，通過行政決策過程吸納專家參與，實現科學知識對行政決策所需信息和知識的聚合、分析和預測功能，實現國家和社會治理的科學化、理性化。但網絡時代的社會交往方式發生了實質性改變，并且社會中的個體由小范圍、封閉式、親熟化的交往演變為借助移動互聯技術的大范圍、開放式、陌生化的交往。個體在社會交往中所能產生的輻射和影響達到了前所未有的范圍和程度。其次，信息科學技術重塑了社會表達與集體行動。公民借助互聯網平臺在公共空間中的影響與日俱增。公共溝通領域的熱門話題或者焦點事件常成為公民集體在線表達和集聚的誘因，具有線上線下相互轉化、虛實結合的特性。在網絡社會的新型架構下，以國家和政府為中心節點、單一化和分散化的傳統治理思路的局限性開始顯現。面對動態性、復雜性、場景化的治理對象，頻繁出現監管真空、監管滯后和監管失效的問題。因此，以大數據技術為代表的新型信息技術進入國家技術治理的視野，促使政府治理思路逐步實現從“總體支配”到“技術治理”的重要轉變。黨的十八屆三中全會提出推進國家治理體系和治理能力現代化的重要目標。“十三五”規劃綱要也提出以社會治理精細化為重點，充分運用現代信息技術和大數據技術的重要目標。
由此可見，自黨的十八屆三中全會提出“國家治理現代化”這一重要方針，國家和政府在治理網絡中的組織架構、制度依托、決策工具和治理背景實現了全方位演進。以電子政務泛在化、感知化和智能化為發端，我國政府向著智慧化、現代化、智能化、服務化的運行形態和模式快速發展。在智慧政府到智慧城市的建設中，各類型“一站式、一門式、一網式、一窗式”的智能化便民綜合服務信息平臺在整合信息資源的基礎上，為行政相對人提供了個性化、精準化、扁平化的服務。例如，在強勢推進的社會信用體系建設過程中，各省市均基本建成統一的社會信用信息共享平臺以解決信息壁壘問題。以廈門為例，其打造了極具特色的“兩網、兩庫、兩窗口、一支撐”格局，其中，“兩網”即開通政務內網“信用工作平臺”和“信用廈門”網站，“兩庫”即建成法人信用信息庫和自然人信用信息庫，“兩窗口”即在自貿區和政務服務中心分別設立信用服務窗口，“一支撐”即依托市級共享協同平臺搭建信用信息共享協同平臺。從技術治理的架構視角來看，算法行政過程中依托的信用信息共享協同平臺集中體現了大數據時代政府平臺化和數字化的核心思路。
面對復雜、動態、分散的治理對象，傳統條塊式的行政組織架構無法適應治理對象的高度流動性和專業復雜性，因此，需要在組織架構上作出實質性改變，以解決條塊式架構中存在的信息流動不暢、決策滯后和應對乏力的問題。大數據技術具有高效、便利、互聯互通的特性。通過利用信息技術將自身架構延展至平臺化和扁平化樣態，政府機構可以在原有的行政組織架構中以最小邊際成本實現治理過程信息聚合能力和治理決策流動性的提升，以此降低行政行為和公共服務帶給社會主體的成本。這種在架構層面的治理邏輯的改變，集中性地體現出現代技術治理語境下，國家已經不再是傳統意義上政治秩序生成的頂端，也不再是大型權力聚合體的存儲者，轉而調適并開始充當規制權力技術設施的連接點（nexus）。這種平臺式的架構，一方面，有助于打通各行政機關之間信息的共享和流轉，一定程度上減輕了條塊式監管架構的僵化問題；另一方面，平臺式架構可以為政府行政提供“擴展槽”，通過與社會性、商業性平臺的擴展對接，形成更大范圍的輻射性和嵌入性。
（二）智能時代專家意見的主導地位讓位于數據和算法
早在德國社會學家韋伯論述“法制性支配”類型的官僚制特點時就曾指出，專業知識在確立官僚系統的優越性上發揮著重要作用。專業知識一方面保證官僚系統擁有權力，另一方面官僚組織在處理政治事務過程中又可依靠累積的經驗和知識增強其權力。公共政策制定活動的現代化和理性化思潮使得現代行政過程日益推崇“專家理性理論”，專家因具備“技術理性”而獲得行政決策的正當性。因此，現代公共政策制定領域不僅對行政部門的專業知識、技術理性賦予較大信任，還進一步擴展專家群體的范圍，將“行政精英”以外的學術專家引入決策過程，構建知識專業化運作的縝密體系。這種在行政過程中對專家意見的推崇和尊重構成了現代公共行政活動的一大特點。然而，伴隨著信息技術的發展和應用，下列三項核心誘因致使智能社會中的專家意見逐步讓位于數據和算法，客觀上為算法自動化行政的應用和普及奠定基礎。
首先，專家技術理性模式不斷高度專業化和技術化，并開始融合數據化的方式對自身參與的公共政策進行論證和評價。例如，集中體現現代公共政策領域對行政專家評價理念的“技術理性”績效評價模型在過程和形式層面追求客觀理性化，注重科學、邏輯性的數據論證，通過知識篩選和數據結果設定對公共政策的績效作出具體評價。伴隨著決策績效數據化和理性化趨勢的增強，行政決策本身也進一步呈現出量化和技術化特質。因此，以技術理性為表征的量化績效評價制度為數據和算法進入行政決策過程提供了重要的激勵機制。
其次，由大數據技術和平臺生態作為驅動，衍生出數字時代的“分布式信任”（distributed trust）機制，使得公眾的信任流動方向從權威專家和行政官僚開始流向數據和算法。正如牛津大學研究員瑞秋·波茨曼在《信任革命》中提出的，智能社會中公眾的信任模式已經發生實質性改變。一方面，數字信譽機制為公眾提供了“信任躍遷”（trust leap）動力，使得公眾愿意承擔風險去嘗試新的東西或者改變傳統的行事方式。例如，公眾已經頻繁使用網約車平臺搭乘陌生人的車或者通過愛彼迎入住陌生人的房屋。另一方面，伴隨著公眾對傳統機構和組織信任的瓦解，區塊鏈提供的分布式賬本技術、大數據技術提供的個人信譽足跡追蹤服務重構了人際關系規則 ，使得公眾信任的流動方向由立法者、司法者和執法者以及各類權威專家的機構式信任開始平行流向基于數據、機器人和算法的“分布式信任”。這種信任和支持為算法自動化決策的普遍應用奠定了正當性和合理性基礎。例如，當知名非營利組織ProPublica通過發布專門報告的方式揭露美國司法系統運用COMPAS算法對被告進行審前風險預測評估的程序可能存在種族歧視風險時，美國紐約州刑事司法部門仍然公開對該款軟件生成評估分數的科學性和準確性表示支持和信任。這種從一般公眾到行政官僚對數據、算法等技術的信任和支持為算法自動化決策的普遍適用奠定了社會基礎。
最后，伴隨著規制對象的復雜化、動態化、場景化特征的凸顯，信息權力在行政專家和大數據技術應用之間進行了重構性分配，并對行政決策運行模式和運行生態朝向自動化和智能化演進起到了至關重要的作用。正如以色列歷史學家尤瓦爾·赫拉利曾提出的 “數據主義”潮流所根植的一種信念，即人類決策者并不具有將大量數據流提煉成信息、知識或者智慧的能力，因此數據處理工作應當委托給具有計算能力的算法，其能力遠超過人腦。以被喻為經濟發展新引擎的數字經濟為例，其以數字技術創新應用為牽引，以多元化、場景化、個性化為特征，實現了經濟產業要素的全面重構和深度融合。以大數據、云計算、人工智能為代表的數字技術深度嵌入，并不斷擴展到新業態和新模式的迭代發展之中，引發了監管模式、監管理念、監管生態的全面變革。由于新興業態多具有模式新、主體多、法律關系復雜等特點，僅依靠傳統專家治理模式開展信息收集和處理，其局限性日益凸顯。因此，順勢而為，積極利用大數據和算法技術，提升行政機構數字治理能力成為題中應有之義。
（三）軟件編碼和統計操作趨向于取代法律規則
在《通過數字的治理》一書中，法國學者阿蘭·蘇皮奧特（Alain Supiot）率先指出憲法和法律秩序已經呈現數字化轉向，數學量化已經成為新的規范性法律基礎。一些學者甚至提出，伴隨著數據和推理方法的不斷積累，最終會達到美國學者雷·庫茲韋爾提出的與“技術奇點”相匹配的“法律奇點”（legal singularity）時刻。無論是數字治理，還是法律奇點，核心意涵均體現為法律規范的可計算性。伴隨著數字技術和人工智能的發展，很多曾經被認為是隱形和傳統的知識開始變得可被編碼和計算。正是因為法律規則所具有的可計算性特征使得算法行政決策從基礎原理上變得可能。就法律規則的構成要素而言，其以條件假定、行為模式和后果模式為核心結構對人們的權利、義務和法律后果進行規定。法律規則所具有的微觀指導性、可操作性、確定性、邏輯性、體系性使其可以在很大程度上被代碼化。大數據技術具有識別出人類無法檢測到的模式和相關性的能力，并將海量數據轉換為特定的高度數據密集型的知識形式，從而創造出新的知識生產模式。在實踐中，很多法律規則已經被簡化為一系列數字化的參數和指標，甚至具有被軟件編碼和統計操作所取代的趨勢。例如，奧巴馬在2013年5月發布的行政命令中規定，所有政府發布的公共文件均應當以機器可讀格式發布。英國金融行為管理局已經開發出“機器可執行的監管”（machine-executable regulation），其以代碼形式發布監管，具有即時、自動、成本低廉、精準和自我實現的特點。此外，在荷蘭的萊布尼茨法律中心發起的“元法律”（MetaLex）項目中通過XML格式對法律規則進行編碼轉換，使得行政部門能夠輕松訪問不同級別乃至不同國家和語言轉換后的以元數據格式為表現形式的法律規則，使其成為具備機器可讀性和可執行性的法律代碼。因此，伴隨著大數據、云計算和云存儲技術的興起，以算法為核心架構嵌入公共行政領域中的算法規制（algorithmic regulation）作為一種新的社會秩序系統漸次出現。這一規制形式通過收集規制環境中各類組件產生的實時數據，計算并分析相關行為以及可能產生的風險，為達到預定監管目標形成最優管理策略并動態優化具體執行方式。
綜上所述，算法自動化行政的架構原理基于三個層面依次發生。首先，國家和政府轉變自身的技術治理理念，將自身重置為具有平臺化、數字化特質的“規制權力技術設施連接點”，為算法行政實踐提供組織基礎和發展契機。其次，專家技術理性績效評價、分布式信任和智能社會信息權力的再分配致使專家意見逐步讓位于數據和算法，客觀上為算法行政的應用和普及奠定制度基礎。最后，法律規范的可計算性和大數據技術的興起使得海量數據被轉換為特定的數據密集型知識形式，算法規制作為一種新的社會秩序系統最終得以出現。在組織基礎、制度基礎和技術基礎的綜合作用下，算法行政一方面深刻地體現出計算理性對溝通理性和公共話語空間的轉換；另一方面，當算法通過優先級配置、分類、關聯以及過濾四項功能嵌入行政決策的各個領域之時，還勾畫出技術對國家和政府的動態賦權和賦能過程。數據和算法不僅作為現代社會的信息要素和治理客體而存在，更從宏觀層面作為基礎治理環境和重要治理技術而存在。
二、我國算法行政的核心特征和相關風險：以信用監管為例
目前已有大量英文文獻梳理和探討域外算法行政的實踐規律和本質特征，但聚焦于我國自動化行政實踐的研究仍然十分有限。在厘清算法行政架構原理的基礎上，本部分以我國信用監管實踐為例，深入探究我國算法行政的特征和可能存在的相關風險。
面對我國社會日益嚴峻的信任危機和原有信任治理資源的頻繁失效，以數據驅動的新型信用治理應運而生。《社會信用體系建設規劃綱要（2014—2020年）》 中指出信用治理要“以健全覆蓋社會成員的信用記錄和信用基礎設施網絡為基礎，以信用信息合規應用和信用服務體系為支撐”。《促進大數據發展行動綱要》 中也指出要建立“用數據說話、用數據決策、用數據管理、用數據創新”的管理機制，在信用體系建設環節，推動數據匯聚整合和關聯分析，提高信用治理的精準性和有效性。因循這一治理思路，2019年發布的《關于加快推進社會信用體系建設構建以信用為基礎的新型監管機制的指導意見》 中進一步指出，以加強信用監管為著力點，創新監管理念、監管制度和監管方式，建立健全貫穿市場主體全生命周期，銜接事前、事中、事后全監管環節的新型監管機制。由此可見，從頂層架構出發，我國的信用監管和信用治理領域正在以數據驅動型治理為思路，以算法自動化決策為機制，積極籌建創新型、智能型、精準型的算法行政機制。目前的實踐和探索中，我國算法行政集中展現出如下三項核心特征和相關風險。
（一）以統一社會信用代碼為基礎構建多類信用信息平臺
如前文所述，算法自動化行政的構建機理之一在于政府通過平臺化改造實現數字化轉型。實際上，無論是政治管控邏輯還是商業生產邏輯，都可以通過微觀層面的“賬戶—數據—評分”框架予以統一，通過平臺化改造實現數字化轉型并獲得“規制能力”（regulability）。具體而言，一方面，需要政府作為平臺打造其縱向控制結構，例如通過身份認證、行為追蹤、記錄評分等形式構建規制能力。另一方面，還需要在橫向維度將多類別的信用信息平臺聯通，通過信用信息互享互通、自動對接等方式擴展其規制能力的輻射邊界。以福州市為例，在推進信用領域的算法行政實踐時按照“一庫、一平臺、一網、N應用”的架構原則具體搭建底層基礎設施。
為構建智能化、數字化、精準化的信用監管和信用治理機制，我國首先通過公民個人身份證號碼和組織機構代碼建立起統一的社會信用代碼，將個人和組織的身份數字化，為信用信息收集和記錄個體信譽足跡活動提供縱向底層架構。社會信用代碼對于個人和組織身份識別具有唯一性、真實性和準確性，可以滿足信用記錄長期性、連續性、準確性和全面性的要求。數字化的身份識別代碼還可以打通多個行政機構之間的子系統，為信息高效收集、互通流轉和共享奠定重要基礎。在實施社會信用代碼的基礎上，我國各行政部門對業務系統加以改造，建立了一批社會信用信息共享平臺與智慧審批平臺、網上執法平臺、公共資源交易平臺。這些平臺自動對接，實現了橫向的互聯互通，通過實現自動比對、自動攔截、自動監督、自動懲戒、自動反饋等方式有效擴展算法規制能力的橫向邊界。
這種橫縱兼具的數字化信用治理平臺極大地擴展了政府的規制能力，為構建守信聯合激勵和失信聯合懲戒制度，推進失信被執行人跨部門協同監管奠定了規制基礎。但與此同時，由于信用獎懲機制通過信用畫像模型和各省市各部門建立的信用信息平臺系統化、高效化、泛在化地嵌入多元應用場景之中，一旦發生信用信息記錄錯誤或者基于某一信用特征要素設定存在偏誤，就可能導致某一個體或者某一群體在基于信用畫像的算法行政系統中被不當鎖定，可能在多個場景中受到不利影響。以《廈門市守信聯合激勵與失信聯合懲戒行為清單》《廈門市守信聯合激勵與失信聯合懲戒措施清單》建立的聯合獎懲機制為例，僅第一批清單就涉及23個領域、238項聯合獎懲措施。《威海市級查詢使用信用記錄事項清單》亦推動在45個部門的263個行政管理事項中查詢使用信用記錄，涉及評先選優、干部任用、行政審批、財政性資金安排、公共資源交易等領域，初步形成了“辦事先查信用”的工作機制。因此，平臺化、數字化的政府雖然通過橫縱架構極大地增強了規制能力，但這種平臺化架構還同時暗藏風險，一旦個體受到算法歧視，將會有極高的概率延續現有的分類和階層現狀，發生個體不公的結構性鎖定效應。
（二）以大數據模型進行信用畫像建模推動信用治理自主化和全周期化
信用畫像又稱為信用建模，是指通過收集、匯聚、分析等方法對個人和企業信用狀況利用相關數據進行自動化處理，并對其信用相關特征作出量化分析和預測，形成信用特征模型的過程。在我國信用監管實踐中，已廣泛利用大數據模型展開信用畫像作為具體監管決策的依據。例如，蘇州地稅依托江蘇地稅數據庫，開發了自然人納稅信用管理平臺，對自然人基本情況、涉稅行為及相關財產信息等定向采集，借助省、市政府信息交換平臺，與銀行、工商、司法、海關、房產管理、國土資源等部門進行信息交換，獲取自然人失信違約、行政處罰及資產等信息，作為自然人納稅信用評定的重要補充。在平臺化和數字化基礎之上，蘇州地稅局還積極運用網絡爬蟲等互聯網工具，對各類網站發布的征信內容進行收集，借助大數據技術對納稅人進行信用畫像，據此實施分類服務和管理，作為自然人納稅信用評定的參考指標。這一實施機理與英國稅務機關利用欺詐和逃稅行為模型識別可疑的納稅申報表的實踐具有異曲同工之處。英國稅務機關開發的大數據模型Connect（聯結）使用文本和數據挖掘技術，一方面提取包含在三十多個結構化數據庫中的包括工資單或者土地登記事項的相關信息，另一方面提取來自社交網站或者政府網站的非結構化數據構建個人申報收入的欺詐性監測指標。一旦發現異常，該模型可以將相關數據自動發送給行政機關，并依據代碼啟動程序自動執行法律，通過直接將稅收規則應用于所收集的事實數據來規定納稅人應付金額。在確定金額的過程中，還會限制稅務人員對執行規則和繳納金額的裁量空間。在蘇州地稅采用的信用畫像模型中，對稅收相關法律規則進行解構形成建模指引，通過對納稅人的行為特征及風險偏好、遵從傾向進行歸納、分析和預測，設定關鍵性、客觀性指標進行評估并賦予分值，形成四項信用等級并生成個人納稅信用趨勢分析報告。這種算法行政實踐集中體現出了“自動收集數據、自動化分析、自動化決策、自動化執行”的自主性和全周期性特點。
這一實施模式無疑具有高效、精準的績效優勢，極大地節省了稅務機關的人力和財力。但在算法日益具有自主性決策地位的行政實踐中，這可能引致以下兩種風險。首先，為提升精準性和可預測性，信用畫像采用的數據既包括結構化信用數據，又包括非結構化數據。在未獲得當事人知情和同意的前提下，對當事人社交媒體平臺發布的非結構化數據進行抓取和分析，形成具有直觀利益影響的信用畫像，可能對個人信息的自主可控帶來不利影響。其次，信用畫像模型和大數據監測技術的自主性逐步增強。一些信用監管實踐中采用的自動對接、自動比對、自動攔截、自動監督、自動懲戒模式可能消解相對人的知情權、參與權、異議權甚至救濟權。
（三）以指數化和智能化打造動態信用分級分類監管工具
在頂層設計、平臺建設、信用智能模型建設之外，我國的信用監管和信用治理還呈現指數化、指標化、動態化和智能化特征。在“信用+監管”“互聯網+監管”作為核心指導思想推動監管改革的政策背景下，我國各省市、各層級、各部門的監管機構開始廣泛利用大數據和云計算等信息技術著力推動監管有效性。這些監管工具多以大數據和云計算技術為支撐，對接各類信用信息平臺，形成指數化、指標化、動態化、智能化的分類分級監管。目前，我國信用監管指數工具主要在全國層面、各省市層面和專業監管層面予以適用。
首先，以國家信息中心為主體，通過全國城市信用狀況監測平臺對收集和監測的5 000多個網站公開信用信息、各省信用信息共享平臺、各城市黑名單統計數據形成綜合評價，定期發布對全國36個城市的綜合信用指數排名。國家發展改革委通過參考這一綜合指數，對相關行為主體與信用有關的活動和行為進行監測，并生成對城市信用狀況的綜合評價。其次，以廣州公共資源交易中心為代表，一些省市自行創設信用指數并將其運用到行政決策之中。例如，廣州公共資源交易中心通過大數據技術每日抓取各方交易主體信用信息，通過智能算法為企業進行信用評分，每日動態更新發布公共資源交易信用指數，并將信用評價結果廣泛應用到建設工程招投標、政府采購等領域，信用評價范圍覆蓋招標人、投標人、評價專家等各方主體。最后，監管機構還與第三方平臺企業合作，通過協同聯動機制構建細分監管領域的信用指數監管工具。例如，浦東新區市場監管局率先運用“大數據”理念，嘗試在網絡訂餐行業實施“互聯網+信用監管”模式，在陸家嘴地區通過入網餐飲單位的市場主體信息基礎數據及動態監管數據，建立有關營業執照、餐飲服務許可證、食品安全量化分級監管信息。在該餐飲平臺中生成的信用評價、交易記錄、投訴舉報等數據也同步傳輸到監管機關，形成大數據技術與信用監管實踐的深度融合。
智能化、動態化的信用監管指數基于綜合評價和統計指數理論，運用大數據技術，對信用信息進行采集、匯總、分析、加工和綜合處理，通過建構指標和權重賦分體系，借助指數模型和測算方法反映樣本主體的信用狀況 ，為行政決策提供重要參考。其不僅具有較強的客觀性、整體性，其動態化采集還具有及時性、精細性和預測性特征，而且有助于監管機關實現全周期視角的分級分類監管。但與此同時，指數類監管工具的開發和使用還可能伴隨諸多風險。
首先，指數類監管工具需要一定的數據積累以對分析模型不斷優化。若數據或者樣本不充分，可能對準確性和有效性產生影響。其次，由于指數類監管工具涉及利用大數據技術進行復雜建模。很多行政機構采用政府購買服務的方式委托平臺科技企業代為開發，開發后的監管工具可能被直接應用于平臺企業利益相關領域，因此可能存在“技術俘獲”的風險。再次，大數據分析技術聚焦事物相關性而非因果性，若無算法影響評估制度進行定期評估，指數類信用監管工具的完整性、科學性和準確性可能存在有效性和準確性風險。最后，伴隨信用指數工具呈現跨部門跨領域化，信用監管工具不斷嵌入和拓展應用到復雜場景之中，如何妥善處理人機協作以及如何對依據其作出的具體行政行為進行有效解釋和說明也將產生技術和制度的雙重挑戰。綜上所述，信用監管領域廣泛應用的指數類指標雖然高效、便捷，但可能在透明度、問責度以及公正性層面仍存在局限性。
三、算法行政的法治化路徑——兼論《個人信息保護法（草案）》
前文通過剖析算法行政構建原理，以信用監管領域為例總結了我國算法行政實踐的核心特征以及與之伴隨的相關風險。以大數據技術為代表的各類信息科技既是算法行政的運行背景，也是其得以有效實施的核心驅動力。但在算法行政實踐激揚時代之時，平臺化、自主化、全周期化和指數化為內核的新型監管實踐還需因循法治化發展路徑，對算法權力予以合理控制，對行政相對人的程序性權利予以保障，以確保算法行政實踐在包容審慎、科學公正的基礎上有序發展。綜覽我國相關立法，《中華人民共和國個人信息保護法》一旦通過，將是第一部系統性、綜合性、基礎性地對自動化決策和自然人個人信息自動化處理予以規定的法律。該部草案稿一共八章70條，對個人信息處理規則、個人信息處理活動中各方的權利和義務以及履行個人信息保護職責的部門予以了系統規定。本部分聚焦于《個人信息保護法（草案）》中與算法影響評估、算法審計和公共事業領域自動化決策活動相關的核心條文，為探尋我國算法行政的法治化路徑提供規則層面的討論基礎。
（一）建議細化算法行政過程中個人信息處理應遵循的合法性和必要性原則
《個人信息保護法（草案）》第二章第三節專門對國家機關處理個人信息進行了規定，是本次立法的一大亮點，彌補了長時間以來我國網絡與信息化立法多聚焦商業場景中的自動化決策而忽略公共事業場景中算法行政的薄弱之處。我國已有立法中，《中華人民共和國電子商務法》《網絡交易管理辦法》《數據安全管理辦法（征求意見稿）》均對商業場景下自動化決策應當遵循的原則和合規框架進行了規定。但面對實踐中公共事業場景中算法行政應用已趨于泛在化和規模化的急迫現實，相關立法卻十分滯后和薄弱。如本文前述，以數據驅動型治理為內核的信用監管風潮已經形成，一系列信用信息共享平臺和大數據信用畫像已經在各個層級和領域內作為行政決策的基礎架構和重要參考，但卻鮮有立法從根本上對算法行政過程中個人信息處理規則進行規定。這導致算法行政的應用邊界不斷擴展之時，公眾可能無從知曉某一對其產生影響的決策是由算法作出的，對于決策形成過程亦無法有效參與。即使知曉相關決策的存在，個體亦難以理解算法決策的運行邏輯和具體依據，因此持有異議并挑戰算法決策的行動空間十分有限。因此，《個人信息保護法（草案）》第34條規定，“國家機關為履行法定職責處理個人信息，應當依照法律、行政法規規定的權限、程序進行，不得超出履行法定職責所必需的范圍和限度”。這一規定在一定程度上確立了算法行政的合法性和必要性原則。例如，我國目前存在對于個人失信信息的界定和收集不當夸大化，一些地方政府存在濫用信用監管技術的問題。因此，第34條的規定有助于國家機關在處理個人信息時嚴格遵守法律、行政法規授予的權限和程序，防止不當使用甚至濫用算法行政工具。
另外，《個人信息保護法（草案）》第35條規定，國家機關為履行法定職責處理個人信息，應當依照本法規定向個人告知并取得其同意。本條對于初步確立算法行政領域的“通知—公告”機制具有重要意義。以信用監管和信用治理為例，哪些信息應當被納入信用信息，對于其邊界很多公民或者市場主體并不知曉。對于一些地方政府或者行政部門利用大數據技術生成公民或者企業信用畫像的行為和技術原理，更是鮮有制度化的通知程序，對于相對人的知情權、參與權乃至異議權的行使均帶來不利影響。例如在交通運輸領域，若鐵路公安局或者國家發改委等國家機關通過全國信用信息共享平臺將相對人列入限制乘坐火車高級別席位名單或者限制乘坐火車人員名單，依據相關規定，僅需鐵路運輸企業在中國鐵路客戶服務中心（12306）網站、“信用中國”網站發布限制購買車票人員名單的完整信息，并未要求其提供個性化的通知和公告程序。實踐中，很多相對人直到自己購買車票受到限制之時才意識到其已被列入限制名單，且常出現因不知情而錯過公示期和異議期的窘境。由此可見，通過立法確認并保障相對人在實質層面的知情權和同意權具有重要意義。因此，建議立法機關在條文中對國家機關自動化處理個人信息的告知形式和要求進行適當細化規定，以避免實踐中以統一公示代替告知從而使得知情同意流于形式。總體而言，《個人信息保護法（草案）》能夠以專節形式提出國家機關處理個人信息的原則和應當履行的法定職責，對于未來搭建公共事業場景中自動化決策的法治化治理框架具有重要意義。
（二）建議引入算法影響評估制度以擴展自動化決策風險事前評估制度
《個人信息保護法（草案）》第54條第1款規定，“個人信息處理者應當對下列個人信息處理活動在事前進行風險評估，并對處理情況進行記錄：……（二）利用個人信息進行自動化決策”；第2、3款規定，“風險評估的內容應當包括：（一）個人信息的處理目的、處理方式等是否合法、正當、必要；（二）對個人的影響及風險程度；（三）所采取的安全保護措施是否合法、有效并與風險程度相適應。風險評估報告和處理情況記錄應當至少保存三年”。該條在我國立法中首次明確規定了自動化決策風險評估制度。但此次立法中確立的是自動化決策風險的事前評估制度，與國際上通行的算法影響評估實踐雖有類似亦有不同。實際上，美國、加拿大和英國均已通過明確立法要求公共事業場景中行政領域使用的算法技術開展算法影響評估。算法影響評估制度作為算法問責制的核心支柱已經日益獲得廣泛關注。其要求算法設計者、開發者和使用者從事前、事中和事后等全數據周期階段對算法的技術架構、防治不良影響的技術措施、權利救濟渠道、算法透明實現機制等方面進行系統評估。從《個人信息保護法（草案）》第54條的規定來看，我國確立的自動化決策風險事前評估制度與美國、加拿大等國確立的算法影響評估制度有四點核心差異。
第一，我國草案稿集中于風險評估，而非更為廣泛的影響性評估。但從操作層面來看，何謂風險其實是一個棘手而又難以解決的問題。只有明晰了風險的衡量標準和基準，才可能在此之上搭建起更具可行性的平臺。第二，我國的風險評估主要集中于對個人的影響和風險程度。而目前國際中的通行做法不僅聚焦于對個人的影響，還對社會、經濟、生態等多方面的影響予以關照。第三，我國的風險評估并不區分被評估系統的優先級。實際上，歐盟、美國和加拿大的算法影響評估，更加注重對自動化決策系統重要性、應用場景的劃分，在重點領域中實施更為嚴格的評估方法。第四，我國的風險評估聚焦于事前階段，而國際通行的算法影響評估實際上是采取事前、事中和事后階段的全周期視角的評估。
算法影響評估制度實際上對于創建負責、公正、安全、透明的算法行政實踐具有至關重要的制度意義，其不僅有助于政府機關科學系統地評估行政領域采用智能化分析工具的風險以及對個體、社會、經濟乃至生態帶來的影響，還能夠促使行政機關開發并創建更為人性和公正的算法行政系統。尤其在與個人基本權利密切相關的高風險行政領域之中，算法影響評估制度更加有助于科學、審慎地對算法技術分階段地合理利用。因此，建議我國立法機關可以適時擴展自動化決策風險事前評估制度的適用階段、啟動條件和適用場景，將算法影響評估引入自動化行政程序的視野之中。
（三）建議明確算法行政領域的算法審計制度并適當擴展審計依據
《個人信息保護法（草案）》第53條規定：“個人信息處理者應當定期對其個人信息處理活動、采取的保護措施等是否符合法律、行政法規的規定進行審計。履行個人信息保護職責的部門有權要求個人信息處理者委托專業機構進行審計。”該條明確規定了個人信息處理的審計制度。就自動化個人信息處理而言，僅通過賦予個人以新型系列權利的方式難以周全保證治理實效。個人在行使各項權利時，基于時間、精力、知識等限制，可能出現怠于行使或者行使不利等情形。因此，我國立法中要求個人信息處理者采取系統化的審計措施有助于與個人數據和算法權利形成協同效應。
綜觀國際相關立法，歐盟和美國、加拿大等國家均在與算法問責制度相關的立法中明確規定了對自動化決策處理進行稽核的算法審計制度。例如，最早頒布算法問責制相關立法的紐約自動化決策工作組就通過發布指南、會議召集等方式在公共事業領域中積極推動算法審計實踐。就較為通行的算法審計實踐而言，不僅審計過程中需要對算法應用的基礎數據是否存有偏差進行定期檢查，以確保模型部署后的公平性，還需要對模型設計、如何使算法更具道德性和可解釋性等方面提出具體審計報告。算法審計的重要目的在于算法對公民和社會造成不良影響之前就采取預防和糾正措施。我國目前的算法行政實踐中，由行政機關主動開展的算法審計鮮有報道。但由于第三方科技企業既常成為政府委托購買服務的承擔主體，又會成為日后相關領域的被監管主體，因此對公共事業場景中的算法應用實行審計具有十分重要的政策意涵。
從目前國際通行的治理實踐來看，我國此次立法規定了自動化決策審計制度無疑具有重要意義。但現有規則設計集中性地存在兩點不足。首先，對于在何種情形下由個人信息處理者進行內部審計，何種情形下需要啟動外部審計未能予以規定。一方面可能對于個人信息處理者的合規指引不清，另一方面可能使得審計制度流于形式而未能起到真正效果。建議立法者適當考慮應用場景和優先等級，對公民基本權利可能產生實質性影響的行政領域規定強制性的算法審計制度，具體的啟動條件、認定標準和審計主體可以通過次級立法予以詳細規定。其次，目前的條文中規定算法審計的依據限定為符合法律、法規，而未采取國際上較為通行的“法律法規+道德倫理”的審計模式。這可能使得我國規定的算法審計制度在審計內容上存在局限。智能社會中法律、法規常常滯后于技術的發展和應用實踐，若作為單一審計依據可能存在局限性。因此，建議立法機關適當擴展算法審計的依據，及時吸收具有共識性和已在國際算法審計實踐中被上升為正式規則的倫理規范，為算法審計制度落到實處奠定良好的規則基礎。
四、結語
自工業革命以來，每一次技術變革都引發了社會形態、社會結構以及社會治理方式的改變。大數據、人工智能等當代信息科技迅猛發展，孕育并推動了數字社會的全面誕生，促進了數據驅動型治理實踐的出現。在大數據時代，政府因循社會架構的變革規律，通過平臺化改造實現了數字化轉型，為算法行政奠定了底層基礎架構。公共政策技術理性績效評價模式、分布式信任和智能社會信息權力的再分配致使專家意見逐步讓位于數據和算法，客觀上為算法自動化行政的應用和普及奠定了制度基礎。法律規范的可計算性和大數據技術的興起使得海量數據被轉換為特定的高度數據密集型知識形式，算法規制作為一種新的社會秩序系統得以出現。算法行政雖然高效、智能、動態、精準，但其可能對個體權利產生實質性影響，在決策透明度、問責度以及公正性層面亦存在風險。因此，應當明確算法行政應當遵循的合法、透明、問責、公正等核心原則，實施算法影響評估制度和算法審計制度，將算法行政實踐切實納入法治化發展路徑。