数字政府时代的数字程序权:理论阐释与制度保障
李策
内容提要:数字政府时代,行政程序体现为统一平台、数据驱动、智能自动、移动政务、区块链赋能,呈现出重技术轻规范、重实体轻程序、重权力轻权利的实践逻辑,引发公民程序权隐忧。数字程序权摒弃了程序义务范式的局限性,以人的尊严、宪法基本权利、主观程序正义为理论根基,具有很强的可行性。数字程序权包括排除算法歧视权、数字知情权、数字参与权、留存记录权、人工审查权、数字决策拒绝权共六种理想类型。为有效保障数字程序权,应当从权利维度完成数字程序权的法律确认,从权力维度实现数字行政权的程序控制,从技术维度保证数字技术的规范要求。
关键词:数字政府 数字程序权 基本权利 数字决策拒绝权 算法审计
引言
人“在任何时候都同时当作目的,绝不仅仅当作手段来使用”。《宪法》第33条第3款规定:“国家尊重和保障人权。”数字时代,数字技术全面赋能数字政府,同时也引发权利侵害的风险。《国务院关于加强数字政府建设的指导意见》(国发〔2022〕14号)指出:“推动政府治理法治化与数字化深度融合”,“加快完善与数字政府建设相适应的法律法规框架体系”。在数字政府宏观背景下,如何构建符合数字化潮流的公民程序权理论和制度,成为行政法学无法回避的课题。
考虑到数字政府对行政程序的挑战,技术性正当程序理论和数据正当程序理念应运而生,国内相关研究则集中在以技术性正当程序来规制算法方面。不过,既有研究主要是从权力视角探求行政程序运行的正当性(程序义务范式),缺乏从权利视角研究公民程序权的理论模型和制度保障(程序权利范式),所提出的理论和实践构想略显不足,缺乏系统性。有鉴于此,本文基于权利视角,首先分析数字行政程序及其权利危机,其次探讨数字程序权的理论源流和理想模型,最后提出数字程序权的保障方案,以期为公民程序权在数字政府时代的创新发展注入新理念。
一、数字行政程序及其权利危机
数字政府时代的行政程序模式产生深刻变革,呈现独特的运行逻辑,同时引发侵害公民程序权的风险。
(一)数字行政程序的基本模式
行政活动数字化转型主要表现为平台化、数据化、自动化三项核心要素,催生数字行政程序,聚焦于流程、数据、算法、终端、区块链五大核心要素,体现为以下五种基本模式:
1.统一平台模式
行政程序统一平台,是指将不同阶段、部门、地方、层级的行政程序整合到统一平台,实现“一网通办”。其本质是行政程序的非现场化和统一化,公民不必与行政机关面对面,程序不再分散、孤立。统一平台的核心特征是集成协同,主要适用于需要多部门、环节协同,流程标准化程度高的领域,能够大幅提高办事效率,便民利民。
2.数据驱动模式
行政程序数据驱动,是指通过政务数据共享互通优化行政程序,“让数据多跑路,让群众少跑腿”。《国务院关于加强数字政府建设的指导意见》指出:“坚持数据赋能”。数据驱动的核心是数据共享互通,侧重内容流动。主要适用于需要多主体数据、存在数据壁垒的领域,如证照共享、异地就医、户口迁移等。该模式能够打破数据壁垒,简化不必要的程序,提升程序效能。
3.智能自动模式
行政程序智能化是行政程序自动化的高级形态。人工智能体现为像人一样思考、像人一样行动、合理思考、合理行动。我国政务大模型尚处于弱人工智能形态。智能自动主要体现为行政程序算法化和自动化,前者指将行政程序转化为算法代码;后者指行政程序自动运行。其核心是用算法替代人工,是对行政行为形成方式的变革,适用于流程标准化、裁量空间小、不涉及重大权益的领域,如风险预警、辅助裁量等。
4.移动政务模式
《国务院办公厅关于印发全国一体化政务服务平台移动端建设指南的通知》提出:“创新移动政务服务提供方式。”移动终端应用(APP、小程序)等成为行政程序重要载体。移动政务的核心特征是泛在性与便捷性,突破时空限制、实现政务办理轻量化便携化,强调“掌上办”和“随时办”,是统一平台“一网通办”的泛在化与移动化。主要应用于高频次、碎片化、即时性政务服务,如交通管理、社保查询等。
5.区块链赋能模式
区块链赋能的核心是防篡改和可追溯,不直接承载行政程序,但有利于强化程序公信力、提升证据安全性和可信性。主要适用于对证据效力要求高、存在证据篡改风险的领域,如行政执法记录等需要可信存证的领域、不动产登记等需要全程追溯的领域。例如,《上海市促进浦东新区运用区块链赋能电子单证应用若干规定》即旨在“更好发挥区块链技术优势,促进电子单证可信便捷安全应用”。
(二)数字行政程序的实践逻辑
基于技术—规范、实体—程序、权力—权利的逻辑框架,数字行政程序的着重点在于技术逻辑、实体逻辑、权力逻辑,规范逻辑、程序逻辑、权利逻辑则具有一定的边缘化特征。
1.重技术轻规范
算法规则、技术标准等数字技术逻辑可能会优先于法律规范逻辑而适用。特别是在程序规范转化为技术编码的过程中可能存在重新定义等情况,从而导致程序规范的缺漏和误解。在智能审批等情景中,技术规则往往被作为技术秘密,缺乏公开性和透明性。《行政许可法》《行政处罚法》对数字行政程序的规范较为简约,存在法律规范模糊化的现实难题,“存在责任主体难以确定、主观过错难以证明、因果关系混淆不清等问题”,使法律责任规范条款难以落实。此外,“最多跑一次”“一网通办”等数字模式在追求效率的同时可能抵触程序规范、违反法律保留。
2.重实体轻程序
受传统治理思维和科层制下绩效考核压力的影响,数字行政程序并未完全摆脱“重实体,轻程序”的法律逻辑。数字行政追求社会稳定、重大项目落地等政策目标的快速、高效实现,可能简化或者遗漏行政程序。例如,山东某地区在未通知当事人的情况下,自行将“脑中风”医保结算记录植入其医保账户中。大数据监测和AI预警的广泛使用,容易诱发利用技术手段修改监测数据从而规避核查程序的风险。由此,实体问题的重要地位日益抬升,行政程序工具化的倾向更为明显,既表现为履行行政程序的形式化和表面化,也体现为根据实体目标选择删减特定行政程序。
3.重权力轻权利
数字技术强化了行政程序的单方性,相对而言不够重视公民对行政程序的控制感和感知能力。基层治理中,网格员运用数字巡查系统进行闭环管理,但居民上报、反馈等数字机制设计却相对不足。行政机关对数据安全与政府管控的强调、算法黑箱、算法歧视、算法一刀切等问题蕴含了权力傲慢和权力偏好,压缩了公众参与和知情的空间。例如,厦门某污水处理公司由于对厦门市生态环境局的算法运行机制和内容不知情,难以“提供证据证实自动监测数据运行过程中存在异常”,导致败诉。这种权力与权利的不对称,造成公民程序权的整体性克减,对公民权利产生系统性负面影响,使“个体对象化为可以被进一步操演和训练之物”。
(三)数字行政程序的权利危机
数字技术在行政过程中的广泛应用,造成公民程序权的整体性克减。
其一,算法的研发者、代码编写者自身的偏见可能注入算法,造成“算法污染”,引发算法歧视,并通过算法扩大歧视与偏见。例如,美国司法系统审前释放评估系统(COMPAS)存在高估黑人再犯风险以及低估白人再犯风险的不平等对待问题。这种歧视与偏见可能造成无正当理由的区别对待、同案不同处理,从而侵犯公民的平等对待权和获得公正处理权。
其二,数字行政程序具有自动性、瞬时性、非现场性的特征。在“无人干预秒批”“自助办”“电子罚单”等瞬间完成行政程序中,可能压缩告知、说明理由、陈述申辩、听证等程序。当事人难以直接提出权利诉求,获得告知权、要求说明理由权、陈述申辩权、听证权等难以落实。例如,2023年6月至9月期间,朱某被电子警察抓拍46次,安徽省某交警大队作出46份处罚决定。对此争议,行政复议机构指出被申请人没有有效告知、没有履行公告义务。
其三,数字行政程序依赖的算法是封闭的“黑箱”,存在难以为人所知的隐层,难以被观察、识别和理解。实践中,算法通常被作为国家秘密、商业秘密不予公开。“算法黑箱”对信息公开制度构成挑战,公民知情权、信息公开权难以保障。例如,在社会信用体系建设中,浙江杭州城市个人诚信分“钱江分”覆盖五大维度,通过统计综合评价模型计算得出,但评价数据关联性、具体算法等并未公开。
其四,数字行政程序的自动化、非现场化特性,公民对自动化行政程序及其结果缺乏拒绝的机会。在“无人干预秒批”等领域,“实现审批自动,排除人为因素”,当事人只能被动接受。实践中大量自动化决策不属于完全自动化决策,这表明《个人信息保护法》第24条有关公民有权拒绝完全自动化决策规定的适用范围过窄。例如,2025年4月,江西盛祥物流有限公司当事人通过手机“自助办”系统缴纳车辆超限罚款,但系统只设定缴纳罚款的唯一选项。
其五,在数字行政程序场景下,由于非现场化特征和“if-then”的算法规则,公民提出申请的沟通和纠错功能被弱化。例如,在申请福利资格时,公民申请一旦出现错误,算法规则不是让公民补正,而是全部打回让公民反复提交,造成“一个信息填错,所有信息重新填写”的申请困境。
其六,数字行政程序中的证据更多以算法和数据等形式掌握在行政机关手中,这种“证据垄断”使公民无法知晓和控制证据。数字行政程序中证据关联性的判断由算法完成,标准是关联性算法,可能忽视社会伦理等因素而误判。以代码形式呈现的证据“解释难度高、缺乏理解基础”,进一步弱化知情权、申请调取证据权、质证权、抗辩权以及其他救济权利。2024年,河北省赤城县23岁应届生李东(化名)由于社保系统被错录养老保险记录而丧失应届生身份,无法报考公务员考试,但系统中却没有纠错救济渠道。
二、数字程序权的理论证成
面对数字技术对公民程序权的冲击,出现了技术性正当程序等理论和制度。这些理论或制度模型是从行政角度出发的,从公民角度则可构建数字政府时代的程序权——数字程序权理论和制度模型。这种崭新的数字程序权有其强有力的现实必要性、理论基础和可行性。
(一)程序义务范式与程序权利范式
前数字政府时代,也即工业时代,行政程序保障主要通过课予行政机关客观程序义务和程序职责来实现,包含现场互动、实体文书、人工裁量等要素,是典型的客观程序义务范式。客观程序义务范式要求行政机关面对面履行回避、告知、听取意见等程序义务,公民现场或通过书面形式参与程序、表达诉求,权利救济也主要通过事后申请审查行政机关违反程序义务来实现。客观程序义务范式之所以能够发挥效用,是因为其建立在公民和行政机关信息基本对称的基础上,公民可以有效参与行政程序从而影响行政决定并寻求救济。而且,书面文书为公民进行监督和救济提供了明确清晰的证据。《行政处罚法》第51、52条规定的当场作出行政处罚决定、当场交付当事人,就是客观程序义务范式的典型体现。
数字政府时代,数字行政程序的基础已经发生改变,程序义务范式出现系统性失灵。技术性正当程序理论课予行政机关技术性程序义务,但仍然属于程序义务范式,同样面临失灵风险。一是程序义务形式化。数字行政程序将行政程序转化为平台公示、算法说明、数据共享等数字形式,容易导致程序义务形式履行而实质未履行,程序义务被“架空”。例如,通过弹窗、短信等送达告知时,公民可能因为弹窗被广告遮挡、短信被归为垃圾短信或被自动屏蔽而无法知晓。二是程序义务不透明。数字行政程序则发生在封闭的“算法黑箱”内,程序义务的履行难以被观察和监督。包含大量隐性参数的算法技术的不透明引发行政决策逻辑的不可知,说明理由义务更多停留在结果说明,无法触及算法过程的内在逻辑。由于这种信息不对称,对程序义务的监督也就失去对象和焦点。三是程序义务救济滞后。数字行政程序具有瞬时性、自动性、不可逆性的特征,自动化行政决定一经作出,即时生效、即时执行,侵害即时产生。如交警非现场执法中的抓拍、识别、审核、生成处罚决定往往在几分钟内完成。但是,事后的申诉、复议、诉讼等救济却严重滞后,导致公民不仅无法即时提出异议,而且面临举证难、救济周期长等问题。
客观程序义务范式之所以失灵,本质上是因为程序义务无法应对数字行政程序带来的系统性、即时性、技术性风险。程序义务范式具有被动性、静态性、滞后性等特征。面对数字行政程序,单纯依靠行政机关履行程序义务难以实现公民权利的有效保障。因此,有必要由以行政机关程序义务为核心的客观程序义务范式转向以公民程序权利为核心的主观程序权利范式,明确数字政府时代的公民享有数字程序权这一主观程序权利,从而确保数字政府时代的程序正义。数字程序权作为一项主观公权利,具有主动性、全程性、防御性的特征,意味着公民有权主动要求行政机关履行程序义务,而非被动接受行政机关的既定程序;公民有权在行政程序全流程、各方面行使数字程序权,而非仅仅针对行政结果;公民有权运用数字程序权直接应对数字行政程序中的算法歧视、错误、黑箱等问题,防御权利侵害。通过确立数字程序权这一公民程序权利范式,能够有效应对程序义务范式信息不对称、算法黑箱、救济滞后等问题,有效保障数字政府时代公民的程序权利和实体权利。
(二)数字程序权的法理基础
数字程序权并非无根之水,而是根植于人的尊严的价值内核,具有宪法基本权利依据,并通过主观程序正义得以证成。
第一,数字程序权以人的尊严为价值内核。尊严是权利的基础。“作为理性本质的人性的尊严”,是人之所以为人所必须具备的。惟其如此,人才是目的,而非手段和客体。正如康德的“人是目的”理论一般,我国党和政府以保障人民权利为终极追求。在数字政府时代,算法黑箱、自动化行政等人工智能风险严重危及人的尊严和主体性。当前,人工智能意识尚未“觉醒”,不能成为法律主体,只是服务于人的客体,“不具有道德意义”。作为传统程序权在数字政府时代的新发展,数字程序权是人的尊严的根本要求。数字程序权从根本上回答了康德式的根本命题:人是目的。数字程序权的根本目的是防止数字行政程序将人物化为客体,确保数字行政程序中人永远是目的,捍卫人作为人的尊严。
传统行政程序通过面对面交流、现场参与等方式体现对人的尊严的尊重和保障。数字行政程序以平台、算法和数据等为核心要素,公民被迫成为平台算法节点上的数据标签,一定程度上成为被计算、被预测、被管理的客体,算法技术逻辑在一定程度上消解了人的主体性。数字程序权的价值内核主张基于数字政府时代人的尊严的程序权利束,要求数字行政程序必须嵌入和体现对人的尊严的尊重和保障。数字程序权对人的尊严的尊重的核心要求可以概括为技术尊重。主要表现在四个方面:一是尊重人的公平需求。公民有权要求数字行政平等对待,杜绝算法偏私和歧视。二是尊重人的认知需求。公民有权知悉和理解算法模型运行逻辑。三是尊重人的参与需求。公民有权参与数字行政程序,对行政过程施加实质影响。四是尊重人的结果需求。公民有权拒绝严重违法的数字决策。
第二,数字程序权以宪法基本权利为宪法依据。行政法是宪法的具体化,行政法上的公民权利是宪法基本权利的具体化。从实证法角度观之,宪法基本权利条款构成数字程序权的宪法依据。数字程序权是宪法基本权利在数字政府时代的具体化。数字程序权具有基本权利性质,不可转让、不可剥夺。一是《宪法》第33条第3款有关“国家尊重和保障人权”的规定构成数字程序权的根本性宪法依据。数字程序权是人权的重要内容。“国家尊重和保障人权”蕴含了“国家尊重和保障数字程序权”的根本要求。二是《宪法》第38条有关“人格尊严不受侵犯”的规定构成数字程序权的直接性宪法依据。数字程序权作为程序权利,具有本位性价值,本身就是对人格尊严的尊重和保障。三是《宪法》第41条有关公民监督权的规定构成数字程序权的拓展性宪法依据。数字程序权蕴含的知情、参与、异议等要素,同时也带有监督行政权的意味,契合宪法有关公民监督权的立法精神。
可见,由宪法基本权利演化而来的数字程序权具有主观权利和客观秩序的双重属性。一方面,数字程序权具有主观权利属性。公民有权直接依据数字程序权要求行政机关作出或不作出一定行为,并可以依据数字程序权提起行政复议和行政诉讼。另一方面,数字程序权具有客观秩序属性。国家应当在立法中明确规定数字程序权,并课予行政机关保障数字程序权的法定职责和义务,如算法公开义务、人工审查义务等。数字程序权的双重属性构成对数字行政程序的双重约束,既能够有效保障公民在数字政府时代的程序权利,又能够提升数字行政法治化水平。
第三,数字程序权以主观程序正义为正义基础。主观程序正义以参与者对程序的主观感受作为程序正义的基础,注重个体信任感、控制感和尊严感,为程序正义提供了新型的基于主观感受、过程控制的程序正义解释论证机制。
首先,主观程序正义中的信任感是人们对法律程序的积极预期和体验,会影响人们对行政的主观感受与合法性评价。如果公民不享有数字程序权,数字行政程序完全由行政机关掌控,公民会对数字行政程序失去信任,产生“算法厌恶”(algorithm aversion)。这种不信任感会降低公民对数字行政程序的主观感受与合法性评价。因此,确立数字行政程序权,能够使公民知晓、参与并信任数字行政程序。其次,拥有控制程序就能控制结果的感觉或信念,会提升满意感。“这种控制,包括他们认为自己获得了提出自己意见的机会,以及他们认为裁决者听取了他们的陈述和考虑了他们的意见这两个方面。”公民应当对数字行政程序及结果有一定控制感,体现为公民认为他们拥有参与机会等数字程序权。明确数字程序权,让公民实现“有意义的参与”或“表达的机会和被考虑”,提升公民对数字行政程序的控制感和满意度。最后,尊严感“强调的是程序是否能够满足人们尊严的问题”。让人们在程序中感受到正义,很重要的是让他们在程序中得到尊重。根据群体价值理论,个人重视自身在群体中的地位,而程序对个人的尊重体现了其在程序中的群体地位。数字行政的瞬时性、非现场性、自动性等特征容易遗漏部分程序,而公民又缺乏拒绝的机会,就会带来“没有尊严”的主观认知。这种尊严感要求数字行政程序必须维护公民尊严,而数字程序权可以最大限度地提升尊严感,让公民在数字行政程序中真正被当作目的,而非手段。
(三)数字程序权的悖论消解
拥有现实必要性和法理基础的数字程序权还会面临效率悖论、能力悖论和滥用悖论等可行性问题,有必要通过辩证解析消解悖论。
第一个悖论是效率悖论,是指数字程序权可能因为增加程序要求而加重行政负担,降低行政效率。这种观点混淆了个案效率与整体效率。数字程序权可能会降低个别案件的效率,但有利于提升数字行政的整体效率。数字程序权并非无重点普遍适用,而是针对不同数字行政的风险等级匹配不同程度的数字程序权,实现权利与效率的平衡。对于高风险数字行政,赋予公民完整数字程序权,即使牺牲效率,也要保障权利;对于中风险数字行政,赋予公民有限数字程序权,在保障基本程序前提下提升效率;对于低风险数字行政,仅赋予公民知情权等数字程序权以实现高效办理。这种分级分类的思路,能够精准地将数字程序权匹配到必要的领域和场景,防止数字程序权过度设置影响行政效率。从整体和长远上看,牺牲数字程序权换来的效率是脆弱和高成本的,这种效率可能存在算法错误等隐性风险,进而引发大范围侵权和海量诉讼,导致政府公信力下降,纠错成本极高。而完备的数字程序权能够有效增强行政的合法性、合理性与可接受性,减少系统性纠错成本,从而提升行政整体效率。可见,数字程序权与行政效率不是对立关系,而是协同共生关系。
第二个悖论是能力悖论,是指由于专业能力不足,公民可能难以行使数字程序权,审查者可能难以审查智能算法。对此,关键在于明确数字程序权行使的辅助机制和辅助义务,而非完全交由公民和审查者自己解决。一方面,借鉴欧盟标准,以“没有受过教育的门外汉”能够理解的标准作为算法说明的标准。行政机关应当采用通俗的解释语言,通过图像、表格等可视化解释方式阐明算法逻辑,避免使用“随机森林”等复杂的专业术语,确保解释说明能够让公民理解。例如,《欧盟人工智能法案》第13条要求高风险人工智能的使用说明信息对部署者而言应当是可理解的。另一方面,构建丰富立体的数字程序权行使辅助机制。在政府平台上设立算法解释入口、数字程序申诉窗口等专门服务选项,为公民行使数字程序权提供针对性帮助指导,确保公民有渠道检视自动化系统的源代码。通过引入独立的第三方机构,为公民提供关键算法审计与评估服务,并定期公开评估报告。此外,还可以在法律援助制度中专门针对数字程序权行使问题提供法律援助,在政府平台中嵌入数字技术科普内容,提升公民数字能力。
第三个悖论是滥用悖论,是指如果普遍赋予数字程序权,可能引发权利滥用,损害公共利益,如反复申请人工审查或提出恶意异议而扰乱行政秩序。应当说,任何权利都存在滥用的可能,不能因此而否定权利本身,否则就是因噎废食。对于数字程序权滥用问题,应当在肯定数字程序权的前提下,通过相应措施予以化解。一方面,设置数字程序权的行使条件。对于人工审查权、数字决策拒绝权等,公民应当有初步理由,如算法代码存在歧视等方可行使。同时,限定公民行使数字程序权的法定期限,而且提出异议等应当有次数限制。另一方面,明确滥用数字程序权的认定边界与法律责任。权利不得滥用,公民应当按照诚实信用原则行使数字程序权,不得违法违规行使数字程序权,严禁虚假陈述、无正当理由反复行使数字程序权等滥用行为。对于滥用数字程序权的,行政机关应当重点关注并及时采取应对措施,如在一定期限内暂时限制其行使相关权利。滥用数字程序权给公共利益造成重大损失的,依法追究民事或者行政责任。
三、数字程序权的理想类型
数字程序权既是传统程序权在数字政府时代的新形式,又是数字政府时代程序权的新类型。由此,数字程序权延展出三个层级的理想类型:一是主体方面的排除算法歧视权,二是过程方面的数字知情权、数字参与权、留存记录权、人工审查权,三是结果方面的数字决策拒绝权。其核心在于增强公民对数字行政程序的控制。其中,排除算法歧视权、数字决策拒绝权尚未成熟定型和完全法定化,在理想类型意义上可以称为“权利”,在实定法意义上称为“权益”更为恰当。当然,这几种类型都是韦伯意义上高度抽象的理想类型,并非完全贴合实际,旨在为实践中纷繁复杂的数字程序权提供分析框架。
(一)排除算法歧视权
传统自然公正原则要求裁决者与案件利益无涉,保持中立,“不能做自己案件的法官”。在数字政府场景下,数字决策系统并非人类,无所谓自身利益。因此,针对智能自动算法偏见、数据驱动训练歧视、统一平台程序差异化问题,公民的相关权益主要是排除算法歧视权,具体通过算法透明权与程序一致权实现。
1.算法透明权
智能自动算法黑箱以及数据驱动数据黑箱问题导致公众无法知晓、理解和监督算法决策,由此则无法避免算法歧视。通过公民算法透明权能够实现算法公开透明,进而避免、发现、排除歧视。2019年国家新一代人工智能治理专业委员会《新一代人工智能治理原则:发展负责任的人工智能》明确要求“人工智能系统应不断提升透明性、可解释性”。2023年美国白宫《国家人工智能研发战略计划》(2023版)提出要改进人工智能系统的可解释性和透明度。当前数字行政程序中的算法不透明,依据其原因可以分为刻意保密型不透明(商业秘密、国家秘密等)、技术无知型不透明(technical illiteracy)以及技术复杂型不透明三种,需要根据其特性赋予公民相应的算法透明权予以应对。对于刻意保密型不透明,应当明确公民的要求公开数字决策系统源代码或相关数据的权利。但这不意味着要全部公开,而是应当为了保障某一数据涉及的各方利益,相应限制公开的范围。
对于后两种不透明,其原因主要是技术代码的复杂性,即使公开公民也难以理解,故仅仅赋予公民透明权尚不够发挥实效。鉴于其技术性和专业性,应当明确公民有权要求专业人士通过算法审计(algorithm audit)甄别算法歧视,而算法审计的标准则是是否具备程序一致性。
2.程序一致权
传统正当程序理论要求平等对待当事人,同等情况同等处理,蕴含了程序一致的基本要求,即行政程序必须平等适用于公民,无正当理由不得区别适用,强调程序的普遍性、无差别性。这是从行政角度的阐述。从公民角度阐述,则为程序一致权。针对统一平台跨部门跨阶段整合中的程序差异、智能自动算法设计偏差等问题,公民有权要求数字决策系统对其平等适用行政程序,无正当理由不受区别适用。为此,除了确保程序的普遍适用性与明确具体外,还应当确立公民的决策再现权,即公民有权要求自动化系统的决策可以再次适用于类案,并且公民有权要求行政机关在数字决策系统设计之初就预设相应算法。此外,从结果角度讲,还应当明确公民程序一致评估权,即公民有权要求技术专家通过静态分析(评估代码)和动态分析(评估程序运行及其输出)对程序一致性进行评估。相应地,行政机关有义务根据评估结果完善数字决策系统。
(二)数字知情权
受到算法影响的公民有“知其所以然”的尊严权利。数字知情权本质上是要应对数字行政程序中的信息不对称问题,如统一平台跨部门程序不透明、移动政务弹窗遮挡、数据驱动数据黑箱等,覆盖全部数字行政程序。在行政机关数字决策或者采纳数字系统认定的事实时,公民有权知晓拟作出行政行为及其事实依据和法律依据、裁量理由,如移动政务中的处理理由、救济途径等,这也对应行政机关相应的告知义务。在方式上,既可以要求行政机关根据公民预留联系方式进行格式化告知,也可以人工告知。同时,针对区块链赋能中的存证信息难以识别等问题,公民有权查阅相关原始证据以及自动化系统的运行过程。在此基础上,公民进行陈述、申辩、异议等后,有权进一步知悉行政机关作出行政行为的事实、理由等,行政机关有义务通过当场交流、人工客服、上门服务等方式进一步作出解释、告知。
由于智能自动算法源代码的专业性和复杂性,公民在知悉自动化决策方面有较高难度,为了实质性实现公民的数字知情权,应当明确公民有权要求行政机关对算法进行解释,形成可以被一般公众理解的内容。这就是公民的算法解释权。算法解释权是对算法公开权的强化,算法公开权是低层次的“知道”,算法解释权是高层次的“理解”。算法解释权构成人们与自动化决策系统的接口,旨在使人们真正理解、懂得算法,真正成为驾驭算法的主体而非算法控制下的客体。2018年欧盟《通用数据保护条例》规定了数据主体的知情权、更正权等多项权利,第13条规定数据主体有权要求数据控制者提供自动化决策的运行逻辑和预期后果信息,目的便在于使数据主体能够有效“理解”算法运行及其结果。具体可以通过区分算法透明度和结构复杂性来细化算法解释权,借鉴欧盟标准,以“没有受过教育的门外汉”能够理解的标准作为算法解释权的标准。根据相应的算法透明度和复杂性,赋予公民要求行政机关灵活运用、综合运用预建模解释与建模后解释、全局解释与局部解释等方法进行算法解释的权利。其核心在于使公民能够充分、有效理解不同透明度和复杂性下的算法逻辑,实现其数字知情权,为其他权利的保障提供前提。
(三)数字参与权
针对数字行政程序中行政机关单方主导的问题,应当明确公民有权参与数字行政全流程,有权监督行政机关运用自动化系统的全过程。在设计开发、采购、运用、评估、监督等方面,公民均拥有不同程度的参与权。其方式是多样化的,可按照“权利参与程度”从“公众参与阶梯”中选择适当的参与形式。这种全程参与能够提供沟通与纠错,提升公民对自动化系统的信任。
一是参与设计开发权。针对智能自动算法设计偏差等问题,应当明确公民有权充分、有意义地参与设计开发自动化系统中的算法模型和伦理规范。当前自动化系统设计开发几乎没有公众参与,而是由行政机关和相关企业、技术专家主导,导致算法模型和伦理规范难免会注入便利行政权力的价值偏好。因此,有必要引入公民对自动化系统特别是算法模型和伦理规范设计开发的数字参与权,既为人机互动、人机交互提供数字化交往框架,又能够矫正自动化系统重权力运行、轻权利保障的弊病,为自动化系统注入权利价值。
二是提出意见权。针对移动政务和数据驱动缺乏沟通反馈等问题,应当明确公民有权对自动化决策提出意见(质疑、异议、挑战)。自动化系统并非完美,会和人类一样犯错误。自动化系统本身的算法可能存在漏洞;自动化系统还可能会受到病毒、对抗样本等的恶意攻击。由于自动化系统具有反复适用性,其犯错将导致普遍性的后果。具有深度学习功能的自动化系统还会在之后的决策中不断“强化”既有错误。基于此,应当明确公民有权对自动化系统及其决策提出意见和质疑。行政机关不仅应当容忍这种参与行为,还有义务对公民的意见作出答复并相应完善自动化系统。
三是数字听证权。传统正当程序主张在作出不利决定前进行听证,公民有权获得“事先通知并由中立裁判者主持听证”。智能自动、统一平台跨部门联办事项中数字决策的自动化、瞬时性等特征给事前听证带来实质性困难。同时,事后听证也可能由于数字决策及其算法黑箱性质而被忽视。对此,应当根据数字决策的风险等级明确公民相应的听证权,弥补传统程序的不足。对于涉及人身自由、重大财产权益以及公共安全等高风险数字决策,应当赋予公民事前听证权,在方式上则不排除数字化听证方式。对于交通违法罚款、社保审核等低风险数字决策,则可赋予公民事后听证权。
(四)留存记录权
自动化系统中的原始记录,能够详细记录自动化系统的判断和决策的过程,满足法律对自动化系统的合规要求,为后续的审查、审计和法律争议提供依据,厘清责任归属。因此,公民有权要求行政机关留存数字行政程序全过程的完整、清晰的原始记录并妥善保管,使得这些原始记录处于随时待查、可查的状态。在留存内容上,公民留存记录权指向相关的个人信息、交易记录等数据信息,系统的启动、运行、参数调整等操作记录,算法规则和算法运行等决策过程和结果信息。为保障公民留存记录权,应当由相关部门明确留存记录的具体标准,明确留存记录的完整性、准确性、安全性、可访问性等基本要求。对于行政执法记录、不动产登记信息等与公民合法权益密切相关的记录,还应当纳入区块链存证并向公民提供查询接口,确保相关记录不可篡改和可追溯。《国务院办公厅关于印发政府网站发展指引的通知》(国办发〔2017〕47号)规定,“留存网站运行日志不少于6个月”。在此基础上,应当明确公民对自动化系统留存记录的请求权和行政机关的作为义务。考虑到行政行为的作出和送达,以及起诉和诉状的送达之间有时间间隔,留存记录的时间可参照行政诉讼起诉期限的6个月适当延长。公民申请复议或者提起诉讼的,则应当延长至法律救济程序完毕后。
在行政程序中,公民有权要求行政机关留存原始记录,行政机关有相应职责,不得推卸。在监察、复议、诉讼等程序中,公民有权请求监察机关、复议机关和法院调取原始记录,用以审查行政行为的事实和法律是否合法适当,是否有效尊重和保障公民数字程序权。必要时,公民有权要求法院等机关对自动化系统原始记录进行专业审计,这也是留存记录权和算法透明权的共同要求。
(五)人工审查权
数字政府时代,数字系统几乎深入了行政的方方面面。由于数字系统的非完美性以及无法承担行政责任,故不能使数字系统完全取代人类。从纯粹技术角度看,数字系统设计开发的过程也是不断反馈、纠错的迭代过程,这种迭代过程对于自动化系统的运行和决策同样适用。可见,人工审查是相当必要的,能够有效弥补数字系统的不足、提升公民应对数字决策的能力和水准。因此,针对智能自动算法运行偏差、数据驱动数据缺漏、移动政务办理失范等过程性瑕疵,应当明确公民在数字行政程序过程中要求人工审查的权利。此时必须经过人工审查方能对外作出行政决定,数字行政过程中的人工审查是行政决定作出的前提,数字系统不得自行生成行政决定。特别是对于涉及人身自由、重大财产权益以及公共安全等高风险数字决策,公民申请人工审查的,行政机关有进行人工审查的法定义务。同时,依申请审查并不排除行政机关依职权审查。行政机关应当积极主动对智能自动风险预警、数据驱动审核低保、统一平台跨部门联办等过程性重点领域、高风险领域、频发领域的数字行政程序运行和处理进行人工审查,尽可能减少数字系统错误判断和决策的风险。此外,为有效满足公民人工审查权,熟悉自动化系统原理、掌握数字技术运用与潜在风险的工作人员必不可少,这就要求行政机关对审查人员进行必要的技术培训。
(六)数字决策拒绝权
数字技术背后是对公民的监控和控制。为避免利用数字系统智能自动决策的法律风险、维护人的尊严和主体性,还应当明确公民在特定情况下,有权拒绝完全依靠自动化系统作出的决策,以及行政机关利用统一平台、移动政务等数字系统作出的明显违法、严重侵害其合法权益的决策。这就是公民的数字决策拒绝权。与人工审查权侧重过程审查不同,数字决策拒绝权侧重结果对抗。第一种是公民拒绝完全依靠自动化系统作出决策的权利,是典型的数字政府时代的新兴权利,主要是基于完全依靠自动化系统作出决策的系统性风险。相关立法对此已经有所规定,如欧盟《通用数据保护条例》第22条第1款规定,“数据主体有权拒绝完全依靠自动化处理作出的决策”。我国《个人信息保护法》第24条第3款规定,个人“有权拒绝个人信息处理者仅通过自动化决策的方式作出决定”。第二种是公民拒绝行政机关利用数字系统作出的明显违法、严重侵害其合法权益决策的权利。这是传统拒绝权在数字政府时代的表现形式。《行政处罚法》第77条规定,“行政机关对当事人进行处罚不使用罚款、没收财物单据或者使用非法定部门制发的罚款、没收财物单据的,当事人有权拒绝”。其适用条件为明显违法、严重侵害合法权益,不要求“完全依靠数字系统”,仅要求“利用数字系统”。在法律效果上,公民的数字决策拒绝权对应行政机关接受公民的拒绝、不得强制公民接受的法定职责和义务。
四、数字程序权的制度保障
从数字技术应用于行政而言,数字程序权受侵害是法律和技术等多种因素耦合的结果。法律因素主要表现为数字程序权法律依据的欠缺以及数字行政权法律控制力度的不足,技术因素则主要体现为数字技术逸脱规范性要求。鉴于此,应当从权利、权力、技术三个维度构建公民数字程序权的通用性保障路径以及针对不同数字行政程序风险的针对性保障路径。
(一)权利维度:数字程序权的法律确认
为了确保数字政府背景下自动化行政不侵犯公民数字程序权,应当从法律理念层面上予以整体性应对,从而对数字时代的行政立法、执法和司法提供抽象的一般性的指导。根据社会契约理论,国家的终极目的是保障人民权利。为此,有必要将数字程序权保障作为数字政府的底线要求和终极目标。数字政府和自动化行政遇到公民数字程序权问题的,应当予以高度的尊重,不得以任何理由克减、限缩公民数字程序权。基于此种法律理念的指导,首要的是在法律层面上确认公民数字程序权,构建完备的公民数字程序权法律体系,为公民程序权的执法司法实践提供基础性、通用性法律依据。当前我国有关公民数字程序权的行政立法主要集中在地方法律规范层面,涵盖地方性法规、规章、规范性文件等多个层级。例如,在数字知情权方面,《北京市实施〈中华人民共和国道路交通安全法〉办法》第109条第1款规定:“公安机关交通管理部门对交通技术监控记录资料确认的交通违法行为,应当向社会公示,公众有权查阅。”既有立法取得了良好的成效,但还存在缺乏通用性法律依据、具体规定存在漏洞以及立法用语不够规范的问题,需要进一步完善法律体系。
第一,在通用性法律依据上,应当通过制定行政法总则构建通用性的公民程序权法律框架,为数字程序权的具体立法提供依据和基础。行政法总则是一般行政法的总则,“对于行政基本法典乃至整个行政法律体系具有通用和引领价值”。行政法总则规定公民程序权,既是行政法总则保障公民合法权益根本目的的必然要求,也构成行政法总则的亮点和特色。具体而言,行政法总则应当原则性规定获得公正处理权、知情权、申辩权、拒绝权等一般程序权,明确其普遍适用于统一平台、数据驱动、智能自动、移动政务、区块链赋能等所有数字行政程序。行政法总则对程序权的规定,主要是为公民数字程序权提供一般性法律依据和法律框架,从而推动行政法分则、部门行政法针对特定数字行政程序具体细化数字程序权相关立法,以及为行政执法保障数字程序权提供通用性法律依据。
第二,在具体的立法规则上,应当重点补充算法解释权、留存记录权、人工审查权三方面的立法。算法解释权主要针对智能自动和数据驱动的黑箱风险。由于数字决策适用范围的广泛性和多元性,难以作出统一规定,目前适宜作出分散性、层次性的立法。对于不包含黑箱的“自解释”算法,只需公开基本原理公民即可理解,故应明确公民要求公开基本原理的权利。对于包含黑箱的算法,则应明确公民要求提供相应精度的解释的权利,并辅之以行政机关的文字说明解释(软解释)以及基于计算机程序输出数量关系的分析研判(硬解释)。留存记录权针对统一平台跨部门痕迹分散、区块链赋能存证壁垒、智能自动算法日志等情况。应当将目前存在于内部行政程序的留存记录外部化,明确公民有要求行政机关留存相关记录的权利,同时将记录的范围从文字、音像拓展到自动化系统的全部审计轨迹,也就是自动化系统活动的详细日志。人工审查权主要针对智能自动审批偏差、数据驱动数据偏差、移动政务操作失误等问题。应当根据不同的应用场景设计不同层次、程度的人工审查权,在依申请审查方面明晰公民的申请权,在依职权审查方面则赋予行政机关裁量权并设定必要的控制机制。
第三,在立法用语上,应当着重从公民角度将数字程序权规定为一项权利。当前有关数字行政程序的立法主要是规定行政机关的数字程序义务,而没有规定公民的权利,容易引发公民是否具有相关权利的争议。如《贵阳市政府数据资源管理办法》第22条规定:“行政机关应当对本机关提供和获取的政府数据建立日志记录,日志记录保存时间不得少于6个月,确保数据使用过程可追溯。”该规定就无法体现公民的数字程序权。未来,基于人的尊严之于数字技术的伦理价值,相关立法除了规定行政机关的相应义务,还应当结合数字行政程序场景,从公民角度运用“有权”“权利”等立法用语,规定相应数字程序权,如“公民有权查阅区块链存证的程序记录”以及“公民有权要求政务平台人工客服即时回应”,从而实现权利义务对应,促使数字程序权真正落到实处。
(二)权力维度:数字行政权的程序控制
从权力维度保障数字程序权,最关键的是实现行政机关数字权力的法治化、规范化。当前,最紧迫的是划定数字权力的权责边界、规范数字权力运行流程并强化违法不当行使数字权力的法治监督。
首先,通过权责清单构建数字程序权的法律保留。法律保留为数字行政提供了禁止性规范,要求没有法律依据不得作出有损数字程序权的行为。权责清单是落实法律保留和行政公开的关键制度,在推进国家治理现代化进程中具有基础性效用。当前数字程序权受侵害在很大程度上是由于没有厘清行政机关自动化行政的权责边界,致使权责不清、越权滥权等问题无法得到有效遏制。为此,建议结合不同的数字行政程序编制数字程序权责清单,明确数字政府时代行政机关的职责权限及其边界,坚持“法无授权不可为”,防止在没有法律依据的情况下克减公民数字程序权。《国务院关于加强数字政府建设的指导意见》对此已经作了部署,要求“加强监管事项清单数字化管理”,“编制公共数据开放目录及相关责任清单”。在此基础上,尽快编制全面的数字行政权责清单,特别是针对交通执法、市场监管、平台经济等领域,如清单应当明确智能自动监管审批的适用事项以及数据驱动中数据调取权的数据范围和使用目的,从而划定数字行政边界,强化风险研判与预测。
其次,对应公民数字程序权,明确行政机关的数字程序义务和职责。数字程序权的公法属性决定了有权利必有行政义务,但有行政义务未必有权利。数字程序权的权利主体是公民、法人或其他组织,义务主体是行政机关,这意味着公民有权要求行政机关履行程序义务。因此,数字程序权要想落到实处,必须为行政机关设定相应的数字程序义务。当前,数字行政权力运行程序缺乏统一规范和专门规范,相关规范散见于《行政处罚法》《行政许可法》《行政强制法》等中。未来可通过制定行政程序法,嵌入数字程序权对应的行政机关数字程序义务,对数字行政程序进行统一规定,为其他法律规范的具体细化提供通用性法律依据和最低标准,具体涵盖行政机关排除算法歧视的义务、公开告知义务、允许公民参与义务、留存记录义务、人工审查义务、接受公民拒绝数字决策的义务,如行政机关必须强制政务平台和移动政务APP弹出告知内容、提供陈述申辩选项。
最后,强化数字行政程序的监督制约机制。数字行政权力具有技术性强、影响面广、隐蔽性强的特点。“数字化行政开始由程序性的‘服务功能’阶段,发展至实体性的‘决策功能’阶段。”数字技术主要由决策机关单方面掌握和运用,如果缺乏有效的法治化的监督制约,仅仅依靠行政机关自觉,很容易发生违反正当程序、侵犯公民程序权的情况。为此,必须建立数字行政程序全流程监督制约体系,通过技术赋能对数字行政程序进行实时监测和预警。同时,可以在政务平台、移动政务APP中普遍植入数字行政程序监督模块,受理公民的投诉、举报和意见反馈,对数字行政程序的合法性、合理性进行全流程评估,自动抓取、纠正侵犯公民数字程序权的数字行政程序。此外,还可以采取智能自动算法监测、移动政务异议处理等方式实现数字化监督。在江西省某市司法局对市有关执法部门涉企检查频次过高执法监督案中,江西省某市司法局会同有关部门通过研发上线公务入企扫码平台,对涉企行政检查主体、对象、次数、程序等进行全流程统计和监测,有效规范了涉企行政检查行为。
(三)技术维度:数字技术的规范要求
保障数字程序权是一个技术问题。技术问题需要技术层面的解决方案。从技术维度保障数字程序权,本质在于治理数字技术本身。而治理数字技术,关键在于确保数字技术的适法性及数字技术与数字程序权的契合性。
其一,通过数字技术自动嵌入数字程序权。“期待在算法中实现彻底的身份中立,这本身就是一个不可能实现的目标。”为此,有必要将法律规定的数字程序权和行政机关数字程序义务,转化为计算机代码语言,进而全面嵌入智能自动系统的底层代码,包括数据偏差核验代码、存证查询接口代码等,作为智能自动行政的底线要求。例如,通过智能合约,在智能自动决策作出前自动检验,未满足数字知情权等数字程序权的无法进入下一步骤。同时,面向公民构建可视化的程序指引系统,通过移动政务手机端适配、统一平台跨部门流程演示等方式,生动形象地展现公民数字程序权和行政机关义务,满足公民对程序的知情权,防止程序信息不对称减损数字程序权。引入政务大模型和智能推荐算法,精准识别用户的基本情况和需求,自动推荐最优方案,指引用户行使数字程序权,并通过机器学习收集用户反馈,持续优化推荐算法,让程序规则更加贴合公民数字程序权。
其二,提升数字技术标准的程序法规范契合性。“如果算法模型存在问题,更容易导致算法结果不尽人意。”数字技术应用不得突破法律的界限和公民权利保障的根本价值。因此,应当针对不同数字行政程序制定相应的技术标准,如线上听证标准、算法透明度标准、电子告知送达标准、存证查询标准,明确数字行政程序技术标准的基本要求是合法合规,如《行政处罚法》《政府信息公开条例》等的程序规则。特别是政务平台、移动政务线上听证要确保同步多方视频等功能,实质性保障公民数字参与权。应当建立健全数字技术与法律规范契合性的评估机制和动态调整机制,定期评估智能自动算法、数据驱动等与法规范的契合度,视情况调整数字技术应用或者修改法律规范。对于频繁使用智能自动决策的,必须明确相关算法透明度以及责任归属等程序要求,推动技术运用契合法定程序权利。
其三,强化算法审计。算法审计是指根据公认规范和标准,检测、评估算法设计、开发、运行等全流程的合法性、有效性、安全性等,并提出优化建议。智能自动、移动政务、区块链赋能的广泛运用引发算法偏见、算法黑箱等侵蚀数字程序权的风险。为此,有必要通过技术和法律手段全面审计算法的设计、运行和结果,确保算法始终受数字程序权制约。在审计主体上,除政府机构外,还应当引入第三方专业机构和公民参与算法审计,并且明确第三方专业机构和公民的相应权限,如智能自动决策中公民有权查阅算法源代码、询问开发设计机构,区块链赋能场景下公民有权核查存证真实性。企业可以通过内部审计识别算法风险,提升算法安全性。在审计范围上,应当确保审计覆盖算法开发、运行、结果的全生命流程,同时重点审查算法逻辑合规性、数据来源合法性、存证不可篡改性等风险源。对于算法运行异常导致遗漏、异化公民程序权的,及时启动预警机制并修正算法。在审计结果上,应当明确审计报告原则上必须向社会公开,接受公众质询,并针对性作出解释和回应。同时,审计结果还应当与诉讼程序衔接,作为司法裁判认定行政行为是否侵犯数字程序权的证据。
结语
数字政府内在蕴含公共价值创造和政府现代化建设的底蕴。数字技术带来了数字政府和行政程序的深刻变革,引发公民程序权侵害的法律风险。数字程序权能够弥补数字程序义务范式的局限性,兼具人的尊严、基本权利、主观程序正义三重法理基础,具有可行性,内含排除算法歧视权、数字知情权、数字参与权、留存记录权、人工审查权、数字决策拒绝权共六个理想类型,在此基础上从权利、权力、技术三重维度构建保障路径,应当是治本之策。面向党的二十大确定的2035年基本建成法治国家、法治政府、法治社会的宏伟目标,应当继续挖掘数字程序权的主观公权利基础,数字程序权与行政程序义务的对应关系,数字程序权的宪法基础等基础性、理论性课题,实现“在法治政府下建设数字政府、在数字政府上建设法治政府”的数治与法治的良性互动,确保数字政府始终作为保障公民数字程序权和基本人权这一根本目的的良善工具。
(李策,中国人民公安大学法学院讲师,硕士生导师。)
【本文系北京市社会科学基金重点项目“北京地方立法研究”(项目批准号:25BJ02043)的阶段性成果。】
Abstract:In the era of digital government,administrative procedures are characterized by unified platforms,data-driven,intelligent automation,mobile government affairs and blockchain empowerment,presenting a practical logic that prioritizes technology over norms,substance over procedure,and power over rights,thereby raising concerns about citizens' procedural rights. Digital procedural rights abandon the limitations of the procedural obligation paradigm,and are based on human dignity,constitutional fundamental rights and subjective procedural justice,with strong feasibility. Digital procedural rights include six ideal types:the right to exclude algorithmic discrimination,the right to digital information,the right to digital participation,the right to record retention,the right to manual review,and the right to refuse automated decision-making. To effectively protect digital procedural rights,it is necessary to complete the legal confirmation of digital procedural rights from the right dimension,realize the procedural control of digital administrative power from the power dimension,and ensure the normative requirements of digital technology from the technical dimension.
Keywords:Digital Government;Digital Procedural Rights;Fundamental Rights;Right to Refuse Automated Decision-making;Algorithm Auditing
(责任编辑 喻文光)

京公网安备 11010102003980号