欢迎访问上海社会科学院法学研究所!
当前位置:首页  科研动态
【学术研究】国家检察官学院学报 | 刘婉婷:刑事算法证据及其审查规则

摘要:依靠算法模型生成、处理并辅助验证事实信息的算法证据,引发证明范式从逻辑经验转向算法核验与刑事审查的并重。算法证据在提高事实认定效率的同时,也因模型不透明与技术封闭带来真实性验证困难与程序正义受损的双重风险。通过电子数据或者鉴定意见路径规制算法证据,易引发质证形式化、裁判尺度不一等问题。鉴于算法证据与传统证据体系在证明逻辑上的不同,有必要明确其法律地位,在合法性、真实性与关联性基础上,深化可解释性和可验证性作为补充。通过源头合法、路径可查与结果可采的“三阶审查标准”,构建算法证据审查规则,即前期训练数据合法合规可追溯,中期版本族谱、运行环境与日志留痕可解释,后期误差披露与异源印证的可复验,辅之以技术标准的完善,以期为我国证据规则提供智能时代的理论支撑。

引言:以算法为核心的各类人工智能司法应用于侦查、审查起诉和审判辅助等刑事诉讼各环节。从指纹比对、人脸识别,到大数据侦查、深度学习模型生成的再犯风险评估与行为预测等,算法正在突破技术辅助的边界,从线索提示转为判断性结论进入法庭并作用于事实认定,直接冲击以经验理性与逻辑推理为基石的传统证据体系。围绕大数据证据、人工智能证据、电子数据、区块链证据等概念及其审查规则的研究同样火热,上述证据与算法证据在基础概念与证据属性上存在交叉,在适用范围与审查侧重上未有清晰区分,相关理论问题亟需厘清。

 

一、算法证据的学理争鸣

“法律概念并非措辞和语义的简单表达,而是通过该术语的语词构成、定义方式等向人们传达法律的调整对象。”本文尝试以方法为本体对算法证据进行界定,算法证据是由算法模型自动生成、用于证明案件事实的判断性或者预测性数据、分析结果或技术性结论。将算法证据用于事实认定,不仅要求其载体与链条的完整,还包括来源合规、路径可审以及运行结果可复验。

围绕算法证据的争论之所以持续,根本原因在于其动摇了长期以来依赖自然人的陈述、感知和专业知识所构筑的证明力基础。证人证言的证明力取决于感知与记忆并经过核实与询问;书证、物证的证明力取决于同一性与链条完整性;鉴定意见的证明力取决于方法与资料的可检验性并且鉴定人可以出庭接受法庭询问;电子数据的证明力取决于数据的同一性与完整性、取证程序的合法且可复验。换言之,传统证据种类无论看起来多么的技术化、数据化,其根基仍在于“人”本身。算法证据则不同,其具有大数据、算法及算力相结合的特点,这种经由算法模型生成的结论打破了以自然人为主体的证明逻辑。保障算法证据的可靠性,需要依次完成证据种类的范畴澄清、制度承接和证明法理阐释,下文详述之。

(一)范畴澄清:从“记录之证”到“方法之证”

最高人民法院、最高人民检察院、公安部发布的《关于办理刑事案件收集提取和审查判断电子数据若干问题的规定》(下文简称《办理刑事案件电子数据的规定》)第1条规定:“电子数据是案件发生过程中形成的,以数字化形式存储、处理、传输的,能够证明案件事实的数据。”电子数据以“记录或者存储”为核心,根据《办理刑事案件电子数据的规定》第22条至24条规定,法庭审查电子数据的关键在于数据真实性、完整性与是否被篡改。与电子数据不同,算法证据并非对过去事实的被动再现,而是在合法取得且可追溯的数据与运行环境下,由算法模型在既定阈值与误差结构中生成的判断性或预测性结论。如果因其数字文件的形式就归入电子数据,容易导致法庭审查停留于形式层面的数据文件完整与链条完备,回避真正的审查重点,即算法的生成、运行过程是否可靠,结论是否可信。

相较于鉴定意见,算法证据同样包含“专门性判断”,但二者在证明本体上存在差异。根据2015年修正的《全国人民代表大会常务委员会关于司法鉴定管理问题的决定》第10条、2016年修订的《司法鉴定程序通则》第5条,鉴定意见的正当性基础在于“可询问之人”,即鉴定人能够以其身份、资格、所用方法与操作过程出庭接受法庭调查与询问,并对其做出的鉴定结论负责。人民法院通过对鉴定人的身份、资质、方法、过程进行质询,来检验鉴定意见是否可靠。与此不同,算法证据的生成主体是算法模型本身,即便技术人员或者开发者出庭,往往只能对部分环节作出说明,难以就版本族谱、训练语料、阈值设定、误差边界与运行日志提供完整且可审的答复。当底层参数受商业秘密或安全规则保护而无法全部呈现时,鉴定意见审查赖以开展的“询问”会在证明节点发生中断,无法进行法庭调查。由此,将算法证据归入鉴定意见无法补齐方法层面可审查主体缺失而引发的证明困境。

与算法证据同时讨论的大数据证据与生成式人工智能证据(下文简称为人工智能证据)同样需要厘清。算法证据偏重方法维度,其关注的是模型如何推理得出的结论,而非数据规模或者系统的人工智能化水平。大数据证据强调的是海量信息,侧重于原始数据聚合与统计对比的证据表现。换言之,大数据证据依赖海量的数据,算法证据依赖模型的判断。从这一角度来看,数据是算法的原材料和模型底层,算法证据是在数据之上通过算法模型生成的判断性或预测性结论。二者在数据使用上存在一定的包含关系,但在性质上不可混同。

人工智能证据是更为宽泛的概念,更强调系统的智能属性,突出人工智能系统的综合产出与能力,“算法决定了人工智能系统的智能水平和能力”。算法证据核心特点是算法逻辑而非人工智能化水平。算法证据可以只是一个相对简单的统计模型生成的比对结果,例如相对可解释的统计模型,也可以是复杂神经网络生成的预测性结论,例如再犯的人身危险性预测模型。将算法证据与人工智能证据混同,容易夸大算法的人工智能化程度,忽视算法的生成过程。

从概念的位阶关系来看,在大多数智能司法应用中,算法证据可被视为人工智能证据的方法子类型而非并列范畴,因为算法模型本身构成人工智能系统实现智能化功能的核心驱动机制,无论是机器学习、深度学习还是生成式大语言模型,其技术内核均为特定结构的算法。之所以将算法证据从人工智能证据中析出并赋予其独立的概念地位,并非否认二者之间的种属关系,而是基于刑事证据审查的制度需求,将法庭关注的焦点从系统整体的“智能化水平”限缩至“算法模型的推理过程”这一更具可操作性的审查对象。就证据功能而言,人工智能证据属于一种功能性描述,其向法庭传达的信息是“该结论来自一个具备智能属性的技术系统”;算法证据则属于方法性描述,其向法庭传达的信息是“该结论经由何种算法逻辑、在何种数据条件与参数设定下被生成”。

法庭对证据可靠性的审查最终必须落实到方法是否科学、运行过程是否可追溯、输出结论是否可复验这三个层面,而非评价该系统的智能化程度高低。一套统计回归模型生成的再犯风险评估报告与一套深度神经网络生成的评估报告,在人工智能证据的概念框架下可能被归入同一类别,但在算法证据的概念框架下则需分别审查其模型结构、训练方式、阈值设定与误差边界,进而作出差异化的可靠性判断。将审查视角从整体功能下沉至具体方法,能为法庭提供真正可操作的证据审查路径,避免以智能系统标签掩盖算法生成过程的具体风险。

(二)算法证据的现行处理方式及其问题

实践中,算法证据的处理方式主要有两种:一是纳入电子数据、鉴定意见等法定证据种类;二是作为大数据分析报告等材料使用。算法证据的生成逻辑、证明方式与程序要求不同于传统证据,上述做法虽能暂时缓解制度真空,却也暴露出适配的不足。

首先,电子数据或者鉴定意见的“隐形涵摄”。实践中,算法证据通过两种完全不同的证据路径进入诉讼程序。第一,以电子数据的形式直接提交,如算法运行生成的比对报告、风险评估结果、模型输出结论等文件。第二,以鉴定意见或专家辅助人意见、技术说明的形式间接呈现,例如由技术人员根据算法结论出具的书面报告,使算法进入“鉴定意见和鉴定人出庭作证”的证据轨道。以上两种“转化”处理方式能够使算法证据在实践中发挥作用,但是将算法证据纳入电子数据或者鉴定意见种类,存在明显的制度冲突。

其次,大数据分析报告的使用。实践中已有大数据分析报告作为证据使用的先例,如最高人民检察院公布的第五十五批指导性案例中的“吴某某等人违规披露重要信息案”(检例第220号)便从证据合法性、真实性角度肯定了大数据分析报告的证据资格。民事诉讼领域的网络著作权案件,原告通常通过第三方平台对侵权网页进行取证,生成时间戳和哈希值存储于区块链,并将记录提交法院。在案件进入审查起诉和审判阶段后,司法机关通常采用传统方式对相关技术识别结果进行再确认或转换处理,例如通过调取现场监控录像、开展辨认笔录等,以满足刑事诉讼对证据来源、收集程序、质证程序等合法性的要求。法院对算法证据的态度总体较为谨慎,往往将算法结论视为辅助性材料或者转化性证据,而非定案根据。这种做法折射出算法证据法律地位不明的尴尬,虽然其实际作用不可或缺,但在刑事诉讼中一直缺乏明确的法定地位。

以上两种变通适用短期内可维持制度的稳定,却暴露出现行证据规则的结构性问题。第一,证据种类归属模糊。算法证据既非传统电子数据,也非严格意义上的鉴定意见,导致实践中的适用出现困难。第二,证明力标准不一。不同法院对算法证据的采信程度可能会出现差异,到底是将其作为参考,还是直接采纳或者直接排除于诉讼,容易出现证明力认定标准不一的问题。第三,质证机制不完善。算法证据缺乏可供质询的自然人主体,辩护方难以行使对质权,庭审质证难免流于形式,有悖于以审判为中心的诉讼制度改革。现行制度对算法证据的“转化”适用难以长期维持,亟待制度化回应。

算法证据不仅是技术输入,更是一次司法认知方式的结构性变革。在传统证据体系中,算法证据游走于电子数据与鉴定意见之间,既无独立法定地位,亦无相应的审查规则,呈现可用不可审的结构性失衡。未来,需突破上述路径的临时吸纳逻辑,从“载体正当性”转向“推理正当性”,并明确可解释、可验证的审查规则。

 

二、算法证据的理论基础

(一)认识论:由经验理性主义走向技术理性主义

“客观真实”长期被视为我国刑事诉讼证明理论的重要目标。现行《刑事诉讼法》第6条“以事实为根据,以法律为准绳”正是对人类理性的高度信赖,即法律相信办案法官能够通过听取证言、审查物证、推理事实链条,形成内心确信进而依法裁判。我国刑事证明结构是以人类的经验与逻辑为中心展开的,以经验理性主义为基础,诉讼参与人供述与证言、物证与书证的感知与比对、鉴定人对专门性问题的判断、电子数据的记录与核对,共同服务于查证属实的制度目标。传统证明结构的逻辑预设在于事实具有被人类感知与重构的可能性。证据因此被理解为通向案件事实的中介,其价值不仅在于展示客观真相本身,还能够使法官在理性与经验的框架中形成关于真实的内心确信。算法证据的特殊性在于相关结论由算法处理生成,在合法取得且可追溯的数据与数据运行环境中,模型通过参数、阈值与目标函数进行计算,以概率化的方式给出判断或预测。算法证据的认识论基础并非经验主义,而是技术理性主义,即事实不再是通过法官理性推理进行还原,而是通过算法的计算逻辑得出。

以技术理性主义为基础,算法证据引发四项转向。第一,认知中介的转移。法官面对的不再只是记录性材料,而是需要对方法本身作出评价的模型输出结论。某种程度上算法系统成为新的认知中介,即使法官对算法结论以鉴定意见或者电子数据的方式进行审查,仍然可能无法完全掌握其内在算法逻辑和生成过程。第二,结论形态从确定性描述转向概率性解释。诉讼程序的功能不在于排除一切不确定性,而在于将不确定性置于可检验、可反驳的程序。算法证据需说明适用边界、误差范围与审计可行性,以保证结论经制度化验证而具备正当性。第三,心证的形成须加入方法审查环节,使之与载体的同一性、完整性审查并行不悖。审查电子数据的形成、传输、存储、校验链条仍有必要,但已无法满足算法证据的审查。审查载体链条的同时,还需审查方法,即法官还需判断算法是否可靠。如此,法官的自由心证不再只围绕记录是否被篡改,而需要同时确认算法是否值得信赖。第四,认识主体的角色发生了转变,法官从对传统证据直观判断的认知者变为算法证据等数据和算法不可观测的技术输出接受者,审查重心并非能否完全理解模型内部机理,而是当事人是否提交了足以证明方法可靠且被可靠地应用于本案事实的证据。

算法生成的结论并不依赖人的感官经验,而是依赖模型与数据的演算逻辑,呈现的是概率化解释。这种解释并不承诺完全还原事实,而是提供一个统计意义上的最优预测或者判断。算法证据既带来机遇,也带来风险。机遇在于其能够突破人类感官的局限,提供更大规模、更精确的数据支撑;风险在于算法证据可能以“技术中立”的姿态掩盖自身的偏见与错误。2024年美国无辜者计划曾统计,已有至少七起因人脸误识导致错误指控的确认案例,其中六起涉及黑人被错误指控。该事实说明,算法识别结果若未经充分验证,可能在刑事追诉中放大既有偏差。

(二)价值论:在“发现真实”与“验证真实”之间实现平衡

传统证据规则具有两个基本面向:一是实体真实,通过证据查明案件事实真相;二是程序正义,通过合法、公正的程序保障当事人权利。二者之间常存在张力,算法证据的出现使这种张力表现得更加尖锐。一方面,算法证据具有显著提升“发现真实”的能力,能够在短时间内处理海量数据,识别复杂模式,发现人类难以察觉的线索。另一方面,算法证据正在变成一种缺乏可靠性检验的证据形式,针对这一新兴证据的审查规则阙如,可能削弱程序正义。

算法证据往往是黑箱运算的结果,辩护律师难以理解更难以提出质疑。正如学者弗兰克·帕斯奎尔(Frank Pasquale)所指,“算法之所以难以理解,主要源于技术与法律上的保密与规模;技术与法律的多重禁止使外部难以了解其基本事实”。当控方掌握算法证据而拒绝公开算法模型或数据来源时,辩方几乎没有可能对其提出有效质疑,这严重损害辩护利益。如果法院直接采信此类证据,可能剥夺辩方的质证权,导致诉讼双方力量失衡。

算法证据的价值在于实现发现真实与验证真实之间的平衡。如果偏重效率价值,可能导致以技术结果取代法官的经验判断的幻象;如果偏重程序正义,则可能因质证制度造成有价值的技术成果排除于诉讼程序之外。换言之,算法证据的价值,取决于我们能否完成三项转换:第一,将效率优势转化为可被对抗的证据理由;第二,将概率输出转化为可再现与可印证的证明材料;第三,将技术不确定性转化为可说理的裁判限制。从而使算法证据既能发挥发现真实的科技优势,又能经受验证真实的制度审查。


三、算法证据的基本属性

传统“三性”构成了证据准入和证明力的基础审查框架。然而,算法证据的黑箱属性和概率性输出带来了独特挑战,因此需要在传统“三性”基础上强化可解释性和可验证性,实现从静态审查向动态验证的转型,确保技术理性与程序正义的平衡。可解释性和可验证性不是对传统“三性”的替代,而是为应对算法风险的结构性补充。传统“三性”提供基础门槛,二者则深化审查深度,形成“五性”审查框架:可解释性主要嵌入真实性和关联性,确保程序对抗;可验证性作为合法性和真实性的补充,要求底线检验。

(一)合法性:生成、运行、输出的全过程合法

算法证据的合法性是司法程序和技术治理的共同要求。算法证据的合法性应当是一种全过程合法,而非仅限于刑事诉讼阶段。传统证据的合法性要求主要集中在收集与提交两个环节,即合法性审查主要针对公权力机关的证据收集行为;与此不同,算法证据的特殊性在于其生成链条远比传统证据复杂,算法证据的合法性涵盖两个层面:其一,数据采集、模型训练、算法运行、结果输出的合法。其二,算法结论进入刑事诉讼程序后转为算法证据的合法。

首先,数据采集阶段。算法证据往往依赖大规模的训练数据,这些数据可能来自公共数据库、商业平台、个人设备,甚至跨境流动。如果数据采集环节未经授权,或者违反了《个人信息保护法》第6条规定,对个人信息进行收集的“最小必要”原则,都会造成算法证据在底层训练数据的源头存在瑕疵。以人脸识别应用为例,若训练数据包含未经同意采集的面部图像,例如未成年人面部图像,即使最终输出的比对结果准确,也可能因源头数据非法而被排除于诉讼程序。合法性要求如此严格,体现了对个人信息的尊重与保护。

其次,模型开发与训练阶段。若算法模型存在歧视性参数与权重设定,例如在风险评估中引入种族、性别等敏感变量,其输出结果甚至可能违背我国《宪法》第33条确立的平等原则。这种隐形、不可见的违法在算法输出结论的过程中难以察觉,但却可能直接影响算法证据的合法性。为更好地规制算法开发阶段的合法性,需确保用于司法的算法模型在开发和训练阶段同样符合《宪法》保障的各项公民基本权利。

最后,运行与输出阶段的完整性保证。算法的运行环境同样需要满足合法性要求,算法运行过程中依赖未经安全认证的软件平台,或者在输出环节缺乏防篡改机制,均可能导致证据存在疑点。2016年《关于办理刑事案件电子数据的规定》第8条要求,收集电子数据时应尽量调取原始存储介质或提取原始文件,采取哈希值校验等方式确保数据完整性和真实性。同理,算法证据在运行与输出环节也需要满足这一要求以保证其合法性。

(二)真实性:从查证属实到多层验证

算法证据的真实性判断,比传统证据更为复杂。传统证据的真实性审查多依赖物理层面的外部验证,例如证人出庭作证、物证现场勘验、书证核实签名。算法证据的真实性既需要外部验证,更需要内部验证,即检验算法模型是否可靠。如果人类以看起来、听起来非常“真实”的谎言来欺骗机器,目前的通用人工智能技术无法辨别真假,面对此类情形,如何“判断故事的真假,将是法律决策中最难的点”。

外部验证围绕载体与链条的同一性、完整性与未被篡改进行核验,可采用区块链存证、哈希值校验、可信时间戳与数字签名等技术与规范化手段。如果证据来自一套复杂系统,需要确认系统在相关时间段内运行正常无故障;如果证据经过多次传输,需要确认传输链条已排除篡改的可能。这对证据真实性提出了更高要求,法庭需借助技术手段甄别数字内容的真伪。例如,对影像进行取证时,可通过鉴定手段检查其元数据或篡改痕迹;对涉嫌AI合成的音频,可邀请声音鉴定专家或运用反深度伪造算法加以鉴别。

内部验证至少覆盖数据真实与方法真实两个层面:一是原始数据真实、合法、未被污染;二是模型与运行过程可被检验,避免方法缺陷而导致的输出失真现象。应重点审查模型在相似任务上的已知或可知误差率、稳定性与交叉验证和盲测结果、阈值设定的理由与应用边界、典型反例与失败模式等。必要时可以引入独立第三方在场再运行或者白盒审计,以可再现的方式检验输出的稳定性。如果白盒不可行,则以黑盒对照测试与日志审计替代。上述材料共同构成可再现、可核验的真实性基础,使“概率性输出”能够接受刑事审判的检验。

上述两种验证并非简单叠加,而是共同服务于查证属实的目标,只有当外部链条可信、内部方法可靠同时满足时,算法输出才具备强证明资格,否则应限制适用甚至排除于诉讼程序。

(三)关联性:证据能力与证明力的双重审视

我国现行证据规则中,关联性要求证据必须能够对待证要件事实的真伪产生影响,并从信息与载体角度考察关联性。《办理刑事案件电子数据的规定》已在制度上把取证目的、待证事实、技术流程的对应关系内嵌为审查要求,即人民法院、人民检察院、公安机关在收集、调取、审查电子数据时,应结合生成、存储、传输等环节判断其与案件事实的说明力,否则难以确认“相关”。

关联性兼具证据能力与证明力的双重面向。就证据能力而言,关联性构成证据准入的最低门槛,不具备关联性的材料不得作为证据进入法庭调查程序,这是《刑事诉讼法》第50条“可以用于证明案件事实的材料”这一表述的规范本意。就证明力而言,关联性的强弱直接决定该证据在整体证明链条中的实际分量,关联程度越高,对法官心证的影响越大。对算法证据而言,这种双重面向具有特殊的制度意义。

在证据能力层面,关联性审查需要回答的核心问题是:算法输出与待证要件事实之间是否存在逻辑联系,一份再犯风险评估报告若仅基于群体统计数据而未纳入被告人个体特征,则与本案待证事实之间的逻辑联系存在根本性缺陷,需在准入阶段予以排除。在证明力层面,关联性审查须进一步追问这种联系的强度如何、在何种条件下才能成立、是否存在足以动摇该联系的替代解释。唯有将关联性审查拆分为准入门槛与权重评估两个层次,才能避免将技术上的统计显著性直接等同于法律上的证明力,也才能在查证属实的整体框架下为法官进行理性裁量提供清晰的审查路径。

从认识论视角看,关联性经由两条互补路径加以把握。一是概率解释路径:以贝叶斯公式的先验、后验更新或似然比的变动为刻度,观察新证据对待证命题及其对立命题相对可能性的影响,从而判定其是否具有方向性与幅度可度量的支持力。二是结构化证据评价:围绕与既有事实相合、补足要件缺口、排除替代说法,对证据在各事实版本中的作用进行衡量,确定其解释力。二者最终都回归证明力的评价,即要求法官在审查中区分“与案件要件事实有关的事实”与“仅具信息价值的背景事实”,并警惕以统计学上的显著性直接等同于法律上的证明力。

于算法证据而言,还需明确证据法理中关联性与证明力的转换规则。关联性只是最低要求,证明力是强弱评估,两者并非同义。以查证属实为目标导向的证明模式,要求整体审视证据的边际效应:一项算法结论如果仅在技术层面表现为相似度高,但在法律叙事中不能解释“何以由相似推出该要件事实”则证明力受限。与此相对,一个对阈值选择、误报漏报结构、案发环境与输入分布具有可陈述中间命题的算法结论,即便内部机理并不完全透明,也可在整体叙事中获得实质性证明力。法官依据的不是数字结果,而是可核查的推理链条。

从方法学上来看,算法证据把关联性这一传统问题推到了新的应用场景,即算法输出与要件事实之间的联系,并非单纯的事实判断或者技术可行,而是要通过推理链条把虚拟空间的输出稳定地锚定到物理世界的事实。换言之,算法证据的关联性是法庭可接受的推理形式,为实现裁判可操作性,进一步展开为四个基本问题:何以相关、相关到何种程度、在何种条件下才相关、如何避免误导。如此,关联性审查才能从抽象判断转化为可检验的裁判理由。为此,在程序配置上,可以责任分配与争议点明确两项机制加以解决。

(四)可解释性:限定“黑箱”的边界

算法证据的可解释性,是保障程序正义、实现证据查证属实、维护当事人诉讼权利的关键路径,其核心在于克服算法“黑箱”带来的不透明等问题。深度学习等复杂模型中的算法以“黑箱”方式运行,即输入与输出可见,但内部逻辑不可见。技术意义上的“黑箱”特指作为知识的人工制造品,呈现“部分人知道,另一部分人不知道”的知识不对称性。算法黑箱与证据规则中的公开、可知原则存在本质冲突,这种黑箱特性直接威胁程序正义,因为它使当事人无法理解、质疑证据,法官也难以形成排除合理怀疑的内心确信。实践中,算法黑箱给事故调查或事实还原同样带来极大困难。特斯拉Autopilot系统在多起涉及卡车的事故调查中显示,对算法决策逻辑的回溯分析(如车辆数据、视频和传感器记录)是查明原因的关键。在2019年3月1日佛罗里达州德尔雷海滩自动驾驶事故中,美国国家运输安全委员会调查发现,当一辆开启Autopilot的特斯拉电车接近正在左转的卡车时,Autopilot视觉系统未能持续检测和跟踪该卡车作为障碍物,导致未触发制动指令而引发事故。刑事审判并不要求完全公开算法参数,而是要求算法证据达到使控辩双方能够进行对抗、法官能够形成内心确信、裁判可被理解的可解释性要求。

按照解释对象的不同,算法证据的可解释性可以分为三个层面:第一,技术层面可解释,即开发者能够说明算法的基本逻辑与运行原理。第二,法律层面可解释,即法官与当事人能够理解算法结论与案件事实之间的关联。第三,社会层面可解释,即公众能够在合理程度上理解司法裁判所采信的算法证据。与可解释性要求相对应,制度层面可以通过以下三种方式提升算法证据的可解释性。一是强化说明义务。提交算法证据的一方需要提供算法说明书,包括数据来源、模型结构、运行逻辑、误差范围等基本信息。二是加强独立审计。通过建立第三方算法审计机制,对用于司法的算法进行白盒测试或源代码审查,以便法院获得客观的解释意见。三是建立专家辅助制度。当案件涉及复杂算法时,法院可邀请中立专家辅助法庭理解证据,回答辩方质疑。

可解释性方面,比较法经验同样提供了有益参照。欧盟《人工智能法案》将人工智能应用划分为禁止风险、高风险、有限风险和最小风险四个等级。其中,司法和执法领域的多项AI系统被归为高风险类别,受到严格监管。该法案明确将“用于刑事调查或起诉中评估证据可靠性的AI系统”列为高风险AI。根据第9条至第15条的规定,高风险AI系统的提供者必须履行一系列义务,包括建立风险管理系统、确保训练数据的高质量和无偏见、提供技术文档、生成可追溯记录、确保系统具有一定可解释性,以及向使用者提供清晰的使用指引等,从而保障系统的透明度与可审计性。上述条款应用在司法场景中要求使用算法评估证据时,需要公开算法的工作原理和局限性,至少向司法人员明示,并可追溯其决策过程。高风险条款将于2026年8月2日正式适用。然而,在欧盟强监管趋势下,法国与荷兰已出现相关判例,法院要求公共机关提升算法决策的透明度,以保障当事人知情权和异议权。例如,在荷兰社会保险福利欺诈系统案(SyRI案)中,海牙地区法院认定该风险评估算法系统因透明度不足而违反《欧洲人权公约》第8条;在法国穆瓦朗市“视频摘要”算法监控案(BriefCam案)中,格勒诺布尔行政法院以该系统缺乏明确使用目的和隐私保障为由,判令停止使用。

美国国会提出的Justice in Forensic Algorithms Act议案,旨在要求执法机关在使用算法证据时公开源代码和算法模型,以保障辩方专家进行独立审查。新泽西州最高法院在新泽西州诉春案(State v. Chun)中允许辩方专家审查酒精测试仪器的软件源代码,并在附条件下认可其可采性。联邦法院的埃利斯案(United States v. Ellis)是一个倾向披露源代码的联邦判决,该案中法院要求控方在保护令条件下就披露源代码进行答复,体现了支持辩方审查的立场,但未建立全国统一的、无例外强制披露规则。虽然实践中仍有争议,但上述判例与立法动向已呈现一个总体趋势,即可解释性和透明度日益成为算法证据进入刑事诉讼领域的重要因素。

(五)可验证性:方法可靠的最低程序要求

传统“三性”奠定了证据能力的基础,可以回答“能不能取得、取得的是什么、与何事实相关”的问题。算法证据的独特风险之一在于黑箱属性与概率性叠加,同一数据在不同版本、不同参数和不同运行环境下可能给出差异化结论,从而影响结果的稳定性和可信度。仅凭材料形式合规与完整,无法保证结论在第三方复核中保持稳定,无法将怀疑转化为可被检验的对象。因此,将可验证性设定为进入法庭的底线要求,将“可信赖”转译为可复演、可量化、可审计的一套制度。算法证据的可验证性,是指在不改变涉案事实素材的前提下,任何具备同等能力与条件的独立主体,依据完整的数据与方法材料复现处理流程,并在可接受的误差区间内获得一致的结论。其核心在于让模型的运行过程可阐释、可量化。

法官对可验证性通常进行两项审查:第一层是可采性判断。需要法官判断算法证据是否经过独立验证或等效评测,误差率与不确定度是否以可理解的方式披露,训练域与使用场景是否匹配,具体操作是否遵循既定算法规则并对偏差作出补救说明。第二层是证明力评估。法官结合复演结果与误差披露,衡量该结论与对立证据的相容或者冲突程度,以及对整体证明链条的作用。此处的审查关键在于以量化指标支撑证明力判断,例如通过物理基准测试与盲测结果定位方法性能的分位区间,通过似然比或贝叶斯更新将说明力体现在与其他证据结合后的整体证明力判断上。换言之,法官并不需要成为工程师,但需要看到能被检验且足以复核的材料,并据此形成可被上诉法院审查的说明理由。

从制度衔接角度来看,将可验证性内化到我国传统“三性”证明框架并无障碍。《办理刑事案件电子数据的规定》第2条规定:“围绕真实性、合法性、关联性审查电子数据。”真实性可以并列要求数据真实与方法真实,将版本、参数与日志作为真实性的必要组成部分而非不必要的附件;合法性可进一步明确算法与模型的许可来源、用途限定与最小必要性原则,并要求形成可追溯的取证与处理链;关联性可考虑引入最小说明力阈值与替代解释排除的具体要求,避免以相关性替代因果解释或以局部显著性掩盖总体偏差。

(六)可解释性、可验证性与传统“三性”的关系

可解释性与可验证性在算法证据审查框架中的定位,必须回应一个根本前提,即二者能否被传统“三性”所涵摄,无须具备独立属性。可解释性与可验证性的定位既非对传统“三性”的替代,亦非简单的延伸适用,而是一种相对独立的地位,二者在逻辑起点上依附于传统“三性”,但在审查功能上具有不可被传统“三性”还原的独立价值。如前所述,传统“三性”的审查逻辑建立在人的感知与判断的证明范式之上,其预设是证据的生成过程可以通过证人出庭、物证勘验、文件核对等方式加以还原和检验。但算法证据的生成过程封装于参数空间与数据流之中,既无可出庭接受询问的自然人主体,也无可供肉眼辨识的物理形态变化。当审查对象从人的行为转向模型的运算时,传统“三性”的审查工具便难以适配。可解释性与可验证性的独立性来源,正在于它们填补了传统“三性”无法完成的审查维度。

在确立相对独立性的基础上,需指出可解释性、可验证性与传统“三性”之间并非隔绝、对立,而是在具体审查中形成功能互补。合法性审查能够确认取证程序的外部合规,但无法穿透模型参数设计中的隐性歧视,可解释性恰恰将合法性审查从程序表层推进至算法内部;真实性审查能够保障数据载体的外部完整,但无法度量同一输入在不同运行条件下输出的稳定性,可验证性则将真实性审查从文件校验延伸至方法可靠;关联性审查能够判断证据与待证事实之间是否存在逻辑联系,但难以量化这种联系的强度与边界,可解释性通过披露推理路径使关联强度可评估,可验证性通过敏感性测试使关联边界可度量。“五性”框架是在保持传统框架规范基础的前提下,以可解释性和可验证性弥补传统“三性”面对算法证据时的结构性盲区。


四、算法证据的规则建设

我国高度重视数字化、智能化等新兴科学技术在司法领域的应用。当前对算法证据的制度和政策回应尚停留在隐性涵摄阶段,这种过渡固然灵活,仍无法满足人工智能技术广泛嵌入司法活动的实践需求,亟需在立法层面对算法证据作出明确回应。

(一)明确算法证据的法律地位

从规范构造来看,算法证据可以与电子数据并列为《刑事诉讼法》第50条规定的独立证据类别。如前所述,算法证据是由算法模型自动生成、用于证明案件事实的判断性或者预测性数据、分析结果或技术性结论。该定义既保留了《刑事诉讼法》“证明案件事实”的要求,也体现了算法证据特殊的生成逻辑。从刑事诉讼法定原则和证据种类法定化要求看,算法生成结论若拟作为定案根据使用,应当在刑事诉讼法或司法解释层面明确其审查规则,对算法证据的适用范围与审查规则进一步细化,明确算法证据的类型边界与适用层级。一是明确算法证据的适用须符合算法透明性、可复演性与误差披露等要件,而非仅作为侦查参考或证据链补强材料。二是确立算法证据的审查基准与举证责任分配,要求提交方即人民检察院提供模型版本、训练数据来源、参数阈值、运行日志及可执行复演说明,确保辩方能够行使对算法可靠性与偏差风险的质证权。算法证据的立法,不仅意味着一种新型证据形态的确认,更体现了程序正义在技术语境下的再适配,当事实证明已经转移至算法运行过程时,法律任务不仅在于承认算法证据,还需通过可解释、可验证、可质证的刑事程序,确保证据在形式与实质层面均具备正当性。

(二)确立三阶审查标准的算法证据规则

前文从属性论角度确立了算法证据须同时具备合法性、真实性、关联性、可解释性与可验证性的“五性”审查框架,但属性要件本身尚不等于可操作的审查程序。“五性”解决的是审查什么,三阶标准解决的是如何审查以及按照什么标准审查。从证据生成的时间逻辑出发,算法证据经历数据采集与模型训练、算法运行与推理输出、结论进入诉讼并接受质证的三个阶段,三阶标准是沿此时间线将“五性”要件分阶嵌入的程序方案:第一阶层“源头合法”将合法性与可解释性前置于数据底座与模型设计环节,审查生成条件是否正当;第二阶层“路径可查”将真实性与可验证性落实于算法运行与日志留痕环节,审查推理过程是否可靠;第三阶层“结果可采”将关联性、可解释性与可验证性综合作用于结论评价与印证环节,审查输出结论能否经受法庭检验并获得证明力。由此,“五性”构成实体审查要件,“三阶”构成程序审查路径,二者形成“实体要件嵌入程序路径”的完整审查框架。上述三阶审查标准的具体内容如下。

第一阶层为“源头合法”,承接“五性”框架中的合法性与可解释性要件,核心在于将这两项属性要求具体化为对训练数据底座正当性与模型设计价值取向的审查标准。合法性在此阶层的操作化要求是数据采集须符合《个人信息保护法》第6条“最小必要”原则,训练数据来源具备可追溯性,严禁使用非法采集的个人隐私或存在严重偏见的污染数据作为训练样本。可解释性在此阶层的操作化要求是模型设计须披露关键权重逻辑与目标函数,使法庭能够初步判断算法架构是否嵌入了种族、性别等歧视性变量。若算法因可解释性缺失导致辩方无法就模型设计的公正性行使质证权以维护实质辩护利益,则应将其排除于诉讼程序,从而强化合法性作为证据能力的底线功能。

第二阶层为“路径可查”,承接“五性”框架中的真实性与可验证性要件,将这两项属性要求转化为对算法运行全过程可审计性的制度设计。真实性的操作化要求是算法运行过程中的数据流转、版本迭代与环境配置须留痕可查,数据在模型内部的处理未经非法干预或隐性替换,防止方法缺陷导致输出失真。可验证性在此阶层的操作化要求是提交方须提供完整的算法版本族谱、运行环境配置及推理日志,允许独立第三方在同等输入与同等环境条件下进行复演测试或压力测试,以可量化的方式检验输出的稳定性。通过庭前会议解决算法证据引发的可靠性质疑,针对算法的科学性、可靠性、可解释性进行专门审查,会议讨论结果将决定该证据能否进入正式庭审环节。

第三阶层是“结果可采”,承接“五性”框架中关联性、可解释性与可验证性的综合审查要求,将属性要件转化为印证规则与证明力权重的评估机制。关联性在此阶层的操作化要求是算法结论须指向待证要件事实而非背景事实,其与案件事实之间的推理链条须具备可陈述的中间命题,法庭应区分技术显著性与证明力,防止以相关性替代因果解释。可解释性在此阶层发挥释明功能,即高度可解释的算法结论,例如完整披露特征贡献与推理链条可获得较高的证明力权重,反之则应限缩为线索材料。可验证性在此阶层发挥度量功能,误差率经第三方审计控制在可接受范围内的,可将证明力从辅助参考提升至佐证依据;复演波动较大或缺乏独立评测的,仅作侦查线索而不得作为定案根据。原则上,算法证据不得作为定案的唯一孤证,需与物证、书证、证人证言等证据相互印证,以排除系统性误差可能导致的冤错风险。法官须在裁判文书中说明不予采信或限缩证明力的理由,确保司法裁判的决定权掌握在法官手中。

(三)完善配套制度机制

算法证据规则的落地离不开举证责任规则的精细化调整,必须强化提交方的释明义务以抵消控辩双方在技术能力上的结构性失衡。作为提交算法证据的一方,人民检察院承担证明该算法证据满足“五性”及三阶标准的初步举证责任。若因商业秘密或技术封锁导致算法逻辑完全处于不可知状态,可使用“存疑有利于被告人”原则对该证据作出不利于控诉方的认定。这种责任配置不仅是程序公正的体现,更能倒逼算法开发机构在设计之初就考虑司法审查的兼容性,从源头提升算法的法治化水平。

引入专家辅助人与中立第三方审计机构是弥补法官技术认知短板、确保算法质证实质化的必要制度支撑。鉴于算法审查极高的专业门槛,可以由具备资质的技术专家对算法的可解释性、可验证性及误差率进行专业评估,并出具专业性意见。专家辅助人在法庭上不仅要协助法官理解技术细节,更要将复杂的底层代码转化为法庭可理解的法律语言。这种“法官控制下的专家竞争”机制能够确保技术审查不脱离司法审判的轨道,防止盲目的技术崇拜或自动化偏见。推动诉讼规则与技术标准的协同共治,是提升算法证据规制体系灵活性与前瞻性的必然选择。


结语

算法证据作为人工智能技术与司法制度交汇的产物,正在推动我国刑事证据法体系经历自电子数据入法以来最深刻的一次变革。从我国诉讼活动中算法证据的制度背景和司法实践出发,本文提出算法证据的概念、属性以及算法证据的审查质证规则,在此基础上进一步讨论我国刑事诉讼立法层面的算法证据证成。同时,借《刑事诉讼法》第四次修改的机会,重新审视我国《刑事诉讼法》第50条的列举式证据种类制度和现行证据规则,毕竟我们无法“以19世纪的制度与20世纪的思维来理解与治理21世纪的技术”。展望未来,亟需建立算法证据规则体系,在强调证据真实性、合法性和关联性的同时,保障可解释性和可验证性,以平衡科技应用与司法公正之间的关系。当法律能够驾驭技术之舟,算法证据才能真正成为查明真相的利器而非滋生不公的技术隐患。可以预见的是,随着人工智能立法和司法改革的推进,算法证据将获得更为明确的制度定位和规范指引,为公正和效率的融合发展贡献力量。


作者刘婉婷,上海社会科学院法学研究所助理研究员。文章发表于《国家检察官学院学报》2026年第5期。微信公众号文章有删节,引用请参照原文。