Blog

法律的零日危机?当AI开始揭示潜伏漏洞

 

 

如果人工智能(AI)能系统性地发现法律里的漏洞,会发生什么?

谈到 AI 和法律的交叉领域,我们多半想到的是“写合同更快”“检索文件更方便”。但在本月,有研究者在最新发布的论文“法律零日漏洞:先进人工智能系统的全新风险载体”(Legal Zero-Days: A Novel Risk Vector for Advanced AI Systems)中提出一个引人关注的新概念 —— 法律零日漏洞Legal Zero-Days)。

他们试图提醒我们,AI 可能不只是帮律师节省时间,而是会成为法律漏洞的“猎手”。

什么是“法律零日漏洞”?

首先需要先说明IT世界里面的一个老概念:“零日漏洞”。它指的是软件中尚未被发现或修复的安全漏洞。这类漏洞的可怕之处在于一旦被发现便能立即利用,致使厂商和使用者完全处于被动状态。简单来说,就是如果被黑客提前发现,就能在开发者做出反应之前加以利用。

而所谓“法律零日漏洞”,是基于这个网络安全中的“零日漏洞”而延伸的概念。指的是潜藏于现有法律体系之中、尚未被察觉的缺陷或矛盾,一旦遭到利用,便可能在现实中引发迅速而严重的混乱。

尽管单个此类漏洞未必会立即造成灾难,但它们共同揭示出一个令人警惕的前景:高度发达的人工智能(AI)系统,将有可能主动挖掘并系统性地利用这些漏洞绕过监管约束,甚至动摇法律与制度的基础。如果被恶意使用,这种能力可能在关键时刻被用于制造大规模混乱。 

现实早已敲响警钟

“法律零日漏洞”听起来抽象,但其实,这类情况早就多次上演,只不过过去我们没有一个统一的概念去称呼它。

比如2017年澳大利亚的“双重国籍危机”事件。《澳大利亚联邦宪法》第44(i) 条明确规定,在职议员不得持有双重国籍。然而,该条款与国际公民权制度之间的互动存在模糊地带,一直未被重视。该漏洞被指出后直接影响到副总理和多位议员的任职,对政局造成了巨大的混乱。

它符合零日漏洞的关键特征:一个长期存在、未被注意的法律条款,在特定条件下被触发,最终对政治体系造成巨大冲击。

如果 AI 开始主动挖掘漏洞

于是,一个更深层次的问题浮现了:如果以前这些漏洞只能依靠人偶然发现,那么当人工智能介入之后,会发生什么?

2025年3月的一项研究构建了一个原型系统,其文章的题目就非常直白—— AI能否挖掘税收漏洞?(Can AI expose tax loopholes?)。在实验中,人工智能被证实了通过系统分析法律条文,能够有效识别可能导致税收流失的漏洞。他们未来的目标是开发一个可被广泛使用的版本,推动公共部门采用该类工具来提升社会福祉。

这意味着,AI 不仅能够辅助律师处理文书工作,更可能成为某种意义上的“漏洞猎人”——系统性地扫描法律体系,指出其中薄弱环节。

行业的关注与想象 

结合以上的事例,“法律零日漏洞”本质上是法律结构中的逻辑缺陷,它们一直存在,只是未被发现。而人类专家因受限于时间与认知限制,尽管凭借专业经验能够偶尔捕捉到这类问题,仍有大量漏洞潜伏于条文之间。

随着人工智能处理能力的不断提升,它们能够高效解析海量法律文本、追踪跨法律体系的复杂逻辑关联,并识别出人难以觉察的潜在漏洞。这种能力既带来效率,也孕育新的风险——法律系统的稳定性和可预测性,或将面临前所未有的挑战。

与此同时,行业需要关注的不仅是发现漏洞本身,更是其跨界影响。一旦在某个司法管辖区被识别,这些漏洞可能迅速波及其他国家或地区,引发政策、合规和商业操作上的连锁反应。

风险还是机遇? 

如果随着技术发展, AI在不久的将来真的实现大规模、自动化地发现“法律零日漏洞”,我们将不得不面对如下问题:

  • 企业是否会借助AI发现的漏洞进行合法套利,加剧不平等?
  • 政府是否将陷入无休止的立法“补洞循环”,疲于应对?
  • 律师的角色是否将从传统的解释法律、代理诉讼,转向漏洞预警与制度加固?


这些问题的答案,目前我们尚未可知。但可以肯定的是,人工智能的急速发展正在让我们重新理解法律:它并非坚不可摧的铁板,而是一套不断修补中的架构,存在缝隙也始终处于演变之中。

洞察并理解这些缝隙,或许正是未来法律与科技交叉领域中最值得关注的趋势之一。

撰稿人:杨雪盈;内容策划:孙纲; 杨雪盈;校对:孙纲

本文由阳光海富律师事务所提供。文中内容基于公开资料及作者的理解,不构成任何形式的专业法律建议或商业决策依据。读者在参考本文时,请结合自身实际情况,并咨询相关专业人士以获得具体指导。作者及发布平台对因使用本文信息而产生的任何后果不承担法律责任。

  认识我们的团队

孙纲 (Abraham Sun)

首席律师

身为首席律师,Abraham的客户类型全面而多样,包括上市公司、国有企业、超高净值客户、投行。澳大利亚和中国企业以及个人投资者在内的各行业客户都曾在他的专业法律建议下取得了可观的经济效益。

罗迪森(Dickson Luo)

律师

Dickson 主要处理与破产清算法、公司法、劳工法、物业法和消费权益法等领域有关的纠纷和商业诉讼案件。他熟练英语和普通话,并有协助并代理英语能力有限或没有英语能力的客户处理复杂纠纷和诉讼事务的丰富经验。

Linda Thai

律师

Linda一直协助律师团队处理澳大利亚中级和高级法院的一系列诉讼事务。她在诉讼方面有着坚实的基础,能够胜任从初步调查阶段到与出庭律师联络,以及协助律师出庭的任务。

Bhanu Seemar

律师

Bhanu 是一名商业诉讼律师,在处理一系列商业法律事务方面拥有丰富的经验,这些事务包括合同纠纷、破产纠纷、消费者和特许经营纠纷、股东索赔、金融服务和监管执法事务、公司法和集体诉讼。