最近跟几位同行交流,或者在群里看大家讨论大模型,聊来聊去,大家最纠结的痛点其实都差不多。
最集中的吐槽往往就一句话:这玩意儿给的结论太不可靠了。
这种担忧绝不是凭空臆想。法律数据学者 Damien Charlotin 专门建立了一个追踪全球司法裁判中 AI 幻觉案例的数据库(AI Hallucination Cases)。截至目前,该项目已经记录了全球超过 2,200 起因大模型虚构法条、编造不存在判例而引发司法审查的裁决。更耐人寻味的是,被法官点名惩戒、课以高额罚金的,并不只是那些自己胡乱用 AI 准备诉讼材料的普通当事人,甚至包括不少执业多年的正式律师。
法条看着像模像样,点进去一查是编造的;裁判逻辑初看严密,细究下来全在偷换概念。大家聊完之后,往往是一声叹息,然后顺理成章地得出一个结论:现阶段的大模型还是个玩具,办案子根本不敢用,还是先观望吧。
我自己刚开始深度使用的时候,也踩过不少这样的坑。法律服务容错率极低,哪怕文书里引用错了一条司法解释,或者遗漏了一个关键抗辩事实,在法庭上可能就是满盘皆输。担心不可靠,是再正常不过的执业本能。
但如果顺着这个逻辑往深处多推一步,不妨换个角度做一个极端的假设:
如果明天早晨一觉醒来,市面上的 Agent 突然变得 100% 绝对可靠——所有输入都能瞬间对齐最权威的法律数据,给出的每一条意见都毫无破绽,连法官都挑不出毛病,那会发生什么?
如果那一天真的到了,不仅不是法律人的福音,反而意味着传统律师这个行业,真的要面临被物理抹平的危机了。
确定性交付的尽头,往往是免费和消失
商业世界里,什么东西能实现 100% 确定性交付?
最典型的例子是自来水、电网,或者手机里的计算器。
拧开水龙头就有符合饮用标准的自来水,没人会花钱雇一个专门的“饮水顾问”站在水龙头旁边;输入一串数字按个等号,计算器就能给出毫厘不差的复利结果,会计师再也不会靠“算盘打得快”向客户收取高额费用。
一旦一件事情的交付结果具备了百分之百的客观确定性,它在商业上就迅速退化成了标准工业品或公共基础设施。中间环节的专业代理人,会被技术物理性地直接省掉。
客户花钱请律师,买的从来不是现成的法条。法条在公开渠道上全都能查到,只要有网络就能检索出来。
客户真正愿意付费的,是在充满矛盾、信息不对称、利益撕扯的现实泥潭里,有人能帮他把混乱的局面梳理清楚,做出取舍,并为这个判断的后果承担责任。
专业服务的超额溢价,本质上就来自于“从高度不可靠的现实,通往可承受决策”的过程。
如果 AI 从输入到输出都百分之百靠谱,当事人自己点一下屏幕就能拿到终局答案,那客户为什么还要付昂贵的律师费?
Agent 的“不可靠”,究竟卡在哪里?
把责任全推给大模型是容易的,但客观地看,Agent 目前输出不可靠,并不是它在存心忽悠人,而是它面临三个天然的卡点:
1. 上下文盲区(Context)
真实案件的材料,从来不是整齐划一的说明书。当事人通过微信发来的几段长语音、几张模糊的银行流水截图、一份改得乱七八糟的合作意向书,里面充斥着情绪发泄、事实隐瞒和无关废话。
更关键的是,许多案件的真正核心——双方当年的私下默契、某次饭局上的口头退让、企业的资金周转底线——往往根本没有形成书面文字。Agent 读不到这些隐性背景,只能凭几张残缺的纸面材料自由联想,结论当然容易南辕北辙。
2. 规则与流程约束的缺口(Harness)
很多同行尝试 AI 的方式,很像把一个刚毕业的学生关进办公室,扔给他一句“帮我写份建设工程答辩状”,然后就坐在外面等成果。
没有把事实梳理和法条检索切开,没有设置证据与观点的逐项对应,没有交叉核对的时间线校验。在没有任何工程规则约束的情况下让大模型自由生成,出现幻觉不仅正常,甚至是必然的。
3. 缺乏对后果的痛感与责任
模型运行在云端服务器里,它没有律师执业证书,输了官司不需要赔偿,被当事人投诉也不会影响它的生计。它无法理解一笔数千万元的定金罚没对一家民营企业意味着什么,因此在文字推演中缺乏对法律风险的敬畏感。
这三个卡点,恰恰勾勒出了机器与专业人员的分工边界。
律师在不可靠中建立的三重护城河
正是因为 Agent 的不可靠,才给专业律师留下了清晰的价值空间。
面对这种不可靠,真正的机会不是去排斥它,而是通过专业能力把它收口成可靠的交付物:
1. 做事实上下文的翻译官
普通人给 AI 输入的是一堆未经筛选的碎片,专业律师能从当事人庞杂的叙述中,敏锐抽离出具备法律效力的事实要件。知道什么时候该补充证据,什么时候该隐去干扰项,把真实商业意图翻译成 AI 能够准确理解的边界提示。
2. 做规则与流程的搭建者
不再期待 AI“一步登天”,而是建立一套受控的工作流:把大问题拆成几个小步骤,事实认定归事实认定,法律检索归法律检索,证据交叉比对归证据交叉比对。用确定的工程规则,约束不确定的语言模型。
3. 做结论的终审人与最终签名人
在看似通顺甚至写得很漂亮的论述里,凭着多年的实务直觉,敏锐捕捉到那 10% 致命的逻辑跳跃与幻觉陷阱。
最关键的是,客户付钱买下的最终产品,从来不是一段冷冰冰的文本,而是文书末尾律师亲笔签下的那个名字。名字背后,是以执业证书和多年行业信誉作为担保的风险兜底。
这一点,任何算法都无法代劳。
坦白讲,这并不是躺平的理由
把道理拆开来说,绝不是为了给大家打一剂“高枕无忧”的安慰剂,更不是幸灾乐祸地看着 AI 犯错。
不可靠是红利,但这个红利有一个非常残酷的前提:它只发给有能力驾驭不可靠、修复不可靠、并敢于对最终结果兜底的人。
如果一个同行的日常工作模式,仅仅是机械地搬运公开法条、套用现成的合同模板,或者做格式化的文书填充,那么坦率地讲,哪怕现在的 Agent 只有 60 分的可靠性,也足够以极其廉价的边际成本把这类工作冲击得七零八落。
不可靠保住的,不是机械性重复劳动的饭碗,而是留出了一个宝贵的转型窗口期——把法律人从繁重的基础体力劳动中解脱出来,逼着我们走向更高的维度:去当架构师、去当把关人、去当风险承担者。
把它当成一个绝顶聪明的新人
面对现在的 Agent,既没必要把它捧上神坛,也没必要因噎废食把它锁进抽屉。
最舒服的心态,是把它当成一个刚进律所的实习生:法学院背景很好,看书快、打字快、精力无限,但毫无办案经验,对社会的复杂性一无所知,稍不留神就会写出荒谬的结论。
作为带教律师,你显然不会因为他交的第一篇草稿错漏百出就直接将他劝退。你会告诉他案子的来龙去脉,教他分步核对材料,在他写错的地方拿红笔勾出来,并在最终发给客户的意见书上替他把关、签上自己的名字。
正是因为实习生会犯错,带教老师的经验才有了定价权。
正是因为 Agent 的输出不可靠,我们手里积累的专业判断,才真正称得上是护城河。
作者简介: 陈石律师(主页 chenshi.ai),浙江海泰律师事务所副主任、高级合伙人、房地产与建设工程部主任,第十届宁波市律师协会常务理事、第七届宁波仲裁委员会仲裁员,聚焦建筑房地产、投融资、并购重组及商事争议解决。曾获多家法律媒体与专业机构认可,荣登 LegalOne 2025 中国区建工及房地产实务先锋 45 强、律新社 2025 年度管理合伙人 20 佳(华东),入选《商法》The A-List 法律精英,获评 ALB China 区域市场十五佳长三角地区律师新星,并获律新社 2024 年度并购领域品牌之星。长期为万科、华润置地、信达地产、保利置业、招商蛇口、中海地产等企业提供法律服务,承办"首宗百亿地王""长春第一高楼""台州第一高楼"等代表性项目,累计服务项目投资额超千亿。近年来持续推动 AI 与法律实务融合,强调以结构化方法打通技术逻辑、法律判断与商业场景;著有《赋能法律人:AI 底层思维与应用范式》,并在多地开展相关主题讲座与分享。