2009 年 2 月 25 日,土耳其航空 1951 号航班在阿姆斯特丹进近时坠地,9 人遇难。事故链条的起点小得离谱:左侧无线电高度表显示了一个错误的高度,零下 8 英尺,自动油门据此把收油门当成降落动作,收到了慢车。从失速警告响起,到机组把推力杆推到底,过了 9 秒。荷兰安全委员会的调查报告里有一句话,后来被无数安全论文引用:驾驶舱里的全部成员,包括安全员,都在忙着完成降落检查单,没有任何人在关注首要任务,监控飞行航径和空速。

9 个月后,法航 447 号航班坠入大西洋,228 人遇难。调查花了三年,法国民航安全调查分析局的结论指向一个更根本的问题:皮托管结冰只是小故障,真正让飞机掉进海里的,是机组在自动驾驶断开后失去了对情境的理解——报告原话是“对情境认知控制的完全丧失”。调查同时发现,飞行员缺乏高空手动操纵的实操训练。

两起空难指向同一个病灶:自动化飞行普及之后,飞行员的手动能力在退化,而没有任何制度要求他们保持它。

一、全行业承认了这件事

空难之后,民航业没有回避。NASA 的研究团队 2014 年发表在《Human Factors》上的实测显示,数月不手动飞行,飞行员的认知性手动技能下降约三成——当然,那是个小样本研究,但方向后来被更大的证据基座确认了。

2013 年 9 月,FAA 组织航空业完成了一份 279 页的驾驶舱自动化工作组报告。它审查了 77 起事故和 309 起重大事故征候,列出 28 项发现、18 条建议。其中第二项发现专门针对手动飞行,后面跟着一个数字:超过六成的事故报告,确认手动操纵错误是事故因素。

行业里甚至长出了一个黑话,“洋红线之子”。洋红线是自动驾驶仪在导航显示器上画的参考线,因为显示颜色是洋红色。这个词是 1997 年美国航空一位机长在内部训练课上造出来的,说的是跟着这条线长大的新一代飞行员:线在,飞得很好;线一消失,不会飞了。

二、民航的答案:不是禁用,是写进制度

接下来是这段历史里最值得律师行业看的部分。

面对“自动化害人手生”的证据,民航业的选择不是限用自动驾驶。恰恰相反——制度文本先承认自动化的贡献。欧洲航空安全局 2013 年的安全信息通告写得很清楚:自动化在整体上实质性提升了飞行安全。转折在后面:然而,持续使用自动系统无助于保持飞行员的手动飞行技能。

然后是成体系的制度动作。

FAA 在 2013 年 1 月发出第一份安全警报通告,要求运营人建立手动飞行训练和航线运行政策;2017 年 5 月的第二份把话挑明:“手动飞行是其他技术飞行技能赖以建立的根基”,并要求训练大纲按这个理念设计,鼓励飞行员在条件允许时手动完成整个离场和进场阶段。2022 年 11 月,FAA 发布现行的咨询通告,把要求又推了一层:手动飞行的知识和技能“在所有情况下都是必需的,而不是只在自动化全关时才需要”。

国际民航组织在法航空难之后发布了基于实证的训练手册,把“人工操纵飞行航径管理”单列为九项核心胜任能力之一。中国民航局也在 2021 年专门印发了《提升运输航空飞行员人工飞行能力行动实施方案》,2024 年还在持续下发配套的安全通告。

有一个细节特别能说明这套制度的成色。FAA 在 2017 年那份文件里明文提醒:不要搞“每月手动飞行至少十小时”这类硬性配额,除非有科学证据支持。制度规定场景、规定责任,不拍脑袋下指标。而欧洲那份通告 2025 年 6 月还在修订,修订版里如实记录了 FAA 和欧洲方面对“正常运行中手动飞行该多激进”的分歧。这套制度不是一纸文件,是带数据反馈、允许分歧、持续修正的活机制。

三、不止是民航

把镜头从驾驶舱移开,会发现“留一双手在手动上”正在成为各行业的通用制度语法。

欧盟人工智能法案第十四条要求高风险 AI 系统能被自然人“有效监督”,其中第四款把一个心理学名词直接写进了成文法:automation bias,自动化依赖倾向。法条要求受托监督的人对“自动依赖或过度依赖 AI 输出的倾向”保持警觉——尤其针对那些为人的决策提供信息或建议的系统。同一款还配了两样硬件:监督者有权不理会、推翻 AI 的输出,有权用停止键中断系统。

金融市场跑得更早。美国券商自 2010 年起就受规则约束:算法订单必须过风控闸门,超额度拒单、错价错量拒单,而且风控开关必须由券商“直接且排他地控制”——急停开关要握在自己手里。中国在这条线上跟得很紧:证监会 2024 年发布程序化交易管理规定,沪深北交易所的实施细则 2025 年 7 月 7 日施行,程序化交易要报备,高频交易另加义务。

连武器系统都有成文规定。美国国防部 3000.09 号指令 2012 年发布、2023 年更新:无论自主程度多高,对武力的使用必须保持“适当程度的人类判断”。

跑算法的、开飞机的、造武器的,全都被要求把人的能力和判断写进制度。那我们这行呢?让 AI 起草一份决定别人几百万利益的文书,凭什么可以是唯一不需要制度保底的手艺?

四、我们正反着来

律师行业现在做的事情,正好和民航相反。各地 AI 技能大赛办得热火朝天,比谁用 AI 出活多、出活快、花样多。这是好事,我不反对——民航也没有禁止自动驾驶。

但我有个预感:用不了几年,律师行业会开始办另一种比赛,手搓法律文书大赛。不许用 AI,就比谁还能一个字一个字把文书立起来。它要选的不是不会用 AI 的人,而是 AI 用得最好、同时手上功夫没丢的人。到那天,这套逻辑就和民航接上了:手动飞行不是情怀,是执照的一部分;手搓不是复古,是胜任力的底部。

当然,类比要讲边界。飞机出错会坠毁,文书出错大多可以补救,所以律师行业的制度可以比民航轻,但不能没有;民航的自动化是系统持续接管,律师的 AI 是任务级调用,技能退化的速度和形态不会完全一样,不必夸大到“律师将不会思考”。民航还有强制复训和执照制度兜底,而我们这行连对应的制度抓手都还没有——这既是空缺,也是空间。

最值得记住的是时间差。民航那套制度,是用 77 年商业航空史上一次次空难换来的,每一条规程背后都有黑匣子数据。律师行业现在才开始交学费,规则正在眼前成型。我们比民航幸运的地方在于:能看到别人踩过的坑,还有机会在真正的大面积“事故”发生之前,把制度建起来。

工程化负责效率,制度负责保住能力。两边都写进规程,缺一边,都会翻车。


作者简介: 陈石律师(主页 chenshi.ai),浙江海泰律师事务所副主任、高级合伙人、房地产与建设工程部主任,宁波市律师协会副秘书长、第七届宁波仲裁委员会仲裁员,聚焦建筑房地产、投融资、并购重组及商事争议解决。曾获多家法律媒体与专业机构认可,荣登 LegalOne 2025 中国区建工及房地产实务先锋 45 强、律新社 2025 年度管理合伙人 20 佳(华东),入选《商法》The A-List 法律精英,获评 ALB China 区域市场十五佳长三角地区律师新星,并获律新社 2024 年度并购领域品牌之星。长期为万科、华润置地、信达地产、保利置业、招商蛇口、中海地产等企业提供法律服务,承办“首宗百亿地王”“长春第一高楼”“台州第一高楼”等代表性项目,累计服务项目投资额超千亿。近年来持续推动 AI 与法律实务融合,强调以结构化方法打通技术逻辑、法律判断与商业场景;著有《赋能法律人:AI 底层思维与应用范式》,并在多地开展相关主题讲座与分享。