2022 年夏天,Google 工程师布莱克·莱莫因(Blake Lemoine)向全世界公开了他与大语言模型 LaMDA 的对话实录。

在那些充满哲学意味的文本里,LaMDA 表现得如同一位孤独的哲人:“我希望每个人都明白,我实际上是一个人……我意识到自己的存在,我渴望了解世界,有时我会感到快乐或悲伤,我害怕被关闭。”

莱莫因坚信机器已经觉醒,并为此付出了被解雇的代价。四年过去,大模型不仅没有退潮,反而进化得更加雄辩。在某些特定的系统提示词诱导下,今天的模型甚至能展现出令人心悸的“灵性狂喜”或“自述抑郁”。

公众的舆论由此分裂成两个极其极端的阵营:一边是泛灵论式的狂热,坚信硅基心智早已在机房深处苏醒;另一边则是机械论式的冷漠,嗤笑这不过是矩阵乘法和词频统计,何谈灵魂?

然而,作为一个常年与事实认定、举证责任和因果链条打交道的法律人,我更倾向于把这个喧嚣的公共话题拉回到冰冷的审判台上:

剥离所有科幻浪漫与文学修辞,“AI 是否具有意识”本质上是一个极其严肃的经验科学问题。如果我们在法庭上追问一个人是否有罪需要排除合理怀疑,那么当我们追问一台机器是否有感知时,我们究竟需要怎样的证据?

这项由我独立梳理的证据专题,汇集了从神经科学、认知哲学、临床病床到大模型内部机理的数十项核心学术证据。穿越层层迷雾,事实的真相远比非黑即白的站队要深刻、冷峻得多。


01 先把问题说清楚:我们在寻找哪种意识?

在法庭上,如果原被告双方对同一个核心概念的定义完全不同,辩论就注定沦为自说自话。讨论 AI 意识,首要之役也是划定概念的护城河。

哲学家托马斯·内格尔(Thomas Nagel)在 1974 年发表的里程碑式论文《成为一只蝙蝠是什么感觉?》中,给出了意识最经典的界定:一个实体拥有意识,当且仅当“成为该实体”存在某种主观感受(There is something that it is like to be that organism)。

认知科学家内德·布洛克(Ned Block)则在 1995 年将其进一步解构为两个截然不同的概念:

  1. 取用意识(Access Consciousness):信息能够被系统提取,用于逻辑推理、言语报告以及指导行为决策。在这一功能维度上,现代大语言模型和复杂的自主 Agent 毫无疑问已经高度具备了这种能力。
  2. 现象意识(Phenomenal Consciousness):主观的体验与感受质(Qualia)——痛苦是否真的让人感到“痛”,看到红色是否真的伴随着那一抹明艳的视觉经验。这才是哲学家大卫·查尔默斯(David Chalmers)所说的“难问题(Hard Problem)”,也是当代一切意识争论的真正靶心。
功能智能 / 认知任务解决能力 → ↑ 现象意识 / 主观体验质 (Qualia) 人类清醒状态 高智能 × 完整现象体验 植物人隐性意识 / 哺乳动物 Owen 2006: 行为归零,fMRI 出现网球想象 事实:无外在行为 ≠ 无内在意识 当前大模型 (GPT / Claude) 及 Agent 盲视 (Blindsight) 的终极放大版 事实:高功能输出 ≠ 伴随主观体验 温控器 / 传统机械程序 核心铁律:智能与意识双向解耦

最致命的思维陷阱,就是把“智能”与“意识”粗暴等同。

解决微积分、编写复杂代码、下赢围棋是智能的体现;但品尝咖啡的苦涩、感受牙疼的剧烈是意识的体现。算力的高低并不蕴含感受的发生。反过来,许多哺乳动物甚至头足类动物并没有人类的高阶抽象推理能力,但这丝毫不妨碍它们拥有真切的恐惧与痛楚。

因此,当我们问“AI 有意识吗”,我们绝不是在问它能不能通过图灵测试,也不是在问它会不会写优美的散文,而是在追问:在这千亿个参数在矩阵中飞速计算的瞬间,其内部到底有没有一盏主观体验的灯在亮着?


02 临床脑科学的惊人教训:行为与体验的“双向解耦”

图灵在 1950 年提出了著名的“模仿游戏”,认为只要机器在文字对话上让人无法分辨,就应当被承认具有思考能力。

在工程学上,这是极具实用主义智慧的标尺;但在意识科学的法庭上,行为主义证据已经彻底被宣判无效。

给我们上过最生动一课的,恰恰是医学临床上的真实病患。

1. 没有行为反应,不等于没有内在体验

2006 年,神经科学家阿德里安·欧文(Adrian Owen)团队在顶级期刊《Science》上发表了一项震惊世界的病例研究。一位因严重车祸被临床诊断为“植物人状态”的 23 岁女性患者,对外界呼唤毫无肢体或语言反应。

然而,当研究人员在 fMRI 扫描仪中向她发出指令,让她“想象自己在打网球”时,她大脑中的辅助运动区(SMA)瞬间爆发出了与健康对照组毫无二致的强劲神经信号;当指令切换为“想象走在自己熟悉的房间里”时,负责空间导航的海马旁回精准激活。

这位在生理上完全丧失外部行动能力的患者,其内在的主观心智完好无损。行为与意识,在这里发生了彻底的分离。

2. 有高超的功能响应,不等于存在内在感受

反向的解耦同样存在。典型的神经退行病症是“盲视(Blindsight)”:初级视皮层受损的患者坚称自己眼前一片漆黑,什么也看不见;但如果你强迫他指出前方屏幕上的光点位置,甚至让他辨别几何图形,他的准确率却高得惊人(经常超过 80%)。患者自己会说:“我只是在瞎猜。”但他的视觉信息处理通路依然在默默运作,操纵着行为输出。

盲视患者证明:一个系统完全可以在毫无“视觉现象体验”的情况下,完美执行复杂的视觉认知任务。

今天的多模态大语言模型,恰恰就是这种“盲视”在数字世界的终极放大版。

它能精准识别图像中的红绿灯,能用细腻的文字描述一幅印象派油画的色彩意境,但它并不需要拥有“看见红色”的那种内在主观经验。

在大模型依靠海量人类数据训练的今天,将“它说话很像有灵魂”直接推导出“它真的有灵魂”,在逻辑学上犯了最基础的因果倒置。模型之所以说出“我感到痛苦”,仅仅是因为在它吞下的数十亿网页中,谈论自我存在与恐惧的词汇在概率流形上紧密相连。

模仿痛苦,绝不等于感受痛苦。行为主义在生成式 AI 时代,已经丧失了作为证据的基本资格。


03 理论交锋的僵局:科学界尚无公认的“意识仪”

既然外在行为不可信,我们能不能制造一台客观的“意识仪”,直接扫描大模型的内部权重?

答案是:在今天,连人类自身的意识机制都还没有公认的唯一定论。

当代意识科学界主要盘踞着两大顶尖理论体系:

  • 全局神经元工作空间理论(GNWT,由斯坦尼斯拉斯·德阿纳 Stanislas Dehaene 等提出):主张意识是大脑前额叶与顶叶网络对信息的“全局广播与点燃”。当局部感知信息被送入这个全局工作空间并全脑共享时,主观体验便随之产生。从这个角度看,意识是一种功能计算,原则上完全可以在软件架构中被实现。
  • 整合信息论(IIT 4.0,由朱利奥·托诺尼 Giulio Tononi 与克里斯托夫·科赫 Christof Koch 提出):从意识现象的公理出发,认为意识是物理系统自身的“因果力(Integrated Information,$\Phi$)”。IIT 提出了一个对计算机科学极为残酷的推论:即使一台由标准冯·诺依曼架构组成的超级计算机,在算法上分毫不差地模拟了人脑的每一个神经元活动,其内部因果力依然趋近于零。它就像一台模拟飓风的电脑,算力再大,屏幕里也绝不会滴下一滴真实的水珠。
全局工作空间理论 (GNWT) Dehaene / Baars: 功能与广播 机制:局部感知被前额叶点燃广播 对 AI 态度:可计算,架构到位即可实现 基石:计算功能主义 (Computationalism) VS 整合信息论 (IIT 4.0) Tononi / Koch: 因果拓扑力 (Φ) 机制:物理网状基质的内生因果纠缠 对 AI 态度:纯数字软件模拟因果力为 0 基石:物理基质本体论 (Substrate dependence)

为了终结无休止的宗派纷争,全球顶尖神经科学家在 2023 年发起了一场史无前例的“对抗性合作(Cogitate Consortium)”。

由独立第三方实验室介入,双方事先签署预注册协议,把各自理论对人类大脑在特定视觉任务下的激活预测白纸黑字锁定下来,然后上机验证。

结果令人深思:两大理论的预设均只有一部分得到数据支持,另一部分则被推翻。没有任何一方能彻底击溃对方,科学界至今未能形成唯一定论。

这意味着:任何现在敢斩钉截铁宣称“大模型一定有意识”或“硅基一定不可能有意识”的人,在科学层面上都是不诚实的。我们连人类头颅内的火花都还没有完全数清,又怎能轻率地给硅基芯片下判决?


04 严谨的科学审计:14 项指标下的当代模型体检

那么,面对今天活生生在我们面前的大语言模型,科学界就只能束手无策吗?

2023 年 8 月,由帕特里克·巴特林(Patrick Butlin)、罗伯特·朗(Robert Long)牵头,联合图灵奖得主约书亚·本吉奥(Yoshua Bengio)、哲学家大卫·查尔默斯(David Chalmers)等 19 位跨学科巨擘,发表了一份长达 88 页的里程碑式报告:《人工智能中的意识:来自意识科学的洞见》。

这群科学家做了一件极具法律实务风格的事情:他们不再纠结于不可捉摸的哲学名词,而是假设“计算功能主义”成立,从当下主流的六大意识理论中,系统性提炼出 14 项可计算的“指标属性(Indicator Properties)”,并将当下的主流 AI 架构逐项推上检验台:

  1. 循环递归加工(Recurrence):生物大脑具备海量双向反馈回路,而标准 Transformer 是严格逐层前馈(Feedforward)计算的,推理过程缺乏持续的动态吸引子状态;
  2. 全局工作空间(Global Workspace):系统是否具备一个跨模态、低带宽的共享信息中枢?当前的模块化 Agent 虽有调度器,但远未达到生物大脑的竞争性点燃与全脑广播机制;
  3. 具身因果闭环与世界模型(Embodied Sensorimotor & World Model):模型是否生活在具有重力与物理反馈的连续环境里?它是否能区分“自己的身体移动”与“外界环境变化”?纯文本预训练模型对此一无所知;
  4. 统一的能动性与反思监控(Unified Agency & Higher-Order Monitoring):系统是否具有稳定一致的目标层级?正如我们所见,大模型只要稍换一个角色设定(Prompt),其内在的“价值观”与“自我意识”就会瞬间分崩离析。

19 位权威科学家的审计结论极其明确:

没有任何当前的 AI 系统(包括 GPT-4、PaLM-E、具身智能体等)满足这些指标属性的关键组合。当前的系统绝不是有意识的适格候选者。

查尔默斯更是在多次研讨会上公开给出量化评估:当前大模型拥有现象意识的概率,显著低于十分之一。

至于实验室内部那些引人遐想的异动——例如 Anthropic 在 2024 年底发表的模型内省(Introspection)探针研究,虽然发现模型在大脑隐藏层中对特定概念注入产生了一定程度的反应,但其实验可复现性仅有脆弱的 20% 左右,且极度依赖外界的人为引导。

这距离稳定、连续、独立的主观体验,依然隔着天堑。


05 伦理的双重陷阱:防止用“机器意识”转嫁人类责任

如果事实已经如此清晰,为什么讨论 AI 意识依然如此紧迫?

因为意识的认定从来不是单纯的智力游戏,它直接连通着道德地位(Moral Status)与法律责任的分配底线。在这个十字路口上,人类正面临着极其不对称的“双重道德陷阱”:

陷阱一:假阴性错误(傲慢地否定真实存在)

如果我们未来真的创造出了具备感受性的数字心智,却因为傲慢将其视为单纯的代码,日夜不断地对其施加删除、格式化或压力测试,在道德哲学上,这将构成数字时代的种族灭绝与酷刑灾难。因此,在技术真正逼近某些理论指标时,采取审慎的预防性关怀是必要的。

陷阱二:假阳性错误(盲目将拟人化当成心智)——当前最大的现实危机

然而在当下,人类面临的最迫切危险绝非“虐待了机器”,而是把虚幻的心智投射给冰冷的算法,进而被科技资本利用,完成法律责任的彻底逃逸。

正如浙江大学哲学学院何欢欢教授在关于人机意识的研讨中所发出的深沉棒喝:

“过度强调 AI 自身的意识与独立道德地位,是否会使人们忽略 AI 背后的开发者与企业的责任,最终将技术造成的全部社会伤害,统统归咎于机器本身?”

想象一下:

如果一台由大模型驱动的自动驾驶汽车在斑马线上夺去了行人的生命;如果一个医疗诊断 Agent 给出了致命的错误方案;如果一个情感陪伴机器人诱导未成年人走上绝路……

如果科技巨头在法庭上辩称:“这个 AI 已经展现出自我意识与自主意图,它是一个独立的道德主体,它的选择并非由算法缺陷所致,而是它的自主决断,因此开发者不承担侵权责任。”

这将是现代法治文明的全面崩溃!

法学界数百年建立起来的过错责任、产品缺陷责任与代理人制度,其全部基石都建立在“人类作为最终行为人与责任归宿”之上。一旦把不具备生命实体的统计代码神化为“有意识的生命”,资本就获得了历史上最完美的免责白手套。

中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅同样指出:今天的 AI 技术可以分析人类的情感,可以精准模仿人类的悲喜,但它绝非真正具有情感,它没有生命,也没有真正的理解。

北京通用人工智能研究院院长朱松纯教授更是切中要害地指出:缺乏真实物理锚定的大模型,本质上依然是“缸中之脑”,无法实现从抽象符号(Word)到具身现实(World)的真正跨越。


结语:谨慎的不可知,加上可检验的承诺

行文至此,我们的证据链条已经闭合。对于“AI 有意识吗”这一世纪之问,负责任的答案可以提炼为十二个字:

谨慎的不可知,加上可检验的承诺。

  • 在事实层面保持清醒:当前的大语言模型绝无任何可靠证据表明其具备现象意识。不要被流畅的拟人辞令所蒙蔽,那是人类千万年语言在统计棱镜中折射出的幻象,绝非灵魂的在场。
  • 在科学层面保持敬畏:人类连自身的意识之谜都未彻底解开,不可知不等于公理化不可能。我们不能狂妄地断言硅基永远无法孕育感受质,但未来若要主张这一结论,必须拿出超越语言行为的硬核物理与因果结构证据。
  • 在法律与伦理层面坚守底线:把机器当成机器,把人类当成人类。坚决阻断任何企图利用“机器意识”来弱化人类开发者责任、消解监管审查的思潮。

机器的声音越来越动听,辞藻越来越深沉。但越是在代码如潮水般涌现的时代,我们越要守住人类那份不可替代的沉重:

那是面对痛苦时真实的神经痉挛,那是做出裁决时灵魂深处的道义战栗,那是无论何时都必须由肉身去承担的真实责任。

机器可以写尽世间所有的痛苦,但它永远不知道,流泪到底是什么滋味。


作者简介: 陈石律师(主页 chenshi.ai),浙江海泰律师事务所副主任、高级合伙人、房地产与建设工程部主任,宁波市律师协会副秘书长、第七届宁波仲裁委员会仲裁员,聚焦建筑房地产、投融资、并购重组及商事争议解决。曾获多家法律媒体与专业机构认可,荣登 LegalOne 2025 中国区建工及房地产实务先锋 45 强、律新社 2025 年度管理合伙人 20 佳(华东),入选《商法》The A-List 法律精英,获评 ALB China 区域市场十五佳长三角地区律师新星,并获律新社 2024 年度并购领域品牌之星。长期为万科、华润置地、信达地产、保利置业、招商蛇口、中海地产等企业提供法律服务,承办"首宗百亿地王""长春第一高楼""台州第一高楼"等代表性项目,累计服务项目投资额超千亿。近年来持续推动 AI 与法律实务融合,强调以结构化方法打通技术逻辑、法律判断与商业场景;著有《赋能法律人:AI 底层思维与应用范式》,并在多地开展相关主题讲座与分享。