文 | Omni 实验室
近期，谷歌 DeepMind 高级科学家 Alexander Lerchner 发表了一篇论文。
结论非常清晰：
算法符号操作在结构上不可能有能力产生意识，无论模型多大、架构多复杂、是否拥有人形身体。
仔细看这句话，AI 有意识这件事儿不是现在不行，而是从逻辑上看永远都不行 ~
这篇论文的标题为《The Abstraction Fallacy： Why AI Can Simulate But Not Instantiate Consciousness》
（译 | 《抽象谬误：为何人工智能只能模拟意识，但不能实例化意识》）
论文发出后，引发广泛讨论 ~
Lerchner 要反驳的，是目前 AI 意识讨论中最主流的一个理论框架——计算功能主义。
计算功能主义拆开来看包含几个核心信息：
1. 意识的本质是一套因果拓扑结构，跟底层物理材质没有关系 ;
2. 同一套功能可以在人脑的生物神经元上实现，也可以在硅基芯片的数字电路上实现 ;
3. 只要一个数字系统精准复刻了意识的因果逻辑，主观体验就会自动涌现 ;
说白了就是一句话：意识不挑硬件，碳基还是硅基都不重要。
但 Lerchner 认为，这套理论看着没有错误逻辑，但实则从一开始就建立在错误的前提上。
他给这个错误起了个名字：抽象谬误。
（二 ) 抽象谬误：把地图当成领土
他为抽象谬误提供了两个比喻 :
1、地图不是领土
无论把一张城市地图画得多精细，完整复刻每一条街道、每一栋建筑、每一个红绿灯，这张地图都不会变成它描述的那座城市。
地图是对城市的抽象关系描述，城市是具备真实物理因果力的实体存在。
2、公式不是引力
写在纸上的万有引力公式可以精准描述引力规律，但这个公式本身不会产生质量，也不会产生引力。
公式是对引力的抽象逻辑描述，引力是物理世界的内在因果属性。
Lerchner 认为，计算功能主义正好陷入了这个谬误：
把对意识行为和逻辑的抽象符号模拟等同于意识本身的真实生成。
一个系统可以把意识的行为模仿得惟妙惟肖，但这只是模拟，模拟不等于真正拥有。
论文引入了两个关键概念：" 模拟 " 和 " 实例化 "。
模拟可以理解为对某一现象的外部行为复制。
比如一台机器可以模仿心脏泵血的动作，但它不会因此变成真正的心脏。
真正的心脏有其内在的物理构成和热力学动态，这是 " 实例化 "。
论文严格区分了这两个概念的前提，是找到了整个计算范式中一个长期被忽略的要素——制图者（Mapmaker）。
制图者，是任何一个拥有主观体验的生命体，它完成的工作是对物理世界的语义切分。
计算机里运行的 0 和 1 不是宇宙的固有属性，物理世界不 " 知道 " 什么是 1 什么是 0。
芯片里只有实实在在的电压和电荷的连续流动，是人类观察者为这些物理信号设定了阈值，赋予它们符号意义。
如果没有一个拥有主观体验的主体来 " 制图 "，物理世界的状态就只是状态，不构成任何符号。
计算功能主义假设了物理状态到符号状态的映射关系，但从来没有想过这个映射要在哪里才能真正成立。
换句话说：一套算法可以在不同的解读框架下构成完全不同的意义 ~
同一个物理载体可以承载不同的抽象关系，真正赋予它意义的是对它做出解读的那个认知主体。
（四 ) 算力解决不了的问题
Lerchner 认为，意识的来源不是系统规模问题，不是复杂性问题。
无论模型参数堆得多大，无论神经网络架构多复杂。
如果底层机制仍然是符号操作，那么意识就永远不可能从中凭空出现。
有人可能会追问：具身化的机器人呢？
给它装上摄像头和传感器，让它和环境交互，是不是就能具备意识？
Lerchner 认为不能。
机器人采集到的信号只是连续的物理信号，不管是通过 ADC（模数转换器）还是其他方式转换为数字信号 .
运算的核心仍然在跑那些被提前赋予了符号意义的数字。
运算之前的信号输入已经被做了字母表化。
运算过程中的逻辑演化同样是建立在已符号化的数据之上，最终输出同样只是符号操控的结果。
整个过程从输入端到输出端，都没有脱离符号操作的框架。
（五 ) 接受批判，但暂不宣判
有学者对 Lerchner 的论证表示了一定程度的支持。
其中一种观点认为 :
这篇论文成功挑战了计算功能主义中过于天真的简化解读 ~
也有效提醒了学界不要只凭外在行为的复杂性就随意为 AI 赋予本体论地位。
同时，也有中立立场观点认为：
Lerchner 对计算功能主义的批判很有价值，但无需立即得出 " 所有算法都不能拥有意识 " 的强结论。
目前的系统确实没有令人信服的意识证据，计算的本体论地位确实存在争议，但这些并不足以成为最终宣判。
其实
当讨论 AI 是否有意识这个话题的主体从局外的哲学家变成了业内的科学家时，问题的性质就已发生变化。
这种观点的对立并不会阻碍技术前行，反而让人们更清楚 ~
真正值得珍视的，不是对意识的模拟，而是意识本身。
