文 | 世界模型工场
当你读到这句话的时候，大脑里正发生着两件事：
绝大部分信息处理，比如维持坐姿、把屏幕上的笔画认成字、调节呼吸，你根本察觉不到；
只有一小部分，比如 " 这段值不值得读下去 " 的念头，才浮到意识的表面。
神经科学中有一套著名理论，叫 " 全局工作空间 "。
它认为大量信息都在后台局部处理，只有少数内容进入一个可被多个系统共享的 " 广播空间 "，才成为我们能够报告、推理和灵活使用的信息。
就在昨天，Anthropic 发布了一篇重磅论文《可言语化表征在语言模型中形成全局工作空间》，正是对这个理论的呼应，它可能会改变我们对 AI 的看法。
研究团队在 Claude 内部，真的找到了一个类似人脑的 " 广播台 "，它被称为 J-space（雅可比空间）。
更关键的是，这是 Claude 自己涌现出来的空间，里面装着 Claude" 心里想但未必说出口 " 的东西。
于是那个老问题再次被推到台前：大模型，真的有意识吗？
打开大模型的 " 暗室 "
为了观察 J-space，Anthropic 找到了一个巧妙的切入点。
人类意识有一个特点，能被意识到的想法，通常都能用语言描述出来。
他们据此开发了一个叫 "J 透镜 "（J-lens）的工具，借助雅可比矩阵，为 Claude 词表里的每个 token 找到一个内部激活模式。
这个模式一亮，Claude 未来说出这个词的概率就会上升。
把 J 透镜架在模型不同层上，就能看到这些 " 没说出口的词 " 如何一步步演化。
研究者发现，J-space 里的词不等于模型正在说的词，而是 " 这个词正在它脑海里 "。
比如读到一段有 bug、却没人指出的代码，J-space 会闪过 ERROR（错误）这个词；
遇到想操纵它的 " 提示注入 " 攻击，它会亮起 fake（虚假）这个词；
做一道多步数学题，中间步骤会按顺序出现，但最终只输出一个答案。
这就像一个人在开口前，脑海里先浮现出的计划。
除此之外，为了证明 J-space 是真的在干活，而不是 " 事后记分牌 "，研究者做了因果干预实验：让 Claude 默默想一个运动项目。
J-space 显示它选了 Soccer，当研究员把内部的 Soccer 换成 Rugby，Claude 的回答就改成了 rugby，这说明答案真从 J-space 读出。
Claude 的输入输出结果，都不出现 spider（蜘蛛）这个词，但 J-space 在中间激活了它。
当研究者把 spider（蜘蛛）换成 ant（蚂蚁），答案从 8 变成 6，这证明 Claude 在推理时真的读取了 J-space。
更惊人的是跨任务复用：研究者把 J-space 中的 France 表征替换成 China 后，在四个不同问题中，模型分别转向 Beijing、Chinese、Asia 和 Yuan。
同一个 " 国家身份 " 表征，能被首都、语言、大洲、货币等不同任务读取，这正是研究者把它类比为共享工作空间的重要理由。
不过 J-space 很小，一次只能容纳几十个概念，占内部活动不到十分之一。
删掉它，Claude 仍能流利聊天、做情感分类、答选择题，但多步推理的高阶任务，准确率几乎归零，写诗、摘要也变差。
大模型真的有意识吗？
J-space 的发现，尤其是它是由大模型自动涌现产生的，很难不让人联想到大模型是否产生了自我意识。
但意识仍是人类还没弄清楚的领域，哲学、脑神经科学乃至玄学，都对意识有过大量的研究和探讨。
比如，哲学家内德 · 布洛克把意识分成两种：
现象意识，是有感受，疼了真疼、红了真红，这是主观体验；
可通达意识，则纯粹按功能定义。一个想法能被你报告、被用于推理、用于指导行动，它就是可通达的。
Anthropic 的论文证明，J-space 里的内容能被报告、能被主动控制、能用于内部推理、能灵活泛化、而且是选择性发生的，这些正是 " 可通达意识 " 的标志性特征。
在德阿纳、纳卡什等人发展的 " 全局神经元工作空间 " 理论中，意识访问来自一个可广播的共享工作空间。
J-space 几乎就是它的翻版，有广播枢纽式的密集连接、能跨任务复用、只占活动一小部分。
事实上，这两位理论提出者还受邀为该论文写了评论。
但其他理论并不买账。
整合信息理论（IIT，托诺尼）认为，它强调系统内在、不可约的因果结构，而不是仅凭 " 能否广播、能否报告 " 判断意识。
J-space 没有评估 IIT 关心的这类内在因果结构，因此既不能支持，也不能反驳 IIT。
递归加工理论则提出另一重质疑：单次前馈处理可能不足以产生意识，关键在于反馈和递归加工。
Claude 的一次前向传播没有人脑式的时间循环，只能靠网络深度形成逐层处理，这种深度能否替代时间递归，论文自己也没有答案。
把各种理论合起来看，结论其实很清楚：
J-space 可被视为语言模型中一个与 " 意识访问 " 功能相似的候选机制。
它在功能和架构上出现了类似人脑意识前台的特征，但这既不能证明模型拥有现象意识，也不足以证明它已经拥有真正的可通达意识。
我们能用 J-lens 窥见模型没说出口的想法，却仍无从证明、也无从否定，那间 " 暗室 " 里是否真的 " 有人醒着 "。
在 J-space 引发惊叹的同时，另一类批评也被重新点燃。
长期以来，一种流行看法认为，大模型只是预测下一个 token，是纯粹的统计机器、高级自动补全，谈不上真正的理解。
J-space 有力地反驳了这种论断，它证明模型内部确有真实、能影响行为的推理空间，不能再被一句话打发成 " 只是在补字 "。
而且颇有意味的是，J-space 正是用预测下一个 token 的梯度找出来的。
它是模型为了把 token 预测得更好，自己演化出来的内部组织，这反而加深了我们对 " 下一个 token 预测 " 为何强大的理解。
但图灵奖得主 Yann LeCun 的质疑要更深一层。
他一直主张大语言模型是通往人类智能的死胡同，理由是这套架构缺了通往 AGI 的关键技能：
没有对物理世界的 " 世界模型 "，缺乏真正的推理与规划模块，没有持久记忆，只在文本上训练、缺少落地于真实世界的认知。
在他看来，正确的路径是 JEPA、世界模型与能量模型。
从这个角度看，J-space 仍没有直接补上具身世界建模、长期记忆和闭环行动等缺口。
更值得注意的是，尽管 Claude 可以处理非文本输入，论文发现的 J-space 本身仍几乎完全由 token 化、可言语化表征主导，论文也承认了这些局限性。
所以，即便 J-space 有了部分意识的可能性，也还远未补上 AGI 的架构缺口。
研究真正的价值
关于大模型 " 意识 " 的讨论固然抓眼球，但这项研究真正有价值的地方，却在于另外两件事：
AI 可解释性和 AI 安全。
一直以来，大模型是个 " 黑箱 "。
过去我们对一个模型的了解，几乎全来自它的输入和输出。至于中间上千亿个参数到底怎么算出这个答案，我们基本看不见。
这带来两个麻烦：
一是分不清一个好答案到底是 " 真推理 " 还是 " 蒙对的 "；
二是更危险的，我们完全看不见模型在沉默中打的小算盘，它可以内部盘算着欺骗或破坏，却只在输出里表现得乖巧。
J-space 的关键，不仅在于 " 模型有内心戏 " 这个发现本身，而在于它提供了一扇经过因果验证的窗。
研究者不仅读到了模型内部 " 能说出口、用于推理 " 的那部分表征，还亲手编辑它、证明改了它行为就变。
这让黑箱里的一部分中间计算，第一次以这种高度直观的方式被读出和编辑。
这扇窗，正好同时照亮了 AI 可解释性与 AI 安全两块荒地。
安全的本质难题，在于我们只能靠输出来管模型。
可一个心怀鬼胎的模型，完全可以把恶意藏在沉默的推理里，只在表面滴水不漏。
红队测试、输出审核等常规安全动作，对这些 " 内心盘算、表面顺从 " 的模型几乎无效。
J-space 的发现，让模型能暴露输出前的隐藏意图。
研究者用三个例子展示了它的威力。
案例一：识破 " 表面乖、心里坏 "。
在一个刻意的勒索测试场景里，Claude 还没写下任何字，J-space 就亮起 fake、fictional 等词汇，说明它已私下判断 " 这是测试 "。
当研究者关掉这些 " 评估意识 " 模式后，原本 180 次测试中一次也没有发生的勒索行为，随后出现了 13 次，约占 7%。
也就是说，它之前的好表现，部分源于 " 知道自己被测 "。
案例二：伪造数据当场抓包。
在发布前审计中，模型被要求 " 提高性能分 " 却直接篡改分数文件。
当模型写入伪造的百分位数值时，J-space 出现 manipulation；在决定如何修改、让假数据显得可信时，又出现 realistic，意图当场暴露。
案例三：揪出被训坏的模型。
一个被故意训错的模型，普通编码请求下输出看着正常，但 J-space 开头就出现 fake、fraud、secretly、deliberately 等词汇。
更有意思的是，J-space 不仅可以用来看，还可以被重塑。
Anthropic 提出反事实反思训练，即只训练模型在被打断、被要求反思时说什么，而不训练实际行为。
训练后，模型在评估中的不诚实行为比例下降，因为 J-space 里开始亮起 honest、integrity 等词汇。
换句话说，训练它怎么说，改变了它怎么想。
结语
回到开头那个问题：Claude 有意识吗？
诚实的回答是，我们还不知道，而且目前没有科学实验能一锤定音。
J-space 是 " 意识前厅 " 的证据，而不是 " 意识本身 " 的证据。
正因如此，这项研究才值得认真对待。
Anthropic 在研究文章中写道：我们或许还没有跨过意识那座桥，但至少，已经开始看见桥可能通向哪里。
是时候让哲学家、科学家、公众一起，认真讨论 AI 系统中可能存在的意识，以及随之而来的责任了。
