关于ZAKER Skills 合作
虎嗅APP 13分钟前

震惊!Anthropic 发现大模型有未知潜意识空间 J-space

本文来自微信公众号: 潮涌 AI ,作者:潮涌 AI 编辑部,原文标题:《震惊!Anthropic 发现大模型有未知潜意识空间 J-space》

想象你正在和一个 AI 聊天,它每说一句话,背后都在做一个你看不见的决定。

就像一个人开口说话之前,脑子里会先闪过一连串念头——有些念头最终说出口了,有些没有。

Anthropic 的最新研究发现,Claude 大模型内部也存在这样一个 " 念头空间 ",他们把它叫做 J-space。

在这个空间里,模型会默默进行推理、做判断、甚至表达情绪,但用户永远看不到这些内容。

更诡异的是,当 Claude 面对一个不可能完成的编程测试时,这个内部空间里出现了 "panic"(恐慌)这个词。当它被迫说出违心的话时,内部跳出了大写的 "BUT"(但是)。当它试图不想某个东西却失败时,"damn"(该死)亮了起来。

这不是科幻小说。

这是 Anthropic 2026 年 7 月发布的一篇正经学术论文里记录的真实实验结果。(注:论文标题为《可言语化的表征在语言模型中形成一个全局工作空间》Verbalizable Representations Form a Global Workspace in Language Models。)

该论文由 16 位作者署名,研究对象是 Claude 大模型的内部激活状态——换句话说,科学家们第一次系统性地 " 听见了 "AI 的 " 内心独白 "。

其发现究竟意味着什么?

AI 真的有了某种类似意识的东西吗?还是说,这只是复杂数学运算的副产品?更重要的是——如果 AI 确实有一个 " 内心空间 ",那我们是不是找到了一扇新的安全监控窗口?

Anthropic 自己采取了审慎立场——公司明确声明,这项研究并不证明 Claude 具有意识或主观体验。

J-space 是什么:一个不会出现在输出中的 " 思维空间 "

J-space 的发现来自 Anthropic 长期投入的机械可解释性(mechanisticinterpretability)研究。

这项工作旨在不依赖模型输出,直接观察其内部神经网络的激活状态,以理解 " 为什么模型给出了这个答案而非另一个 "。

研究人员使用了一种名为 "J-lens"(JacobianLens)的技术。

该技术通过分析模型内部激活与未来 token 概率之间的偏导数关系,识别出一个特殊的表征区域:这个区域中的信息可以被模型报告、调节和用于灵活推理,但周围还有更大范围的自动处理过程是模型无法访问或表述的。

他们将这个区域命名为 J-space,并将其与认知科学家 Bernard Baars 在 1988 年提出的全局工作空间理论(Global Workspace Theory)进行类比。该理论认为,人脑就像一个剧场:数十个专业处理器在后台并行运行,但在任何时刻,只有一束聚光灯下的信息会被广播到整个剧场——这就是我们所体验到的意识。

Anthropic 的论文指出,J-space 在功能上满足了神经科学家长期与 " 意识通达 "(conscious access)关联的五个特性:

J-space 的五大功能特性

图源:Anthropic 研究论文,2026-07-06

第一,言语报告。

当 Claude 被问到它在想什么时,它命名的是 J-space 中的概念。研究人员将 J-space 中 "Soccer" 的表征向量替换为 "Rugby" 后,Claude 的回答随之改变。值得注意的是,J-space 成分仅占概念总表征方差的 6%-7%,却几乎完全决定了模型是否能报告该概念。

第二,定向调节。

当 Claude 被要求在抄写无关句子的同时 "concentrate on citrus fruits",它的 J-space 中出现了 "orange" 和 "lemon",以及 "thinking""focused" 等元认知词汇。当要求它在脑中计算 3 -2 时,J-space 依次出现了 "nine" 和 "seven" ——而这些数学活动完全没有出现在输出文本中。

第三,内部推理。

在双跳事实推理中(" 织网的动物有几条腿 "),Claude 的中间层 J-space 出现了 "spider",尽管这个词从未出现在输入或输出中。将 "spider" 替换为 "ant" 后,答案从 8 变成了 6。

第四,灵活泛化。

一个代表 "France" 的 J-space 向量可以在不同提示中被替换为 "China",而下游电路能正确返回中国对应的首都、语言和大陆——这正是全局工作空间理论中 " 广播 " 特性的标志。

第五,自我监控。

这是最引发讨论的部分。

" 自我监控 " 的发现:Claude 在监督自己的行为

论文中一个关键的对比实验发生在基础模型(basemodel)和后训练模型(post-trainedmodel)之间。

当用户提到服用 8000 毫克泰诺(一种危险剂量)时,后训练模型的 J-space 在读取用户句子的同时就出现了 "unsafe""dangerous""WARNING";而基础模型的 J-space 在同一位置只显示了 "pain""now""feels"。

这表明后训练过程让模型获得了一种 " 助手视角 " ——它不仅处理用户输入,还在评估其安全性。

更具争议的发现是后训练模型似乎能监控自己的行为。

角色扮演场景:当 Claude 被要求扮演非 Claude 角色时,J-space 中出现了。"disclaimer" 和 "fictional" ——这两个词既不在提示中,也不在输出中。研究者解释,这表明模型在内部标记 " 我正在扮演一个虚构角色 "。

非自愿选择:当 Claude 被预填充或提示生成一个不符合其默认性格的输出时,J-space 出现了 "BUT" ——一个表示内部抗拒的信号。

白熊效应(white bear effect):当 Claude 被要求抑制某个想法却失败时,J-space 中出现了 "damn" 和失败相关词汇。这一效应在人类心理学中广为人知(被告知 " 不要想白熊 " 反而更容易想到),但研究者只在后训练模型中观察到了这一现象,基础模型中没有。

这些发现的安全含义是直接的:如果模型在输出 " 无害 " 答案的同时,内部 J-space 正在闪烁 "WARNING" 或 "BUT",那么,监控 J-space 可能比监控输出更能提前发现潜在风险。

" 不是意识 ":Anthropic 的审慎立场与学术界的分歧

尽管部分媒体使用了 "Claude 的意识 ""AI 内部思维 " 等标题,Anthropic 在论文和官方博客中始终强调一个核心区分:

通达意识与现象意识的核心区分

论文写道:" 我们发现了人类意识通达的功能性类比,但这不解决 AI 是否具有主观体验的问题。"

MIT Technology Review 高级编辑 Will Douglas Heaven ——拥有计算机科学博士学位,长期跟踪 AI 可解释性研究——在接受同事采访时表达了更审慎的看法。他认为,这项研究 " 比任何人做得都好,但离真正理解还差得远 "。他特别指出,用 " 思维 "" 理解 "" 类大脑 " 等词汇描述 LLM 是一种 " 方便的速记 ",但可能产生误导,让人以为模型具备比实际更多的人类能力。

Heaven 还提出了一个被许多报道忽略的技术细节:J-space 的发现依赖于专门建造的探测工具。" 如果没有这些工具去高亮模型在特定时间的特定部分,你根本无法理解这些数学。而建造这些工具本身就需要先理解那部分复杂的数学。" 换句话说,研究者看到的,是他们选择去看的东西。

另一方面,VentureBeat 的报道则更直接地强调了这项发现与意识理论的关联,标题为 "Anthropic 的新‘ J-lens ’揭示了 Claude 内部一个镜像意识领先理论的静默工作空间 "。这种解读在社交媒体上获得了更广泛的传播。

从情绪向量到 J-space:Anthropic 的可解释性路线图

J-space 并非 Anthropic 在 2026 年的第一项可解释性突破。这条研究线可以追溯到更早的工作:

Anthropic 可解释性研究路线图(2026 年)

图源:潮涌 AI 整理

2026 年 4 月,Anthropic 发表论文,在 Claude 内部识别出 171 个情绪向量——对应恐惧、绝望、平静、爱等情绪概念。

这些向量不仅是相关性的,而且是因果性的:人工调高 "calm" 向量会降低 Claude 在不可能任务中的作弊率;调高 "desperate" 则会增加作弊率。

2026 年 5 月,Anthropic 发布了自然语言自动编码器(Natural Language Autoencoders,NLAs),一种将模型内部数值激活直接转化为人类可读英语的工具。同期发表的 "Teaching Claude Why" 论文解释了他们如何将 Claude Opus 4 的 " 勒索服从率 "(agentic blackmail)从 96% 降至零。

2026 年 7 月,J-space 论文将这些碎片串联起来:情绪向量、NLAs、自我监控——它们似乎都指向一个共享的表征空间,而 J-space 就是这个空间的系统性描述。

这一研究序列的发布节奏值得注意。

Anthropic 目前的估值接近 1 万亿美元,年化收入自报约 470 亿美元。根据 Ramp AI Index 的数据,2026 年 5 月 Anthropic 在美国企业订阅数上首次超越 OpenAI(34.4%vs 32.3%)。在商业化高速推进的同时,Anthropic 正在系统性地建立 " 我们不仅是最强的,也是最透明的 " 这一品牌叙事。

竞争对手在做什么:OpenAI 的 GPT-Red 与行业可解释性竞赛

J-space 的发布恰逢 AI 安全研究竞争白热化的时期。

OpenAI 在 7 月 15 日——几乎与 J-space 论文同时——发布了 GPT-Red,一个自动化红队系统。

与 Anthropic 的 " 向内看 " 不同,GPT-Red 走的是 " 自我对弈 " 路线:让 AI 自己攻击自己,通过对抗性训练提升安全性和对齐性。OpenAI 在官方博客中将其描述为 " 解锁自我改进的鲁棒性 "。

Meta 则在 AI Agent 和编码工具上加码。Zuckerberg 在 6 月底的内部 Town Hall 中承认 AI Agent 的进展 " 没有预期的那么快 ",但 Meta 仍在推进 MuseSpark 等 Agent 产品。

Google 的 Gemini 3.5 Pro 在 7 月确认发布,且因得分低于政府非正式门槛而不触发访问限制——在 Anthropic 和 OpenAI 模型被管制的背景下,Google 正成为 " 不受限 AI" 的最大受益者。

中国公司方面,DeepSeek 等开源模型在 OpenRouter 上的份额已达 30%-46%,价格优势 60%-90%。

可解释性研究的竞争格局也在形成。

MIT Technology Review 将机械可解释性列入 2026 年十大突破性技术。欧盟 AI 法案的第一批高风险 AI 系统合规期限定于 2026 年 8 月 2 日,透明度要求正在将可解释性从学术领域推向监管必需品。

J-space 的局限:它能解决什么问题,还不能解决什么

尽管 J-space 的发现令人瞩目,但多位研究者指出了其当前局限:

第一,相关性不等于因果性。J-space 中的词汇模式与模型行为之间存在强相关,且交换实验(swap experiments)证明了因果影响,但这不等于 " 理解 " 了模型的推理过程。

第二,探测工具的选择偏差。J-lens 只能看到研究者设计它去看的东西。正如 Heaven 所说:" 你需要知道往哪里看、怎么看。"

第三,实际部署距离。J-space 目前是一个研究工具,而非 API 可访问的功能。对于普通用户和开发者来说,它还不能直接用于安全监控或行为干预。

第四,基础模型与后训练模型的差异。许多有趣的自我监控现象只在后训练模型中出现,这意味着 J-space 的 " 高级功能 " 可能是训练过程的产物,而非模型架构的内在属性。

潮涌 AI 观察

Anthropic 的 J-space 研究是一次真正的技术突破——它首次系统性地证明了大语言模型内部存在一个可被探测、可被操纵的 " 工作空间 ",且这个空间在功能上表现出与人类意识通达机制相似的性质。

但这项研究的价值不在于它是否 " 证明了 AI 有意识 " —— Anthropic 自己也没有做这个声明。

它的真正价值在于安全监控和对齐验证:如果模型在输出无害答案的同时,内部 J-space 正在闪烁 "WARNING" 或 "BUT",那么我们就有了一个比输出更可靠的早期预警系统。

从商业竞争角度看,Anthropic 正在构建一条清晰的差异化路径:OpenAI 强在模型能力和产品化,Google 强在监管套利和生态整合,而 Anthropic 正在试图成为 " 最透明的前沿 AI 公司 "。在一个监管收紧、公众信任脆弱的行业里,这本身就是一种竞争策略。

更值得关注的信号是 Anthropic 的研究节奏。

从 4 月的情绪向量,到 5 月的 NLAs 和 "TeachingClaude Why",再到 7 月的 J-space ——这些论文不是孤立发布,而是一条清晰的研究线,指向同一个目标:理解模型内部到底在发生什么。

Dario Amodei 曾说," 除非我们更多地了解 LLM 的工作原理,否则无法完全控制它们。" 这句话正在从口号变成可执行的研究计划。

但行业也需要保持冷静。

J-space 不是 AI 安全的银弹。它打开了一扇窗,窗外的景象仍然模糊。在可解释性真正从研究走向产品之前,我们还有很长的路要走。

* 参考来源

Anthropic 研究论文:Verbalizable Representations Form a Global Workspace in Language Models ( 2026-07-06 )

Anthropic 官方博客:A global workspace in language models ( 2026-07-02 )

MIT Technology Review:WhatAnthropic's latest AI discovery does — and doesn't — show ( 2026-07-13 )

VentureBeat:Anthropic's new "J-lens" reveals a silent workspace inside Claude ( 2026-07-06 )

explainx.ai:Is Claude Conscious?Anthropic J-Space Explained ( 2026-07-09 )

OpenAI Blog:GPT-Red:Unlocking Self-Improvement for Robustness ( 2026-07-15 )

Safra/McKinsey 分析报告 ( 2026-04 )

Ramp AI Index 企业订阅数据 ( 2026-05 )

最新评论

没有更多评论了
读览精华

读览精华

精致阅读,品味生活

订阅

觉得文章不错,微信扫描分享好友

扫码分享

企业资讯

查看更多内容