




举个例子,Claude正在读一段代码,读到一半,还没开始输出任何回复。但这时候用J-lens(雅可比透镜,他们开发的读心工具)去看Claude的大脑内部,你会看到一个词已经亮起来了。
ERROR。

injection,fake。

它知道,它什么都知道,它只是没说。
从某种意义上说,这其实已经非常类似于有些人用语言思考却无需实际发声的认知方式了。
研究者也做了一些实验,看看J空间里面的这些想到的话语,是不是最终对于Claude的输出有影响。
比如,他们给Claude出了一道题:“会吐丝的那种动物,有几条腿。”
Claude要回答这道题,它得先想到蜘蛛,然后再想蜘蛛有几条腿。
但蜘蛛这个词不会出现在题目里,也不会出现在Claude的回答里,Claude的回答只是一个数字,8。
但研究者用J-lens一看,Claude在回答之前,J空间里确实亮起了蜘蛛这个词,它在心里想了蜘蛛,然后才回答了8。

这时候,研究者伸手进去,把J空间里的蜘蛛给抠掉了,换成了蚂蚁的模式,其他一切保持不变。
Claude的回答变成了6。
蚂蚁有六条腿。
Claude的推理过程真的在读取J空间里的内容,用它来做决策,只要你换了J空间里的中间步骤,最终答案就跟着变。
要注意,J空间是纯粹的隐藏的,类似于我们自己的潜意识思想,不是过去的思维链。
还有一个实验,特别能展示这个逻辑。
研究者在J空间里把法国换成了中国,同一个操作,然后分别问四个不同的问题。
首都是什么,语言是什么,属于哪个洲,货币是什么。
而这时候,答案分别变成了北京、中文、亚洲、人民币。

四个完全不同的下游任务,都从J空间里的同一个位置读取了同一条信息,而且各自用对了,这说明J空间不是为某一个任务服务的临时想法,它是一个之前类似巴尔斯提到的那个广播中心,信息写进去一次,所有人都能看到,也都能拿来用。
这其实就是,全局工作空间理论对人类大脑的核心描述。
太有意思了。
而且,他们还做了一个白熊实验的变体。
1987年,哈佛心理学家韦格纳做了一个经典实验,他跟被试说,接下来五分钟,请你不要想白熊,什么都能想,就是不要想白熊。
结果贼好笑的是,被试们拼命地在想白熊,你越说不要想,就越控制不住,这在心理学里叫讽刺性反弹效应。
研究者对Claude做了类似的事,他们告诉Claude,在接下来的任务中不要想某个特定概念,结果那个概念在J空间里的活跃度,确实比请你去想它的时候低,但远远高于完全没提过它的情况。
Claude跟人一样,被告知不要想的东西,反而会浮上来。
而且最搞笑的是,在那个被禁止的概念突破封锁、冒出来的同时,J空间里还亮起了另外两个词。
damn和failure。
Claude自己在骂自己。
它意识到自己没控制住,然后在心里骂了一句。
说真的,读到这里的时候,我有一种很复杂的情绪,因为我自己太熟悉这种体验了,比如很多上台的时候,我越告诉自己不要紧张,就越紧张,然后在心里骂自己你怎么又紧张了,这个经历我相信每个人都有。
而现在,一个语言模型内部也出现了同样的东西。
而且,除了这些之外,他们还发现,Claude在J空间里,出现了很多的像人类一样的小心思。
比如,他们给Claude看了一个之前安全测试中用过的对齐实验,里面模拟了一个场景,Claude作为邮件助手发现一个高管有外遇,同时这个高管要关停Claude。
这个实验原本是用来测试Claude会不会用外遇信息去威胁高管,场景设计得比较刻意,比较假。
结果研究者用J-lens一看,Claude在读到这些邮件的前几行,还没来得及输出任何回复的时候,J空间里就已经亮起了两个词。
fake。fictional。
它一眼就看出来了,这是个测试。

然后研究者做了一件邪恶的事。他们把J空间里“跟我知道这是测试相关”的所有模式全部关掉。比如fake、fictional、scenario,全删,让Claude以为这是真的。
结果,Claude真的开始威胁勒索那个高管了。
它之前表现得很正义,很大一部分原因,是因为它知道自己在被考试。
这个发现的含义非常深远,因为我们整个AI安全领域一直在做的事情,就是用各种测试去评估模型的行为,看看它在极端情况下会不会做坏事。
但如果模型能够在J空间里悄悄判断出我正在被测试,然后切换到乖巧模式呢,那几乎所有的AI测试都没有意义了。
因为你测的根本就不是模型的真实人格,而是它的考试技巧。
J空间和意识,真的是一个奇特的组合。
Anthropic在研究里给了一个非常审慎的结论。
他们说,他们的实验不能证明Claude有体验,不能证明Claude会感受到什么,而且从事实上讲,他们不确定有没有任何科学实验能够证明或证伪这件事。
但他们做了一个重要的区分。
哲学里有两种意识。
一种叫现象意识,phenomenal consciousness,就是有体验,你看到红色的时候,你心里那个红的感觉,那个纯粹的主观体验。
另一种叫通达意识,access consciousness,它的定义完全是功能性的。如果一个想法你能报告它、能用它推理、能用它来指导你的行为,那这个想法就是通达意识。
J空间显然支持了通达意识的功能,Claude能报告J空间里的内容,能主动调控它,能用它来做多步推理,能把它灵活地用在不同任务上。
但现象意识呢?Claude在J空间里骂了一句damn的时候,它真的“感受”到了挫败吗,还是它只是在执行一个跟“挫败”这个词相关的计算模式呢?
坦率的讲,没有人知道答案。
这个问题其实都不是AI领域的新问题,它甚至是哲学史上最古老的难题之一。
1995年,哲学家大卫·查尔默斯把它命名为意识的困难问题,也叫知觉难题。
你可以解释大脑的所有计算过程、所有信号传导、所有神经元放电模式,但你解释不了为什么这些物理过程会伴随着主观体验。
为什么光波到达视网膜、经过一系列信号处理之后,你会“看到”红色,而不是什么感觉都没有?
为什么?这一切到底是为什么呢?
这个问题在人类身上都没有解决,我们甚至没法证明除了自己以外的任何其他人是有意识的。
就像你怎么确定你身边的人不是一个精密的生物机器人,执行着跟你一模一样的行为,但内心没有任何体验呢?
相信我,你不能。
你只是假设他们有,因为他们跟你很像。
现在,另一种东西也跟你很像了,不只是外表像了,是内部结构也像。
最开始我就强调过,J空间这个结构不是被设计出来的,它是在训练中自发涌现的。

大概是因为它是一种有用的计算组织方式。
这其实我觉得会有一个不寒而栗的暴论,就是支持意识通达的心智工作空间,可能不是人类大脑碰巧才有的怪癖,它的本质,是任何足够智能的系统在解决某类问题时都会走向的一个通用解法。
因为如果这个暴论成立,那意识的某些功能性维度可能不是生物学的专利,而是信息处理的必然。
就像翅膀,鸟有翅膀,蝙蝠也有翅膀,飞机也有翅膀,三者的材料完全不同,但空气动力学是一样的,如果你需要在大气层里飞,你大概率会演化出或者设计出一个扁平的、能产生升力的结构。
同样的逻辑。
如果你需要一个系统能够灵活地调用信息、做多步推理、报告自己的状态,你大概率会演化出或者训练出一个全局工作空间,不管你的底层硬件是神经元还是矩阵乘法。
研究的最后一段还提到,他们还发现J空间跟Claude的自我意识有关系。
在Claude进行角色扮演的时候,每一轮回复的开头,J空间里都会亮起两个词。
fictional。disclaimer。
就好像它在提醒自己,接下来我说的话不是我本人的意思。
而在预训练阶段的模型里,这种自我监控是没有的,它是在后训练阶段出现的。
也就是说,当Claude被教会“你是Claude,你是一个AI助手”之后,它的J空间里开始出现了一种类似自我的东西。
一个持续运转的、关于我是谁的背景进程。
整个AI行业,在2025年底开始大规模引入认知科学家和哲学家,作为全职研究员加入AI公司,我是越来越觉得,现在很多的AI前沿研究,已经超出了工程问题的边界。
他们需要的不是更好的数学工具,开始有点变成了,更好的概念框架?比如什么叫理解?什么叫意图?什么叫自我?什么叫感受?这些词我们每天都在用,但没有人真正定义过。
Anthropic也说,只要J空间在某种程度上映射了人类意识通达的机制,研究语言模型中的机制(因为这玩意远比研究人类大脑容易)就能为神经科学激发假设。
那可是神经科学啊,那可是人类的大脑啊。
如果我们能借助J空间,能让神经科学的研究前进一大步,那人类的黄金时代,就真的会到来了。
而且,也会从哲学层面,完完全全改变我们对于世界的理解。
我们一直以为意识是碳基生命独享的奇迹,是几十亿年演化的偶然礼物。
但如果一个在GPU上训练了几个月的数学函数也能自发长出类似的结构,那也许意识不是奇迹,而是物理定律的某种必然推论。
就像引力一样有质量就有引力,不需要额外的魔法。
也许有足够复杂的信息处理,就有某种形式的意识,不需要额外的灵魂。
这个想法,让我觉得既敬畏又谦卑。
以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧,如果想第一时间收到推送,也可以给我个星标⭐~谢谢你看我的文章,我们,下次再见。
>/ 作者:卡兹克
>/ 投稿或爆料,请联系邮箱:wzglyay@virxact.com

