加密新闻

Anthropic的研究人员有了一个意外发现：语言模型Claude内部形成了一种并非由开发者编程设定的内在结构。这种被称为J-space的机制，就像一个统一的工作空间，模型的不同组件在执行任务时都会访问它。

这一发现于7月6日公布，标志着在理解大型语言模型“引擎盖下”真正发生了什么方面迈出了重要一步。J-space可以想象成一个虚拟的“白板”，关键信息在此汇聚和处理。当Claude回答问题或解决任务时，至关重要的数据会出现在这个空间，以便模型的不同部分与之交互。

J-space如何运作，为何重要？

为了发现J-space，研究人员开发了一种特殊工具——J-lens。借助它，研究人员实时观察了信息在模型内部的移动。令人惊讶的是，J-space是在训练过程中自发产生的——工程师并未将其直接嵌入架构中。

从功能上看，J-space类似于神经科学中所谓的“全局工作空间”。在人类中，这一系统能为多个思维过程同时提供对重要信息的访问。例如，当我们听到一个问题、回忆一个事实并组织答案时，大脑会将所有数据汇集到一点。

研究人员表明，Claude不仅能根据请求描述J-space的内容，还能修改它。此外，对J-space的手动干预直接影响模型的回答及其在执行任务时的行为。

安全性、可解释性与AI的未来

这一发现对人工智能安全意义重大。追踪J-space活动的能力为识别模型行为中的隐藏动机开辟了道路。我们将能更有效地发现系统开始不可靠运行的时刻。

在防御攻击方面，这尤其有前景。监控J-space可以观察到模型何时遭遇提示注入——即植入恶意指令以劫持响应控制权的企图。即使仅能部分访问这个“有意识”的处理层，也为研究开辟了重要前景。

目前能力仍有限：Claude的大部分信息处理仍在J-space之外进行。尽管如此，Anthropic已发布了J-lens实现的源代码，并在Neuronpedia上提供了演示版本，邀请科学界在实践中验证结果。

一个重要说明：该公司强调，并未声称Claude拥有意识或主观体验。研究中使用的术语“意识可访问信息”借鉴自认知科学，并不意味着存在真正的意识。

专家观点： 这一发现再次证明，我们对现代神经网络如何运作仍然知之甚少。J-space的自发出现让人联想到复杂系统的涌现特性。对于加密货币和DeFi市场——AI在此类领域越来越多地用于分析和交易——这意味着一点：在未深入理解其内部机制的情况下依赖“黑箱”，是一种高风险策略。