Anthropic的研究人员意外发现，其旗舰语言模型Claude内部形成了一种开发者在设计阶段并未预设的结构。这一内部机制被命名为"J-space"，它作为一个通用工作空间，供模型的不同组件调用以交换数据。
7月6日发布的研究成果，标志着我们在理解大型语言模型（LLM）"引擎盖下"运作机制方面迈出了重要一步。J-space是一块虚拟"白板"，Claude在此收集并传递关键信息至整个网络。当模型回答问题或执行指令时，关键数据会出现在J-space中，使所有参与的神经回路都能访问。
J-space如何运作及其重要性
Anthropic通过名为J-lens的特殊可视化工具识别出J-space。通过观察模型在执行任务时内部信息的流动，科学家们发现这一结构是在训练过程中自发形成的，并非工程师直接编程设定。
从概念上看，J-space惊人地类似于认知神经科学中所称的"全局工作空间"。在人类中，该系统使多个思维过程能同时访问重要信息——例如，当你听到问题、回忆事实并组织回答时，大脑会将所有数据整合在一起。Claude的运作方式类似：模型不仅能根据请求描述J-space的内容，还能在被要求时修改它。此外，手动干预J-space会直接改变模型的回答和行为。
对AI安全性和可解释性的影响
这一发现对人工智能安全具有重大意义。追踪J-space活动的能力为识别模型行为中的隐藏动机开辟了道路——例如检测提示注入攻击的企图，即恶意指令试图劫持回答控制权。即使部分访问这一"有意识"的信息处理层，也为研究人员提供了监控系统可靠性的强大工具。
需要强调的是：Anthropic并未声称Claude拥有意识或主观体验。"有意识可访问信息"这一术语借用于认知科学，并不暗示存在真正的意识。尽管如此，该公司已发布J-lens的源代码，并在Neuronpedia上提供演示版本，邀请科学界在实践中验证结果。
专家观点：发现J-space并非仅仅是学术上的趣闻。这是为AI打造"透视眼"的实践步骤。未来几年，监控此类内部结构将成为所有严肃LLM项目的安全标准。如果我们能"看见"模型如何做出决策，就能使其更安全、更可预测，并且至关重要的是，免受操控。