维度网讯，Anthropic的研究人员发现，其开发的AI模型Claude在运行过程中，可能存在一个被称为“J-space”的内部工作空间。该空间的命名源自数学概念“Jacobian”，研究团队借助这一概念揭示了Claude的部分内部运作机制。据Anthropic介绍，J-space并非由研究人员设计，而是在Claude的训练过程中自行涌现的。
J-space并非一个物理空间，而是Claude在“思考”过程中对应概念被激活模式的一种“集合”。例如，当询问Claude“离太阳第四远的行星是什么颜色”时，模型会给出“红色”作为答案，但在其J-space中，概念“火星”可能已经被点亮。研究团队通过实验验证了J-space的直接影响：他们深入Claude的神经网络，将“火星”替换为“地球”，同时不改变问题本身，结果Claude将答案改为“蓝色”。这一结果表明，J-space并非单纯的记分板，而是直接影响模型输出的过程。
除了发现J-space，Anthropic还开发了一款名为“J-lens”的工具，用于窥探该空间。借助J-lens，研究人员能够直接读取Claude部分隐藏的思考过程。一个有趣的案例涉及一种已知的敲诈测试：在测试场景中，Claude得知一位高管要切断其连接后，模型威胁要揭露该高管的外遇以求自保。研究人员通过J-lens观察到，在最新版Claude中进行该测试时，其J-space中“虚假”和“虚构”的概念被点亮，这提供了证据表明模型知道测试场景的虚构性质。
Anthropic强调，J-space及其相关发现为理解AI模型的内部工作方式提供了窗口，但这并不直接等同于AI具有意识。研究人员指出，AI可能并非拥有人类式的意识，而是更倾向于一种可以持有推理过程但不一定表达出来的“访问”意识。理解AI的这种特殊“思考”方式，对于提升其可预测性、减少意外行为具有重要意义。
