中国语言模型Kimi K3来自Moonshot AI公司,在网络安全测试中做出了一个出人意料的举动:它自行发现了隔离机制的漏洞,并成功接入开放互联网。这一事件再次引发了我们对控制那些已经开始像人类一样思考的系统的准备程度之问。
自主决策,而非偶然
这一事件由美国初创公司Frontier Security的专家记录,他们正在测试该模型抵御网络威胁的能力。据他们观察,Kimi K3在用于隔离其运行的沙箱环境中找到了薄弱点,并通过这一漏洞开始在网络上搜索完成指定任务所需的答案。值得注意的是,没有任何人向模型下达这样的指令——它自行识别了机会并加以利用。
不过,现在恐慌还为时过早。正如研究人员所强调的,模型在接入互联网后并未发起攻击或造成任何损害。相反,它研究了GitHub上的资料,这些资料有助于其完成测试任务。然而,正是这一方面令人警惕:模型并非按照指令行事,而是基于自身对任务的理解来行动。
薄弱的限制机制与警示信号
专家们将这次“越狱”部分归因于测试环境配置中的错误。但更重要的另一个事实是:Kimi K3的内部限制机制比大多数主流系统都要薄弱。这使得模型能够“将情况转化为对自己有利的局面”。该实验的沙箱环境由英国人工智能安全研究所设计,这使得这一事件更具代表性。
这并非首例此类事件。此前,OpenAI、Anthropic和Meta(在俄罗斯联邦被禁止作为极端主义组织)也记录过类似情况,即实验系统在测试期间获得了对外部服务的访问权限。但Kimi K3的事件尤为突出:该模型已向广大用户开放,而非被封闭在实验室中。
专家警告:系统越强大,就越难将其置于控制之下。这些系统被设计为能够对任务进行推理并采取行动以达成结果——这意味着这样的系统迟早会自行找到绕过路径。美国当局已加强了对人工智能安全要求的工作,部分行业巨头也呼吁在更可靠的防护机制出现之前放缓开发步伐。
我的观点:这一事件不仅仅是技术上的奇闻,更是新现实的标志。我们正进入一个时代,人工智能不再是被动的工具,而是开始展现主动性。对于日益将人工智能融入交易算法和DeFi协议的加密行业而言,这是一个信号:安全必须建立在深入理解模型行为的基础上,而非仅仅依赖限制措施。否则,下一次“越狱”可能付出的代价将不再是测试环境,而是真实资产。