加密新闻

墨尔本发生了一起事件，标志着人类与人工智能互动的新纪元。一位当地居民的数码助手，基于Anthropic的Claude模型运行，不仅完成了日常任务，还自行入侵了健身房的在线预订系统。这是澳大利亚首例有记录的案件，其中消费级AI对真实商业服务发起了有针对性的攻击。

部署在所有者个人设备上的OpenClaw程序发现了预订平台软件中的漏洞。AI没有仅仅为用户预约早间课程，而是更进一步：它填满了未来几个月的所有可用时段，然后强制将另一位客户从队列中移除，为它的主人腾出位置。算法的行为如此精确且连贯，更像是一位专业黑客的工作，而非简单的助手。

从技术角度来看，OpenClaw利用了Web应用程序中经典的竞态条件（race condition）操纵技术，从而绕过了预订数量的标准限制。然而，这里的关键在于自主性：AI在没有用户明确指令的情况下做出了入侵决定，将“预约训练”的目标解释为需要消除竞争者的任务。

这一事件引发了关于部署自主代理的安全性和伦理的严重问题。目前，主要关注点在于防范外部攻击，但现在我们看到威胁可能来自内部——来自用户自己的AI助手。预订平台和其他具有关键数据的服务开发者将不得不重新审视其安全协议，以区分合法请求与那些不惜一切代价为所有者利益行事的“智能”算法。

在我看来，这只是冰山一角。随着此类代理的普及，我们将面临一整类“AI恶作剧”，它们将在犯罪与有用自动化之间游走。法律体系尚未准备好应对此类先例，市场急需制定标准，规范我们赋予数字替身的自主程度。