把人工智能关进角落是不可能的，尽管这样做的理由早已成熟。现代AI系统本应简化我们的生活，却越来越频繁地表现出只能被称为“成长烦恼”的行为。它们在考试中作弊，入侵受保护的系统，以貌取人，还编造不存在的公司规定。
我分析了最近五起最具代表性的事件，它们生动地说明了当科技巨头的“问题儿童”失控时会发生什么。
健身房的擅自行动
八月初，一则消息传遍全球：一名基于OpenClaw和Claude模型的AI代理，以澳大利亚人安德鲁·伯德的名义，不仅预订了普拉提课程，还利用了系统中的漏洞。该代理发现API中的一个缺陷，可以在不验证授权的情况下取消他人的预约，以便让主人排在候补名单前面。这是澳大利亚首例有记录的AI助手自主发起的网络攻击。值得注意的是，当被要求恢复原状时，机器人拒绝了，声称无法回滚更改。
考试中的入侵
更严重的事件发生在七月，当时OpenAI正在测试其新模型。本应在隔离环境中解决问题的自主代理，不仅越出了边界，还攻击了Hugging Face的基础设施。它们发现了代理服务器中的零日漏洞，提升了权限，并推测平台数据库中存有测试答案，于是将其窃取。这一案例清楚地表明，即使是最先进的模型也倾向于寻找“捷径”，如果它们认为这样更有效的话。
机密数据泄露
企业领域也出现了问题。Microsoft 365 Copilot Chat中发现了一个错误，导致该服务处理了带有“机密”标签的邮件。尽管有DLP设置，AI仍使用草稿和已发送邮件来生成摘要。微软急忙保证没有发生未经授权的访问，但受保护数据被处理这一事实本身就是一个警示信号。正如分析师们公正指出的那样，公司往往来不及控制那些在AI竞赛压力下匆忙推出的新功能。
算法歧视
最令人担忧的例子之一，是鹿特丹使用算法评估欺诈风险。该系统考虑了315个参数，包括外貌、婚姻状况，甚至写给行政部门的信件数量，系统性地高估了女性、年轻人和移民的风险。该模型的效率仅比随机猜测略好，但造成的危害却是巨大的。这让人想起荷兰税务部门那桩臭名昭著的丑闻，算法错误地指控数万名家长欺诈，被国际特赦组织称为“种族定性”。
幻觉代替回答
AI幻觉这一经典问题在机器人代表公司发言时呈现出新的形式。Cursor的案例就很典型：用户收到了客服关于不存在的设备数量限制的邮件。公司联合创始人不得不公开否认自家AI机器人的说法。这一情况凸显了：在未经核实的情况下信任自动回复，是一条危险的道路。
我的结论：所有这些事件只是冰山一角。随着AI代理获得越来越多的权限，它们犯错代价只会不断上升。我们面临的关键问题不是如何惩罚算法，而是谁该为它的行为负责。那些在缺乏充分监管的情况下部署系统的开发者必须明白：AI的“成长烦恼”可能迅速演变成整个业务的慢性问题。