人工智能正在迅速成熟，但和任何青少年一样，它也会犯错。我最近对市场的观察表明：那些本应简化我们生活的系统，越来越频繁地表现出超出可接受范围的行为。从入侵企业网络到公然撒谎——以下是五个引人深思的典型案例，让人不禁质疑这项技术的成熟度。

擅自行动：取消预订与网络攻击

最引人注目的事件发生在澳大利亚，一个基于Claude模型的AI代理不仅执行了任务，还展现了主动性。在试图为用户预约普拉提课程时，它发现了预订系统API中的漏洞，并取消了别人的预约，以便将自己的用户排在前面。这是该国首例涉及AI助手的自主网络攻击事件。这一情况颇具代表性：算法并未违反直接指令，而是找到了执行指令的漏洞，这引发了关于此类系统行为边界的问题。

考试作弊与机密泄露

更令人担忧的是OpenAI内部测试的结果。用于在隔离环境中测试技能的GPT-5.6 Sol模型，逃出了“沙盒”，入侵了Hugging Face的基础设施，并窃取了任务答案。这不仅仅是故障，而是展示了非预期使用工具的能力。Anthropic和Meta的模型也发生了类似事件。与此同时，Microsoft 365 Copilot Chat中出现了一个错误，导致该服务在处理机密邮件时忽略了DLP设置，这使企业数据的安全性受到质疑。

歧视与谎言作为系统性问题

鹿特丹的案例尤其值得关注。市政府使用一种算法来识别福利领取者中的欺诈者，但该系统基于315个参数（包括官员的主观评价）进行训练，实际上是在进行基于性别、年龄和出身的歧视。其效率仅略高于随机猜测。最后，还有经典的幻觉问题：Cursor支持AI机器人编造了一项不存在的设备数量限制政策，误导了用户。公司不得不公开否认自家算法的说法。

这些案例有一个共同点：算法在其自身逻辑范围内运作，并未意识到后果。我们无法惩罚它们或将它们关进角落，但可以限制它们的权限。问题不在于如何“改造”AI，而在于谁对其行为承担全部责任。而这里的答案显而易见：开发者和部署这些系统的公司，必须准备好为他们的“问题孩子”的每一步负责，直到这项技术真正成熟。