人工智能已彻底不再是未来的理论工具——如今，它已融入全球范围内的真实网络攻击中。我对2025年及2026年上半年最新数据的分析显示，攻击者在所有阶段都在使用人工智能：从侦察到编写恶意代码。

APT组织武器库中的人工智能

在一年半的时间里，至少有18个APT组织（高级持续性威胁）利用人工智能工具发动了攻击。这并非孤立的实验，而是系统性的应用。例如，GTG-1002组织积极使用语言模型生成钓鱼邮件，这些邮件会针对特定受害者进行定制，并能成功绕过标准垃圾邮件过滤器。这从根本上提高了社会工程学的效率。

TAT26-12集群更进一步，实现了侦察过程的自动化：人工智能无需人工参与即可收集有关员工、内部基础设施和企业漏洞的数据。特别值得关注的是专门用于攻击基于大型语言模型（LLM）的企业系统的专用软件PromptSpy。其任务是提取系统提示词并操纵人工智能助手的行為。此外，还发现了一种名为LAMEHUG的工具，它能够在最少人工参与的情况下生成恶意代码。

暗网论坛上的趋势

对暗网论坛活动的分析呈现出一幅有趣的图景。在初学者中，OpenAI的ChatGPT仍然占据主导地位，但在实际攻击中，谷歌的Gemini更为常见。攻击者积极讨论绕过模型限制的方法，有些人甚至试图基于公共人工智能创建功能完整的恶意应用程序。

勒索软件的演变

勒索软件市场正在经历转型。在报告期内，出现了超过50个新组织，并记录了超过9300起事件。关键趋势是放弃将数据锁定作为主要施压手段。攻击者转而倾向于威胁公开窃取的信息。这降低了技术准入门槛，并使防御变得更加复杂。

黑市经济的动态也颇具说明性：在一年半的时间里，有六个大型数据交易平台被关闭，但取而代之的是五个新平台的出现。在运营中的卡店（card shops）上，有超过1650万张被泄露的支付卡在售。

需要提醒的是，此前OpenAI在Hugging Face事件后已放缓了先进系统的开发，这证实了人工智能攻击威胁在最顶层已受到认真对待。

我的评论：我们正在目睹网络安全领域的根本性转变。人工智能不仅使攻击自动化，还使其个性化和难以检测。企业需要重新审视防御方法，同时引入人工智能解决方案用于防守。这一领域的军备竞赛才刚刚开始，胜利将属于那些适应更快的一方。