新加坡企业部门正处在新一轮网络攻击的前沿,攻击者的主要武器是人工智能。根据我对400名网络安全专业人士调查所得的最新数据的分析,79%的本地组织在过去12个月中至少遭遇过一次与人工智能相关的威胁。这是一个不容忽视的警示信号。
最常见的攻击载体是利用人工智能的网络钓鱼和冒充可信人员的技巧——46%的受访者报告了此类事件。稍不常见但同样危险的是直接针对人工智能工具本身的攻击,包括所谓的“提示注入”——占41%的案例。排名前三的还有深度伪造和语音克隆,39%的公司遭遇了这些问题。
这种情况的悖论在于,企业积极部署人工智能,却不愿保护这些流程。97%的受访者承认已经在使用或测试基于人工智能的解决方案,但只有49%的人控制对这些工具的访问并检查其输出数据。这造成了创新采用速度与安全系统成熟度之间的巨大差距。
在我看来,这些数字揭示了一个系统性问题:公司将人工智能视为提高效率的工具,却忘记了每个新技术环节都扩大了攻击面。目前只有一半的组织解决了人工智能系统管理的基本问题,其余组织在面对日益复杂和个性化的攻击时仍然脆弱。市场迫切需要安全部署人工智能的标准,否则我们将看到事件升级,尤其是在新加坡的金融和技术领域。