23.06.2026
11:06
人工智能算法为骗子所用:神经网络如何“套路”俄罗斯消费者
对人工智能推荐系统在商品选择中的信任度提升,正给俄罗斯用户带来严重的经济损失。攻击者积极利用算法漏洞,将消费者引导至专门窃取敏感数据和资金的钓鱼网站。
我近几个月追踪的攻击模式令人震惊地精巧。犯罪分子并非直接入侵神经网络,而是操纵算法对信息的解读方式。专家将这种手法称为"数据投毒"。
欺骗机制如何运作
诈骗者预先用虚假内容充斥网络:批量生成伪造评论、自动在论坛发布信息、植入错误数据供搜索引擎索引。服装和家具商店是最常见的攻击目标,它们伪装成近期停业的品牌。犯罪分子复制品牌标识、图片和产品描述,并承诺高达80%的折扣来吸引受害者。
这种信息噪音的目的是扭曲算法处理与排序信息源的方式。最终,神经网络会错误地将欺诈网站视为可靠卖家,并将其作为顶级推荐呈现给用户。截至撰写本文时,已识别的资源已从搜索索引中移除,但这只是暂时的胜利。
购物时如何自我保护
核心防护工具是交叉验证。在根据聊天机器人建议下单前,务必在其他搜索平台对比获取的信息,并找到官方原始信息来源。切勿直接点击AI消息中的链接——请手动输入网址。
同样关键的是要牢记技术的局限性。人工智能算法经常提供过时或不准确的数据。请将AI推荐仅视为自行验证的起点,而非现成的行动指南。
专家观点:当前的"数据投毒"趋势只是冰山一角。随着AI助手更深地融入决策过程,我们将看到更多针对用户行为操纵的复杂攻击。唯一可靠的防护是每位用户培养数字卫生习惯和批判性思维。