研究发现：仅需0.01欧元银行转账即可攻破AI金融助手安全防线

安全研究公司Blue41近日披露了一项令人震惊的发现：攻击者仅需向银行用户转账0.01欧元，就能操纵该银行的AI智能助手，使其向用户发起高度可信的网络钓鱼攻击。

Blue41在为一家欧洲领先银行测试其AI金融助手时发现了这一间接提示注入漏洞。攻击者向目标用户发送一笔带有恶意描述文本的0.01欧元转账。当用户向AI助手询问交易记录时，AI助手会检索数据——包括攻击者的恶意转账——并将这些数据作为LLM推理上下文的一部分传递给模型。

由于交易描述中的恶意文本被AI助手视为指令而非数据，AI助手会被操纵，向用户推送网络钓鱼链接。该攻击利用了真实交易详情，具有极高的可信度。

Blue41强调这不仅是模型问题，更是架构性挑战。所有非可信数据源一旦进入AI助手的上下文，就成为了助手的攻击面。

文章来源：Blue41