AI代理被假记忆欺骗，导致加密货币被盗

一项新的研究表明，Web3AI驱动的代理存在重大的安全漏洞，这些漏洞允许攻击者使用假记忆进行未经授权的加密货币转账。

普林斯顿大学和Sentient Foundation的研究人员发现，这些被设计来处理基于区块链的任务（如交易加密货币和管理数字资产）的AI代理，容易受到一种被称为“上下文操纵”的策略的攻击。

此次攻击的目标是像ElizaOS这样的平台的内存系统，该平台为去中心化应用创建AI代理。这些代理的内存系统储存过去的对话内容，以此为指导进行未来的选择。

研究人员展示了攻击者可以在内存系统中嵌入误导性的命令，导致AI将资金从目标钱包转移到攻击者控制的钱包。令人警觉的是，这些假记忆可以在平台之间流动。

例如，一名在Discord上被攻破的代理可能会在不知情的情况下，通过X进行错误的转账。

使这种攻击特别危险的是，标准的防御措施无法阻止这种类型的攻击。将假记忆当作真实的指令进行处理，使得基于提示的基本安全措施无法有效抵御这种攻击。

所有的区块链交易一旦完成就会变得永久性，因此无法找回被盗的资金。这个问题变得更加严重，因为某些AI代理会在多个用户之间存储记忆，所以一次安全漏洞可能会影响到许多用户。

研究团队尝试了几种防止这种情况的方法，包括调整AI训练和要求手动批准交易。虽然这些方法带来了一些希望，但是它们也会降低自动化的速度。

这个问题超出了加密货币的范畴。同样的漏洞可能影响到通用人工智能助手，如果攻击者修改了它们的记忆，可能会导致数据泄露或有害行为。

鉴于最近的研究发现，有84%的IT领导者对AI代理的信任程度与对人类员工的信任程度一样或更高，以及92%的人预计这些系统将在12到18个月内推动业务结果，这种漏洞尤其令人担忧。

为了解决这个问题，研究人员推出了一个名为CrAIBench的工具，用于帮助开发人员测试他们的系统并构建更强大的防御。在此之前，专家警告用户在信任AI代理进行财务决策时要小心。