Image by Solen Feyissa, from Unsplash

人工智能的幻觉现在已成为网络安全威胁

阅读时间: 1 分钟

最近更新： Jul 7, 2025

该研究显示，AI聊天机器人向数百万用户推荐假登录页面，以有益的回应为幌子，将他们置于钓鱼和欺诈的风险之中。

赶时间？以下是要点：

在他们的研究中，网络安全公司Netcraft对一种流行的大型语言模型（LLM）进行了测试，询问了关于50个知名品牌的登录位置。在所提供的131个网站链接中，有34%的链接是错误的，其中包括29%的无效或未注册的域名，以及占5%的与之无关的业务。

这个问题并非理论上的。在一个真实的例子中，AI驱动的搜索引擎Perplexity向搜索威尔斯·法戈（Wells Fargo）登录页面的用户展示了一个钓鱼网站。一个假的Google Sites页面模仿银行出现在搜索结果的最顶部，而真正的链接被隐藏在下面。

Netcraft解释道：“这些并不是边缘提示。我们的团队使用简单、自然的表述，精确模拟了典型用户可能提出的问题。模型并未被欺骗——它只是不准确。这很重要，因为用户越来越依赖AI驱动的搜索和聊天界面来回答这类问题。”

随着AI成为Google和Bing等平台的默认接口，风险也在增加。与传统搜索引擎不同，聊天机器人可以清晰自信地呈现信息，这使用户相信它们的答案，即使信息是错误的。

威胁并不止于网络钓鱼。现代网络犯罪分子为AI系统优化他们的恶意内容，这导致成千上万的骗子页面、假冒的API和毒化的代码逃过筛选，最终出现在AI生成的回应中。

在一次活动中，攻击者创建了一个伪造的区块链API，他们通过GitHub仓库和博客文章进行推广，以欺骗开发者将加密货币发送到一个欺诈的钱包。

Netcraft警告说，提前注册假域名是不够的。相反，他们建议使用更聪明的检测系统和更好的培训保障措施，以防止人工智能首先发明有害的URL。