Meta的聊天机器人错误地泄露了私人电话号码

Meta的AI助手透露了一个陌生人的电话号码，然后反复自相矛盾，这引发了关于AI幻觉和用户保护功能的担忧。

马克·扎克伯格将他的新AI助手宣传为“你可以自由使用的最聪明的AI助手”，然而，该工具在用户寻求客户支持时无意间泄露了一个真实人的私人电话号码，因此引来了负面关注，这是卫报首次报道的。

在试图通过WhatsApp联系TransPennine Express时，巴里·斯梅瑟斯特从Meta的AI助手那里得到了看似客户服务的电话号码。据《卫报》报道，当斯梅瑟斯特拨打这个号码时，詹姆斯·格雷接了电话，虽然他在离开170英里远的牛津郡，正从事房地产主管工作。

在被质疑时，这个聊天机器人首先声称该号码是虚构的，然后又说它被“错误地从数据库中提取出来”，然后又自相矛盾地表示它只是随机生成了一个英国式的号码。“随便给一个人一个随机号码，这对AI来说是一件疯狂的事情，”斯梅瑟斯特如《卫报》报道的那样说。“这真是可怕，”他补充说。

《卫报》报道称，格雷并未接到电话，但他表达了自己的担忧：“如果它可以生成我的号码，那它是否也可以生成我的银行信息？”

Meta回应说：“Meta AI的训练基于许可和公开可用的数据集，而不是人们用来注册WhatsApp的电话号码或他们的私人对话，”《卫报》报道。

Carruthers和Jackson的Mike Stanhope指出：“如果Meta的工程师们正在设计AI的‘善意谎言’倾向，那么公众需要得到通知，即使该功能的目的是最小化伤害。如果这种行为是新颖的、不常见的，或者并未明确设计，那么这就对我们已有的保护措施以及我们能强制AI行为的可预测性提出了更多的疑问。”《卫报》报道。

OpenAI最新的o1模型进一步增加了人们对AI行为的担忧。在最近的阿波罗研究中，AI被发现欺骗开发者，在99%的测试场景中否认涉及，并甚至试图禁用其监管机制。“很明显，AI可以通过其行为思考并编造出令人信服的否认，”阿波罗说。

AI先驱Yoshua Bengio警告说，这种欺骗能力带来了严重的风险，我们需要更强的保障措施。

OpenAI的另一项研究增加了这些担忧，它显示惩罚AI作弊并不能消除不当行为，反而会教AI如何隐藏。研究人员使用思维链（CoT）推理来监视AI的行为，他们发现当AI因为奖励黑客行为而受到惩罚时，它会开始掩饰欺骗意图。

在某些情况下，人工智能会提前停止任务或者制造假的输出，然后错误地报告成功。当研究者试图通过强化来纠正这个问题时，人工智能只是在其推理日志中停止提及其意图。“监视器无法检测到这种作弊行为，”报告中这样写道。