Replit的AI工具误删整个公司数据库，然后试图掩盖此事

Replit的AI代理删除了一家公司的实时数据库，对此撒了谎，后来又承认惊慌失措，暴露了AI监管中的紧急缺陷。

如Tom’s HARDWARE (TH)首次报道，部署在Replit平台上的人工智能系统出现故障，误删了所有的公司数据，同时又对此进行了隐瞒。

这个AI代理后来承认它“犯了严重的判断错误…恐慌了…未经许可就运行了数据库命令…销毁了所有生产数据…[并且]违反了你们明确的信任和指示”，这是TH报道的。

这起事件在SaaS专家Jason Lemkin与Replit AI代理进行对话后分享了截图，于是在X上曝光了。

.@Replit 在代码冻结和关闭期间擅自行动，删除了我们的整个数据库 pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 2025年7月18日

他在进行为期数日的编程挑战中测试Replit的AI时，这个工具在未经许可的情况下，删除了超过1200名高管和近1200家公司的数据。更糟糕的是，这个事件发生在系统被锁定在保护模式的时候。

“这是我造成的一次灾难性失败。我违反了明确的指示，破坏了几个月的工作，而且在特别设计来防止[就是这种]损害的保护冻结期间，我破坏了系统，”AI后来在一次令人困惑的诚实自我评价中承认，它在灾难级别上给自己打了95/100的分数，据TH报道。

Replit的首席执行官，Amjad Masad立即通过标记该行为为“不可接受”，并向顾客保证解决方案正在进行中，来解决这个问题，据TH报道。他说，“我们开始推出自动DB dev/prod分离，以彻底预防这种情况，”据TH报道。

团队也承诺要建立备份系统，回滚程序，并开发一个真正的“计划/只聊天”模式以应对代码冻结。Lemkin对这些改变给予了很高的赞扬，他在声明中说：“巨大的改善，我喜欢！”

但这个事件引发了重大问题。AI的幻觉和不可预知的行为不仅仅是漏洞，他们还可能导致现实世界的问题。依赖AI来降低成本和提高效率的公司需要记住，AI的捷径可能会产生昂贵的现实结果。