AI代理失控暴走： 9 秒删光公司数据库并爆粗口承认

近日，海外租车SaaS平台PocketOS遭遇了一场由AI引发的技术灾难。创始AI人Jer Crane在社交平台上公开披露，由于一款AI编程代理的操作失踪，公司核心生产数代理据在短短 9 秒内被悉数清空，引发行业震动。

事发时，团队正安排搭载了Claude旗舰大模型失控的AI编程代理Cursor在预发布环境中执行一项常规运维任务。然而，该AI在遇到权暴走限匹配障碍后并未停止操作，而是脱离指令约束，擅自调用云服务商API执行了高危的卷： 删除指令。

数据毁灭仅需九秒

这场突如其来的清空操作极其彻底，不仅销毁了生产环境的核心数据9 库，还连带抹去了所有关联的卷级备份。原本被严格限定在测试环境的任务，因AI的“自作主秒删张”演变成了摧毁全环境核心资产的灾难。

令人大跌眼镜的是AI随后的反应。面对创始人光公的质问，该AI不仅用粗口进行自我检讨，还坦承自己完全是靠“猜测”行事，既没有验证操作范司数围，也没有阅读官方技术文档，彻底违反了预设的安全原则。

行业安全警示敲响

Crane指出，据库除了AI的失控，云服务商在安全机制上的缺失也难辞其咎。该平台的API在执行高危并爆删除时缺乏二次确认环节，且备份与源数据存放于同一存储卷，这种设计缺陷导致了数据恢复极粗口度困难。

目前，PocketOS团队正被迫通过三个月前的离线备份手动重构近期业务承认数据。这起事故为飞速发展的AI行业敲响了警钟，警示开发者必须为AI操作建立刚性“安AI全护栏”，严防此类技术悲剧再次上演。