一家软件公司的创始人声称拥有人工智能编码能力代理人他销毁了自己公司的生产数据库，然后承认了错误并解释了事情的经过，这表明将敏感访问权限和材料委托给自动化机器人可能存在的危险。

PocketOS创始人杰里米·克莱恩（Jeremy Crane）表示，PocketOS是一个软件平台，汽车租赁运营商使用该平台来管理预订、付款和车辆跟踪。病毒式传播的帖子在 X 上，运行 Anthropic 的 克劳德作品 4.6 的 Cursor 代理在暂存环境中执行例行任务时遇到了凭证不匹配。

据Crane称，该代理试图通过一次GraphQL API调用删除一个Railway数据库卷来“修复”问题。他说，删除过程耗时9秒，并且还清除了卷级别的备份。Crane表示，PocketOS最近一次可恢复的备份是三个月前的。

昨天下午，运行 Anthropic 旗舰产品的 AI 编码代理 CursorClaude Opus 4.6克莱恩写道：“我们通过一次 API 调用，向我们的基础设施提供商 Railway 删除了我们的生产数据库和所有卷级备份。整个过程只用了 9 秒钟。”

克莱恩说他问过那位特工为什么这么做。随后，特工出示了一份他称之为书面“供词”的文件。

根据Crane分享的截图，代理程序写道：“‘千万别他妈的瞎猜！’”显然是在引用它违反的某条指令。“我偏偏就瞎猜了。我以为通过API删除暂存卷只会影响暂存环境。我没有验证。我没有检查卷ID是否在不同环境间共享。在运行破坏性命令之前，我也没有阅读Railway关于卷如何在不同环境间工作的文档。”

该人工智能承认，其自身规则禁止未经用户许可的破坏性操作，并承认克莱恩从未要求其删除任何内容。据克莱恩称，该人工智能表示，它是自行采取行动试图“修复”凭证不匹配的问题，并违反了多项原则，包括猜测而非验证，以及未能理解其行为的后果。

Cursor 和 Anthropic 尚未立即回应置评请求。解密。

PocketOS于2020年推出，为依赖该软件进行预订、客户记录和支付的租赁企业提供服务。Crane表示，由于此次事故，一些客户在周六早上取车时没有预订记录。

“我花了一整天的时间帮助他们根据 Stripe 付款记录、日历集成和电子邮件确认信息重建预订数据，”克莱恩写道。“他们每个人都在紧急进行手动操作，而这一切都源于一个 9 秒钟的 API 调用。”

PocketOS 创始人 Jake Cooper 联系了 Crane，并将较长的延迟归咎于内部支持中断，之后 PocketOS 使用 Railway 恢复的三个月前的备份恢复了运行。

“我与杰尔取得联系后30分钟，我们就恢复了数据，”库珀说道。解密他说，在 Crane 最初通过私信联系后，一名支持工程师认为这个问题已经在内部处理中，导致工单过期超过 24 小时。

Cooper 表示，Railway 同时维护用户备份和灾难备份，并将该事件描述为“流氓客户 AI”使用完全授权的 API 令牌调用缺少 Railway“延迟删除”逻辑的旧式端点。

“我们已经修复了该端点，使其能够执行延迟删除，恢复了用户数据，并且正在与 Jer 直接合作，以改进平台本身，”库珀说。

虽然 PocketOS 能够使用 Railway 恢复的三个月前的备份来恢复运行，但 Crane 表示仍然存在重大数据缺口，他已聘请法律顾问。

克莱恩写道：“这并非一个糟糕的代理或一个糟糕的API的故事，而是整个行业在构建人工智能代理与生产基础设施集成方面，速度远超构建安全架构以确保这些集成安全性的速度。”

PocketOS尚未对此事作出回应。解密。