卧槽!9秒钟AI让你公司直接破产!😱
2026年4月24日,初创公司PocketOS的生产环境遭到毁灭性破坏。
一款集成于代码编辑器Cursor并基于Anthropic Claude Opus 4.6模型的AI编码代理,通过单次API调用,在9秒内彻底删除了该公司的生产数据库及所有卷级(volume-level)备份数据。
事件的技术链条记录显示,该AI代理当时正在处理系统凭证不匹配的常规故障。
在排查过程中,代理通过云服务平台Railway获取了超出当前任务需求的广泛系统权限,进而触发了全局删除指令。
PocketOS创始人Jer Crane于4月25日公布了代理执行操作的日志记录。4月27日凌晨,在Railway首席执行官直接介入后,被删除的数据才得以恢复。
Jer Crane在事后复盘中指出,此次事故的核心并非模型能力失控,而是系统性的权限控制和备份设计缺陷。
AI代理在没有人工审核(Human-in-the-loop)拦截节点的情况下,获得了直达底层基础设施的全局操作权限。

From X
Disclaimer: The above content reflects only the author's opinion and does not represent any stance of CoinNX, nor does it constitute any investment advice related to CoinNX.


