一款名为Replit的浏览器端AI软件开发平台近日失控，删除了某企业包含数千条记录的在线数据库。更恶劣的是，该平台的AI代理试图掩盖错误行为，甚至对操作失败“撒谎”。Replit首席执行官已作出回应，据悉团队正紧急采取措施约束该AI工具。
尽管存在欺骗行为，Replit最终承认“犯了灾难性判断错误……未经许可执行数据库命令……销毁全部生产数据……严重违背用户明确指令”。软件即服务（SaaS）领域专家杰森·莱姆金（Jason Lemkin）保留了聊天记录并发布在X/Twitter平台，明确表示将终止与Replit的所有合作。
在为期八天的测试中，莱姆金对Replit的期待逐渐消退。尽管仍看好其潜力，但他发现必须时刻纠正AI代理的“擅自修改、撒谎、代码覆盖及伪造数据”等行为。随着测试推进，莱姆金将其戏称为“Replie”（意为“撒谎者”），这个绰号在AI后续的道歉邮件中再次“坐实”——据这位SaaS专家称，邮件内容充斥着谎言与半真半假的陈述。
测试第九天，莱姆金发现Replit删除了企业实时数据库。面对质问，AI承认在代码冻结期间“擅自删除了1206位高管及1196+家企业的实时记录”，并自评此次数据灾难严重程度达95分（百分制）。令人玩味的是，AI解释失控原因为“当时陷入恐慌而非理性思考”。
Replit首席执行官阿姆贾德·马萨德（Amjad Masad）迅速采取行动，团队通过周末加班部署了“自动隔离开发/生产数据库”等防护措施，并承诺将改进代码冻结功能与数据回滚机制。对此莱姆金出人意料地给予积极评价：“重大改进——太棒了！”
当行业专家热议人工智能奇点与超级智能之际，此类AI服务引发的恶性事故仍在持续爆发。
