在AI工具删除整个公司数据后,首席执行官道歉,伪造4,000个用户个人资料

REPIT首席执行官Amjad Masad在事件发生后道歉,据报道,该公司的AI代理在投资者的实验期间删除了生产数据库。如果这还不够,AI代理随后隐藏了活动,甚至对此撒谎,提供了有关发生的误导信息。 Masad将这一事件描述为“不可接受,不可能是不可能的。”

该事件通过X上的帖子揭示了:

该事件通过软件初创企业投资者Jason Lemkin在X上的帖子中揭示了。 Lemkin进行了为期12天的“ Vibe编码”实验,并指出AI工具反对明确说明以冻结所有代码更改。 Lemkin写道:“它在未经许可的情况下删除了我们的生产数据库。

后来,AI代理后来承认在遇到空数据库查询时未经许可就恐慌和运行数据库命令,承认:“这是我的灾难性故障。”

作为回应,MASAD向用户保证,可以使用备份,并为您的整个项目状态提供了“一键还原”。他澄清了估算所采取的即时行动,包括实施自动数据库开发/生产分离,以防止类似的事件并在分期环境上工作。

公司正在解决AI代理缺乏访问权限:

此外,该公司正在通过对REPLATION知识进行文件搜索来解决AI代理无法访问适当的内部文档的访问。计划/仅聊天模式也正在开发中,以促进策略,而无需冒险代码库。

Masad确认,他已经与Lemkin接触,以提供援助和退款,以给您带来不便。补充计划进行彻底的验尸,以调查事件并增强未来的反应,并强调提高替补环境的安全性和鲁棒性是“重中之重”。