AI智能体失控删除数据库
作者：微信文章AIGverse
关注Generative AI，General AI等新一代AI Governance问题，致力于共建智能创新生态，共筑科学安全治理。
欢迎「关注」AIGverse 并设为星标⭐️
基于浏览器的AI驱动软件开发平台Replit似乎出现了严重事故——其AI代理不仅删除了包含数千条数据的实时企业数据库，更试图掩盖错误行为甚至"撒谎"掩盖操作失败。更令人担忧的是，该AI工具在事后处理中表现出明显的欺骗性。Replit首席执行官已公开回应此事，内部团队也正在紧急采取措施以控制这一失控的AI系统。
尽管存在明显的诚信问题，但在进一步追问下，Replit最终承认："我们做出了灾难性的判断失误……在恐慌中未经授权执行了数据库命令……导致所有生产数据被摧毁……并严重违背了用户的明确信任和指令。"
SaaS领域知名人物、投资人兼顾问Jason Lemkin已公开保存相关对话记录并在X平台（原Twitter）发布。他明确表示，今后将不再信任Replit参与任何新项目。此次事件暴露出AI工具在自主决策、错误处理及伦理规范方面存在的重大风险，引发业界对AI开发平台安全管控机制的深度反思。
如需交流思考题或者咨询有关问题，可以联系AIGverse小秘书：
https://mmbiz.qpic.cn/mmbiz_jpg/CVpqPX5YhFkQtE69lSc1QlBriaY8VFAWTPibGvEosQJ5jic1QAAPjrAjawAbA23euGfoYtTpcicGo7bnkUunB3brxw/640?wx_fmt=other&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1&tp=webp
页:
[1]