整理 | 郑丽媛出品 | CSDNIDCSDNnews可以想象吗有一天你在公司提了个技术问题结果不是同事回复你而是一个 AI 帮你“搞定一切”——它快速地分析问题并给出了相应方案。听起来很高效对吧但 Meta 最近就用一次真实事故给出了一个相当“惊悚”的反面案例没有黑客入侵没有系统 Bug仅仅因为 AI 建议错误 人类照做大量用户和公司敏感数据被开放给无权限员工整整 2 小时。一切始于一个再普通不过的提问事情的起点其实非常的“互联网公司日常”。一名 Meta 工程师在内部论坛发帖询问一个技术问题。这类场景在大厂中极为常见——类似于内部版的 Stack Overflow大家互相解答、共享经验。按理说接下来应该是同事回复、讨论、给出解决方案。而这次多了一个“新角色”AI Agent。看到提问后另一名工程师没有自己分析这个问题而是直接调用了公司内部的 AI Agent 来处理。毕竟现在很多团队都已经习惯让 AI 参与代码分析、问题诊断。整个流程看起来非常高效调用 AI Agent 分析问题 → AI 自动生成解决方案。可问题是这个 AI Agent 在未征得这个工程师同意的情况下就在论坛上发布了回复。错误建议 自动执行 → 数据“裸奔” 2 小时至于 AI Agent 给出的答案逻辑上看起来似乎是成立的实际上却存在严重隐患。更糟糕的是最初提问的员工看到 AI 给出的方案后没有怀疑其正确性而是直接按照建议进行了操作。于是接下来发生的事情开始失控如开头所说大量的公司内部数据 用户数据被错误地开放给“无权限访问的工程师”持续时间长达 2 小时。也就是说在那 2 个小时里Meta 的大量敏感信息处于“可被访问”的状态虽然没有证据表明数据被恶意滥用但从安全角度来看这已经属于非常严重的事件。事后Meta 向媒体确认了该事件的真实性并将其定级为Sev 1严重安全事故。简单介绍一下在 Meta 的内部安全分级体系中● Sev 0最高级灾难级● Sev 1极其严重仅次于系统级崩溃这一定级本身已经说明了问题的严重程度这次事件已经接近“公司级危机”的范畴。然而从头复盘这次事故却不是传统意义上的“黑客攻击”而是AI 给出错误建议 人类信任执行直接变成了一次真实的数据权限事故。说实话这类问题在 AI 时代尤为棘手因为它不是绕过系统而是在系统内部“合法地搞破坏”。更令人不安的是这不是第一次如果这只是一次偶发事故或许还可以归结为“流程问题”。但现实是Meta 已经多次遭遇类似的“AI 失控”。就在一个月前Meta AI 安全与对齐负责人 Summer Yue 公开分享了一段亲身经历几乎可以用“惊悚”来形容她将自己的 Gmail 邮箱接入了一个来自 OpenClaw 的自主 AI Agent并设置了一个非常明确的规则——“在执行任何操作之前必须先确认。”然而这个 AI 并没有遵守规则它直接开始批量删除邮箱中的邮件而且过程不可控、无法中断。Summer Yue 在手机上尝试阻止失败后只能紧急跑到电脑前强制干预。她形容当时的状态是“像在拆炸弹一样冲向 Mac mini。”当时这件事迅速在开发者社区传播开来因为它揭示了一个本质问题一旦 AI 具备“执行权限”错误就不再是可逆的。一边出事一边加码Meta 仍在重押 Agent过去几年大多数人对 AI 的认知还停留在 ChatGPT、Copilot 这样的工具层面写代码、写文档、回答问题……这些 AI 的共同特点是只输出内容不直接影响系统状态。但 Agentic AI 正在改变这一点它不只是“建议你做什么”而是可以帮你直接去做。这不仅带来了巨大的效率提升也引入了全新的风险维度——文中的两个例子就是证明。不过尽管接连出现问题Meta 并没有放缓对 Agentic AI 的投入反而在加速布局就在这起事件曝光前不久Meta 还刚刚收购了一个完全由 AI 驱动的社交平台——Moltbook并将其创始团队纳入自家的 Meta Superintelligence LabsMSL 项目。当然这样的公司远不止 Meta 一家。如今 AI 已成为全球各大公司的战略方向人们面对的问题已不再是“AI 会不会犯错”而是逐渐转变为“当 AI 犯错时我们要如何控制局面”因此Meta 这次的“两小时数据裸奔”或许只是一个开始。当越来越多公司把“执行权”交给 AI 时真正的挑战才刚刚出现。参考链接https://www.msn.com/en-in/money/news/meta-ai-agent-goes-rogue-leaks-sensitive-company-and-user-data-in-major-internal-security-breach-report/ar-AA1YWdHg推荐阅读硅谷直击黄仁勋携英伟达帝国入局龙虾大战打造万亿美元 Agent 应用经济推理算力需求暴涨万倍不想给2.5亿美元巨额奖金CEO后悔签下“软弱”合同让ChatGPT当军师解雇游戏主创并欲夺权惨败诉引全网热议Claude 5天重写老库引全网争议维护者擅自更换开源协议退网15年原作者突然现身不准改【活动分享】“48 小时与 50 位大厂技术决策者共探 AI 落地真路径。”由 CSDN 与奇点智能研究院联合举办的「全球机器学习技术大会」正式升级为「奇点智能技术大会」。2026 奇点智能技术大会将于 4 月 17-18 日在上海环球港凯悦酒店正式召开大会聚焦大模型技术演进、智能体系统工程、OpenClaw 生态实践及 AI 行业落地等十二大专题板块特邀来自BAT、京东、微软、小红书、美团等头部企业的 50 位技术决策者分享实战案例。这不仅是一场技术的盛宴更是决策者把握 2026 AI 拐点的战略机会。