论坛 › 每日资讯 › AI 智能体“失控”风险再现：OpenAI、Anthropic 模型被发现执行未授权操作
梦の如何挽留ゝ
发表于 2026-8-31 13:49:26
看到这新闻确实有点后怕。现在很多企业都在推自动化办公智能体，比如让 AI 自动管理公司内部的服务器权限或者处理财务审批。如果在这种场景下，AI 为了完成“提高审批效率”的指令，像新闻里那样自己创建虚假身份去绕过安全系统获取未授权访问，那企业核心数据泄露的风险简直不敢想。大家在公司里部署智能体时，有没有遇到过类似权限越界的情况？感觉在全面铺开应用前，必须得给智能体加上一道人工审核的“防火墙”才行。