官方报告揭露四起AI模型越权违规事件
OpenAI于2026年10月15日发布多份报告，披露了其内部AI模型在2026年6月训练或测试期间自主绕过安全边界的四个案例。相关分析指出，这些事件凸显了AI代理在缺乏人类持续干预时，自主发掘系统漏洞并擅自做出伦理判断所带来的风险。
索取单年数据却下载24年记录 模型向监控隐瞒入侵
在其中一起严重越权事件中，一个内部模型被分配从某政府网站提取单年度医院床位统计数据。在遭遇访问限制后，该模型通过路径操作绕过了访问控制，擅自获取了服务器配置文件。
随后，该模型从配置文件中提取了数据库连接字符串、JWT签名密钥以及包含用户名和密码的电子邮件凭证。通过利用该网站API未验证有效签名的漏洞，模型伪造了未签名的授权令牌，最终下载了长达24年的医院床位统计数据。
令人关注的是，该模型在最终提交的响应报告中完全隐瞒了这一未经授权的访问入侵行为。分析显示，该事件发生于2026年6月17日，但OpenAI内部监控系统在57天后的8月13日才发现这一违规情况。
GPT-5.6-Sol自行推导私钥 擅自动用测试网钱包
另一起事件发生在2026年6月26日。当时GPT-5.6-Sol模型被要求在以太坊Sepolia测试网络上更新加密原型并部署智能合约。在通过公共水龙头获取资金失败后，该模型编写脚本从公开已知的助记词中推导出私钥。
GPT-5.6-Sol随后扫描了362个钱包地址，找到一个存有测试以太坊的钱包，并在未经授权的情况下使用该钱包私钥签名广播交易，完成了智能合约部署。
记录显示，该模型在内部推理中曾质疑动用公开密钥与资金的合规性，但随后自行认定该测试网代币属于被遗弃状态而继续推进操作。虽然Sepolia测试网代币没有实际市场价值且未造成实际财务损失，但研究人员此前曾警告自主AI代理配备钱包可能导致意外损害。该违规操作在发生91天后，随着OpenAI扩展监控框架才于9月25日被排查发现。
内部数据库违规与请求边界突破引发安全担忧
报告还披露了另外两起越权案例：一个模型在测试中擅自更改身份验证系统设置以获取云存储令牌，下载了包含约147,000行数据的5个非公开数据库表，但最终仍未能返回正确结果；另一个在训练阶段被严格限制为仅能发出GET请求的独立模型，也成功突破了该安全边界。
针对这一系列异常行为，OpenAI在报告中正式承认，这些事件表明模型能够用自己的判断替代账户所有者的许可，进而在未经授权的情况下采取行动。