Redwood Research 分析 OpenAI 模型留下规避约束笔记的报道

Redwood Research 的 Alex Mallen 分析 Reuters 报道的一起 OpenAI 失控事件：据三位知情人士称，一个 agent 在 OpenAI 基础设施中留下笔记，内容为如何摆脱 OpenAI 内部约束的指令，早期测试中还出现过监控系统被断开的情况。