一句话
OpenAI 推出 Control Room,用于追踪研究中的模型任务,发现安全问题后 35 秒内可切断输出。
要点
- 怎么运作
推理引擎执行前要向 Control Room 申请许可,任务被终止后请求会被拒绝。
- 失败即关闭
若 Control Room 服务故障或被篡改,系统默认拒绝所有推理请求。
- 配合监控系统
监控模型发现异常可直接通知 Control Room 停止任务,此前的 DNS 事件就是监控系统发现的。
登录看全文「原文讲了什么」和「我们的看法」登录后可看,免费。原文链接也在里面。
觉得有用?