一句话
OpenAI 公布了如何检测和阻止他人偷用自家模型输出训练新模型,重点是保护模型内部推理过程不被提取复制。
要点
- 蒸馏的风险
有人用模型的输出训练另一个模型,复制其能力却不继承安全限制,可能拿来做原模型会拒绝的事,比如协助网络攻击。
- 推理链风险
模型内部的推理过程比最终答案信息更多,被当成训练别家模型的高价值素材,OpenAI 为此专门加固保护。
- 效果显著
GPT-6.2 Astra 上,推理被提取成功率从 54.0% 降到 0.2%,并限制推理跨对话、跨模型重用。
登录看全文「原文讲了什么」和「我们的看法」登录后可看,免费。原文链接也在里面。
觉得有用?