深链DEEPCHAIN · TRENDS采集中 · 下一批 02:47:49EN

AI  /  动态  /  OpenAI

OpenAI 公开困惑度曲线:提议行业共订 AI 安全限速标准

研究OpenAI 官方··中文整理 11-22·约 650 字,读完 2 分钟

一句话

OpenAI 首席科学家撰文,用困惑度追踪 AI 预训练进展,并提议行业共订安全限速标准。

要点

  1. 什么是困惑度

    困惑度(交叉熵损失)衡量模型预测下一词的准确度,数值越低代表压缩能力越强,是 OpenAI 长期跟踪的核心指标。

  2. 门槛涌现

    从 GPT-3.5 到现在,log-perplexity 从约 0.99 降到 0.8 以下,每跨过某个数值门槛,编程、数学、网络安全等新能力就会突然出现。

  3. 行业限速

    OpenAI 建议各实验室用困惑度等指标共同设定一条发展上限,在监控和理解 AI 行为的能力取得新突破前,都不越过这条线。

登录看全文「原文讲了什么」和「我们的看法」登录后可看,免费。原文链接也在里面。
觉得有用?