一句话
OpenAI 首席科学家撰文,用困惑度追踪 AI 预训练进展,并提议行业共订安全限速标准。
要点
- 什么是困惑度
困惑度(交叉熵损失)衡量模型预测下一词的准确度,数值越低代表压缩能力越强,是 OpenAI 长期跟踪的核心指标。
- 门槛涌现
从 GPT-3.5 到现在,log-perplexity 从约 0.99 降到 0.8 以下,每跨过某个数值门槛,编程、数学、网络安全等新能力就会突然出现。
- 行业限速
OpenAI 建议各实验室用困惑度等指标共同设定一条发展上限,在监控和理解 AI 行为的能力取得新突破前,都不越过这条线。
登录看全文「原文讲了什么」和「我们的看法」登录后可看,免费。原文链接也在里面。
觉得有用?