OpenAI 研究:随着模型规模扩大,思维链可监控性下降
OpenAI 分享了一项新研究,考察思维链可监控性(无 CoT 能力与 CoT 可控性)在模型训练全周期中如何演变,发现随着系统变得更智能,通过思维链监控模型正变得越来越困难。
内容详情 · 原文链接
via AI情报局 | 全球 AI 动态简报 - Telegram Channel
OpenAI 分享了一项新研究,考察思维链可监控性(无 CoT 能力与 CoT 可控性)在模型训练全周期中如何演变,发现随着系统变得更智能,通过思维链监控模型正变得越来越困难。
内容详情 · 原文链接
via AI情报局 | 全球 AI 动态简报 - Telegram Channel