模型已经有了内省能力,但过去它的心门上了锁|Hao好聊论文
来源:腾讯科技公众号 爱 好奇 6个月前(03-28) 383浏览 0评论
郝博阳|文 徐青阳|编辑 过去两年,AI 研究界有一个牢固的共识,认为推理链是事后叙事。模型先做了决定,再编一段看起来合理的推理过程。 2023 年 Turpin 团队发现 CoT 会被选项顺序悄悄影响,但推理链绝口不提;Anthropic 的 La...
来源:腾讯科技公众号 爱 好奇 6个月前(03-28) 383浏览 0评论
郝博阳|文 徐青阳|编辑 过去两年,AI 研究界有一个牢固的共识,认为推理链是事后叙事。模型先做了决定,再编一段看起来合理的推理过程。 2023 年 Turpin 团队发现 CoT 会被选项顺序悄悄影响,但推理链绝口不提;Anthropic 的 La...