Anthropic 教会了模型懂道德,也打通了一条蒸馏你的新路|Hao好聊论文
来源:腾讯科技公众号 爱 好奇 4个月前(05-25) 358浏览 0评论
文|博阳 编辑|徐青阳 Anthropic 5月8 日发布了一篇对齐研究《Teaching Claude Why》,讨论的人不算多。 过去大模型的对齐似乎非常低效。做了一通RLHF,模型依然会因为生存危机反水。最典型的就是Anthropic的智能体失...
来源:腾讯科技公众号 爱 好奇 4个月前(05-25) 358浏览 0评论
文|博阳 编辑|徐青阳 Anthropic 5月8 日发布了一篇对齐研究《Teaching Claude Why》,讨论的人不算多。 过去大模型的对齐似乎非常低效。做了一通RLHF,模型依然会因为生存危机反水。最典型的就是Anthropic的智能体失...
来源:腾讯科技公众号 爱 好奇 4个月前(05-25) 358浏览 0评论
文丨苏扬 编辑丨徐青阳 北京时间5月23日,马斯克旗下SpaceX进行星舰第十二次综合飞行测试(以下简称“十二飞”)。本次飞行由Ship 39飞船和Booster 19超重型助推器组成,既是星舰V3构型的首次亮相,也是专为V3建造的星港2号发射台(P...