消息：
论文指出，总体来看，这些结果初步证明，自动化对齐后训练有望在近期成为一种真正可行的方法。

这项研究也向递归自我改进迈出了一步，而许多人把递归自我改进视为 AI 发展的下一个重要阶段。如果 AI 模型能够改进自身的对齐训练方法，那么进一步改进更广泛的训练流程也并非没有可能。到了那一步，人类 AI 研究人员甚至可能逐渐失去存在的必要。

论文也直接比较了自动化对齐研究员（AAR）和人类研究人员的表现：“最优秀的 AAR 方法平均只需 6 小时，就能超过经验丰富的人类研究人员提出的方案。人类引导的研究方向，并不会导致更强的表现。”




https://www.xyfan.com/data/attac ... 22d9eee5bce98b5.png
（转载IT之家）