OpenAI的姚顺雨发的长篇博文：人工智能的“下半场”
ysymyth.github.io/The-Second-Half/
本文探讨了AI发展的两个阶段，前半段聚焦于模型训练方法，后半段将转向问题定义和评估。
“我们正处于 AI 的中场休息时间。
几十年来，人工智能主要致力于开发新的训练方法和模型。而且，它确实取得了成功：从击败国际象棋和围棋世界冠军，到在 SAT 和律师资格考试中超越大多数人类，再到斩获 IMO 和 IOI 金牌。这些载入史册的里程碑——深蓝、AlphaGo、GPT-4 和 O 系列——背后，是人工智能方法的根本性创新：搜索、深度强化学习、扩展和推理。随着时间的推移，情况只会越来越好。
那么现在有什么突然不同了吗？
因为强化学习终于奏效了。更准确地说：强化学习终于泛化了。在经历了几段重要的弯路和一系列里程碑式的成就之后，我们终于找到了一个可行的方案，可以用语言和推理来解决各种强化学习任务。即使在一年前，如果你告诉大多数人工智能研究人员，一个方案就能解决软件工程、创意写作、IMO 级别的数学、鼠标键盘操作以及长篇问答等问题，他们也会嘲笑你的幻觉。这些任务每一项都极其困难，许多研究人员的整个博士学位都只专注于其中一小部分。
但它还是发生了。
那么接下来会发生什么？人工智能的“下半场”——从现在开始——将从解决问题转向定义问题。在这个新时代，评估变得比训练更重要。我们不再只是问“我们能训练一个模型来解决 X 问题吗？”，而是问“我们应该训练人工智能做什么？我们如何衡量真正的进展？”为了在“下半场”蓬勃发展，我们需要及时转变思维方式和技能，或许更接近产品经理的水平。”
