SSI 联合创始人 Ilya Sutskever 与 Dwarkesh Patel 深度对话，探讨为什么我们正在从 Scaling 时代回归到研究时代、模型泛化能力的根本缺陷、人类情感与价值函数的关系、超级智能的对齐策略，以及如何让 AGI 惠及所有有感知的生命。
Ilya Sutskever 的核心洞见：我们正在从"Scaling 时代"回归到"研究时代"。预训练的 Scaling 范式已经触顶，模型虽然在 eval 上表现惊人，但泛化能力远不如人类。下一个突破不在于堆更多算力，而在于找到一种让 AI 像人类一样"真正学习"的新范式 -- 这可能涉及价值函数、持续学习和更根本的机器学习原理的重新思考。
从模型的"参差不齐"到超级智能的对齐，Ilya Sutskever 与 Dwarkesh Patel 的一场跨越 AI 全局的深度思辨。
从 Ilya Sutskever 对 AI 未来的深度思考中提炼出的六大核心观点。
2012-2020 是研究时代，2020-2025 是 Scaling 时代。现在，预训练数据即将耗尽、RL 的泛化能力不足，我们正在回归"研究时代" -- 但这次是在巨大算力基础上的研究。公司数量已经超过了创意数量，突破需要真正的新想法。
模型在 eval 上表现出色但经济影响滞后，根因在于泛化能力远不如人类。一个竞赛编程冠军不等于一个好的工程师，就像一个练了 10000 小时的学生不如那个"有天赋"只练了 100 小时的学生。解决泛化问题是通往超级智能的关键。
一个因脑损伤失去情感的人虽然智力正常却无法做决策。情感本质上是进化赋予人类的价值函数，虽然简单却极其鲁棒。当前 RL 缺少类似机制 -- 价值函数能让学习更高效，让模型在过程中而非结尾才获得反馈信号。
超级智能不是一个"什么都会"的成品，而是一个"什么都能学会"的超级学习者 -- 像一个极其聪明的 15 岁少年。它会被部署到世界中、在实践中学习，就像一个新员工加入组织一样。这种持续学习范式与传统 AGI 定义截然不同。
Ilya 提出构建"关爱有感知生命"的 AI，而非仅关爱人类。因为 AI 本身也将是有感知的存在，未来将有数万亿个 AI，人类只是有感知生命的极小部分。如果前 N 个超级智能真心关爱感知生命，世界就有可能走向良好结局。
好的研究品味来自对大脑的"正确灵感"、多角度思考以及对美感和简洁的追求。丑陋的方案没有容身之地。这种自上而下的信念是在实验数据与你矛盾时坚持下去的力量源泉 -- 因为有时候实验失败只是因为有 bug。