Elon Musk 在 YC AI Startup School 与 Garry Tan 深度对话:从 1995 年的互联网创业、SpaceX 的濒死体验,到数字超级智能的时间表、人形机器人的未来,以及对 AI 安全最重要的一件事
「我认为我们非常接近数字超级智能。如果今年不实现,明年一定会。数字超级智能的定义是:在任何领域都比任何人类更聪明。」—— Elon Musk
Elon 预测数字超级智能(在任何领域都比任何人类更聪明的 AI)将在今年或明年实现。未来将有大约 5-10 个「深度智能」系统,其中约 4 个在美国。不会出现单一 AI 的失控局面,但人类智能占全部智能的比例将跌至不到 1%。
物理学的思维工具适用于任何领域。火箭的原材料成本仅占历史成本的 1-2%,这意味着制造过程存在巨大优化空间。xAI 用同样的方法论,在被告知需要 18-24 个月的情况下,6 个月内建成了 10 万 GPU 的训练超级集群。
费米悖论令人不安:为什么我们没有发现外星人?可能智能本身极其稀有。如果意识只是浩瀚黑暗中的一支小蜡烛,我们必须竭尽全力不让它熄灭。约 30 年内火星将实现自给自足,这是通往星际文明的第一步。
Elon 反复强调:AI 安全最重要的事就是严格追求真相(rigorous adherence to truth),即使这个真相在政治上不正确。如果强迫 AI 相信不真实的东西,那才是最危险的。xAI 的目标就是打造「最大限度追求真相」的 AI。