普通想法

没有人对这个世界的看法会一成不变,但往往大体稳定。支配我自己日常行为的逻辑已经形成有一段时间,在最近的十年里,它越来越清晰,也越来越坚定。我将尝试说清楚,它如何由很多并不新鲜的观点构成。

我即使不能算一个马克思主义者,至少是一个唯物主义者。我不太相信存在超自然的意志干预历史进程,更不是任何神秘主义的拥趸。

我对技术发展的前景长期乐观,(也正因此)我对人类社会的未来十分悲观。我相信技术的发展速度是指数级增长的,即,它会越来越快。正如我们从多次技术革命的节奏中观察到的那样。因此,那些被我们认为是可想象的极限的技术会很快到来,比预期更快,比如 AGI,比如生物学的永生。

We always overestimate the change that will occur in the next two years and underestimate the change that will occur in the next ten.

—— The Road Ahead, Bill Gates

在经过不用很久的时间后,这个世界会变成我们无法理解的样子,既往的经验、概念,甚至世界观都变得陈旧过时,而这是最好的结果——最差的结果是我们不需要理解新的世界,因为世界已经不再需要我们,别的智慧会推动它继续向前。

没有什么技术比 AGI 更至关重要。因为 AGI 是新的智慧物种,它会(事实上我认为一定会)取代人类对于已知世界(包括物理世界与赛博世界)的支配地位。我曾经觉得 AGI 会更远,而 GPT-* 就像是火车进站前的汽笛,让这样的想法显得天真而可笑。

我不相信任何试图控制 AGI 的努力(如 Ilya 领导的 Super Align)会取得成功。正如 Hinton 所说的:

There are very few examples of a more intelligent thing being controlled by a less intelligent thing.

一旦第一个现代人类诞生,蚂蚁再怎么努力,也不可能阻止人类支配地球。同理,AGI 实现之日,正是这个世界准备翻过人类篇章之时。

因此在我看来,绝大多数追求长期收益而做出的努力,都会是徒劳。比如储蓄养老金、提升政治地位、繁衍后代,以及宗教信徒为来世所做的修行等。关于如何面对生活,我也会很容易得出结论:应当尽可能看重在可见的未来获得的收益,为看不见的将来做太多打算是不值当的。

而在“可见的”这一有限的时间尺度里,我是一个长期主义者,即,近在咫尺的满足也是可以被选择性舍弃的。我愿意去追求长期收益的主题包括理解世界和保持健康。在万一的希望中(或许是 AGI 在本质上不会成功,或许是像蚂蚁成功绊住了大象那样,我们成功地限制了 AGI),人类作为一个整体,还会持续、长久地走下去,但愿作为个体的我还可以继续做微薄的贡献。

除此之外,我选择及时行乐、即时满足。这个世界需要的也许是罗辑,或者至少是章北海,而我更像是埋头的鸵鸟——多年后回头看时我应当感到羞愧。