昨天呢，我在X上看到了一条流量已经过了1亿的帖子。 讲道理，我在X上已经很久很久没有见过这种流量的帖子了。 发帖的人叫Jacob Coxon。 刚刚从Anthropic辞职。 他说，过去三年，他先后在OpenAI和Anthropic做大模型预训练。 然后现在，他不干了。 原因也非常离谱。 因为，他觉得OpenAI和Anthropic正在朝着能够自我改进的超级智能一路狂奔。 并且，拿着所有人的生命下赌注。 他甚至说，真正参与制造这些前沿AI的人里面，有不少人私下里真的相信： 如果事情最后失控，人类可能在这个十年结束之前灭绝。 我第一反应其实是： 这哥们谁啊？不会又是哪个营销号吧。。。 然后就验证了一下，发现人确实是真的。 这哥们今年27岁，英国人，数学出身。 2016年和2017年，他连续进入英国国际数学奥林匹克竞赛队伍，后来进入剑桥大学Trinity College学数学。 2021年，他参与过一篇发表在eLife上的医学统计论文，用贝叶斯方法研究结核性脑膜炎患者的基因型和生存率之间的关系。 2023年左右，加入OpenAI，GPT-4o的官方贡献者名单里，就有Jacob Coxon。 到了GPT-4.5，OpenAI更是直接把他列为了核心贡献者。 然后就是今年。 他从OpenAI去了Anthropic，工作依然做最核心的预训练。 但是没干多久，感觉是在不太行了，没办法违背自己的意志，就把工作辞了，然后在X上发了这些警示。 甚至《华尔街日报》还报道他说，以后这哥们甚至想离开AI行业了，再也不干了。 然后这帖子发出来以后，Anthropic的对齐负责人直接站出来支持Jacob了。 他说，小哥是对的，而且10年内发生的概率，大于10%。 还有另外一个Anthropic里面做安全研究的，也站出来以“个人身份”支持Jacob。 而且按照他的观察： 在AI公司里面，职位越高的人，往往反而越担心这个问题。 甚至刚刚离开Anthropic、之前负责可扩展监督的Joe Benton，也说Jacob对整个行业现状的描述，确实是准确的。 当然，这些依然只是他们对于未来风险的判断。 没人知道10%到底对不对。 不过我在看完他们发的内容，还有看完了很多评论以后，突然感觉到了一种荒诞感。 这个荒诞感源于我在11年前看过的一篇文章。 然后直到今天，都印象极其极其深刻，甚至这篇文章，我最近每年还会再去读一遍，常读常新。 这就是2015年1月Tim Urban写的一个长的丧心病狂的文章： 《The AI Revolution》，翻译过来，就是《人工智能革命》。 它分为上下两章，第一章叫： 通往超级智能之路。 第二章叫： 我们的永生，或者灭绝。 我到现在还记得，2015年我作为一个学生，在知乎上读完了这两篇长文的翻译版之后，对于我那幼小的心灵和浅薄的认知所产生的巨大的冲击。 真的被震撼了非常非常非常久。 因为那篇文章最后提出了一个极其简单、极其粗暴、又极其宏大的判断： 如果人类最终真的造出了远超自己的超级智能。 那它只会把人类文明狠狠推向两个方向： 一边是灭绝。 另一边是永生。 没有其他解。 然后昨天，在Jacob发了那个帖子之后，我又把这篇文章翻出来，读了一遍。 我忽然觉得。 我们好像真的站在了那篇文章的时间延长线上。 甚至有一点，一切皆命定的感觉。 Tim Urban当时先讲了一个特别经典的东西。 就是人类这个物种，很难真正理解指数增长。 因为我们的脑子天然喜欢线性推演。 今天比昨天多一点。 明天大概也比今天多一点。 可文明的发展经常完全不是这个样子，这才是很多时候，文明的图景。 站在那个转折点，看起来可能很刺激。 但你得知道，站在时间图上的人，其实根本看不到右边有什么。 所以，这才是站在这里的真实感受： 多么残酷的现实。 Tim Urban也举了一个特别有意思的例子。 假如你穿越回1750年，随便抓一个人，把他带到2015年。 让他看看飞机、高速公路、智能手机、互联网、卫星、核武器、空间站之类的高科技玩意。 这个人可能会觉得自己直接进了仙界，直接就，吓尿了。 可如果1750年这个人，也往前穿越同样的265年。 去1485年抓一个人回来。 那这个时候，1485年的那个人，震撼可能就会小很多。 再往前，为了获得同样的文明落差，可能需要跨越上万年。 Tim Urban给这种足以把古代人脑子干宕机的文明进步，起了一个很好玩的名字： DPU。 Die Progress Unit。 大概意思就是，“一份足够把古代人震撼死的科技进步”。 以前攒一份，可能要1万年。 后来只需要几百年。 再后来，几十年，然后，越来越快。 2015年我第一次看的时候，感触还不是很深。 直到2026年的今天重新看。 Emmmmmmm。 我们这代人，好像已经开始亲自体验这个东西了。 2022年
