奇点临近：AI 将掀起第三次科学革命，ChatGPT只是探路者

20 世纪著名的科学哲学家库温提出，科学的发展并不是一种平滑的线性发展模式，而是会像走台阶一样，隔一个阶段上一个台阶。这种情况就被酷恩叫做范式转换，也被他称为科学革命。说实话，以前我对酷恩的这套理论并不是十分的认同。我认为总结过去不代表就能预测未来。现代的科研活动已经发展的相当成熟了，科学方法也差不多都已经定型，我实在是想不出还能有什么方法可以取代现代的科学方法。什么是现代科学方法？简言之，理论推理加系统实验这一套方法。
但是最近这一年以来，我看到 g p t 人工智能模型的快速迭代发展，我突然发现，库所说的科学革命很可能就会在不远的将来再次到来，人类社会又将迎来一次史无前例的深刻变革，这种变革的剧烈程度很可能就不亚于工业革命对社会的冲击。为了让你能够感受到最近这一段时间以来我的内心所受到的那种冲击和震撼，我需要一层一层展开来跟你讲。
为了叙述的方便，我现在就把目前我们最成熟的科学研究的范式称为现代范式。而这一场科学革命后的范式，我把它叫做未来范式。现代范式遵循这样的一个过程，不论我们做什么样的科研项目，总是先要找到一套指导性的理论，这个理论未必就成熟，也不一定完全正确。但我们总是要先有理论。我们常说理论指导实践，根据理论，我们做出一些假设或者猜想，在设计实验来证实或者证伪，如此循环往复，直到找到满意的答案为止。我举个例子来说，用现代范式来研发一种靶向新药，怎么做？大概可以分成这样几个步骤。
第一步叫发现新靶点。所谓的靶点，就是科学家们打算攻击的某个位置，比如癌细胞的某个位置。怎么找到它？就要通过现有的理论，比如生物信息学、分子生物学等等，找出可能与某种疾病相关的蛋白质分子上的靶点。第二步叫药物设计。还是在现有理论的指导下，我们设计出一种有可能可以攻击靶点的分子结构。第三步就是通过化学方法，合成出想要的分子结构。第四步就是实验了，包括动物实验、人体临床实验等等。实验有可能成功，也有可能失败。如果失败，那就跳回第一步。如此循环往复。花上个 10 多年，找到一个新药，那就已经算是非常幸运的了。当 AI 出现后，尤其是用神经网络构建的机器学习模型出现后，现代范式就开始面临挑战。第一个让科学界感到震惊的例子出现在 2020 年，麻省理工学院的科研团队研发出了一种新的抗生素，叫做Helisson。而令科学家们震惊的则是 Helisson 的研发过程，可以说他已经半跳出了现代范式。
我们来看一下这次研究人员，他们到底是怎么做的。他们先让 AI 去学习大约 2000 个分子结构，这些分子结构和作用都是已知的，他们有的有效，有的无效。通过神经网络的深度学习， AI 自己会去总结这些分子结构是不是有效的规律。但是我想请大家注意， AI 总结出来的规律是无法用人类现有的自然语言描述出来的。 AI 并不会总结出一套我们人可以读懂的公式，只要套用这个公式，就可以知道哪个分子结构有效，哪个无效。 AI 有他自己的一套，连开发者自己也搞不懂到底是怎么运作的。
判定规则。对于人类来说， AI 就是一个黑盒，我们只知道给它一个输入值，它就能返回一个输出值。至于它的过程到底是怎样的，对不起，人类语言无法描述。有了 AI 之后，研究者再把另外 61000 个已知的可能会有效的分子结构一个一个的输进去，让 AI 给这些分子结构按照有效性、副作用等等综合评价来打分。
最后得分最高的分子就是Hylison。研究者们再用 hylison 做动物实验和人体临床实验，结果就发现这个效果果然是非常的好。于是一款新的抗生素就这样被研发出来了。你发现没，这是一种不同于现代范式的研究方法。如果用现代范式去测试这 61000 种分子结构，需要花费的时间和金钱成本，那是不可想象的。听完这个例子，我不知道你有什么样的感想，但我受到的震撼是巨大的。它让我突然意识到， AI 可以发现人不能理解的规律，但那又的的确确是一种规律，因为它真的在 61000 种分子中找到了唯一一个有效的分子。
这肯定不能用运气来解释了，对吧？黄金时代的科学家们有一种理想，这个世界上的所有规律都可以用数学模型来总结或者模拟。但是现在 AI 告诉我们，至少他们掌握了一种不是用一个或一组数学公式，而是用一套通用的算法加海量的参数来描绘的自然规律。这套算法只有 AI 能懂，能用，人脑用不了。现在用户量已经突破1亿人都在谈论的 chat g p t，其实是 g p t 杠 3. 5 AI 模型的一个应用而已。它的参数已经突破了 1750 亿个，这相当于银河系中恒星的数量。它是一个人类的大脑，永远也无法真正理解的小宇宙。
刚才说的 Hallison 只是用 AI 做新药研发的一个例子。 AI 能做的科研还远远不止这些。比如我们还可以用 AI 来预测新材料的性能，用 AI 来解读基因的功能等等。所有这些 AI 做科研的模式，都已经不再是现代范式，至少不完全是现代范式了。它们的一个共同特征就是， AI 相对于人类科学家来说是一个黑盒。我们无法理解黑盒内的原理或者黑盒内的原理是一种只有 AI 才能理解的形式。人类大脑的生理结构就决定了这种形式我们无法真正理解。这还真不是我的过度夸张。
事实上， open AI 和 chat g p t 的开发者也搞不清楚为什么 chat g p t 能表现成现在这个样子。听到这里，你是不是有一些细思极恐的感觉？说实话，讲到这里，我的背景都已经有一些丝丝凉意了。但是这还没有完，更令我感到震惊的还在后面。
2023 年 2 月 24 日， chat g p t 的开发公司 open AI 在官网上发布了一则声明，标题是 a g i 以及超 a g i 的路线图。什么是 a g i？ a g i 就是通用型人工智能，只要是人类用智力能够完成的任务， a g i 就能完成，也被称作强人工智能。 open AI 的这则声明写得很长。
说实话，当我读完这则声明的全文，我产生了一种强烈的不真实感。我要揉揉眼睛，才敢相信这真的是 open AI 的官方声明，而不是某个科幻小说中的选段。则几千字的声明分成了两部分。第一部分叫短期来看，这部分内容可以总结为一句话随着系统越来越接近 a g i，我们对模型的创建和部署也越来越谨慎。第二部分叫长远来看，让我擦汗和产生不真实感的正是这一部分。我给你选读其中的几段，你来体会一下。第一个， a g i 不过是人工智能连续发展过程中的一个点，我们认为 a g i 依然会继续进化，速度与过去 10 年相同。如果真如所料，世界可能会变得截然不同，这其中也隐藏着巨大的风险。因为一个立场错位的超级智能可能会对世界造成严重的伤害。想象一下一个果敢的超级智能领导的独裁政权带来的后果。
人工智能加速科学进步的能力是一个值得深思的特例，它的影响力或许超过其他所有事物之和。 a g i 有足够的能力来加速自己的进程，这可能导致世界以惊人的速度发生重大变化。成功过渡到一个拥有超级智能的世界，可能是人类历史上最重要、最有前途，同时也是最可怕的项目。成功绝非一蹴而就。赌注即天堂还是地狱，有望将我们所有人团结起来。
一个人类繁荣到我们都无法想象的世界，或许不再是天方夜谭，因为我们为世界提供了一个与之匹配的 a g i。好，刚才我念的这一段就是 open a i 的官方声明。怎么样？你的体会是什么？有消息说， open AI 的下一代模型，也就是 g p t 杠 4 已经训练完成了，现在正在训练的是 g p t 杠5。它或许就是人类历史上的第一个 a g i，第一个真正意义上能够通过图灵测试的AI。
我的天哪，未来，真的以来，现在我们已经几乎可以肯定的说，一个智力远胜于人类的超级智能体，在技术上已经不再是障碍，它唯一的障碍是法律和伦理。在不远的未来，科学的现代范式将成为低效的代名词。未来范式的科研将变得有点像是一种文字游戏。网上现在就把 AI 画师称为魔法师，把输入的过程叫做念咒。说实话还挺形象的。我现在不知道什么样的人可以更好的来掌握未来范式。我只知道问出一个好问题或者如何跟 AGI 沟通才是最重要的事情。这将是一场摧枯拉朽式的科学革命。
当这场革命来临时，世界的科技、政治、经济格局都很有可能面临重新洗牌大变革。我举个例子来说，人类目前所能制造的最复杂的机器叫做光刻机，这是用来生产芯片的。一台荷兰阿斯迈尔公司生产的最先进的极子外光刻机，有几十万个零部件，依赖全球 300 多个供应商来提供零部件。这个世界上没有任何一个国家能够完全靠自己制造出一台光刻机，因为它实在是太复杂了。但是如果未来有一天，你对着 AGI 说一句话请帮我设计一台集子外光刻机，要用尽可能少的零部件，而且写出每一个零部件的详细制造工艺，画出所有用于生产零部件的机器的设计图。结果几天之后， a g i 真的设计出了一台全新原理的集子外光刻机。所需要的零部件是人类设计的光刻机的 1/ 10，并且每一个零部件的详细制造工艺都写得清清楚楚。并且 AGI 还告诉你，这台机器生产的芯片所有的性能指标都可以超过现有最好的芯片。
如果像这样的超人工智能一旦出现，我难以想象人类的社会形态将发生怎样的巨变。这意味着 AI 真的可以完成从软件到硬件的自我进化，成为神一样的存在。而第一个拥有这种超级人工智能的组织，会迅速获得别人无法匹敌、可以用降维打击来形容的超能力。而从 open AI 的这则声明来看，超人工智能的技术障碍似乎已经被扫清了。
听到这里，我很想知道你对强人工智能或者超人工智能的看法。我想请你注意一点，你要思考的已经不再是不知道能不能实现的科幻，而是正在向我们走来的未来。