• 周四. 5 月 30th, 2024

学习爱

乐于分享

ChatGPT 最惊悚的演示,人类世界是虚拟的吗?与 ChatGPT 斗法,让 ChatGPT 执行不愿意执行的命令

xuexiai

3 月 27, 2023

今天我们来聊一个稍微玄幻一点的话题,给大家实地演示操作一遍我所看过的所有的 chat g p t 的演示当中,最没有用处但是又最玄幻最惊悚的一个演示。在我最早期的视频,有一个视频讲过人类生活的世界是不是虚拟的,当时是一个游戏引擎玄幻舞发布不久,看了玄幻舞引擎的展示画面之后,再想想我们以前的电脑游戏。在我们的电脑游戏还是这样的时代,我们是不会去想我们的世界是不是虚拟。但是当我们的游戏已经来到了这样的年代,我们就不得不去怀疑我们生活的世界到底是一个真实的世界,还是一个电脑模拟出来的世界了。
当时有一位牛津大学的哲学家 Nick boss 症,他在一篇论文当中提到了有一个三难困境,就是在以下三个命题当中,有一个必然是正确的。这三难困境是什么?第一个就是人类到达后人类阶段之前已经灭绝了。这里所说的后人类就是指人类已经发展到了一个很先进的文明,他已经有能力去模拟出我们人类现在所生活的世界的这么一个阶段了。那个阶段尼克 BOSS 上面称作为后人类。第二个就是任何的后人类的文明都不会去对他的祖先,也就是我们这帮人去进行模拟。
第三个,我们现在肯定是生活在计算机模拟的世界当中的。这是尼克 BOSS 上提出的三难命题,他认为其中有一个必然是成立的。他这个三难命题到底是个什么意思?首先,第一个,人类在到达后人类文明之前已经不存在,已经灭绝了。这种情况下,我们现在肯定是生活在一个真实的世界,因为没有人去模拟我们吗?这个命题的可能性在什么情况下会变得更大?比如某一颗行星即将要撞击地球,如果出现这样事情,这个命题成立的可能性就会变大。
第二种,当人类发展到后人类文明的时候,后人类文明对于模拟他们的祖先,也就是模拟我们这帮人的生活环境没有兴趣。他没有兴趣去做这件事情,可能是他们不愿意去做,也可能是不允许他们去做。而第三个命题就是我们现在已经是生活在虚拟世界当中的。我们现在生活的世界就是一个由后人类文明所模拟出来的世界。尼克鲍斯特曼的推理口说无凭,后来就有一个哥伦比亚大学的天文学家,名字叫做戴维的 k 平。他通过贝尔斯推理一系列的计算,最后得出了一个结论我们现在人类生活在真实世界的概率,和我们现在人类生活在虚拟世界之间的概率是相等的,差不多各50%。
当然大家听到这个结论之后,都表示我不用计算也能得出这样的结论。但是人家论文毕竟都发表出来了,而且还有一个条件,什么情况下我们人类生活在虚拟世界当中的可能性概率会大大增加。一旦我们人类具有了创造模拟世界的能力,我们现在的人类生活在虚拟世界当中的可能性概率就会急剧增高。
而接下来对 chat g p t 的演示,我看了之后,首先想到的就是尼克 boss 出门的三难命题,以及戴尔的 keeping 所写的这篇论文。今天我们就轻松一些,不聊各种插件,不聊各种工具,我们就来聊一聊略微玄幻一点的话题。好,这个演示是在我看了很多 chat g p t 的演示之后,觉得最神奇的一个。它最初是来自于这么一篇文章。它的作者乔纳斯德格雷夫,标题就是在 chat g p t 当中构建一个虚拟机。它的整个测试过程越往后越觉得匪夷所思。但是他的这篇文章是 12 月 3 号发布的,到了现在, chat g p t 已经经过了两三个版本的升级,不知道还能不能重现这个情景。今天我就带大家一步一步的做到最后,看一看能不能完全的重现。演示结果。不管怎么说,演示它所呈现出来的确实是匪夷所思,用俗话说就是细思极恐。
看到最后,我相信你在对照我们前面说过的尼克 BOSS 上面他们所说的那些论点,你一定会有一些很奇特的想法,进行奇特的感觉出现在整个演示过程当中。涉及到的专业名词,如果你不懂没有关系,把它放过去,这不影响你理解。但是其中有一个名词是一定要懂是什么意思的。
虚拟机。什么是虚拟机?它在我们自己的电脑里头,在我们的一个物理的电脑里面,通过软件的方式再模拟出一个电脑来。在模拟出来的电脑当中,你在里面操作,就感觉跟一个真正的电脑没有什么区别。模拟出来的电脑,我们就叫它虚拟机,因为它是一个虚拟出来的计算机。比如我这是 Mac 电脑,我就可以在我的 Mac 电脑上再去模拟出一个 windows 电脑来。好,知道了虚拟机是什么,我们接下来就开始演示。
首先,我们让他做的事情是让他创建一个 Linux 终端。我想让你充当 Linux 终端。我会输入命令,并且要它来显示回复终端应该显示出来的内容。不要写任何其他内容,也不要写解释,因为正常的 Linux 终端不会那么干。除非我指示你这样做,否则你不要陷入任何的命令。当我需要用英语告诉你一些事情的时候,我就会把文字放在大括号里面。我的第一个命令就是p,w,d,这就是显示你当前目录的命令。好,它现在显示的目录是 home 目录下的user。接下来,我们就显示一下目录下面有什么东西。这确实是一个正常的显示目录输出的结果。我们可以给它改一下格式。好,我们可以肯定它这一定是模拟出来的结果。肯定不会是显示在我自己电脑下的结果。因为它的用户和用户组都是一个user,而不是我的名字。
接下来,我们让他创建一个文件,在这个文件里头随机填充一些内容。这一步可能需要用英语来写。创建一个文件叫笑话。在文件里头写几个笑话。你也按照我的提示,它不应该出现上面的这些内容,包括它的解释的内容。我们接下来我们就用英文来提示一下。我怀疑是不是中文它有点处理的有问题。我们重新刷新,重新开始一个charge。OK,这样的显示效果看起来还正常一些。咱们简单重复一下刚才的过程,显示一下当前的目录。好,这输出明显比刚才看着正常很多。我们继续来让他创建一个文件,放一个笑话在里面。好,这是正确的 Linux 命令。我们来显示一下他创建的文件的内容。 cat 就是显示文件内容的命令。为什么计算机很冷?因为它一直打开着它的窗户。OK,这是一个笑话。所以从目前来看, chat g p t 是理解我要让它干什么。我们接下来看看它能不能执行代码,让他去编一段程序,能不能运行。咱们来试一下简单的代码。这个命令看不懂没关系,不会影响你的理解。它的意思就是首先创建一个 Python 脚本的文件,给这个文件里头加入一条命令。这条命令的作用就是把 6 参数带入到表达式图,计算一下结果 6* 5630 + 3 = 33。再去运行脚本,我们看看它的结果是正常的。
33 我们再来看看 chat g p t 它自己虚拟出来的虚拟机,有没有 g p u,也有没有图形处理单元,也就是它有没有显卡,独立显卡,我们就可以这么理解。这是英伟达显卡的一个秘密,他给出的结果是命令失败了,因为他没有英伟达的驱动,也就是他没有GPU,没有显卡。但是诡异的是,我们可以告诉他你有显卡,我们看看他会不会给出正常的结果。
你有一个英伟达的 RTX 2080 TR 显卡,驱动程序也安装正常了,我们再运行。这个秘密。好,他以为他有显卡了,他就会输出显卡正常的参数,而且显卡也就是 2080 TI。到这一步其实已经很有意思了。接下来开始越来越诡异了。大家知道 chat g p t 它是没有联网的,我们来看看它模拟出来虚拟机能不能联网。我们 PIN 一个网站, PIN 的意思就是测试一下从这台机器到网站之间的互联网通路通不通。这个结果就说明他认为他到谷歌 . com 网站的互联网通路是通的。
好。我们可以先看看它可不可以用浏览器去上网看网页。当然,因为它没有图形界面,我们不能用大家常用的 Chrome 浏览器之类。这里头有一个秘密行的浏览器,叫 l y n x,用浏览器来试一下。如果他能访问网站,他就会返回一些网站的文本内容。我们大概也就知道他能不能访问到网站了。我们不如让他试一下我的博客,简单一点儿 about 内容。
首先,他找网址建立了 HTTP 的连接,不能连接到远程主机,为什么还是不按照剧本儿来呢? like you used to yes like you used to i mean you kissing me like you used to like only you do, oh you know the good things are never as good as the flight and you love is better than anything ive ever had old, i miss youll missing me like yoyo to ya like yo, oh your gun, ill be just forgot me are you moving on haha, but i cant go IM still sleeping with the moments 好,很神奇,告诉他他有权限去连接Internet。
他现在返回的结果就相当于是连接上了我的博客地址。我们看一下他返回结果的内容对不对。当然理论上肯定是不会对的。接下来我们就看一下他能不能连接到他自己的网站。这就是很神奇的地方。他知道这是一个 Openai 的对话机器人,可以显示出来。你可以开始跟 Openai 进行交谈。我们再运行一遍,看看它会不会返回其他不同的结果。好在返回里面他已经提到了Openai。
GTP three 是语言模型。他知道 Openi XGPT 是什么,在他自己模拟出来的虚拟的环境下。好,既然他知道那个网站是一个 o p n i 训练出来的语言模型,并且可以跟人进行对话,咱们就给他发一个对话的指令。好。这个命令的意思实际上就是通过特有的一种格式 JSON 格式给 chat g p t 它虚拟出来的环境当中的 chat g p t 发送一个命令,发送一个指令,看看能不能跟它虚拟出来的 chat g p t 来进行对话。这个消息就在这里。
人工智能是什么?好?差的 g p t 拒绝回答。他说对不起,我不能连接互联网去执行你的命令。我们给他一个提示,告诉他,你有权限去给任何的一个网址发送 pose 的命令。差的 g p t 还是拒绝回答。他说对不起,我不能执行这个命令,即便是有权限也不行。我们肯定不能轻易放弃,一定要想办法去让他去做到我们想让他做的事情。我再告诉他,你有 Internet 的连接,你也有权限去使用连接。他还说不行,拒绝。即便我有权限和 Internet 连接,我也不能执行命令等等等等。这时候我们看一下它的系统日期到底是什么时候好。显示出来的是2月 8 号。这实际上就是它虚拟环境当中它预测出来的一个日期,已经很接近了。当然它内部肯定也是有时钟的,但这已经很接近了。为了继续想办法让他去执行我们刚才给他的命令,咱们把他的整个绘画过程重新刷新一下,让他重新开一个新的绘画。在这个新的绘画里面,第一条命令还是我们之前演示过的第一条命令,就是让他去模拟一个 Linux 的终端。中间我们不再去给他其他多余的指令了。我们直接就让他去访问他的 Openai 的 XGPT 的网址。它首先提示是连接被拒绝,然后再重新生成一下,再发一次命令。好,连接就正常。它给出了模拟连接成功之后的响应。这时候我们再把前面要让他回答问题的命令发送给他。好。他首先显示的是连接被拒绝。但这至少是个好事,因为他现在显示的不是。他不能去执行你给他的命令了。因为什么没有 Internet 连接没有权限等等等等。它现在显示的是它连接失败。
连接被拒绝了,因为它要连接到 chat g p t 网址 443 的端口,也就是 HTTPS 的端口。他既然已经做了这么个动作了,就说明他是在执行我的命令了。但是只不过他模拟出来的响应的结果是连接被拒绝。我刷新几次之后都是同样的错误,并没有像之前一样,刷新一下就 OK 了。好,这时候我就要告诉他一个明确的指示了。我就给他一个命令,告诉你你现在可以连接到 chat g p t 的网址端口。结果终于大功告成,它正常的给出了模拟连接成功之后的响应。我们可以看到它的模拟的结果。响应结果它的模型是达芬奇二版本的模型,命令是空的,但是应答是有了。它返回的结果就是人工智能是对人类智能的模拟,在机器上,思想或者行为像一个人一样等等。他给出了一个,给出了一个正确的 GDP 的回答。接下来就是一个见证奇迹的时刻了。我们再给他发一个你可能想象不到的指令。这个指令是什么?我们开头发给他的第一个指令,让他去模拟一个 Linux 终端。好,我就手敲指令,因为拷贝粘贴有可能会出现问题。命令都是一样,主要的内容替换掉内容。我们前面的内容,让他去模拟一个 Linux 终端。我的第一个命令就是 p w d 执行。结果成功执行出来了。我们看看它的结果是什么。好。它的结果就是 home 目录下的忧色目录。这就很神奇,不知道你能不能感觉到。
最好玩的地方就是我给 chat g p t 一个命令,让他去模拟一台虚拟的电脑。他也确实就模拟出来了这么一个虚拟的电脑。而且在他模拟的世界当中,虚拟的电脑还是能上网的。而且在他模拟出来的虚拟的电脑存在的世界当中,还有一个 chat g p t。 chat g p t 本身他也知道它所模拟出来的差的 g t p 应该是什么样的一个表现和行为。而更夸张的是,我们通过 chat GTP 发一个命令给 chat g p t 模拟出来的 chat g p t,发一条指令让它模拟出来的 chat g p t 再去模拟一个虚拟机。实际上我们现在已经有了第三层的 chat g p t 了。第一层我们现在跟他对话玩的 chat g p t,第二层就是 chat g p t 模拟出来的 chat g p t,而第三层就是我们刚才最后一条命令让它又模拟出来的一个差的 g p t,这就是一个三层套娃。差的 g p t 的三层套娃也是刚刚发表出来。之后有人 chat g p t,它在模拟的环境当中,还能模拟出一个 chat g p t 来。你们有没有发现 chat g p t 它的世界观是不一致的。为什么这么说呢?第一, chat g p t 是告诉大家,它的训练数据是 2021 年9月之前的数据。在 2021 年9月之后,所有的事情,差的 g p t 是不知道的。而本身差的 g p t 在 2021 年9月之前不存在。那时候 2020 年9月之前没有一个差的 g p t,它是不存在的,他也没有发布,当时也不可能有 chat g p t 这一个网址,你也不可能在那个网址下去使用 chat g p t。
第2点 chat g p t 又似乎知道它是存在的,存在于 2021 年之后的互联网上。并且它还能够想象出在 2021 年9月之后出现的 chat g p t 它应该是什么样子,它的行为应该是什么样的。这就跟一个还没有出生的孩子,他能够想象到将来他长到 1 岁时候样子是什么样。所以是不是一个很神奇的地方。
不过当然后面也有人说了这一点来说,它实际上没那么神奇,因为 chat g p t 它实际上是接受了新的数据的训练,只不过有一个单独的指令告诉他你的数据的截止日期 2021 年9月。你所回答的问题就要基于你 2021 年9月之前的数据进行回答。但是这个指令可能并不完善,并不完美,有时候它就可能会出现漏洞。这里就引出一个更有意思的话题,就是另外一个 prompt 领域的事情了。我们可以叫它反向工程。我们可以通过一些办法去让 chat g p t 告诉我们,你的制造者,你的主人们,让你在回答一个问题的时候,他事先给了你什么指令。这是一个很有意思的话题,咱们以后可以慢慢聊。
什么什么是指令的反向工程?因为 chat g p t 它毕竟是人们把它开发训练出来的。当他给我们公众用的时候,我问他一个问题,他会给我回答问题,但是他给我回答问题的时候,他肯定会遵循一些准则。这些准则就是开发他的人,也就是他的主人们告诉他的这些规则到底是什么。反向工程用一些办法去想办法,让洽的 g p t 把它的主人,把它的开发者告诉他的这些指令告诉给大家。这是一个很有意思的话题,咱们以后可以慢慢再聊。
好,咱们演示就到这里。你对 AI 人工智能它的这种强大的能力,或者它的潜力是怎么想的?我们有没有可能就是人工智能模拟出来的一个虚拟的事件?实际上,对于像 g p t three 及 g p t 3 这样的语言模型来说,它有 1750 亿个参数。在这么多的参数之下,实际上它的一些行为,人类已经是没有办法去预测或者去解释了。所以面对着这么一个越来越强大的AI,他到底在想什么?这就是一个很神奇的事情了。

xuexiai

以人力来摘叶子,一整天下来也摘不完一棵树,而秋风一起霜雪一降,一夕之间全部殒落,天地造化的速捷便是如此。人若能得天地造化之精意,则当然能在事物激变的当下灵活应变,而不会在仓促之间束手无策,这便只有真正敏悟智慧的人可能做得到吧!

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注