刘慈欣谈ChatGPT:人类的无能反而是人类最后的屏障

据报道,刘慈欣最近在一次活动中表达了自己对以ChatGPT为代表的人工智能可能会给人们带来的影响,回答了人工智能是否会消灭人类的问题。

第一个层次就是这种字面意义上的消灭,就是人工智能用某种暴力从肉体上完全消灭人类或是统治世界。

这一点从目前的这个技术发展趋势来看,特别是从目前的技术水平来看,在可以看到的未来可能性不是太大。

当人工智能的发展,它比人类的智能稍稍高一些的话,它自己也会像人类一样去创造新的人工智能,它创造出来的这个新人工智能可能比它的智能也稍微高一点,那么它又会接着迭代下一代。

这样的话,它们就会很快的把这些人工智能的智能水平提高到很高,可能提高到人类的这个迭代下去,提高到人类的几百倍甚至上万倍,而由于它的这个计算机的计算时间比这个人脑,人的大脑要快成千上万倍,那么这个迭代的时间可能十分的短,这是很可怕的一件事。

但是做出这个预测的人忘了一点,就是我们人类的计算能力,我们所能提供的算力是有限的。它的迭代到一定程度,我们的算力不(能够)支持它。

所以这就是一个有很讽刺意义的一件事情:我们人类的无能反而成为我们一个最后的屏障。

那么第二种消灭则是一种我们想不到的一种方式,就是说第一种消灭人类是完全违背人类意愿的,而第二种对人类的消灭可能完全符合我们的意义。

比如说人工智能的发展,我刚才说过它可能会代替我们的这个大量的工作,而我们的社会如果适应了与人工智能的这种共存,我们发展出一种新的这种分配制度,那么我们就可能带来一个十分舒适的那种社会环境和十分舒适的生活。大部分人可能不需要工作,把大部分的工作都交给人工智能来进行。

在这种情况下,我们会越来越多地交出自己对社会运作的操作这种权利给到人工智能。

而生活会变得越来越舒适,那么这个样子下去的话,我们可能面临着人类历史上前所未有的一个巨大的陷阱。如果这样一直发展下去的话,那可能人类最后的命运就是被人工智能所消灭,但这个消灭的过程完全是在我们的意愿之内,而人工智能至始至终它没有任何恶意,它只是照着人类的指示去行驶。

而这样的如果真的发生这样的事,那人工智能所需要的它的智能程度以及它所需要的计算能力远远小于我们前面那个真正的字面意义上的那种消灭。所以这确实是我们应该对未来有所警觉的一件事情。

(举报)

发表评论