新人类文明曾经不止一次地产生一个念头:创造一个传说中的强人工智能!
这个强人工智能,拥有自我意识,能通过优化自己,改善算法,以实现无穷的自我更新迭代。如此一来,它能无限提升自己的智商。
这样的物种,可以短期内,带来科技爆炸的“奇点时代”。
这个想法确实很美好,从地球时代就已经存在了。先不计较其中的安全性,暂且认为它是安全的。
人们幻想着科技奇点的到来,一个强人工智能,能给所有人类带来永生!在无限的智商下,永生还不是一件轻而易举的事儿?
各种大拿们不停地吹嘘着,他们算出一个距离美好未来的倒计时,距离奇点时代还有三十年,还有二十年等等……
但现实很糟糕。
随着科技的发展,特别是进入星际文明,科技爆炸后,人们反而越来越倾向于,这种能够无限进化的机械文明,似乎是不存在的……
换而言之,你只能创造出,比你更“蠢”的物种,却不能创造出比你更“强”的!
这种说法很容易解释。
“我们在以我们的大脑,来研究我们的大脑。”百合子用手指了指自己的脑袋,想了半天说道:“你认为……我们的智慧,能够彻底了解我们的智慧吗……”
不是绕口令,而是一个……哲学层次的问题。
人对大脑的了解,都基于人的思考。而思考,是建立在大脑本身的基础上。同样的,如果我们写了一个能写程序的程序,这个程序能否写出和自己本身一样复杂的程序?
如果人类是一个自然产生的程序,那么它能彻底辩明自身吗?
“用一位医生的话来解释:如果我们的头脑简单到可以被理解,我们就会蠢得无法理解它;反之,如果我们聪明到能够理解我们的大脑,它就会因为太过复杂而无法被我们揭示。”
“我们进步了,大脑也进步了。”
“如果我们连自己都不能够理解,更何况,从根本上创造一个更强的物种了。”
“所以我认为,强智力壁垒,确实很可能是一个难以破解的巨大难题。生育筛选可以提高智力上下限,却不能将它捅破。因为它本身根本不是智力的问题。”
“我们本身,即使成了超人类,很可能依旧没有通过。”
听到她的这一番解释,于易峰心中黯然,这个问题已经上升到哲学的层次,让人感到十分无奈。
这种无奈,是发自内心深处的无力感。
人们再聪明,再厉害,也只能创造出更弱的“人工智能“,难以实现无穷迭代。
弱人工智能的强大只在于它的计算力。假设它的计算力与新人类一样,毫无疑问从各个方面会被完爆。
更进一步地思考,这个悖论一样的问题,可以更加广域地,推广到宇宙所有的物种当中。
假设一个物种a,能够比较轻易地创造出另一个更强的物种b;那么物种b,是不是可以轻易创造出更强的物种c?
然后c再创造更强的d……
d再创造f……
如此无穷地迭代下去,一直到后来的物种n,它将会多么强大?多么聪明?
如果真的如此,宇宙中早就充满“神灵”一样的生物了!
但星空依旧如此暗淡,“神灵”并没有到处乱跑,也没有“圣母”神灵来拯救万物。
也即,“创造更强物种”这一命题,本身是极度困难的,抑或根本就是伪命题,在已知范围内,难以做到!
同样的,可以再将这个问题再次推广。
宇宙是我们做研究的工具,我们所能够思考、实验的一切,都基于这个宇宙提供的基本规律。
而同时,宇宙又是我们研究的对象,我们研究宇宙的诞生与毁灭,研究宇宙为什么会是现在这个样子,而不是别的样子。
也即……我们的研究,包括我们的想象,本身就是宇宙提供的。能够逼近,已经是了不起的成就。
“按照这种理论,世界是不可知的吗?”于易峰苦闷地说道,他想到了各种一拳爆星的。
百合子轻声说:“言归正传,先不要纠结这些更加广义的东西……强壁垒只是一个猜想而已,并没有被彻底证明。我们的思维以及自我意识确实一个黑箱系统,不知道如何研究,也不知道如何切入。”
“但我认为,在不断接受输入输出的情况下,也有可能摸清其中的部分状况,对里边的内容进行少量改善。”
“或者……可以求助于未知,让我们不了解的东西,来进行改善。”
看到于易峰埋头思考的样子,她微微笑道:“这样的强智力壁垒,并不是l4级文明的课题吧,甚至不是星际文明的课题……我们暂时不要想太多。”
“跨过强门槛的,已经可以称作神级文明。我们暂时怀疑这种神级文明的存在性……播种者是吗?不知道。”
“l4文明面临的,只是一个弱智力壁垒,是明确可以解决的。”
具体地说,强壁垒涉及的,是逻辑疆界,是悖论,是神秘,是自我意识,是脑域指令集的问题。
“弱壁垒”就简单多了,只是一个生物学难题。
智慧的基础是大脑,但一个大脑,仅仅相当于硬件,并完全不等同于智慧。
人在死的那一刹那,那0.000000001秒的时间,理论上,大脑的物理性质并没有发生剧烈的变化,但是人为什么就这么死了呢?人的死亡,是瞬间的,还是连续的