颠覆三观的未来人工智能——从美国宇航局奇点大学发回的报告(上)

我觉得硅谷有一点很了不得,就是在有很多现有的成功的公司在运作的同时,还有很多“超硅谷”或者“超现实”的小众研究。从事这些研究的经常是一些科学狂人、或者奇怪天才等等,他们的工作也许现在关心的人并不多,也没有多大的商业价值,不过就像我的一位朋友说的,这些东西能对所有人的想象力构成冲击,也把未来市场的潜力给“撑开”,才会让大家不会局限在现在很火的那几个创业领域,也才能让这个地方长久的不断带来颠覆性创新。

Singularity University就是像上述提到的这样一个地方。它的校址设在山景城的NASA Research Park(美国宇航局),大概可以粗略的翻译成“奇点大学”,(“奇点”是一个根据技术发展史总结出的观点,认为未来将要发生一件不可避免的事件──技术发展将会在很短的时间内发生极大的接近于无限的进步。当它来临的时候,旧的社会模式将一去不复返,新的规则开始主宰这个世界。而后人类时代的智能和技术我们根本无法理解,就像金鱼无法理解人类的文明一样。)这里研究的课题包括生物信息学、强势人工智能等等,意在让人们可以驾驭即将以指数速度发展的新技术。我在这里听了一个关于人工智能的发展与未来的讲座,感觉出来以后自己的世界观彻底被颠覆了,就拣要点和大家分享一下。(可能听完这个以后你会觉得现在世界上存在的一切公司和他们所研究的东西比都是小儿科,这不一定对,但不可否认正是这样一些人在不断挑战我们的想象力。)

 

AI的可能跨度

AI到底有多聪明,人工智能到底可以达到怎么样的复杂程度和多样程度?Jose Cordeiro教授提到的一个现象非常有意思,比如说我们经常认为人和人之间是非常多样的,不同的能力、兴趣、个性、智力等等,但我们总觉得电脑和电脑之间都差不多,起码不像我们人类之间一样有好坏之别。Cordeiro却认为,AI可拥有的多样性比我们想象的这个要大得多,它可以发展到的范围也比所有自然存在的东西都大得多。这是因为AI是可以被刻意创造的,它不是进化的结果,自然也就不受进化过程的制约。我们知道,自然进化是可以进化出鸟的,但是它进化不出超音速飞机,那是因为自然选择的基础就是一步一步的逐渐变化。但AI就不一样了,所以很有可能AI可达到的范围比所有进化过程可以达到的范围都大得多,那比人类的智力范围就更大得多。

Cordeiro据此提出,我们对AI的能力的直觉上的估计恐怕是差了许多许多倍,而且是“指数倍”的。表面上看,一只老鼠、一个笨人和爱因斯坦,它们之间就已经够极端的了,那是因为我们的想象力现在只能达到这样一个跨度。不过AI的真正潜力恐怕在另外一个数量级上。这让我想起了另外一个类比,即人们对世界和宇宙大小的认识。一直到几百年以前我们都觉得地球就大极了,就是整个“世界”,就像我们现在觉得爱因斯坦就是天才的极点一样。而后来我们才发现太阳系的大小、银河系的大小、河外星系的大小。我记得小时候第一次读到这个的时候,宇宙的可怕的范围和人的无穷渺小就对我产生了强烈的震撼。AI自然也有可能产生同样强烈的跨度,只不过我们现在还处在相当早期的发现阶段而已。

 

 

AI和人类的关系

AI主宰的世界有可能是我们现在根本没办法想象的,它和其他的技术还不一样。比如说,生物技术即使不断发展,人基本上还是人的形状。但AI的世界呢? 想理解这种巨大差别我们需要了解一下中世纪的世界,也许AI和我们的关系就像是中世纪的时候上帝和人们的关系一样。而且这绝不是无稽之谈,因为不管是上帝还是神,都是人们可以创造出来的东西,可是这个人造的概念为什么会反倒凌驾于人之上被膜拜?AI在未来会以同样的方式去主宰我们吗?

科技的历史基本上就是用技术替代人力的历史。不管是古代的犁,还是古滕堡发明的印刷术,还是工业革命时的纺纱机,都曾经让许多的传统工人失业。因为机器就是被设计的用来让人们更有效率的做事情的,所以虽然机器让很多工人失业,但人们不会觉得机器在本质上是坏的。所以说,关于AI的未来的一个类似的重要问题就是他是否会取代人,而这个问题就一下上升到伦理高度和政治高度了,因此也十分的复杂。比如说,在没有交换的情况下,我们的产出非常少;如果每个人可以去专注于自己所擅长的项目,我们的生产边界就提升了。这个简单的贸易模型是解释技术变革的一种方式。比如说,由于纺纱机的发明,有一些原来的纺纱失业了,但是布的价格因此下降了不少,所以即使是之前那些失业的工人也可以找到一些更适合他们的新工作,并且同时有钱去买更多的衣服。

以上说的是大卫·李嘉图所论述的经典情况。AI是否就会成为类似这样的一种自然分工模型呢?人类擅长某些事情,电脑擅长另外一些事情。由于他们相互之间有很大的区别,进行自然分工就能创造很多额外价值。在这种情况下AI依然是为人类服务的,而不是要取代人。

不过,上述论述和人类和AI之间能力差别的大小有关,只有AI在某些方面优于人类,但并不是好很多很多的情况下才会出现,但假如AI比人类在每个方面都强太多了会怎么样呢?假如AI 的智力、体力、记忆力等等都比我们强1000倍,那我们就没有能够驾驭的了它的杀手锏了可能,因为它已经没有必要去和我们做分工了。(想想看,我们也不和蚂蚁老鼠一类的小动物去进行分工是不是,在我们面前它们就是完全的弱小,说的就是这个道理)这样的话我们将不得不和AI去争夺对所处世界的控制权,每一次的科学技术进步都让人类对世界的控制多了一些,但很有可能在到达了某一个重要点以后,AI的强大超过了我们的控制(也就是希腊神话中说的:“潘多拉的盒子打开了”),结果我们便会变成他的追随者。(也许人们会造出一个超级电脑,这个超级电脑自称宙斯,然后向人们发射闪电以指挥人们等等……)

可以想见的是,目前存在的研究这个的公司并不多,我们可以先了解一下其中的几家代表的发展情况以及策略,下期推出。

(未完待续)

订阅更多文章