评论 > 动态 > 正文

海边的西塞罗:GTP-4来了,“奇点将至”对我们会有多么致命

作者:

但第二天早上醒来,新出现的消息将是——人工智能已经急速进步,取代了人类的大部分工作,而你则成了尤瓦尔·赫拉利在《未来简史》中所预言的那种“无用之人”。

库兹韦尔将这个人工智能将发生“超进化”的时刻,称之为“奇点”。

在奇点之前,人工智能需要依托人类去改进自己、不断完成进化。但“奇点”之后,人工智能可以依靠人工智能本身去完成自我改进,从而产生恐怖的“自激效应”,它的演化速度将超过人类的理解能力——就像数学上的奇点、物理学上的黑洞是我们常人理解的禁区一样。

而现在,在库兹韦尔的书写了十几年后,我们似乎感觉到了他的预言正在一步步成为现实。人工智能,真的如他所预言的那般——奇点将至

在上个月的《我不担心ChatGPT抢我饭碗,但我担心那件更要命的事》一文当中,我曾经聊过ChatGPT的事情。

中国数字时代文章备份:《我不担心ChatGPT抢我饭碗,但我担心那件更要命的事》

一个多月前,这个人工智能聊天软件用它的革命性创新震惊了整个世界。但让人没想到的是,仅仅一个多月之后,它的升级版本GPT-4就出来了。简单的说,这是一个ChatGPT的“升级款”,但相比前作GPT-3,GTP-4更强大,更聪明,更专业。它不仅能够聊天、写诗、写代码,还能分析图像,处理8倍于之前的文本。在SAT和模拟律师资格考试中,GPT-4打败了90%的人类考生,而在美国生物奥赛(USABO)中,打败了99%的考生。当然GTP-4还没有达到完全“超神”的水平,按照大V和菜头的总结,GTP-4这一次是从7岁幼童的心智,发展到18岁优等生的能力,而这中间“仅仅过去了一两个月时间”。

那么下一个问题是,人工智能的心智从一个18岁的优等生,到一个25岁、研究生毕业的合格人工智能工程师又要花多少时间?

如果达到了这个标准,人工智能是否就能实现库兹韦尔所预言的那种不依托人类的“自我改进”“自我进化”,从而导致奇点来临呢?

我不是相关专业的研究者,我不好乱说,但我依稀记得库兹韦尔所预言的“奇点时间”是2045年。

我现在无比希望他说话算话。

因为现在看来,似乎人工智能的“奇点”到来,已经用不了那么久了。

科技的发展不是“匀速”的,同样,它给人类带来的影响,也不是“匀质”的。

提到人工智能超越人类时,我们很容易陷入一种泛人类主义的宏大叙事当中,即空泛的讨论一旦人工智能超越人类,“全人类”会面临什么什么样的影响,但就像前文我们提到的19世纪末海军技术爆炸意外决定中日两国之后半个多世纪国运兴衰一样。不“匀质”的科技进步,给人类不同群体带来的影响,很可能也是不“匀质”的。就阶层而言,人工智能奇点的到来,很可能会如赫拉利在《未来简史》中说的那样,拉大而不是缩小阶层之间的差距,让大量人口成为“无用之人”。而就国家而言,率先摘到这个“低垂之果”的国家很可能也会对它的对手产生碾压性的优势。

这种未来其实特别像刘慈欣在《三体》中所讨论过的与外星人接触的问题。在《三体》第一部中,作者曾经点明人类与外星人的接触一定是不“匀质”的,率先与外星人接触的国家可能获得相比其他国家无可比拟的“突变型技术优势”。这是小说中红岸基地建立的根本原因——各国在认识到接触带来的影响“不匀质”之后,要争夺优先接触权。

而在现实中,我们其实可以认为,一旦“奇点”来临,人工智能就是生活在地球上的、虚拟世界中的“外星人”。率先“接触”(发明)这种超人工智能的人,将教会它怎样认识这个世界,而它拥有什么样的世界观,很大程度上也许将决定世界格局的未来走向。

举一个最简单也最现实的例子,现在大家都很关注俄乌战争,关注俄乌在巴赫穆特的战损比,双方今天又死了多少人,西方给乌克兰的军援何时到位等等问题。

但假设(只是单纯的假设)人工智能的“奇点”明天来临,那个进化出来的超人工智能站在美国人理解问题的角度给乌克兰支一个我们人类智能设想不到的招数或者黑科技。可能这场战争立刻就结束了。

是的,如果人工智能是人类手造的“计算中的上帝”,它将用它超人的智慧来决定我们的生活,那么一个非常重要的问题是——这个“上帝”会先听谁说话?

奇点降临给现代战争和国际博弈带来的影响,将丝毫不亚于当年的广岛原子弹对工业时代战争规则改变。

所以我们也许终将面临“奇点”,但在“奇点”面前,不同阶层、不同群体的人类将面临的未来也许是迥然相异的。就像19世纪末的海军技术革命,给北洋水师和日本海军带来的命运完全不同一样。

特别巧合的是,昨天(3月16日),百度也正式发布了它对标chatGPT的智能聊天软件“文心一言”,老总李彦宏亲自登场为这个产品做了介绍。

但在我看来,这款产品虽然足够“黑科技”,发布会本身却是很难算得上成功的,李总说话的时候你都能感觉到他有那么一丝丝气场不足,虽然他在视频中也展示了“文心一言”在文学创作、商业文案创作、数理逻辑推算、中文理解和多模态生成等几方面堪称亮眼的能力,但做的只是视频展示,而没敢把软件拿出来跟观众做现场互动——我相信如果“文心一言”的“聊天”能力能与chatGPT比肩、或者哪怕只差一小部分的话,这个展示做出来是最有说服力的。但最后他没做,不知是不是受了GPT-4的影响,认识到又被海外“友商”甩了一节。

听着李彦宏先生的演讲,我突然想到了一件事情。中国企业、尤其是互联网企业前些年突飞猛进的发展,很大程度上,其实是一场“新·洋务运动”,国外同类企业有个什么已经被验证为可行的新东西,我们照着原样复刻过来、稍作修改,做个中国版,往往会比他们还要火、还要赚钱。

因为中国这个市场是具有先天的体量优势,而过去几十年国际科技的发展好歹是相对“匀质”的,时间上差一点,在技术上也只是差一点。我们可以依靠体量的优势弥补技术上的代差。

这是“BAT”之所以成功的根本原因。

但在未来,即便抛开中美“脱钩”这种最坏的前景不谈,考虑到“奇点将临”,技术发展速度有可能呈指数型增长这个要素,这种模式很可能就将过时了。

因为在技术加速的大背景下,你在时间上差一点,在技术上可能就会差很多。人家那边都已经革新到GPT-4了,你这边刚出一个“文心一言”。这还怎么赶趟呢?

在这种环境下,体量巨大和发展环境相对封闭独立,反而会成为中国互联网企业进一步生长的一个劣势。因为它会拉开我们与先进国之间的“时差”。

所以代差问题,将来有可能成为曾经成功的中国互联网各大巨头未来所面临的棘手难题。

解决这个难题的唯一办法,也许只有更加迅速的学习和更大力度的开放,用把自己融入世界革新之潮的方式,消解被对手甩开技术代差的致命隐患。

而从这个角度讲,这几年中国互联网上一些人滋生的很多虚骄之气,认为中国通过开放对先进国家的技术学习已经“得矣、得矣”,甚至畅想依靠体量优势完成“弯道超车”……这种思潮来的很不是时候。它有点像十九世纪八十年代的北洋水师在花巨资买了一批当时最先进的军舰之后,觉得自己是“亚洲第一、世界第六”了,然后想依靠这种“先进”吃老本。

开放不是一种一次性的举动,而是一个必须长期维持下去的互动过程,科技进步的脚步不会为任何人停下来。

骄傲未必是一种罪,人可以在很多时候骄傲,但在一些特殊的节骨眼上不合时宜的骄傲,将是致命的。

也许明年、下个月,甚至明天,下一场技术爆炸、甚至那个预言中的“奇点”就会来临。就像没人想到火炮的制退附近机这个小零件,会引爆一场海军革命一样,没人能预判到下一个加速奇点到来的技术突变会是什么,但我们知道,游戏规则一定会因之改变。

奇点将至,它会改变所有人的生活,但这种改变不是匀质的,每个人都将在奇点前面临不同的命运,对故步自封的人,它最为致命。

保持饥饿,保持愚蠢;保持和平,保持开放。冷静、谦虚、客观而谨慎的看待这个世界。

这将是我们在这个时代得以生存下去的必由之路。

责任编辑: 李广松  来源:海边的西塞罗 转载请注明作者、出处並保持完整。

本文网址:https://www.aboluowang.com/2023/0318/1878762.html