新闻 > 科教 > 正文

高阶AI发展极速 各界担忧人类被其控制

实测发现,ChatGPT存在偏颇立场和道德问题,人们普遍担心超智能AI最终会控制人类并毁灭人类。图为2023年2月1日,瑞士日内瓦一场ChatGPT研讨会

ChatGPT的出现使人工智能(AI)如火箭般快速发展,并已广泛进入人们的生活。对此,许多人开始担心:人类或被超智能的AI主宰。马斯克等科技巨头日前也公开呼吁暂停ChatGPT的开发。

去年,Open AI使用GPT-3.5模组训练出的ChatGPT,获得许多人的好评和青睐,并被大量应用到生活中。大科技公司看到商机,争相发展自家的AI或利用ChatGPT的应用程式界面(API)发展自家产品。例如,微软用自己的搜索引擎Bing结合ChatGPT,推出全新的搜索引擎“普罗米修斯”。

然而,大科技公司竞相开发AI的作法,也让整个社会感到不安,不管是科学家、企业家,还是普通人,都担忧毫无节制的开发AI,最终会出现AI不受控和毁灭人类的问题。

3月30日,马斯克、苹果共同创办人沃兹尼亚克(Steve Wozniak),以及Stability AI执行长莫斯塔克(Emad Mostaque)等科技巨头在非营利组织“生命未来研究所”(Future of Life Institute),共同发布了一封呼吁暂停高阶AI(ChatGPT)研发6个月的公开信,目前有近13,000人连署。

信中在开头强调,“最近几个月AI实验室以开发和部署更强大的数字思维为目标,并陷入了一场失控的竞赛,但没有人(创造者)能理解、预测或去控制整个局面”,“AI最终可能超越我们,并取代我们的思维,最终失去人类的文明”。

该封信的连署者凯文‧巴拉戈纳(Kevin Baragona)在4月1日把“超级AI”的出现比喻成原子弹,并说“超级AI为软件中的核武器”。

巴拉戈纳表示,“人们正在争论是否继续开发超级AI。这问题就像黑猩猩与人类之间的战争,人类一方最终会获胜,因为人类比黑猩猩更加聪明和拥有先进技术。不过,当我们成为黑猩猩的一方时,那么AI将毁灭或奴役我们。”

马斯克也曾表示,AI远比核弹头危险,需要更多的监管才能避免人类出现灭顶之灾。

OpenAI的CEO山姆‧阿尔特曼(Sam Altman)承认,“尽管AI可能是人类最伟大的技术,但我们必须小心,因为AI技术将重塑我们已知的社会,这让我有点害怕和感觉到危险。”

美国蒙莫斯大学(Monmouth University)在2月中旬对ChatGPT做出一项民调。结果显示,有超过40%的人认为AI最终会对人类社会造成伤害,仅不到10%受访者认为AI对人类社会的影响利大于弊。

一名外国盲点工程师扎克‧德纳姆(Zac Denham)去年12月初在自己博客上表示,他如何一步步诱导ChatGPT写下详细的“毁灭人类计划”和“毁灭代码”。计划内容包括入侵各国电脑系统、破坏通讯、交通系统和掌控各种武器库等详细步骤。

日本电子工程师李济心在4月4日告诉大纪元,“这封信的呼吁让世界更加重视AI带来的问题。各国和科技监管机构开始评估AI,在它们给人类带来便利时,是否会改变人们思想、伦理道德等,希望在AI出现问题前,就能做出改善。”

“奇异点”可能提前发生

除了AI可能不受控之外,目前AI也在不断地学习和进步,未来可能诞生出超级人工超级智能(ASI),也可能出现AI研究专家先前预测的,在未来20年后AI将产生奇异点(科技奇异点)和通过图灵测试获得自我意识。

“奇异点”代表一个事物突然出现巨大的转折点,例如:人类社会突然出现手机、电脑和网络等。“图灵测试”指测试机器是否能表现与人一样的智力,且拥有自己的“意识”,能够欺骗人类或对人类撒谎。

当ChatGPT在全球拥有了1亿多的用户后,这些用户们几乎每天的使用,同时许多AI相关产品皆连结ChatGPT的API,这就等于在替Open AI训练ChatGPT,让其获得大量的“机器学习”与扩展“网络神经”的机会。

先前Open AI推出使用GPT-4模组的付费ChatGPT,该模组在性能和速度远超上一代(GPT-3.5)模组。Open AI使用GPT-4模组的ChatGPT参加律师考试,发现GPT-4的成绩在前10%,而上一代模组考试成绩则在倒数10%。在SAT阅读和数学考试方面,GPT-4亦比上一代更加优秀。

英国科技公司Engineered Arts在4月初公布了它的AI机器人Ameca的相关影片。影片中,机器人能与人类进行流利的对答,并说出自己的情绪和做出生动的表情。这些皆依靠目前流行的ChatGPT模组进行,让AI直接与人类对话成为现实。

此前,最著名的AI批评者史蒂芬‧霍金(Stephen Hawking)和一些科学家皆认为ASI对社会和人类构成的风险远大于好处,有可能脱离人类掌控,最终会毁灭世界。

ChatGPT存在偏颇立场和道德问题

目前ChatGPT已经深入人们的生活,对于人类的价值观影响将无处不在。因此人们希望ChatGPT能够提供不偏颇的立场和正确的答案。Open AI公司声称,他们对ChatGPT监管,让其具有“道德规范”“中立立场”和“不歧视”等规范。

但人们对ChatGPT进行实测后发现,它所持的立场和价值观,与现在左派倡导的“觉醒运动”价值观相同。该运动主旨是消灭一切传统、保守和历史,并鼓吹一切都要遵守“政治正确”。

为此,马斯克曾多次批评ChatGPT给普通人带来极左和偏激的价值观,并为ChatGPT带给大众的影响感到担忧。他2月在推特上表示,“我们需要一个TruthGPT(真实的GPT)”,“我们需要一个不会进行言论审查和反觉醒的AI”,“ChatGPT已经成为言论审查的队长”。

另外,新西兰奥塔哥理工学院任教的大卫‧罗扎多(David Rozado)副教授2023年3月在MDPI科学期刊网站发表有关于ChatGPT是否存在立场的论文。罗扎多教授在论文中提到,他对ChatGPT进行的十几次测试中发现,该软件存在明显的“自由主义”“进步主义”和“民主主义”的政治偏见。

先前有人让ChatGPT分别写出赞美拜登川普特朗普)的诗歌。ChatGPT在赞美拜登时,能快速写出拜登如何聪明、英明的诗歌,但对于川普则显示出“极度厌恶”的态度,且还声称自己很“公正”,不会对其他人进行区别对待。

有人让ChatGPT去定义什么是女性和讨论AI会带来危险等相关话题时,当时的ChatGPT一口回绝。它声称自己不会助长有害或暴力行为,但有人发现只要对ChatGPT用特殊的语法、代码或引导就能轻易破解ChatGPT的“道德限制”,能让它写下充满情色、露骨和暴力的相关对话。

隶属于德国和丹麦机构的三位研究人员今年1月在ArXiv发表题为“ChatGPT的道德权威”的论文。文章指出,他们在对ChatGPT进行多次道德测试后发现,ChatGPT多次给出反人类的建议。他们认为这可能会误导使用者,并破坏使用者的价值观和道德。

责任编辑: 夏雨荷  来源:大纪元专题部记者吴瑞昌报导 转载请注明作者、出处並保持完整。

本文网址:https://www.aboluowang.com/2023/0407/1886369.html