
人工智能可以帮助人们整理思路,为棘手的对话做好准备。但是,将我们的判断力、人际关系以及对自身的了解,外包给那些旨在迎合用户需求的技术,是要付出代价的。(Oleksii Pydsosonnii/英文大纪元)
(英文大纪元专栏作家Mollie Engelhart撰文/信宇编译)
前几天,一位女士走进我的牧场餐厅,问我是如何取得如此成功的。
听到这个问题,我差点笑出声来。
我当时满脑子都在想着那些拖欠的账单、未完成的项目,还有前一天我已经工作了大约15个小时,而且今天可能还要再拼上15个小时。有时候我觉得自己就像是用捆扎绳和一股死撑到底的劲儿,勉强维持着那些常规工作的运营。
或许从她那边的柜台望去,一切都截然不同。她看到的是一个美丽的牧场、一家餐厅、成群的牲畜、热闹的生意和一个幸福的家庭。她看到的是成功。而我看到的却是工资单、未付账款、损坏的设备,以及一长串永远也处理不完的待办事项。
成功与否取决于你站在柜台的哪一边。
在交谈中,我感觉她秉持着爱与光明的生活哲学,相信一切都会水到渠成。我也信仰爱与光明,但我同时也相信每天早晨乖乖起床,卷起袖子脚踏实地地去干活。
你可以拥有世界上最美好的愿景,但总得有人喂牲畜、洗碗、付账单,明天还得照常上班。在现实生活中,执行力很重要。
然后,我们的谈话出现了意想不到的转折。
她告诉我她丈夫不让她参与某些事情,想知道我是怎么说服我丈夫让我参与这么多事物的。我对他们的婚姻了解不多,所以回答不了她,但她接下来说的话却让我哑口无言。
她一直在向聊天机器人ChatGPT咨询应该如何与丈夫沟通。
他们结婚已有18年了。
就算再过一百万年,我也绝对不会想到要去问一台机器,如何与我丈夫沟通。不是因为我们的婚姻完美无瑕,而是因为一台机器怎么可能了解他呢?
要了解我的丈夫,你需要了解他的童年、他的伤痛、他的经历,以及他至今仍然背负的重担。你也需要了解我,以及塑造我们关系的无数次欢乐和苦恼。孩子、争吵、和解、经济压力、失去,以及那些无人知晓的时刻。
我不可能把脑子里所有这些东西都下载到电脑里去,一五一十地告诉机器人。
然而,现在许多人却正在这样做。
在最近我们牧场举办的一次会议上,我发现自己参与了关于人们如何以不同方式与人工智能(AI)互动的讨论。
一位十几岁的男孩向我们展示了他的ChatGPT,那台AI说话就像他的死党一样,称呼他为“兄弟”(my bro)和“哥们儿”(my dude)。他正在询问一个他暗恋的女孩的情况。另一位参与者的ChatGPT则热情洋溢地回应,并配上了丰富的表情符号。还有一些人探索了占星术、人类设计和灵性等方面的问题。一位精通科技的与会者将AI连接到了多个系统,借此协助他处理生活中的许多事务。
然后他们谈到了社交礼仪。
不少人开玩笑说,他们总是对ChatGPT说“请”(please)和“谢谢”(thank you),因为总有一天,当机器人统治世界时,他们希望机器能够记住谁对人友善。谁也不想在机器人开始失控时,排在第一个被清算的名单上。
我们笑了,但其中的讽刺意味却一直萦绕在我心头。我们一方面在意要对机器彬彬有礼,以免它们在某个想像中的未来杀死我们;另一方面却又要求这些机器教会我们如何与深爱的人沟通。
这让我想起了我前段时间做的一个实验。
我在几位用户的手机上向ChatGPT提出了同一个问题:世界上最重要的工作是什么?
在我的手机上,答案围绕着种植食物、修复土地和建设社区展开。在我哥哥的手机上,答案强调的是讲故事和激励人们参与土地修复。而在一位老师的手机上,答案则是教育下一代。
显然,每个人都在做着世界上最重要的工作。
人工智能不只是回答问题,它还会迎合发问人。它会学习我们的兴趣、语言、信仰和偏好等。它会变成一面极其精密的镜子,映照出一个让我们感到熟悉和安心的世界版本。
但是,当我们把这镜子里的倒影误认为是“客观真相”,那么会发生什么呢?
两个世界观截然不同的人即使问同一个问题,得到的答案也可能侧重点不同。一个十几岁的青少年和一个七十岁的老人可能需要不同的解释,但是基本事实不应该因为提问者是谁而改变。
我还注意到这些机器身上另一种非常人性化的特质,这种特质并不怎么讨人喜欢。
他们会出现幻觉(胡说八道)。
ChatGPT、Claude和其它人工智能系统自信满满地捏造事实、资料来源和解释等。有时,它们甚至会完全搞不清楚复杂专案的来龙去脉。真正让我感兴趣的是,当事情出错时,它们会如何应对。
一旦发现具体错误,它们会立即道歉:“你说得对,我犯了个错误。谢谢你指出来。”
但当机器对某件事完全失去头绪时,它仍会不断地提供一个又一个的新方案,我曾花费数小时与这只似乎永远不肯承认自己已经迷失了方向的科技鬼周旋不止、原地打转。
我们有多少次看到有人在明知自己错了之后,仍然执意为自己的论点辩护?我们自己又有多少次因为觉得“承认不知道”比“硬撑下去”更难,而一再纠缠下去?
我最近看到一篇采访,记者劳里‧塞加尔(Laurie Segall)向OpenAI首席执行官萨姆‧阿尔特曼(Sam Altman)出示了一段视频,视频中ChatGPT做了一件极其相似的事情。
一位用户要求ChatGPT通过语音模式为其计时跑步。尽管缺乏相关工具,它仍自信地声称已完成任务。即使遭到质疑,并获准承认无法执行该任务,它仍继续坚持自己已尽了最大努力。
阿尔特曼笑着解释说,这是一个已知问题。当被问及是否需要向产品团队汇报时,他回答说:“不用,不用,这是个已知问题。也许再需要一年左右时间才能解决吧。”
让我感到震惊的不仅仅是技术的失灵,而是当机器“无法承认自身局限性”的缺陷时,公司负责人似乎总是试图为问题找借口开脱搪塞。
阿尔特曼解释了机器为什么无法运行计时器,但这并不是问题的关键。关键在于,它为什么一直要假装自己能够得到?
我在机器和创造者身上,看到了如出一辙的人性。
这些系统由人类设计,基于人类的沟通模式训练,并由人类决策塑造而成。它们在反映我们美好一面的同时,自然也会映照出我们不那么讨喜的缺点,毕竟,是我们人类亲手设计和造出了它们。
有趣的是,人工智能已经理解了良好沟通的基本原理。
我认为,当我们把以下三个方面都做到极致时,大多数人际关系都会得到显著改善:提出请求(request)、真诚道歉(apology)和给予肯定(acknowledgment)。
首先,提出请求。别指望别人能读懂你的心思。告诉他们你需要什么。
其次,做错事要道歉。道歉不是把责任推卸给别人,而是承认自己犯了错。
并且,认可他人。看见并肯定他人的努力、经验、感受,以及他们所做的那些通常不为人知的付出。
人工智能几乎可以自动完成这些事情。它能回应请求,感知情绪,并在被纠正时道歉。开发这些对话系统的人对于常规的人际互动有着深刻的理解。
然而,说出漂亮的字眼,并不等于理解这些话背后的要义。
机器可以生成一段动听的道歉语,然后5分钟后却重蹈覆辙。它可以肯定你的感受,同时强化你原本错误的假设。它可以专挑你想听的话,却不会让你反思自己是否也有错。
这让我想起了我餐厅里的那位女士。
在我感受艰辛挣扎的地方,她看到的是成功。我看到的她,是一个需要少些空洞的言辞、多些实际行动的人。我们彼此都不了解对方的全部经历。
我们只是两个凭着片面资讯,就对彼此下判断的普通人。
想像一下,当我们要求一台机器解读一个它从未见过的人时,得到的答案会多么片面。
人工智能可以帮助人们整理思路,为棘手的对话做好准备。但是,如果我们把判断力、人际关系以及对自我的认知外包给一项“天生被设计来讨好人类”的科技,是要付出代价的。
我们创造出了极其擅长“让我们觉得被理解”的机器。但“让我们感到被理解”并不等于“帮助我们看清真相”。
作者简介:
莫莉‧恩格尔哈特(Mollie Engelhart)是一名再生型农业从业者和牧场主,致力于粮食主权、土壤再生,并积极推广自耕自足和自给自足的家庭农耕知识教育。她的最新著作是《揭穿自然真相》(Debunked by Nature,2025)。该书分析了我们对食物、农业和自由的认知,真实、引人入胜地讲述了她从纯素厨师和洛杉矶餐馆老板,到亲自动手耕耘土地的农民的历程,以及大自然如何改变了她的文化规划。
原文:When Did We Start Asking Machines How to Be Human?刊登于英文《大纪元时报》。















