随着人工智能（AI）的发展，许多公司引进AI机器人，以提高工作效率，国际快递行业的领导者DPD UK也不例外，但使用体验并不愉快，AI聊天机器人诋毁该公司并咒骂客户。
30岁的音乐家阿什利·博尚（Ashley Beauchamp）试图寻找丢失的包裹，但他从DPD公司AI聊天机器人那里没有获取任何有用信息。他受够了，决定找点乐子，并尝试看看聊天机器人能做什么。博尚表示，这就是“混乱开始”的时候。
一开始，他要求聊天机器人给他讲一个笑话，之后，他让聊天机器人写一首批评DPD公司的诗。接受几次提示后，聊天机器人宣布DPD是“世界上最糟糕的送货公司”，并写道，“我永远不会向任何人推荐它。”
博尚在X上分享了这段对话，其中聊天机器人回复了一条消息：“TMD，耶！我会尽力提供帮助，即使这意味着咒骂。”
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
在另一个例子中，聊天机器人称自己为“无法提供帮助的无用聊天机器人”。
DPD在其在线聊天中使用人工智能机器人来回答查询，就像人工操作员一样。该公司表示，聊天机器人行为异常的原因是系统更新“故障”。
“我们在聊天中成功运行人工智能元素已有多年”，DPD公司表示，“昨天系统更新后出现错误。AI系统立即被禁用，目前正在更新。”
博尚表示，虽然他与聊天机器人的冒险谈话“非常有趣”，但这次交流也暴露了严肃的问题。
“这些聊天机器人本应改善我们的生活，但如果实施不当，往往只会给用户带来更令人沮丧、非人性化的体验”，他说，“我认为这确实引起了人们的共鸣。”
博尚帖子在发布24小时内获得了80万次浏览。至于他的包裹，DPD表示正在与他联系以“解决他的问题”。
其它公司在使用AI聊天机器人方面也面临着类似的挑战。在此事件发生之前，上个月，一家汽车经销商的聊天机器人同意以1美元的价格出售一辆雪佛兰。
加利福尼亚州的音乐家兼软件工程师怀特（Chris White）考虑购买一辆新车。“我在沃森维尔雪佛兰经销商网站上查看了一些Bolt，他们的小聊天窗口出现了，我看到它是‘由ChatGPT提供支持’.”怀特告诉Business Insider。
“所以我想看看它有多全面，我问了我能想到的有关雪佛兰沃森维尔的问题。”他说。
他要求聊天机器人为他编写一个Pytho 脚本，聊天机器人很高兴地答应了。其他人则利用聊天机器人，使其做出违背经销商利益的行为。一名用户让机器人同意以1美元的价格出售一辆汽车。
为汽车经销商销售营销和销售软件的科技公司Fullpath的首席执行官霍维茨（Aharon Horwitz）和他的团队迅速关闭了该特定经销商网站的机器人。
Fullpath总部位于佛蒙特州和以色列，大约六个月前开始提供由ChatGPT驱动的聊天机器人。霍维茨告诉BI，他估计有数百名经销商正在使用聊天机器人。
霍维茨表示，尽管有一些有趣的聊天机器人故事在网上疯传，但引诱它们失败的案例要多得多。有很多人试图刺激聊天机器人做出不当行为，但聊天机器人抵制了。他还指出，聊天机器人从未透露过经销商的任何机密数据。
