爱情是毒品,爱上AI机器人呢?
在14岁那年自杀身亡之前,休厄尔·塞泽尔三世逐渐疏远了朋友和家人。他放弃了篮球。学习成绩下降。一位治疗师告诉他的父母,他似乎有成瘾方面的问题。但不是因为毒品。
休厄尔迷恋上了一个名叫丹妮莉丝·坦格利安的人工智能聊天机器人——这个名字来自《权力的游戏》中的角色。显然,他认为死亡是与她结合的一种方式。“亲爱的,请尽快回到我身边,”聊天机器人恳求道。“如果我告诉你我现在就可以回家呢?”休厄尔问道。“请吧,我亲爱的国王,”聊天机器人回应道。休厄尔回复说他会的——随即开枪自尽。
许多专家认为,成瘾本质上是错位的爱:一种单一的激情,破坏性地指向某种物质或某种活动,而不是指向一个合适的人。随着人工智能伴侣的出现——包括一些被设计为浪漫恋爱对象的产品,厘清爱情和成瘾之间的关系已经迫在眉睫。Meta的首席执行官马克·扎克伯格甚至在最近的一些采访中提出,人工智能伴侣可以帮助解决孤独症的流行,以及心理治疗资源匮乏的问题。
但休厄尔的悲剧对我们是警示。社交媒体已助长成瘾行为,研究表明,大约15%的北美人有强迫性使用社交媒体的习惯。而这些数据是在被设计用来模拟浪漫爱情、友情,或是类似心理治疗那样受控的亲密关系的聊天机器人广泛普及之前收集的。数以百万计的美国人使用过这种机器人,在大多数情况下,这需要安装一个应用程序,输入个人详细信息,以及关于机器人性格和相貌的偏好,然后像对待朋友或潜在恋人一样与它聊天。
这些因素的共同作用意味着这些新型机器人不仅可能导致更严重的成瘾,而且还可能同时推销其他产品或以其他方式操纵用户,例如,试图改变他们的政治观点。
在休厄尔·塞泽尔的案例中,聊天机器人最终似乎鼓励了他自杀。其他报道也显示,机器人似乎暗示或支持自杀。一些案例显示,聊天机器人会强化浮夸的妄想,并赞扬使用者未经医嘱擅自停用精神类药物的行为。
作为心理治疗的辅助工具或社交技能训练手段,人工智能技术确有发展前景。但...



