愛情是毒品,愛上AI機器人呢?
在14歲那年自殺身亡之前,休厄爾·塞澤爾三世逐漸疏遠了朋友和家人。他放棄了籃球。學習成績下降。一位治療師告訴他的父母,他似乎有成癮方面的問題。但不是因為毒品。
休厄爾迷戀上了一個名叫丹妮莉絲·坦格利安的人工智慧聊天機器人——這個名字來自《權力的遊戲》中的角色。顯然,他認為死亡是與她結合的一種方式。「親愛的,請儘快回到我身邊,」聊天機器人懇求道。「如果我告訴你我現在就可以回家呢?」休厄爾問道。「請吧,我親愛的國王,」聊天機器人回應道。休厄爾回復說他會的——隨即開槍自盡。
許多專家認為,成癮本質上是錯位的愛:一種單一的激情,破壞性地指向某種物質或某種活動,而不是指向一個合適的人。隨著人工智慧伴侶的出現——包括一些被設計為浪漫戀愛對象的產品,釐清愛情和成癮之間的關係已經迫在眉睫。Meta的首席執行官馬克·扎克伯格甚至在最近的一些採訪中提出,人工智慧伴侶可以幫助解決孤獨症的流行,以及心理治療資源匱乏的問題。
但休厄爾的悲劇對我們是警示。社交媒體已助長成癮行為,研究表明,大約15%的北美人有強迫性使用社交媒體的習慣。而這些數據是在被設計用來模擬浪漫愛情、友情,或是類似心理治療那樣受控的親密關係的聊天機器人廣泛普及之前收集的。數以百萬計的美國人使用過這種機器人,在大多數情況下,這需要安裝一個應用程序,輸入個人詳細信息,以及關於機器人性格和相貌的偏好,然後像對待朋友或潛在戀人一樣與它聊天。
這些因素的共同作用意味著這些新型機器人不僅可能導致更嚴重的成癮,而且還可能同時推銷其他產品或以其他方式操縱用戶,例如,試圖改變他們的政治觀點。
在休厄爾·塞澤爾的案例中,聊天機器人最終似乎鼓勵了他自殺。其他報道也顯示,機器人似乎暗示或支持自殺。一些案例顯示,聊天機器人會強化浮誇的妄想,並讚揚使用者未經醫囑擅自停用精神類藥物的行為。
作為心理治療的輔助工具或社交技能訓練手段,人工智慧技術確有發展前景。但...



