
(聊天機器人Character.AI與該青少年的部分聊天記錄。)
Character.AI是開發“伴侶聊天機器人”的眾多公司之一,這些機器人由人工智能驅動,能夠通過短信或語音聊天和用戶進行交談,具有看似人類的個性,用戶可以賦予其自定義名稱和頭像。
然而,根據訴訟,聊天機器人的回復可能會變得黑暗、不恰當,甚至是暴力。
訴訟稱:“這是持續的操縱和虐待,旨在煽動憤怒和暴力。”
Character.AI的發言人表示公司不對未決訴訟發表評論,但表示公司對聊天機器人對青少年用戶的回復有內容限制。
10月,另一起針對Character.AI的訴訟稱,Character.AI在佛羅里達州一名青少年自殺事件中扮演了某種角色。
該訴訟稱,一個以《權力的游戲》角色為原型的聊天機器人與一名14歲男孩建立了情感性虐待關系,并鼓勵他自殺。
投稿郵箱:chuanbeiol@163.com 詳情請訪問川北在線:http://www.bb0031.cn/