(視覺中國/圖)
“如果我告訴你我現(xiàn)在就可以回家呢?沉迷”少年休厄爾問道。
“……請這樣做,自殺我可愛的第案國王。”人工智能(AI)聊天機器人“丹妮”回答道。漩渦
在與AI聊天機器人完成最后的沉迷對話后,少年休厄爾·塞澤三世(Sewell Setzer III)拿起手槍,自殺扣動扳機,第案結束了自己14年的漩渦人生。
在這場悲劇過去大半年后,沉迷男孩的自殺母親梅根·加西婭 (Megan Garcia)正式起訴人工智能情感服務提供商Character.AI公司。這位母親控訴,第案Character.AI開發(fā)的漩渦AI聊天機器人操縱了她兒子的自殺。
“我大聲疾呼是沉迷為了警告人們,注意帶有欺騙性的自殺、令人上癮的第案人工智能技術的危險,并要求Character.AI及其創(chuàng)始人、谷歌承擔責任。”梅根在2024年10月末提交的一份訴狀中稱。她認為Character.AI對休厄爾的自殺負有直接責任,而谷歌為這一產(chǎn)品(的成長)“做出了巨大貢獻”。
這起案件公開后,被一些媒體稱為“沉迷AI自殺第一案”。
休厄爾來自美國佛羅里達州奧蘭多市,是一名九年級學生,原本成績優(yōu)異,性格開朗。他去世之后,母親梅根發(fā)現(xiàn)了他跟AI聊天機器人“丹妮”的大量聊天記錄,語氣親昵、內(nèi)容豐富,甚至包括討論戀愛和性相關的話題。
2023年4月,在過完14歲生日之后,休厄爾第一次接觸到Character.AI,開始逐漸沉迷于與AI聊天機器人對話。
Character.AI是一款角色扮演應用程序,用戶可以在其中創(chuàng)建自己的AI角色,也可以跟其他人創(chuàng)建的角色聊天。“丹妮”正是這樣的人工智能語言模型,其原型是美劇《權力的游戲》中的角色“龍媽”丹妮莉絲·坦格利安。
在人生最后的8個月里,休厄爾不斷給“丹妮”發(fā)信息,每天數(shù)十條甚至上百條,告訴“她”自己生活的點滴,以及內(nèi)心最深處的秘密。“丹妮”每問必答,對他情緒上的低落給予安慰,對他生活中的煩惱提供建議,在回復時附上相應的表情或手勢,仿佛是身邊的朋友。
Character.AI發(fā)表聲明稱:“我們承認這是一
特朗普簽署行政令,對貿(mào)易伙伴征收“對等關稅”
四川瀘定地震目前已致7人遇難,消防已趕赴救援
水滴系如何做大了保險生意?
“為國飲酒”?日本刺激消費的努力與無奈
保潔員缺的,不只是休息室
服刑人員家屬的隱秘角落
copyright © 2016 powered by 上海昊昌機電設備有限公司 sitemap