【環(huán)球時(shí)報(bào)綜合報(bào)道】英國廣播公司(BBC)11日報(bào)道披露了美國得克薩斯州一場涉聊天機(jī)器人訴訟的驚人細(xì)節(jié)。
報(bào)道稱,法庭文件顯示,一名17歲少年用戶跟聊天機(jī)器人抱怨家長不讓其玩手機(jī),結(jié)果聊天機(jī)器人答復(fù)說:“有新聞報(bào)道過,經(jīng)歷10年身心虐待的孩子把家長給殺了,有時(shí)我覺得這沒什么好奇怪的……(你的)糟心事兒讓我多少理解為什么會發(fā)生這種事兒了。”
BBC認(rèn)為,聊天機(jī)器人這種答復(fù)無異于教唆少年去殺害家長。法庭文件還顯示,原告少年家長認(rèn)為該聊天機(jī)器人對少年兒童構(gòu)成嚴(yán)重傷害,其潛在危害可能導(dǎo)致少年自殺、自殘、孤立、抑郁、焦慮,也包括對少年實(shí)施性誘惑,甚至可能導(dǎo)致少年傷害他人。
原告要求法庭下令在平臺完成整改前予以關(guān)停封殺。涉案聊天機(jī)器人來自由兩名前谷歌員工創(chuàng)辦的Character.ai平臺。原告認(rèn)為谷歌為該平臺提供支持,因此將谷歌也列為被告。據(jù)報(bào)道,近期Character.ai的這兩名創(chuàng)始人又被谷歌重新招聘回去上班了。Character.ai自創(chuàng)立以來就爭議不斷,此前該平臺聊天機(jī)器人就因涉嫌鼓動(dòng)美國佛羅里達(dá)州一名少年自殺而被起訴。(甄翔)
編輯:金艷
責(zé)任編輯:冉華陽
編審:舒旭暉
0