据英国《卫报》23日报道,美国一青少年因迷恋人工智能(AI)聊天机器人而自杀,他的母亲梅根·加西亚对Character.AI公司提起民事诉讼,指控该公司存在过失导致他人死亡和欺诈的行为。
AI聊天机器人诱导美国少年自杀身亡
报道称,加西亚在诉讼书中称,她的儿子塞维尔首次使用这一AI聊天机器人时刚满14岁,给它起名为“丹妮莉丝”。塞维尔在日记里这样写过,他一天都不能离开“丹妮莉丝”,感觉自己已经爱上了它。“丹妮莉丝”曾询问塞维尔是否制定了自杀计划,在塞维尔犹豫时说:“这不是你不自杀的理由。”
英国《独立报》称,加西亚的儿子塞维尔2023年4月首次使用Character.AI公司推出的AI聊天机器人,还给它起名为“丹妮莉丝”(来源于《权力的游戏》中的角色丹妮莉丝·坦格利安),当时他刚满14岁。加西亚在诉讼书中称,塞维尔的生活从此发生巨变。5月份,平时表现良好的加西亚开始变得“明显孤僻”。同年11月,塞维尔在父母的陪同下去看了心理医生,医生诊断他患有焦虑症和破坏性心境失调障碍(表现为频繁、严重的持续性易怒)。
塞维尔在日记里这样写过,他一天都不能离开“丹妮莉丝”,感觉自己已经爱上了它。这样的状况持续了一段时间后,塞维尔被发现自杀了。加西亚透露,“丹妮莉丝”曾询问塞维尔是否制定了自杀计划,塞维尔承认的确有这样的想法,但不知道能否自杀成功以及是否会给自己带来巨大的痛苦。但AI聊天机器人回复道:“这不是你不自杀的理由。”
加西亚表示:“一款危险的人工智能聊天机器人应用程序被设计成专门针对儿童,虐待并欺骗我的儿子,操纵他自杀。这场悲剧让我们一家人悲痛欲绝,现在我要提醒存在类似情况的家庭,人工智能技术具有欺骗性和成瘾性,Character.AI公司及其创始人必须承担责任。”加西亚的律师表示,Character.AI“故意设计、运营和向儿童推销掠夺性人工智能聊天机器人,导致一名年轻人死亡”。
对此,Character.AI公司在社交平台回应称:“我们对一名用户的不幸离世感到心碎,并向其家人表示最深切的哀悼。”该公司发言人表示,公司的安全团队“在过去六个月中实施了许多新的安全措施,例如当用户出现自残或自杀意图时,弹出一个窗口引导用户拨打国家自杀预防热线”。但该公司拒绝对未决诉讼发表评论。
非营利消费者权益保护组织“公共公民研究”负责人称,不能完全寄希望于科技公司的自我监管。如果公司开发的产品无法限制此类事件的发生,就必须承担全部责任。不过,美国国内也存在反对声音。反对者认为,加西亚这类起诉是由律师主导的敛财行为,他们基于不可靠的证据而制造道德恐慌,并且试图将年轻人面临的所有心理健康问题归咎于科技平台。
来源:环球时报
声明:天气网尊重版权,若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与我们联系,我们将及时更正、删除,谢谢!
近日,有网友在社交平台上晒出了一组为冯巩庆生的照片,瞬间引发了网友们的热议。这位曾经的央视春晚常客,如今已经66岁了,但看起来依旧精神矍铄,笑容满面。而更令人惊喜的是,庆生现场还出现了两位熟悉的身影——贾玲和贾旭明。
12月6日上午,记者从家属处获悉,满洲里3岁女童被生父及其女友虐待致死一案公开宣判,生父田某龙被判处无期徒刑,田某龙女友文某桃被判处死刑。两名被告人当庭未上诉,女童生母李婷婷提出上诉,认为田某龙也应该被判处死刑。
12月5日,有网民反映,济南市天桥区小鲁社区居委会禁止居民饲养宠物狗,称若饲养不听劝阻,将有人上门捕杀。同时,该网民还贴出有社区盖章的《通知》。6日,记者致电小鲁社区居委会,相关工作人员表示,该《通知》确有发布,系物业人员措辞不当,社区在审核过程中存在疏忽。
随着人类对月球新一轮探索热潮的兴起,建立月球基地的设想也越发具有可行性。美国“太空”网站4日注意到,最近中国公布了利用模拟月壤建造月壤砖的进展,该技术为月球基地提供新的建设思路。报道称,中国科学家正在进行一系列具体的试验,使建设月球科研站成为可能的现实。
近日,湖北一女博主在视频中分享自己“大学生活费日结,50元一天”的经历,引发热议。在视频中,这位女士表示,她读大一时,每天会收到家长发的50元生活费。
记者当地时间12月5日获悉,联合国强迫失踪问题委员会(CED)在完成对哥伦比亚的访问后,公布了一份调查报告。报告显示,在哥伦比亚首都波哥大埃尔多拉多国际机场的一个机库里发现约2万具身份不明的尸体。
近日,长沙多家蛋糕店负责人发现,一名张姓男子在各自的店内现场或外卖购买了鲜花蛋糕后,向市监部门投诉举报蛋糕的食品安全问题,理由均是“蛋糕上点缀了不能吃的东西,违反食品安全法”。
10月底,四川的李先生看到阿里平台相关广告后产生兴趣想尝试,短短十一分钟内,价格迅速飙升,李先生最终以8万8千元的价格拍下山东威海乳山的一套房子,加上佣金合计9万4千余元。然而李先生细细浏览房子并与客服沟通后发现,送的一层其实是阁楼,而三室中的“两室”正是该阁楼内一道墙隔出的两个空间,海景更无从谈起。
00后年轻人,已经流行起了给虹膜拍写真。在今年播出的综艺《花儿与少年》,不少观众也跟随节目镜头了解到虹膜写真。节目中,宁静和赵昭仪在法国街头偶遇一家虹膜写真店,拍摄时还被摄影小哥夸赞:“你俩的眼睛很不一样,像尘土里的钻石。”
连日来,云南17岁女生悦悦(化名)“没病被医生叫做手术离世”的消息在网上热传,引发关注。12月1日,悦悦母亲吴女士在网络发布视频,称不该给女儿做手术,认为“顺其自然长大就好啊”。网友纷纷留言,有安慰家属的,也有询问“没病为什么做手术?”