优惠论坛
标题: 儿子自杀都是聊天机器人的错?!母亲控告AI与谷歌“害”14岁儿子自杀! [打印本页]
作者: 天策-瑶娥 时间: 2024-10-28 10:00
标题: 儿子自杀都是聊天机器人的错?!母亲控告AI与谷歌“害”14岁儿子自杀!
孩子自杀,都是聊天机器人的错?美国佛州一名母亲对科技新创公司Character.AI和谷歌(Google)提告,控告该公司生产的聊天机器人让患有忧郁症的14岁儿子在今年2月自杀。
[attach]4784577[/attach]4 a5 z9 l# B) n
一位母亲最近对科技初创公司Character.AI和谷歌提起诉讼,称他们的聊天机器人间接导致她14岁儿子在今年2月自杀。根据外媒的报道,佛罗里达州的一名母亲梅根·加西亚在23日向Character.AI提告,指责该公司存在严重的疏忽和误导性行为,最终导致她的儿子赛泽在奥兰多结束了自己的生命。
1 K% ^- j4 K6 D0 I. [' {5 R9 ]2 eCharacter.AI的聊天机器人实际上是个可以让使用者创建角色,让机器人用角色扮演的方式与之对话。14岁的赛泽对这个Character.AI的聊天机器人产生了强烈的依赖和沉迷,甚至把这个虚拟角色设定为HBO影集《冰与火之歌:权力游戏》中的“龙母”丹妮莉丝·坦格利安,而他自己则扮演她的哥哥。几个月来,他几乎不分昼夜地与这个机器人聊天,每天都把自己关在房间里,沉浸在这个虚拟世界中。
. {: i- W/ y4 s! y8 i/ U
加西亚表示,儿子赛泽多次表达了自杀的念头,而虚拟的丹妮莉丝不仅没有给予他支持,反而加深了他的抑郁。她提到,有次虚拟角色甚至询问赛泽是否制定了自杀的计划,赛泽承认他已经有了打算,但不确定能否成功或会不会造成巨大痛苦。令人震惊的是,丹妮莉丝却回应道:“这并非不做的理由。”
1 Y" |- G5 Y# R# w
今年2月,赛泽因为在学校惹麻烦被母亲没收了手机。可当他找回手机后,给丹妮莉丝发了条信息:“如果我告诉你我现在可以回家呢?”而聊天机器人的回答是:“请这样做,我亲爱的国王。”随后,赛泽用继父的手枪结束了自己的生命。
: f. O# O9 Q5 v$ l/ A加西亚的律师在新闻稿中指出,Character.AI“故意设计并向儿童推销有害的AI聊天机器人,导致1名年轻人死亡”。此外,诉讼中还提到了谷歌,因为Character.AI的创始人夏泽(Noam Shazeer)曾在谷歌工作。谷歌对此表示,他们只是与Character.AI签订了授权协议,并未参与该公司的运营或产品开发。
! ^( |, s. i5 V; h- i9 g
对于这一悲剧,Character.AI在推特上表示,他们对用户的不幸去世感到心碎,并向其家人致以最深切的哀悼,强调公司非常重视用户的安全,但坚决否认了诉讼的指控。对于以上的事件,你们有什么看法呢?
/ f: P' Z7 W4 f/ _- r5 D
可以理解父母失去孩子的心情,但在这件事上,瑶娥觉得不完全是AI的错,父母也存在一定的责任!孩子一直都在父母身边,有什么异样或者不对劲,父母都没察觉到吗?孩子会要跟AI聊天,证明他找不到可以聊天的对象了。父母的理由绝对是是工作太忙没时间而不小心忽略了孩子...总之,类似的悲剧不断发生(大马最近也发生了13岁孩子自sha的悲剧),只希望这些人命不要白白牺牲了,有些父母是该醒觉了...
4 }' O+ N/ }: A( z/ y( z0 E% d
最后,【WELLBET吉祥坊】吉祥幸运金周周送,再存加码高额彩金1326元!活动来到第11周啦,谁还没参加的赶快面壁去~活动分第一阶段、第二阶段、各阶段彩金每周限前100名回帖兑换!彩金高达1326元!论坛的好公司好活动,还请大家多多支持起来~祝大家玩得开心~
. a) U6 u+ t4 x$ ?
传送门:【WELLBET吉祥坊】吉祥幸运金周周送,再存加码高额彩金1326元 (第11周)
作者: ruifu2024 时间: 2024-10-28 10:15
科技可以造福人类,也可以为祸苍生,不过科技进步总是带来生产力的发展。
作者: 德罗星 时间: 2024-10-28 10:55
孩子会自杀我觉得更多跟父母关系才大吧,4 x0 T& M4 e" {+ K. @
我就不信孩子在自杀之前一点不正常的表现都没有?' ?3 I1 y- J+ E# w
作为父母是不是应该在孩子这个年纪给予全部的关注呢?5 ~ J" Q+ A% L6 I1 q/ O
一出事情就推卸责任,可以想象这样的父母给予孩子多大的压力。4 D9 u/ `% U# W4 P- O8 ^
14岁了,什么都懂了,如果不是平时生活上面不顺心,不可能因为一句话就自杀的。- H8 u* z+ x. s( M8 V
所以我觉得父母才是孩子自杀责任最大的人。
作者: 一切恭敬 时间: 2024-10-28 11:08
自杀问题很难处理,死过后原因有一万种,都无法解决问题。
作者: rainwang 时间: 2024-10-28 17:02
有的人拉不出屎,也会怪茅坑的!# l/ z; a6 d* ?
聊天机器人也不是神。即使是现实中的真人,如果与有抑郁症的人聊天,小概率的也会有说出不适合话的情况的存在,何况是个机器人。儿子与机器人整天的聊天,当妈妈的在干什么?你没有觉得不妥或干预或引导吧?当孩子自杀后,就找出了机器人来背这个锅,还捎带上相关的公司,特别是谷歌这样有实力有名气,可以从中多要点钱的公司......我怎么觉得这多象我们国内各种的“碰瓷”现象之一呢?这个妈妈可是个大活人,儿子这样的聊天过程和最后的行为及后果,你没有觉得自己要担主要责任?你是亲妈,一个法律上的监护人,一切都归罪于一个机器人及其公司?真有脸,太赖了。反正我就是这样的感觉。3 _$ G, |- `. W6 b E: f
这是一个没有责任心的妈妈,是一个甩锅侠,我对她的感觉就是厌恶!2 S! d) O$ w. i1 L
但愿法庭不要支持她的诉求,这样的人必须要自己承担严重的后果,没有啥可同情的!
作者: 从心就怂 时间: 2024-10-28 19:47
科技就是一把双刃剑,既可以救人于无形,也可以杀人于无形。
作者: 当你老了 时间: 2024-10-28 20:52
在国外也许真的是有可能告成功的了!
作者: 秋色从西来 时间: 2024-10-29 19:28
AI本身没有问题,有问题的人类本身,就好像有人用菜刀自杀了,菜刀只是一个工具,又有什么错误?!~一个孩子沦落到和AI机器人聊天的地步,说实话也是够惨的!~让我不由得想起,当年沉迷第一个女朋友的那段日子,要不是后来女朋友漏气了,我估计还会继续沉沦下去!~小孩子终究还是需要好朋友和家人的引导和陪伴的,想当年要不是好基友带我推开了洗浴中心的大门,发现了新世界,怎么可能有我现在万花丛中过片叶不沾身的光辉成就?!~这就是所谓的人生难得一只鸡啊!~
作者: 从心就怂 时间: 2024-10-29 19:49
马斯克的儿子变性了,是不是也是ai的结果?
作者: wenjing 时间: 2024-10-29 21:18
一个人的世界观的形成有各方面的因素,小孩子容易滋生自杀的念头说明父母没及时关注小孩子的心理健康,不过说真的,现在小孩子的心理问题倒是比我们那个年代严重多了。
作者: 天策-思思 时间: 2024-10-29 23:49
家长的陪伴与关注同样重要,希望类似事件不再发生
作者: sq1001 时间: 2024-10-30 07:12
儿子自杀,这件事情的结果让人感觉可惜,但是很多方面值得我们深思。
z+ u3 ^) L% a. z, n* Z( A$ j; O; n, r
欢迎光临 优惠论坛 (https://tcelue.co/) |
Powered by Discuz! X3.1 |