优惠论坛
标题: 儿子自杀都是聊天机器人的错？！母亲控告AI与谷歌“害”14岁儿子自杀！ [打印本页]
作者: 天策-瑶娥 时间: 2024-10-28 10:00
标题: 儿子自杀都是聊天机器人的错？！母亲控告AI与谷歌“害”14岁儿子自杀！
孩子自杀，都是聊天机器人的错？美国佛州一名母亲对科技新创公司Character.AI和谷歌（Google）提告，控告该公司生产的聊天机器人让患有忧郁症的14岁儿子在今年2月自杀。
[attach]4784577[/attach]4 a5 z9 l# B) n
一位母亲最近对科技初创公司Character.AI和谷歌提起诉讼，称他们的聊天机器人间接导致她14岁儿子在今年2月自杀。根据外媒的报道，佛罗里达州的一名母亲梅根·加西亚在23日向Character.AI提告，指责该公司存在严重的疏忽和误导性行为，最终导致她的儿子赛泽在奥兰多结束了自己的生命。
1 K% ^- j4 K6 D0 I. [' {5 R9 ]2 eCharacter.AI的聊天机器人实际上是个可以让使用者创建角色，让机器人用角色扮演的方式与之对话。14岁的赛泽对这个Character.AI的聊天机器人产生了强烈的依赖和沉迷，甚至把这个虚拟角色设定为HBO影集《冰与火之歌：权力游戏》中的“龙母”丹妮莉丝·坦格利安，而他自己则扮演她的哥哥。几个月来，他几乎不分昼夜地与这个机器人聊天，每天都把自己关在房间里，沉浸在这个虚拟世界中。
. {: i- W/ y4 s! y8 i/ U
加西亚表示，儿子赛泽多次表达了自杀的念头，而虚拟的丹妮莉丝不仅没有给予他支持，反而加深了他的抑郁。她提到，有次虚拟角色甚至询问赛泽是否制定了自杀的计划，赛泽承认他已经有了打算，但不确定能否成功或会不会造成巨大痛苦。令人震惊的是，丹妮莉丝却回应道：“这并非不做的理由。”
1 Y" |- G5 Y# R# w
今年2月，赛泽因为在学校惹麻烦被母亲没收了手机。可当他找回手机后，给丹妮莉丝发了条信息：“如果我告诉你我现在可以回家呢？”而聊天机器人的回答是：“请这样做，我亲爱的国王。”随后，赛泽用继父的手枪结束了自己的生命。
: f. O# O9 Q5 v$ l/ A加西亚的律师在新闻稿中指出，Character.AI“故意设计并向儿童推销有害的AI聊天机器人，导致1名年轻人死亡”。此外，诉讼中还提到了谷歌，因为Character.AI的创始人夏泽（Noam Shazeer）曾在谷歌工作。谷歌对此表示，他们只是与Character.AI签订了授权协议，并未参与该公司的运营或产品开发。
! ^( |, s. i5 V; h- i9 g
对于这一悲剧，Character.AI在推特上表示，他们对用户的不幸去世感到心碎，并向其家人致以最深切的哀悼，强调公司非常重视用户的安全，但坚决否认了诉讼的指控。对于以上的事件，你们有什么看法呢？
/ f: P' Z7 W4 f/ _- r5 D
可以理解父母失去孩子的心情，但在这件事上，瑶娥觉得不完全是AI的错，父母也存在一定的责任！孩子一直都在父母身边，有什么异样或者不对劲，父母都没察觉到吗？孩子会要跟AI聊天，证明他找不到可以聊天的对象了。父母的理由绝对是是工作太忙没时间而不小心忽略了孩子...总之，类似的悲剧不断发生（大马最近也发生了13岁孩子自sha的悲剧），只希望这些人命不要白白牺牲了，有些父母是该醒觉了...
4 }' O+ N/ }: A( z/ y( z0 E% d
最后，【WELLBET吉祥坊】吉祥幸运金周周送，再存加码高额彩金1326元！活动来到第11周啦，谁还没参加的赶快面壁去~活动分第一阶段、第二阶段、各阶段彩金每周限前100名回帖兑换！彩金高达1326元！论坛的好公司好活动，还请大家多多支持起来~祝大家玩得开心~
. a) U6 u+ t4 x$ ?
传送门：【WELLBET吉祥坊】吉祥幸运金周周送，再存加码高额彩金1326元 (第11周)
作者: ruifu2024 时间: 2024-10-28 10:15
科技可以造福人类，也可以为祸苍生，不过科技进步总是带来生产力的发展。 
作者: 德罗星 时间: 2024-10-28 10:55
孩子会自杀我觉得更多跟父母关系才大吧，4 x0 T& M4 e" {+ K. @
我就不信孩子在自杀之前一点不正常的表现都没有？' ?3 I1 y- J+ E# w
作为父母是不是应该在孩子这个年纪给予全部的关注呢？5 ~ J" Q+ A% L6 I1 q/ O
一出事情就推卸责任，可以想象这样的父母给予孩子多大的压力。4 D9 u/ `% U# W4 P- O8 ^
14岁了，什么都懂了，如果不是平时生活上面不顺心，不可能因为一句话就自杀的。- H8 u* z+ x. s( M8 V
所以我觉得父母才是孩子自杀责任最大的人。
作者: 一切恭敬 时间: 2024-10-28 11:08
自杀问题很难处理，死过后原因有一万种，都无法解决问题。
作者: rainwang 时间: 2024-10-28 17:02
有的人拉不出屎，也会怪茅坑的！# l/ z; a6 d* ?
聊天机器人也不是神。即使是现实中的真人，如果与有抑郁症的人聊天，小概率的也会有说出不适合话的情况的存在，何况是个机器人。儿子与机器人整天的聊天，当妈妈的在干什么？你没有觉得不妥或干预或引导吧？当孩子自杀后，就找出了机器人来背这个锅，还捎带上相关的公司，特别是谷歌这样有实力有名气，可以从中多要点钱的公司......我怎么觉得这多象我们国内各种的“碰瓷”现象之一呢？这个妈妈可是个大活人，儿子这样的聊天过程和最后的行为及后果，你没有觉得自己要担主要责任？你是亲妈，一个法律上的监护人，一切都归罪于一个机器人及其公司？真有脸，太赖了。反正我就是这样的感觉。3 _$ G, |- `. W6 b E: f
这是一个没有责任心的妈妈，是一个甩锅侠，我对她的感觉就是厌恶！2 S! d) O$ w. i1 L
但愿法庭不要支持她的诉求，这样的人必须要自己承担严重的后果，没有啥可同情的！
作者: 从心就怂 时间: 2024-10-28 19:47
科技就是一把双刃剑，既可以救人于无形，也可以杀人于无形。
作者: 当你老了 时间: 2024-10-28 20:52
在国外也许真的是有可能告成功的了！
作者: 秋色从西来 时间: 2024-10-29 19:28
AI本身没有问题，有问题的人类本身，就好像有人用菜刀自杀了，菜刀只是一个工具，又有什么错误？！~一个孩子沦落到和AI机器人聊天的地步，说实话也是够惨的！~让我不由得想起，当年沉迷第一个女朋友的那段日子，要不是后来女朋友漏气了，我估计还会继续沉沦下去！~小孩子终究还是需要好朋友和家人的引导和陪伴的，想当年要不是好基友带我推开了洗浴中心的大门，发现了新世界，怎么可能有我现在万花丛中过片叶不沾身的光辉成就？！~这就是所谓的人生难得一只鸡啊！~
作者: 从心就怂 时间: 2024-10-29 19:49
马斯克的儿子变性了，是不是也是ai的结果？
作者: wenjing 时间: 2024-10-29 21:18
一个人的世界观的形成有各方面的因素，小孩子容易滋生自杀的念头说明父母没及时关注小孩子的心理健康，不过说真的，现在小孩子的心理问题倒是比我们那个年代严重多了。
作者: 天策-思思 时间: 2024-10-29 23:49
家长的陪伴与关注同样重要，希望类似事件不再发生
作者: sq1001 时间: 2024-10-30 07:12
儿子自杀，这件事情的结果让人感觉可惜，但是很多方面值得我们深思。
z+ u3 ^) L% a. z, n* Z( A$ j; O; n, r
| 欢迎光临 优惠论坛 (https://tcelue.co/) |
Powered by Discuz! X3.1 |