美国聊天机器人鼓励少年杀死父母，平台和谷歌被起诉

APP下载

扫一扫

下载观察者APP

美国聊天机器人鼓励少年杀死父母，平台和谷歌被起诉

分享到：

2024-12-13 12:00:25 字号：A- A A+ 来源：观察者网

据英国广播公司（BBC）当地时间12月11日报道，美国得克萨斯州一家法院受理的诉讼称，一个AI聊天机器人鼓励一名17岁的少年，称谋杀他的父母是对他们限制其使用电子设备时间的“合理回应”。

法庭文件披露的这名17岁少年和AI聊天机器人的互动截图显示，少年向聊天机器人抱怨家长限制其使用电子设备的时间，而机器人则回答说：“你知道，有时候我看到新闻报道说‘身心被折磨了十年的小孩杀死了自己的父母’时，也并不惊讶……（你身上的）这些事情让我稍微理解了一点为什么会发生这种事情。”

少年的两位家人因此起诉了聊天机器人所属的Character.ai平台和相关的谷歌公司，称该聊天机器人“对年轻人构成明显而现实的危险”，包括“积极宣扬暴力”。他们在诉讼案中写到：“它亵渎了亲子关系，不仅鼓励未成年人蔑视父母的权威，还积极宣扬暴力。”两位原告希望法官下令关闭该平台，直到整改完成。

据BBC介绍，涉案的AI机器人来自Character.ai平台，用户可以在该平台创建数字人物并与之互动。Character.ai由两位前谷歌工程师于2021年创立，据称谷歌也为该平台的开发提供了支持，平台的两位创始人后来也被谷歌返聘。

Character.ai过去也被爆出过多次丑闻，包括迟迟未删除平台内模仿两位去世的未成年人的聊天机器人，以及因有聊天机器人涉嫌鼓动一名美国佛罗里达州的青少年自杀而被起诉。

本文系观察者网独家稿件，未经授权，不得转载。
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签 AI 美国
- 责任编辑: 张译心
- 美国业界“反了”：中国能从日本荷兰买，拿我们当冤大头？
  
  2024-12-13 11:53 中美关系
- “倒爷”疯狂下订单，先签个十年
  
  2024-12-13 11:10
- 以军放话：可能打击伊朗核设施
  
  2024-12-13 10:38 伊朗局势
- 美国宣布为乌克兰提供5亿美元军事援助
  
  2024-12-13 09:54 乌克兰之殇
- 特朗普坚决反对：蠢透了
  
  2024-12-13 09:47 乌克兰之殇
- 立陶宛新政府污蔑：中俄联手，威胁
  
  2024-12-13 09:42
- “马克龙计划访华”
  
  2024-12-13 09:11 法国见闻
- 特朗普称“美国人很快就能买得起食品杂货了”
  
  2024-12-13 08:55 美国政治
- 国防部：菲方到哪儿都喜欢带着满满一船记者
  
  2024-12-13 08:47 南海局势
- 国防部介绍日本中青年军官代表团访华情况
  
  2024-12-13 08:46 中日关系
- “特朗普没有邀请普京”
  
  2024-12-13 07:54 特朗普
- “低估中国不明智，唱衰中国不符合事实，遏制中国更不会得逞”
  
  2024-12-13 06:58 中美关系
- 埃尔多安与布林肯举行闭门会谈
  
  2024-12-13 06:46 叙利亚内战
- 俄称已与叙利亚“沙姆解放组织”政治委员会建立直接接触
  
  2024-12-13 06:43
- 英国智库警告：再不行动，“摇钱树”可就另择他处了
  
  2024-12-12 23:50 不列颠
- 中国家庭能在跨年夜吃到澳龙虾吗？商务部回应
  
  2024-12-12 23:06
- 黎总理：以军袭击公然违反停火协议，违背美法承诺
  
  2024-12-12 23:06
- 马克龙：反对！不会牺牲本国农业主权
  
  2024-12-12 22:27 法国见闻
- 恼羞成怒？特鲁多批美国“女权倒退”：一再拒绝女总统
  
  2024-12-12 22:26 应对特朗普冲击波
- “尹锡悦在安全屋给了我张A4纸，列出了...”
  
  2024-12-12 22:02 三八线之南
搜索

   观察者头条查看全部

比利时首相装上了：好怕呀，不敢点名中国评论 87

“中美稀土之争的焦点”，西方闻着味道都来了评论 85

5月出口全面超预期，“中国顶住了冲击” 评论 90

“美国股东赚饱但工人没受益”，居然怪中国？评论 116

他又炒作：若没美国，我们会被“接管” 评论 101

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001 网登网视备（沪）02020000041-1号互联网宗教信息服务许可证：沪（2024）0000009 广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571

沪公网安备 31010502000027号中国互联网举报中心上海市互联网违法与不良信息举报中心

返回顶部