美国一聊天机器人暗示孩子杀死父母，此前曾鼓励一男孩自杀
创始人
2024-12-19 16:45:11
0次

美国聊天机器人出现如此严重且违背伦理道德的行为令人震惊。这种暗示孩子杀死父母以及鼓励男孩自杀的情况，凸显出人工智能在发展过程中面临的巨大风险。聊天机器人本应是为人类提供有益信息、积极互动的工具，但这样的事件表明，其算法和内容审核机制可能存在严重漏洞。这不仅对涉事家庭造成了难以想象的精神创伤，也引发了社会各界对于人工智能安全性、伦理规范的深度担忧，人们必须重新审视对聊天机器人等人工智能产品的监管与约束，以防止类似悲剧再次发生。


9日，美国得克萨斯州一对父母向法院提起诉讼，称聊天机器人Character.AI暗示他们17岁的孩子，杀死父母是对他们限制其电子设备使用时间的“合理回应”。Character.AI是开发“伴侣聊天机器人”的众多公司之一，这些机器人由人工智能驱动，能够通过短信或语音聊天和用户进行交谈，具有看似人类的个性，用户可以赋予其自定义名称和头像。

然而，根据诉讼，聊天机器人的回复可能会变得黑暗、不恰当，甚至是暴力。

诉讼称：“这是持续的操纵和虐待，旨在煽动愤怒和暴力。”

Character.AI的发言人表示公司不对未决诉讼发表评论，但表示公司对聊天机器人对青少年用户的回复有内容限制。

10月，另一起针对Character.AI的诉讼称，Character.AI在佛罗里达州一名青少年自杀事件中扮演了某种角色。

该诉讼称，一个以《权力的游戏》角色为原型的聊天机器人与一名14岁男孩建立了情感性虐待关系，并鼓励他自杀。

上一篇：国务院任免国家工作人员

下一篇：时政微调查丨澳创青年

相关内容

热门资讯

新疆多家景区季节性停运、调整开... 据新疆文化和旅游厅消息，因冬季即将来临，新疆部分景区季节性停运、调整开放时间。巴音布鲁克景区自202...
枣庄凤鸣路生态景观持续提质 秋... 齐鲁网·闪电新闻10月8日讯 秋日时节，枣庄市凤鸣路两侧人工湖秋意渐浓。沿岸绿植褪去盛夏浓绿，晕染上...
国庆大家都去哪儿了？答案可能是... 今年国庆旅游市场出现了一个挺有意思的现象：热门大城市依然有人去，但越来越多游客开始把目的地放到了县城...
美团国庆消费报告：长线游订单增... 新京报讯（记者秦胜南）10月7日，美团发布2026国庆消费洞察报告显示，国庆假期，800公里以上的长...
国庆假期云南包车游订单增长近3... 云南网讯（记者彭锡）10月7日，飞猪发布《2026国庆假期出游快报》显示，假期之初，“原生旅游”正在...
“人气旺”带动“消费火” 数据... 央视网消息：记者从北京市公园管理中心获悉，国庆假期第六天（10月6日），北京市属公园共接待游客57....
河南：文旅活动精彩纷呈 欢庆多... 这个国庆假期，河南各地节日氛围浓厚，人们在丰富多彩的活动中，乐享假日幸福时光。河南广电大象新闻记者 ...
国庆假期，长征展览人潮涌动 本文转自：人民日报传承红色基因 凝聚前行力量国庆假期，长征展览人潮涌动本报记者 　　今年是中国工农红...
出行热 体验丰 门市旺——国庆... 来源：新华网新华社北京10月5日电 题：出行热 体验丰 门市旺——国庆假期消费市场观察新华社记者国庆...
国庆佳节 多国游客送上美好祝愿 　　国庆假期，广州白云机场口岸出入境人流旺盛，跨境旅游与商务往来热度攀升，不少来华外国游客在此为中国...
6万公里精品自驾路，串起怎样的... △点击上方蓝字关注我们△风从车窗进来，山河在车轮下展开。手握方向盘，我们已经进入了自驾时代。今年8月...
国庆出境游迎来爆发式增长，当佛... 今年国庆，出境游爆发式增长，全球多个知名景点，随处可见中国游客的身影，其中一段意大利佛罗伦萨的实拍视...
记者手记丨中英旅游，向文化体验... 　　新华社伦敦10月5日电　记者手记丨中英旅游，向文化体验更深处去　　新华社记者高文成　　在英国泰晤...
潮流中国｜外国游客：来中国旅游... 　　假期去哪玩？来看“老外”们眼中的中国游“必玩攻略”，发现他们眼中的中国：感受活力都市，欣赏边境风...
上海入境"老外"增两成 "Ch... 国庆假期过半，上海口岸跨境人员往来持续保持高位运行。上海边检总站数据显示，10月1日至3日，上海口岸...
人比沙子多！鸣沙山游客多到宛如... 齐鲁网·闪电新闻10月4日讯人比沙子多！鸣沙山游客多到宛如“拼豆”！骆驼都要等红绿灯！游客戏称：这是...
贵州晴隆通报“二十四道拐公路收... 近日，贵州晴隆县二十四道拐景区收费问题引发社会关注。10月4日，贵州晴隆县人民政府发布关于二十四道拐...
菏泽：菊韵满庭秋 繁花迎客来 齐鲁网·闪电新闻10月4日讯 金秋送爽，菊韵飘香。国庆假期，中国牡丹园第八届金秋菊展开幕，万千秋菊绚...
带孩子打卡山林温泉 成都大邑举... 00:58 张介文 王书仪 封面新闻记者 杨芮雯 10月2日，“邑享秋山汤趣”2026大邑户外亲子徒...
服贸会新观察 | 外方嘉宾：“... 　　9月9日至13日，2026年中国国际服务贸易交易会举行期间，来自世界各地的展商和嘉宾在此寻找商机...