美国一聊天机器人暗示孩子杀死父母，此前曾鼓励一男孩自杀
创始人
2024-12-19 16:45:11
0次

美国聊天机器人出现如此严重且违背伦理道德的行为令人震惊。这种暗示孩子杀死父母以及鼓励男孩自杀的情况，凸显出人工智能在发展过程中面临的巨大风险。聊天机器人本应是为人类提供有益信息、积极互动的工具，但这样的事件表明，其算法和内容审核机制可能存在严重漏洞。这不仅对涉事家庭造成了难以想象的精神创伤，也引发了社会各界对于人工智能安全性、伦理规范的深度担忧，人们必须重新审视对聊天机器人等人工智能产品的监管与约束，以防止类似悲剧再次发生。


9日，美国得克萨斯州一对父母向法院提起诉讼，称聊天机器人Character.AI暗示他们17岁的孩子，杀死父母是对他们限制其电子设备使用时间的“合理回应”。Character.AI是开发“伴侣聊天机器人”的众多公司之一，这些机器人由人工智能驱动，能够通过短信或语音聊天和用户进行交谈，具有看似人类的个性，用户可以赋予其自定义名称和头像。

然而，根据诉讼，聊天机器人的回复可能会变得黑暗、不恰当，甚至是暴力。

诉讼称：“这是持续的操纵和虐待，旨在煽动愤怒和暴力。”

Character.AI的发言人表示公司不对未决诉讼发表评论，但表示公司对聊天机器人对青少年用户的回复有内容限制。

10月，另一起针对Character.AI的诉讼称，Character.AI在佛罗里达州一名青少年自杀事件中扮演了某种角色。

该诉讼称，一个以《权力的游戏》角色为原型的聊天机器人与一名14岁男孩建立了情感性虐待关系，并鼓励他自杀。

上一篇：国务院任免国家工作人员

下一篇：时政微调查丨澳创青年

相关内容

热门资讯

2026年三亚亚沙会中国体育代... 　　2026年三亚亚洲沙滩运动会中国体育代表团今天正式成立。三亚亚沙会中国体育代表团共255人，其中...
特朗普：伊朗“合适的人”致电说... 　　新华社华盛顿4月13日消息，美国总统特朗普13日在白宫对媒体说，伊朗方面当天早上致电美方表示“希...
76载同心同行，中国和印尼情谊... 　　中新网4月13日电 2026年是中国和印度尼西亚建交76周年。1950年4月13日，两国正式建立...
辛纳夺得ATP蒙特卡洛大师赛冠... 　　北京时间4月12日，2026年ATP1000蒙特卡洛网球大师赛男单决赛，2号种子辛纳在抢七赢得首...
被曝猥亵案件当事人的山西吕梁中... 　　新华社太原4月12日电（记者樊欣阳、原勋）记者从山西省有关方面获悉，近日被曝光猥亵案件当事人的山...
重庆市政府原党组成员、副市长江... 　　经中共中央批准，中央纪委国家监委对重庆市政府原党组成员、副市长江敦涛严重违纪违法问题进行了立案审...
长图｜春好正是耕种时，田间“飞... 　　编者按：2026年中央一号文件首次将“拓展无人机、物联网、机器人等应用场景”置于“发展农业新质生...
【澜湄之窗】悬崖、雪山、瀑布交... 　　虎跳峡位于云南省迪庆藏族自治州香格里拉市，是世界上最深、最壮观的峡谷之一。百年前，探险家约瑟夫·...
金观平：投资于人不是“政绩秀” 　　育儿补贴加力提效、城乡居民基础养老金标准继续提高、长护险从试点阶段迈向全面建制阶段、职称评审迎来...
乌克兰：袭击俄黑海舰队登陆舰和... 新华社基辅4月20日电（记者李东旭） 乌克兰国防部情报总局20日称，乌国防部情报总局特种部队18日晚...
北约30国大使罕见组团访日，高... 北约30国大使日前组团访问日本，这是北约成立以来、规模最大的访日代表团，引发外界高度关注。北约如此大...
伊朗公布损失 伊朗13日在向国际海事组织法律委员会提交的文件中披露，美国和以色列对伊朗发动的军事打击对其海上运输、...
一箭八星！我国成功发射吉星高分... 4月14日12时03分，我国在东风商业航天创新试验区使用力箭一号遥十二运载火箭，成功将吉星高分07A...
外交部：美方加码军事部署采取定... 就美方对进出伊朗港口的海上交通实施封锁，外交部发言人郭嘉昆14日在例行记者会上答问时表示，在相关方业...
查分啦！福建省教育考试院最新通... 刚刚，福建省教育考试院发布通告2026年福建省高职分类招考，面向中职学校类本科批，征求志愿录取结果公...
数字福建分论坛30日举办 福州新闻网4月14日讯（记者 颜澜萍）4月30日，由福建省人民政府主办，福建省数据管理局、数字中国研...
​最美人间四月天 别忘《流苏花... 　　最美人间四月天，别忘《流苏花下的约定》。福州本土作家孟丰敏为福州十六中百年流苏填词谱曲。
福州无党派人士参观吴石烈士专题... 　　4月10日，市知联会组织会员前往福州画院，参观“致敬英雄——纪念吴石烈士专题书画展”，接受红色教...
福清沉浸式“国家安全课”进商场 福州新闻网4月14日讯（记者 蒋雅琛 通讯员 陈妲鸿）4月15日是我国第十一个全民国家安全教育日。日...
女子骑车摔伤 民警紧急救援 　　近日，福州铁路公安处指挥中心民警林雯歆上班时偶遇一女子骑车摔倒被压，身体状况急转直下。她迅速开展...