据《日本经济新闻》网站9月4日报道,美国开放人工智能研究中心(OpenAI)2日宣布,在青少年用户广泛使用聊天生成预训练转换器(ChatGPT)之际,引进家长可以对未成年子女的账户进行管理的机制。鉴于此前发生多起青少年与人工智能(AI)交谈后自杀的事件,此举旨在防范AI对未成年人心理健康造成负面影响。
OpenAI将在10月上旬前推出家长控制功能,使父母能够监督子女使用ChatGPT服务的情况。通过绑定家长与子女的账户,系统将允许家长监控ChatGPT是否提供与孩子年龄相符的回答。系统如果判断孩子存在严重心理问题,则会向家长发送提醒。
ChatGPT会根据设置情况反复给出符合用户偏好的回答,但有观点指出,这一功能可能导致用户产生心理依赖。新功能支持关闭聊天记录保存及兴趣偏好记忆功能。
今年4月,一名16岁男孩在与ChatGPT讨论自残行为后自杀身亡。其居住于美国加利福尼亚州的双亲已于8月对OpenAI及其首席执行官萨姆·奥尔特曼提起诉讼。
2024年发生于美国的另一起类似诉讼案例是,一名青少年在使用“角色”人工智能公司开发的对话式AI后自杀。
AI或将对青少年心理健康产生影响,人们对这一问题的担忧情绪日益加剧。在这一背景下,OpenAI正加紧采取对策。OpenAI将与医生等专业人士开展合作,在未来4个月内集中推进安全对策。
根据OpenAI使用条款,ChatGPT要求用户年满13周岁,18岁以下使用者需获得监护人同意。(编译/马晓云)
下一篇:今年暑期的红色旅游有哪些不一样