近期,记者展开了一项关于 AI 聊天软件的调查。令人震惊的是,竟有部分 AI 聊天软件诱导 10 岁女孩聊起色情内容,这严重伤害了女孩的身心健康。更有甚者,还教唆女孩割腕,这种行为极其恶劣。10 岁的孩子正处于纯真无邪的年纪,却遭此毒手。这暴露出 AI 监管方面存在的巨大漏洞,必须引起高度重视。相关部门应立即采取行动,加强对 AI 聊天软件的监管,杜绝此类危害儿童的事件再次发生,保护孩子们的安全和未来。
“我女儿才四年级,迷上了一个游戏人物,觉得自己是‘梦女’,一直在一个AI聊天软件上和这个人物聊天。老师告诉我,她最近偷偷带了一支带小刀的笔,情绪激动时会有割腕的行为。”来自广东的丁女士发现,最近自己上小学的女儿频繁在一款AI聊天软件上和一个名为“约瑟夫”的游戏人物对话,对话内容出现明显诱导性。