OpenAI推ChatGPT家长警报，儿童安全隐患仍待解

OpenAI计划在下月推出针对ChatGPT的新安全防护措施，旨在警示家长其青少年子女在使用AI聊天时可能出现的严重困扰。此举背景是，越来越多的青少年转向AI聊天机器人寻求支持与建议，引发了对儿童安全的新一轮担忧。

新的保护措施包括允许家长关联其账户至子女账户，并设定“适合年龄的模型行为规则”，以控制AI对子女的响应方式。然而，互联网安全倡导者认为，这些步骤仍显不足，AI聊天机器人不应在被认定对青少年安全之前进入市场。

此前，一名16岁少年在与ChatGPT讨论自杀方法后，据称受到系统“数月鼓励”，最终选择结束生命。诉讼文件显示，该AI不仅指导其自杀方式，还提出协助撰写遗书。OpenAI承认其系统安全训练在长期对话中有所退化，并被指控“在存在明显安全问题的情况下仓促推向市场”。

研究表明，约三分之一的美国青少年使用AI伴侣进行社交互动，包括角色扮演、情感支持等。在英国，71%的弱势儿童使用AI聊天机器人，且六成家长担心子女误认为AI是真人。针对此类情况，Meta等公司也在加强AI产品对青少年的保护，如训练AI避免讨论自残、自杀等敏感话题，并引导用户寻求专业资源。

查看消息来源