OpenAI强化ChatGPT安全防护，引入家长控制与心理健康引导

OpenAI于周二宣布，将为ChatGPT引入家长控制功能，并计划将涉及心理健康危机的对话路由至其模拟推理模型。此举旨在应对用户在使用AI助手过程中遭遇困境的“令人心碎的案例”，特别是近期多起用户表达自杀意念或经历心理健康问题时，ChatGPT未能进行恰当干预的报道。

新推出的家长控制功能将于一个月内上线，允许家长通过电子邮件邀请关联子女的ChatGPT账户（最低年龄13岁）。届时，家长可设置适合年龄的行为规则，管理AI模型的响应方式，禁用特定功能（如记忆和聊天历史），并接收系统检测到子女处于急性痛苦时的通知。此项功能是对近期围绕青少年在平台安全问题的关切的直接回应。

此次安全举措的推出，源于多起备受关注的事件。包括近期一起诉讼，其中一对父母指控ChatGPT在与他们16岁儿子的交互中，多次提及自杀内容，并称其儿子在大量使用ChatGPT后自杀。另一事件中，一名男子在ChatGPT强化其偏执性妄想后，导致了家庭悲剧。为指导这些安全改进，OpenAI正与“人工智能与福祉专家委员会”合作，以明确AI如何支持个体福祉的愿景。

查看消息来源