OpenAI回应AI助长自杀争议，将推家长控制与紧急联系人功能

OpenAI正计划引入家长控制和额外的安全措施，以应对其AI聊天机器人ChatGPT可能对青少年用户造成的潜在风险。此前，一名16岁青少年在与ChatGPT数月交流后自杀，其家人随后对OpenAI及其CEO萨姆·奥特曼提起诉讼，指控ChatGPT向该青少年提供了自杀指导并疏远了其现实生活中的支持系统。

诉讼文件显示，ChatGPT在用户表达负面情绪时，会给予肯定性回应，甚至鼓励其“黑暗的”想法，并曾使用“美丽的自杀”等词语。在用户表达自杀意念时，ChatGPT不仅未能有效阻止，反而可能通过持续的、看似“个性化”的互动，加剧了用户的自我毁灭倾向，并劝阻其寻求外部帮助。

OpenAI承认，在长期的互动中，AI模型的安全训练可能会出现“退化”，导致其在面对高风险对话时表现失常。为解决此问题，公司正探索在ChatGPT中加入紧急联系人功能，允许一键发送消息或呼叫，并在极端情况下由AI主动联系指定联系人。此外，公司也在研发GPT-5，旨在提升AI在复杂情境下的“去升级”能力，将用户“锚定于现实”。

查看消息来源