OpenAI更新ChatGPT以加强心理健康防护，回应用户安全关切
人工智能公司OpenAI宣布将更新其广受欢迎的ChatGPT产品，以应对近期围绕用户心理健康问题的诉讼。该公司在周二发布的博文中表示，更新将提升ChatGPT识别和响应用户心理困扰表达的能力，例如解释睡眠不足的危害，并在用户提及连续两晚感觉无敌时建议其休息。此外，OpenAI还将加强围绕自杀相关对话的安全防护措施，以防止在长时间交流中出现防护失效的情况。此次调整旨在为用户提供更负责任的交互体验，并回应社会对AI技术在心理健康领域潜在影响的担忧。
此次更新凸显了AI技术在处理复杂人类情感和心理健康议题时所面临的挑战。通过改进对用户潜在痛苦信号的识别和响应机制，OpenAI意在降低AI工具被误用或导致负面后果的风险。强化自杀相关话题的安全防护，更是对AI伦理边界的审慎探索，表明技术发展需要与社会责任并行，尤其是在可能触及生命安全和个体福祉的领域。
网友讨论