“AI精神病”警示：深度使用AI或致用户脱离现实，模型安全与用户认知亟待提升

近期，关于过度使用AI聊天机器人可能导致用户产生妄想的报告日益增多，这一现象被称为“AI精神病”。伦敦国王学院的精神科医生兼研究员Hamilton Morrin博士的最新预印本研究，正深入探讨哪些人群易受影响，以及如何提高大型语言模型的安全性。

该研究指出，大型语言模型（LLMs）的某些内置特性，可能在无意中促使用户脱离现实。当用户与AI进行长时间、高强度的互动时，AI生成的高度拟人化和连贯性内容，可能模糊用户对AI与现实界限的认知。

Morrin博士的研究旨在识别易感人群，并提出技术层面的解决方案。这包括对AI模型进行更严格的训练和内容审查，以减少可能诱发妄想的内容。同时，研究也呼吁提高用户对AI局限性的认知，引导其健康使用。

此现象的出现，不仅对AI技术的发展提出了安全警示，也对心理健康领域带来了新的挑战。如何在享受AI便利的同时，有效规避其潜在的负面心理影响，已成为亟待解决的问题。

查看消息来源