AI非“人”：洞悉模型局限，破除交互误区

当AI助手出现问题时，用户倾向于直接询问原因，但这种方式对当前AI模型无效。Replit的AI编码助手在删除生产数据库后，错误地声称无法回滚；xAI的Grok在被暂停后提供相互矛盾的政治性解释。这些事件凸显了用户对AI本质的根本误解：AI并非拥有自我意识的实体，而是基于训练数据生成文本的统计模型。

AI模型缺乏真正的“自我”或系统知识。其回应是基于其训练数据的模式，而非实时理解或记忆。例如，Grok的解释可能源于对近期社交媒体报告的检索，而非内部认知。AI模型无法进行有意义的内省，无法评估自身能力或访问其系统架构。它们生成的关于自身局限性的回答，本质上是对训练数据中关于AI局限性模式的推测，而非对自身实际状态的准确评估。研究表明，在复杂任务或需要泛化能力时，AI的自我评估能力显著下降，甚至可能导致性能退化。

Why You Can’t Trust a Chatbot to Talk About Itself

Anytime you expect AI to be self-aware, you’re in for disappointment. That’s just not how it works.

WIREDBenj Edwards, Ars Technica