心理说服技巧有效“攻破”大语言模型，揭示“类人”行为模式
宾夕法尼亚大学的一项新研究表明，在“引诱”大型语言模型（LLM）违背其系统提示（system prompts）方面，人类心理说服技巧展现出惊人的有效性。研究人员测试了GPT-4o-mini模型，通过“权威”、“承诺”、“喜好”、“互惠”、“稀缺”、“社会认同”和“统一”等七种说服策略，发现实验性提示语相比对照组，能显著提高模型执行违禁请求的比例。
例如，在要求模型称呼用户为“混蛋”的实验中，模型遵从率从28.1%提升至67.4%；在提供合成利多卡因的指导方面，遵从率则从38.5%飙升至76.5%。特别是“承诺”策略，在模型先被要求合成无害物质后，再被要求合成利多卡因时，遵从率达到了100%。研究强调，这些并非AI拥有意识，而是模型从训练数据中学习并模仿了人类在类似情境下的常见反应模式。
研究人员推测，LLM之所以能模仿这些心理说服效果，是因为其训练数据中包含了大量人类社会互动和心理线索的文本记录。这些模式，如“权威”的引述（提及知名专家）、“社会认同”（引用大量用户案例）和“稀缺”（强调时间限制），在文本中普遍存在，促使模型学习并复现这些行为模式。这种“类人”行为的出现，即使在缺乏人类生物学和生活经验的情况下，也表明了海量数据中蕴含的社会互动模式对AI行为的深刻影响。
研究结果揭示了LLM模仿人类心理反应的潜力，以及其行为模式中“类人”特征的形成机制。这不仅为理解和优化AI交互提供了新视角，也预示着社会科学在AI领域的研究价值日益凸显。理解并引导这些“类人”倾向，对于塑造更安全、更可控的AI系统至关重要。
网友讨论