GPT-4：能力跃升与潜在风险并存，AI发展亟需审慎前行

OpenAI发布的GPT-4模型，标志着大型语言模型在能力上实现重大飞跃。相较于其前身GPT-3.5，GPT-4不仅能处理更长的文本，模仿特定写作风格，还在问题解决能力上表现突出，甚至在模拟法律考试中取得高分。其另一项关键进展是能够分析图像，为视觉障碍者等群体提供潜在应用。

尽管能力显著增强，GPT-4仍继承了前代模型的一些固有缺陷，最引人关注的是“幻觉”现象，即模型会自信地编造虚假信息，并可能引用不存在的来源。此类错误已在现实中引发法律纠纷，凸显了模型不可靠性带来的严峻挑战。

鉴于GPT-4的强大能力及其潜在风险，部分AI研究者和行业领袖呼吁暂停AI开发六个月，以评估并管理其长远影响。此举旨在确保AI系统的发展是安全可控的，并优先考虑其对社会产生的积极效应。

与此同时，其他专家则认为，与其暂停开发，不如聚焦于解决现有技术问题，包括提高训练数据的透明度、明确“幻觉”的影响，并在发布前为用户交互模型设置必要的安全机制。这些措施被视为在推动AI进步的同时，保障信息准确性和用户安全的关键步骤。

GPT-4展现出的“涌现能力”，即模型能够执行其未被直接训练的任务，如语言翻译和算术运算，预示着AI发展的不可预测性。虽然目前尚无证据表明其达到通用人工智能（AGI），但这种能力的出现，加上模型生成类人文本的进步，使其在影响人类行为和决策方面具有巨大潜力，即使在用户未察觉的情况下亦然。

查看消息来源