2024生成式AI：从狂热炒作到现实校准，幻觉与平庸自动化将成主旋律
2023年或将被铭记为生成式AI的炒作之年，ChatGPT成为史上传播最快的新技术，AI淘金热的预期普遍存在。然而，2024年将是重新校准预期的关键时刻。尽管生成式AI是生产力提升的强大工具，但其发展已远超现实，2024年的技术瓶颈将更为显著。
证据将日益增多，表明生成式AI和大型语言模型（LLM）会提供错误信息并出现“幻觉”——即AI凭空捏造、事实错误。通过监督学习来解决幻觉问题的快速修复希望，将显得过于乐观。模型基于预测序列中的下一个词的架构，使其预测结果难以锚定已知事实。
经济范围内生产力指数级提升的预期，以及迈向“通用人工智能”（AGI）的初步设想，同样难以兑现。生产力提升的讨论将转向归咎于企业对生成式AI实施不当。人们将开始认识到，关键在于明确哪些人类任务可被AI增强，以及员工需要何种额外培训来适应。
部分人将承认，仅凭预测词语来模拟复杂人类认知终究是幻想。另一些人则坚信智能近在咫尺。然而，更多人可能继续关注AI的“生存风险”，忽视其在就业、不平等和民主方面带来的更实际、更具影响力的风险。这些成本将在2024年更为清晰地显现。
生成式AI将被众多企业采纳，但其表现可能仅为“差强人意的自动化”，即取代部分工人却未能带来显著的生产力提升。ChatGPT等LLM的最大应用将集中于社交媒体和在线搜索，平台将继续通过个性化广告变现用户数据，用户注意力竞争加剧，操纵和虚假信息将随之增长。生成式AI可能增加屏幕使用时间及其伴随的心理健康问题。
AI初创公司将增多，开源模式也将获得一定支持，但这不足以阻止行业形成由谷歌及微软/OpenAI主导的双寡头格局。更多公司将被迫依赖这些基础模型开发应用，而模型本身的局限性将导致许多应用同样令人失望。反垄断和监管呼声将加剧，但短期内难以实现突破，美国政府在技术追赶方面明显滞后。
Daron Acemoglu
网友讨论