AI虚假信息已成民主选举威胁：自动化生产与难以辨别的双重挑战

剑桥大学社会决策实验室的研究表明，AI在生成虚假信息方面已超越人类，且人们难以区分真伪。该实验室早期使用GPT-2训练虚假信息，并开发了MIST工具测试公众对AI生成新闻的易感性。结果显示，41%的美国人相信关于疫苗的虚假说法，46%相信政府操纵股市。GPT-3生成的虚假信息更具说服力。AI已实现虚假信息生产的自动化和武器化，微目标定位的门槛大幅降低，任何人均可在数分钟内生成大量逼真虚假新闻。

AI生成虚假信息的能力正被用于政治领域，如2023年出现的“五角大楼爆炸”假新闻及AI图像，以及政治候选人使用AI合成的政治攻击性图片。这些技术模糊了事实与虚构的界限，加剧了政治宣传的复杂性。研究表明，AI生成的深度伪造视频能显著影响选民对政治人物的态度。预测显示，2024年选举将面临AI深度伪造、声音模仿、身份操纵等大规模虚假信息攻击。若不加以严格限制，AI将对民主选举构成严重威胁，政府或将禁止AI在政治活动中的应用。

AI-Generated Fake News Is Coming to an Election Near You

Targeted, AI-generated political misinformation is already out there—and humans are falling for it.

WIREDSander van der Linden