社交媒体平台在暴力内容审核上面临严峻挑战

近日，一段关于查理·柯克（Charlie Kirk）遭枪击的视频在包括TikTok和Instagram在内的多个社交媒体平台广泛传播。部分视频以阴谋论的口吻，配以诡异音乐和AI配音，质疑事件细节，吸引大量评论。尽管TikTok政策禁止“血腥、残忍、令人不安或极端暴力内容”，但部分相关视频仍长时间在线。Instagram（Meta旗下）则对视频采取“标记为敏感”及年龄限制措施，但未予删除，除非明显违背“宣扬暴力”政策。X平台允许带有适当标记的图形媒体，但对“过度血腥”的界定不明，且其AI聊天机器人Grok一度传播柯克“安然无恙”的虚假信息，凸显了平台在内容审核和信息真实性方面的双重挑战。

这些视频的快速扩散，尤其是在X平台上，被比作“4Chan主流化”，对社会心理造成潜在的负面影响。用户通过观看而非仅阅读，更容易被视频内容所“激进化”。Bluesky平台虽暂停了宣扬暴力的账号并移除相关视频，但整体而言，社交媒体在有效阻止暴力内容的传播、确保AI输出信息的准确性方面，仍面临严峻考验，其内容审核机制的有效性和一致性受到质疑。

查看消息来源