Reddit翻译Bug暴露AI风险，平台需加强内容审核机制

Reddit近期遭遇一起技术故障，导致平台内的英文内容被错误地翻译成另一种英文形式。Reddit发言人Tim Rathschmidt解释称，这是一个在测试中出现的“小Bug”，现已修复。此次事件并非Reddit策略的一部分，也非测试预期结果。尽管Reddit已暂停相关测试，但其机器学习翻译功能仍在运行，公司计划修复Bug后重新进行测试。

此次事件与用户此前猜测Reddit利用生成式AI改写用户内容以优化SEO的理论有所不同。然而，问题持续数周未得到解释，以及翻译服务似乎缺乏人工审核，仍引发了用户的不满。特别是，该Bug曾导致家长在讨论自闭症的社群中，错误地认为其孩子可能患有自闭症，并表达负面情绪，对自闭症群体造成了二次伤害，也增加了版主的工作负担。

此次事件也促使版主们反思，在平台推出未经通知且无法关闭的翻译服务时，潜在的风险不容忽视。Reddit的AI翻译功能在推出时缺乏透明度，且未提供给版主控制选项，这可能引发如是般意想不到的负面影响。这表明，在引入AI驱动的功能时，平台方需要建立更完善的风险评估和用户沟通机制，以避免对社区和用户造成伤害。

查看消息来源