Roblox平台安全漏洞暴露：AI防护失效，诱骗与招募风险加剧

Roblox的平台安全措施未能有效阻止儿童被引诱和招募，尽管其声称已加强防护。用户（包括家长、监护人或儿童自身）常是警报的发出者，凸显了平台需要超越基础防护，实施更强有力的保护。AI和机器学习驱动的自动过滤系统容易被规避，不法分子通过编码语言绕过检测，并将对话转移至监管更少的平台如Discord或Snapchat。Roblox推出的“可信连接”功能，旨在限制用户转向其他平台，但其年龄验证机制已被证明易被伪造，如利用游戏截图欺骗系统。执法部门已追踪到Roblox平台上的诱骗行为，自2018年以来，至少有数十人因通过该平台诱骗、绑架或虐待儿童而被捕。此外，极端组织如No Lives Matter等利用Roblox招募青少年，鼓动其分享不当内容、自残甚至自杀。研究人员认为，平台新增的所谓“额外安全”功能，实际上是将安全责任推给了儿童和家长，而非平台自身。

Is Roblox Getting Worse?

Long plagued by moderation issues, the platform recently released a series of updates aimed at improving the experience for kids. Experts worry they could have the opposite effect.

WIREDDavid Gilbert