网络暴力新形态：AI换脸与色情勒索激增，援助热线面临严峻挑战

名为“Revenge Porn Helpline”的援助热线正面临日益严峻的挑战，其工作内容已从最初的“报复性色情报复”扩展到应对网络勒索、AI换脸色情内容以及未经同意的私密影像传播等多种形式。该热线自2015年成立以来，接到的求助量激增超过四十倍，2024年报告量更是同比增长20.9%。数据显示，早期求助者以女性为主，但至2023年，男性求助者已超过女性。预计到2028年，接线量将翻倍。

当前，AI技术的发展使得合成与真实影像的界限模糊，增加了辨别难度。热线工作人员发现，许多求助者不仅面临私密影像被恶意传播，还遭遇“色情勒索”，即不法分子以公开私密信息相威胁，索要金钱。尤其值得关注的是，93%的“色情勒索”案件受害者为男性，而高达97%的未经同意私密影像传播事件的受害者为女性。此外，利用AI技术将他人面部嵌入色情内容（Deepfakes）的现象也呈爆炸式增长，据统计，2023年热门网站上的Deepfake视频数量激增，总观看次数达数十亿。

尽管面临诸多挑战，热线提供的支持仍显成效。例如，对于OnlyFans等平台，热线有90.9%的成功率帮助移除未经同意的私密影像。工作人员强调，受害者并非过错方，并提供技术支持，如通过面部识别技术搜索和移除网络上的相关内容。然而，部分境外网站或不合规平台在内容移除方面存在阻碍。英国新出台的《在线安全法案》及《数据（使用与访问）法案》有望在打击此类行为方面发挥作用，尤其是在合成内容方面。热线工作人员通过提供明确的法律途径和心理支持，帮助受害者摆脱困境，重拾尊严。

查看消息来源