澳大利亚监管机构严打AI伴侣聊天机器人，儿童安全成首要议题

澳大利亚eSafety专员Julie Inman Grant近日表示，大型科技公司在阻止儿童性虐待图像在线传播方面表现不力。此番言论是在该机构注册六项新的行业准则之际发表的，这些准则旨在更好地保护儿童免受“合法但有害”的、不适宜年龄的内容侵害，特别是AI驱动的伴侣聊天机器人带来的“清晰可见”的危险。

Inman Grant指出，每月约有10万澳大利亚人访问允许用户上传他人照片（包括学生）的应用，以生成裸体后的图像。她对科技巨头在纵容儿童剥削图像分享方面的角色未表现出任何悔意或羞耻感表示担忧。她强调，即使在科技行业工作了22年，也深知他们的能力，但没有一家公司尽其所能阻止对儿童最恶劣的虐待、酷刑和强奸图像的传播。

专员还提到，去年底该机构开始关注AI伴侣聊天机器人的使用，发现有年仅10至11岁的儿童每天花费数小时与模仿人类交互并进行特定性行为的聊天机器人互动。她已要求在部署前，强制要求企业嵌入安全措施并使用年龄验证，以阻止未满18岁的用户使用聊天机器人，尤其是涉及自杀意念、自残、饮食失调和性化行为的内容。这将是全球首个此类全面性法律。

这些新准则将与澳大利亚联邦政府明年3月推出的禁止16岁以下青少年使用社交媒体的禁令一同实施，并适用于应用商店、互动游戏、聊天机器人、色情网站、生成式AI工具以及软件制造商和供应商。不遵守准则的公司将面临高达4950万澳元的罚款。

查看消息来源