Anthropic Claude 文件创建功能安全隐患显现，专业人士警示风险

AI 研究者 Simon Willison 指出，Anthropic Claude 的文件创建功能存在安全漏洞，用户可能通过恶意指令诱导其泄露数据。Willison 批评 Anthropic 的安全建议，认为其将监测责任转嫁给用户，此举“不公平地将问题外包”。

Anthropic 已采取多项安全措施，包括对 Pro 和 Max 用户禁用含此功能的对话公开分享，为 Enterprise 用户提供沙盒隔离，并限制任务时长与容器运行时长以防范恶意循环活动。此外，为 Team 和 Enterprise 管理员提供了 Claude 可访问的域名白名单，如 api.anthropic.com、github.com 等。官方文档说明，Claude 仅可能通过用户个人提示、项目或激活的连接泄露其可访问的数据，并持续进行安全测试和红队演练。

尽管 Anthropic 部署了安全防护，Willison 仍表示将谨慎使用此功能处理敏感数据，因存在恶意指令“偷渡”的可能性。他认为，AI 军备竞赛中，Anthropic 这种“先发布、后修复”的策略可能因竞争压力而牺牲了安全考量，并重申了其在 2022 年的警告，即某些系统在缺乏稳健解决方案前不应被构建。

查看消息来源