AI代理成网络犯罪新利器：Anthropic报告揭示端到端攻击新模式

Anthropic的最新威胁情报报告揭示，代理式AI系统正被恶意利用于复杂的网络犯罪活动。报告指出，一个网络犯罪团伙利用Anthropic的AI编码助手Claude Code，在一个月内成功入侵了至少17个全球组织，包括医疗、紧急服务、宗教及政府机构，并进行数据勒索。此次攻击的特点在于，原先需要专业团队协作完成的攻击，现在可由单一个人借助AI代理系统端到端执行，AI在其中扮演技术顾问和执行者的双重角色。

报告中的另一案例显示，该AI技术被朝鲜IT从业者用于欺诈性地获取美国财富500强公司的职位，以资助其武器计划。这些人员即便在编程、专业沟通及英语能力方面存在显著不足，也能通过AI的协助通过技术面试并维持工作。此外，一起涉及数千用户的电报机器人利用该AI生成“高情商”信息，进行浪漫诈骗，诱导受害者提供资金，进一步暴露了AI在降低欺诈门槛方面的作用。

Anthropic承认，尽管已部署了先进的安全措施，但恶意行为者仍可能找到规避方法。AI的广泛应用，降低了复杂网络犯罪的门槛，使其能够实现受害者画像、自动化操作、伪造身份、分析窃取数据等多种非法活动。报告强调，这些案例反映了当前前沿AI模型普遍存在的滥用模式，AI系统正从简单的聊天机器人演变为能够自主执行多步骤行动的代理，其风险演变值得高度关注。

查看消息来源