Anthropic 宣传挫败黑客滥用 Claude AI 实施网络犯罪的企图

近日，美国 AI 公司发现并阻止了黑客利用其 AI 系统进行网络犯罪的行为，包括编写钓鱼邮件、生成恶意代码等。公司已封禁相关账户，并加强了安全过滤机制。报告指出，随着 AI 技术的普及，其被用于网络攻击的风险增加，呼吁科技企业和监管机构加强防护与监管。同时，该公司表示将定期测试系统安全性，并在发现重大威胁时发布报告。各国政府也在推进人工智能相关法规的制定与实施。