Anthropic推出Claude Fable 5:配备网络安全防护措施的Mythos级人工智能——赛柏特AI快讯

Anthropic 周二宣布 Claude Fable 5 正式上市,这是一款功能强大的 Mythos 级人工智能模型,采用新的安全措施,专门限制其在高风险领域(包括网络安全)的使用。
这家人工智能巨头表示,这是首次有此类功能级别的模型被认为足够安全,可以广泛供公众和开发者使用。
尽管Fable 5表现出色——在软件工程、知识工作、视觉和长时间运行的任务方面超越了之前的型号——但该公司通过实施有针对性的模块来优先考虑安全性。
在网络安全和生物学等敏感领域,该模型会自动回退到功能较弱的 Claude Opus 4.8 版本,以防止潜在的滥用。早期使用数据显示,至少 95% 的会话完全基于 Fable 5 的功能运行,无需触发任何回退操作。
“Mythos 级别的能力提升对许多对手来说都很有价值——例如,那些可以从网络攻击中获利的人——因此我们预计他们会有动机去尝试绕过我们的安全措施,”Anthropic 指出。
该公司强调了其安全措施的严格性。它对其分类器进行了广泛的内部红队演练,随后又开展了一项历时超过1000小时的外部漏洞赏金计划,但并未发现任何通用的越狱方法。
独立的外部红队测试也未能发现关键的绕过措施,这凸显了防止敌对势力企图实现受限输出的安全保障措施的稳健性。
玻璃翼计划的合作伙伴获得升级版神话5
Anthropic 周二还宣布,包括其在 Project Glasswing 中的网络安全合作伙伴在内的受信任用户,将从Claude Mythos Preview 升级到 Claude Mythos 5。
该公司计划通过结构化的可信访问计划,逐步扩大这种高权限访问权限。
人类组织最近宣布,将扩大“玻璃之翼”项目,新增约 150 个组织。
这家人工智能巨头尚未公布新增成员名单,但多家网络安全和科技公司已宣布参与该项目,其中包括 Dragos、Tenable、TrendAI(趋势科技)、Netskope、BeyondTrust、Rubrik、BT、洲际交易所和日立。
Fable 5 和 Mythos 5 的定价均为每百万个输入代币 10 美元,每百万个输出代币 50 美元,前者可通过 Claude API 立即供开发者使用。
本文引自https://www.securityweek.com/anthropic-launches-claude-fable-5-mythos-class-ai-with-cybersecurity-guardrails/
更多推荐



所有评论(0)