Anthropic 宣布，人工智能模型 Claude 5 Fable 将自本周三起再次面向全球用户开放，此前因美国政府提出的网络安全风险担忧而经历了限制期。该放行是在公司与美国当局进行谈判之后实现的，最终通过实施新的机制来降低技术被滥用的风险。
据公司称，Claude 5 Fable 的新版本配备了一套更新的安全分类器，这些分类器旨在识别并拦截与网络安全活动相关、且被认为属于敏感范畴的请求。该举措是 Anthropic 为满足其与美国政府讨论过的要求而作出的承诺的一部分。
在这次初始回归期间，一些日常任务，例如编程和代码调试，可能在新过滤器识别出潜在风险时被自动引导至模型 Claude Opus 4.8。公司解释称，这一决定旨在在防止滥用的保护与不完全牺牲用户体验之间取得平衡。
Anthropic 还表示，未来数周将继续完善这些分类器，以减少误报，并提升系统区分合法请求与 AI 真实利用尝试的能力。
除重新启用该模型外，公司还透露其已开始制定一个面向共识的框架，用于评估在人工智能模型中被称为“jailbreaks”的已知攻击的严重程度。该倡议正在与科技巨头合作开发，包括 Amazon、Microsoft、Google 以及 Glasswing 联盟的其他参与方。
目标是制定共同标准来衡量风险，并明确当开发 AI 的企业发现漏洞时应如何回应。Anthropic 也邀请其他组织和 AI 模型供应商参与该倡议。
作为这一新协议的一部分，公司将扩大与美国政府在未来模型的安全测试与防护措施开发方面的合作。该计划包括：在公开发布之前，政府当局可提前获得新一代 AI 版本的访问权限；共享有关被利用尝试的信息；并开展联合研究以强化保护机制。
在宣布 Claude 5 Fable 回归时，Anthropic 对用户在不可用期间的耐心表示感谢，并强调恢复服务体现了政府、科技公司与研究社区之间的共同努力，以在人工智能进展中平衡创新与安全。