Anthropicは、人工知能モデル Claude 5 Fable が、米国政府から提起されたサイバーセキュリティ上の懸念に基づく制限期間を経て、今週水曜日から世界中のユーザー向けに再び利用可能になると発表した。今回の提供再開は、同社と米国当局との交渉を経た後に行われ、新たな仕組みを導入して技術の不正利用リスクを低減することになった。
同社によると、新バージョンのClaude 5 Fableには、安全性分類器の更新セットが搭載されており、機密性が高いと見なされるサイバーセキュリティ活動に関連するリクエストを特定してブロックするために開発されたという。この措置は、Anthropicが米国政府との協議で取り上げられた要件に対応するために引き受けた約束の一環である。
この初期の再開期間中、プログラミングやコードのデバッグなどの一部の日常的な作業は、新しいフィルターが潜在的なリスクを特定した場合、自動的にモデル Claude Opus 4.8 に振り向けられる可能性がある。同社は、この決定はユーザー体験を完全に損なうことなく、不正利用への対策との均衡を図ることを目的としていると説明した。
Anthropicはさらに、今後数週間にわたり分類器の改善を続け、誤検知を減らし、正当なリクエストとAIの実際の悪用の試みとをシステムが識別する能力を向上させていくと述べた。
モデルの再有効化に加え、同社は、人工知能モデルに対する「jailbreaks」として知られる攻撃の深刻度評価に向けたコンセンサス・フレームワークの策定を開始したことも明らかにした。この取り組みは、Amazon、Microsoft、Google、およびGlasswingアライアンスのその他の参加企業を含むテクノロジー大手と連携して進められている。
目的は、リスクを測定し、脆弱性が発見された際にAI開発企業がどのように対応すべきかを定めるための共通基準を作ることにある。Anthropicはまた、他の組織やAIモデル提供者にもこの取り組みへの参加を呼びかけた。
この新たな合意の一環として、同社は、安全性試験および将来のモデル向け保護策の開発において、米国政府との協力を拡大する。計画には、一般公開前の新しいAIバージョンへの当局の事前アクセス、悪用の試みに関する情報共有、保護メカニズムを強化するための共同研究が含まれる。
Claude 5 Fableの再開を発表するにあたり、Anthropicは、利用停止期間中の忍耐に対してユーザーに感謝を示すとともに、サービス再開が、人工知能の発展においてイノベーションと安全性の均衡を図るための、政府、テクノロジー企業、研究コミュニティによる共同の取り組みを表すものだと強調した。