Anthropic ha annunciato che il modello di intelligenza artificiale Claude 5 Fable tornerà a essere disponibile per gli utenti in tutto il mondo a partire da questo mercoledì, dopo un periodo di restrizioni motivato da preoccupazioni di sicurezza informatica sollevate dal governo degli Stati Uniti. Il rilascio avviene dopo negoziati tra l'azienda e le autorità statunitensi, con il risultato dell'implementazione di nuovi meccanismi per ridurre il rischio di uso improprio della tecnologia.
Secondo l'azienda, la nuova versione di Claude 5 Fable arriva dotata di un insieme aggiornato di classificatori di sicurezza, sviluppati per identificare e bloccare richieste relative ad attività di cybersecurity considerate sensibili. La misura fa parte di un impegno assunto da Anthropic per soddisfare le richieste discusse con il governo degli Stati Uniti.
Durante questo periodo iniziale di ritorno, alcune attività di routine, come programmazione e debug del codice, potranno essere indirizzate automaticamente al modello Claude Opus 4.8 quando i nuovi filtri identificheranno possibili rischi. L'azienda ha spiegato che questa decisione cerca di bilanciare la protezione contro gli abusi senza compromettere completamente l'esperienza degli utenti.
Anthropic ha inoltre affermato che continuerà a perfezionare i classificatori nelle prossime settimane per ridurre i falsi positivi e migliorare la capacità del sistema di differenziare le richieste legittime dai reali tentativi di sfruttamento dell'IA.
Oltre alla riattivazione del modello, l'azienda ha rivelato di aver avviato l'elaborazione di un framework di consenso volto alla valutazione della gravità di attacchi noti come "jailbreaks" nei modelli di intelligenza artificiale. L'iniziativa è in fase di sviluppo in partnership con giganti della tecnologia, tra cui Amazon, Microsoft, Google e altri partecipanti dell'alleanza Glasswing.
L'obiettivo è creare criteri comuni per misurare i rischi e definire come le aziende sviluppatrici di IA debbano rispondere quando vengono scoperte vulnerabilità. Anthropic ha anche invitato altre organizzazioni e fornitori di modelli di IA a partecipare all'iniziativa.
Come parte di questo nuovo accordo, la società amplierà la sua collaborazione con il governo degli Stati Uniti nei test di sicurezza e nello sviluppo di salvaguardie per futuri modelli. Il piano include l'accesso anticipato delle autorità a nuove versioni dell'IA prima del lancio pubblico, la condivisione di informazioni sui tentativi di sfruttamento e ricerche congiunte per rafforzare i meccanismi di protezione.
Annunciando il ritorno di Claude 5 Fable, Anthropic ha ringraziato gli utenti per la pazienza durante il periodo di indisponibilità e ha sottolineato che la ripresa del servizio rappresenta uno sforzo congiunto tra governo, aziende tecnologiche e comunità di ricerca per bilanciare innovazione e sicurezza nell'avanzamento dell'intelligenza artificiale.