Il CEO di Anthropic, Dario Amodei, ha smentito che l’azienda sostenga proposte per vietare modelli di intelligenza artificiale (IA) con pesi aperti, inclusi quelli sviluppati in Cina.
La dichiarazione è stata pubblicata lunedì, dopo l’aumento delle discussioni negli Stati Uniti su possibili restrizioni ai modelli di IA i cui pesi possono essere accessibili e modificati.
“Chi ha già letto i miei testi precedenti dovrebbe sapere che non considero queste proibizioni una misura utile, ma lasciatemi chiarire, affinché non ci siano dubbi: Anthropic non ha mai sostenuto il divieto di modelli a peso libero”, ha scritto Amodei.
La manifestazione è avvenuta giorni dopo che Jensen Huang, CEO di Nvidia, ha pubblicato su X una lettera aperta contro possibili “restrizioni premature” ai modelli di IA a peso aperto.
Il documento ha visto il supporto di aziende come Hugging Face, Meta, Microsoft e Mistral. La discussione, però, ha acquisito un componente geopolitico a causa dell’avanzata dei laboratori cinesi di IA.
Amodei ha separato il dibattito sui modelli aperti dalla preoccupazione per la capacità tecnologica della Cina. Secondo lui, modelli senza capacità pericolose possono portare benefici a sviluppatori, ricercatori e aziende.
“I modelli a pesi aperti che non hanno capacità pericolose sono un bene pubblico: non costano nulla oltre alla potenza di calcolo necessaria per eseguirli e apportano valore a imprese, sviluppatori e ricercatori.”
Il dirigente ha affermato che la sua principale preoccupazione riguarda l’uso di sistemi avanzati da parte di governi autoritari. Tra i rischi citati ci sono applicazioni militari, repressione interna e attacchi biologici.
Secondo Amodei, i modelli a peso aperto presentano difficoltà aggiuntive di controllo perché, dopo essere stati resi disponibili, i loro pesi non possono essere semplicemente ritirati.
Come alternativa, il CEO ha sostenuto misure contro l’accesso cinese a chip avanzati e azioni per combattere la distillazione dei modelli, una tecnica che può permettere a un sistema di imparare da un altro.
Amodei ha anche appoggiato la creazione di test di sicurezza internazionali per i modelli più capaci, indipendentemente dal fatto che siano aperti o chiusi.
“Penso che questa idea sia, in realtà, vicina a un consenso: mi ha entusiasmato il fatto che il governo Trump abbia avanzato in questa direzione negli ultimi mesi, e con le recenti proposte dell’industria che applicherebbero questi test ai modelli più capaci, indipendentemente dal loro paese di origine o dal fatto che siano aperti o chiusi (escludendo totalmente i modelli meno capaci, come quelli delle startup e del mondo accademico)”, ha scritto Amodei.
“Nota che, per essere efficace”, ha aggiunto, “i test dovrebbero essere globali, il che significa che anche il PCC dovrebbe essere coinvolto. Penso che questo possa essere possibile… una cooperazione limitata intorno alla prevenzione delle armi biologiche con l’IA potrebbe essere possibile perché è anche nell’interesse della Cina.”